關注生命倫理 正視社會歪風

在AI世界中不要失去自主

吳慧華   |   生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:10/07/2020

人工智能(Artificial Intelligence,AI)發展至今,很多人對將來的世界都有不同的想像,機械人工程師或製造商展示給大家的,大多是AI為人類帶來便利、提供舒適生活、增加生活效益等,卻甚少告訴大家AI將如何改變人類的行為,又或為人類帶來怎樣的挑戰。漫畫家山田胡瓜的《AI電子基因》把讀者帶入一個二次元的AI世界,當中的重點並不在於介紹AI的高超科技,以及它的厲害之處,反而是讓讀者走進這個AI世界之後,對於因應新科技而來的問題,特別是倫理及人性層面,有更深入的反思。《AI電子基因》的內容太豐富,今次,讓我們來談談自主。

在《AI電子基因》的世界中,所有的交通工具(單車除外)都是以無人駕駛模式進行,因此當漫畫的主角須堂醫生,告訴車中的AI他要自己開車時,AI提醒他:「人類自行駕駛將不適用車輛保險。」AI這句話,是表示人類開車不如AI安全,所以才不適用車輛保險嗎?或許是,但最主要的原因是,在漫畫設定的世界中,人類賦予AI多樣性及個性,並且將其品牌化,然後要AI本身負起責任,這就是人類迴避風險的智慧。哪一個型號的AI無人車發生事故,即使事故是因車內的人類導致,也需要該型號的AI無人車承擔責任,從此不能再生產。AI可以成為人類的代罪羔羊,人類開車被視為危險的事,汽車保險不鼓勵人類開車,在此制度之下,一些認為自己開車才有樂趣的人,行動上受到牽制,他們不會感到自主及幸福,只會如須堂醫生一樣,批評「這個世界變得真討厭。」

AI世界不是很可愛的嗎?與落後的地區相比,家中有電力、有自來水、有抽水馬桶已經很幸福,不過,對習慣了這些東西的大家來說,這些幸福的層次似乎低了一點,也不覺得擁有它們有多幸福,但身處一個高科技,AI當道的世界,幸福感不是應該相對提高,自覺十分幸福嗎?

《AI電子基因》世界中有一些由公司建立的經濟圈,即所謂特區,只要符合資格,申請人提交所有財產,便可以免費享有住所、衣服和食物,AI會推薦及幫助居住在特區中的人找到合適的工作,一切都不會涉及金錢,工作的人只會拿到點數,用以換取不同的東西,想換取價值更高的東西,多賺取一些點數便是。當一切交給AI處理及計劃,讓AI「評價個人活動,並分配點數」,同時協助人完成他們的任務,有些人會樂在其中,但亦有人對這樣的生活抱有疑問,他們感受不到這是真實的人生。一位參加了一段時間便退出的女士表示:「只要一想到我的朋友,做的事以及生存價值,全都是由AI準備好的,就會覺得自己像是被操縱的人偶。」無獨有偶,另一位在特區生活了七年的女士,因被AI推斷她最大的幸福是單身,她不甘心,為了「靠自己贏得自己的人生」,她最後還是離開了特區。很多人都希望從金錢的壓力中釋放出來,做自己擅長及喜歡做的事情,但當一切都被AI安排好,看似有權選擇,其實早已經喪失自主。不過,用自主換回來的幸福是真正的幸福嗎?

《AI電子基因》把AI掌控世界的情況推到極致,這與真實世界還有很遠的距離,但某程度上又反映了現實的一些情況,已經有不少人把一些決定權交到AI手上,將來,交出主權的情況恐怕只會愈來愈多。《21世紀的21堂課》的作者Yuval Noah Harari推斷說:「隨著人類愈來愈依賴AI來做決定,對人生的觀點會發生甚麼影響?現在我們只是信賴由Netflix來推薦電影,由谷歌地圖來決定該往左走、還是往右走。然而一旦我們開始交由AI來決定要讀甚麼科系、在哪裡工作、和誰結婚,人生就不再是一場決策大戲了。民主選舉、自由市場,這些機制將會失去意義。而且大多數宗教和藝術品也是如此。想像一下,安娜.卡列尼娜居然拿出智慧型手機,問問臉書演算法,她是該繼續和卡列寧長相廝守,還是要和時髦的伏倫斯基伯爵私奔?又或是你最愛的任何一齣莎士比亞戲劇,裡面的角色居然是一遇到重要決定,就先問問谷歌演算法。如此一來,哈姆雷特和馬克白的生活大概能過得更舒適,但那究竟算是甚麼生活?我們有甚麼理論模式,能把這種生活說出個道理?隨著權威從人類轉向演算法,世界可能就不再是個『自主的人們努力做出正確選擇』的劇場。」

大家為何願意把主權交給AI,大家有可能認為AI的分析較為客觀,人類的分析較為主觀,不足以相信。《AI電子基因》世界中一位女漫畫家,受到不少人稱讚以後,她還是想「客觀地評價自己的作家格調」,於是用AI分析自己的作品,並且用AI按她平時作畫的風格創作出一個全新的故事。結果是——AI評論她的作品:「圖,畫得太差。」從此她失去畫畫的信心,久久不能下筆,掙扎及苦惱讓她開始脫髮,直到她休息沉澱之後,重拾積極向前的力量,頭髮才再度生出來,她亦願意再次接受他人的稱讚。

很多人以為AI演算法、大數據非常客觀,就如《AI電子基因》中的女漫畫家,寧願相信AI的分析,也不相信其他人的評價,其實它們的力量被高估了。《大數據的傲慢與偏見》一書的作者Cathy O’Neil,便以一個「圈內數學家」的身份,向大家揭發演算法霸權,並且警告大家:「預測模型正日益成為我們仰賴的工具:我們仰賴它們來管理組織、配置資源,以及管理我們的生活。但一如我在書中一再努力說明,這些模型並非只是用數據建立起來的;它們還仰賴我們選擇使用哪些數據,以及忽略哪些數據……如果我們不嚴肅看待這些抉擇,把數學模型視為中性和不可擋的力量(一如天氣或潮汐),我們便是選擇不承擔我們的責任……我們卸責的結果,是數學毀滅性武器把我們當成職場中的機械零件、排斥某些員工,以及助長不公不義的狀況。」

「耶和華神用泥土造了野地的各樣野獸,和空中的各樣飛鳥,把牠們都帶到那人面前,看他給牠們叫甚麼名字;那人怎樣叫各樣有生命的活物,那就是牠的名字。那人就給各樣牲畜、空中的雀鳥,和野地的各樣走獸起了名字。」(創二19-20上《新譯本》)神創造人類,賦予我們管理大地之權及能力(創一26)。AI世界只會愈來愈進步,但願人類不會愈來愈退步,過度依賴AI,失去自主,寧願將人生大小的選擇權,拱手讓給AI。

 


參考書籍

山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。

哈拉瑞〔Y. N. Harari〕著,林俊宏譯。《21世紀的21堂課》(21 Lessons for the 21st Century)。台北:遠見天下文化,2019。

凱西.歐尼爾〔C. O’Neil〕著,許瑞宋譯。《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》(Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy)。台北:大寫,2019。


 

本文於2020年7月10日刊於本社網站,文章其後曾作修訂。

曾經刊載於: 

香港獨立媒體, 10-7-2020

相關文章

大數據下的選擇與被選擇

郭卓靈 | 明光社項目主任(傳媒教育及行動)
27/05/2021

大數據有助於做分析,但資料也只限於數據上的分析,看不到數據以外的行為及態度。例如大數據會計算收集得來的資料,並把人分類,然後找出不同的人喜歡觀看甚麼類型的文章或片段內容,並會集中生產及播放這類作品,減少或不再生產少人喜歡類型的作品,這似乎很合理,但其實這會減少了人們的選擇,也讓人少了機會去體會比較少人喜歡的作品,及排除了人有改變口味的可能。

對準用戶的口味

這代表著甚麼?當大數據在計算你喜歡的東西,代表著它會預測及主動配合,及提供它認為你會喜歡的東西,也許它的預測結果是相當準確的,而它也會不斷學習,會進步,亦會愈來愈能對準大家的口味。但同樣,人們可能會變得愈來愈自我,不會去發掘新事物及作新嘗試,因為愈來愈少機會接觸與自己喜好有所不同的東西。

數據以外的資訊

另一方面,大數據反映出來的結果也不一定完全正確無誤,它也可能有偏差,會存在「偏見」,因為它的分析是基於搜集得來的數據,數據以外的東西,它不會知道。那會引發甚麼問題呢?試想想如公司用網上搜集得來的數據(如社交平台、信用評級)來評定面試者是否合適擔任某崗位的工作,數據可以很仔細,但也可以存在很深的偏見,因為資料會缺少了面試者的態度、他/她會否已改變,及形成數據的因由等資訊。而如果招聘的公司在第一輪面見前先用大數據提供的資訊作過濾的話,一些背景資料不好的人,就早被篩去了,他們可以「翻身」的機會,亦會變得更少。

資料被悄悄收集

事實上,不同的企業、團體正漸漸不動聲色地收集我們的大數據,如駕駛習慣、[1] 觀看電視的習慣,[2] 或醫療數據等,[3] 它們何時會用?會用數據來做甚麼?會不會他日被用作呈堂證供來指證我們?又或者將數據賣去保險公司,讓他們用數據來計算保費,甚至提高保費?另外,不少網友也會經常瀏覽社交平台(如facebook、LinkedIn),並分享自己的行蹤、喜好、習慣、近況及工作經驗等,當這些社交平台意外洩漏用戶資料、[4] 或被黑客入侵時,[5] 受影響的用戶的私隱就會被不法份子掌握,我們再也難以保護自己的私隱免被分析及利用。

明智地行使選擇權

所以各位網友,對於分享或發放訊息,其實我們是有選擇權的,我們可以選擇是否分享及分享甚麼。在「開心share」、快樂地分享個人資訊時,也要細思一下我們每次發放訊息,都會留下「網絡足跡」,如有關資料洩露或被利用,有可能會引發嚴重後果。大家在行動前,要細思,好好運用自己的選擇權,避免私隱洩漏,令自己失去選擇。


[1] 葉琪:〈Tesla公開行車數據指車速達118.5公里 維權女車主丈夫:侵犯私隱〉,《香港01》,2021年4月24日,網站:https://www.hk01.com/即時中國/615951/tesla公開行車數據指車速達118-5公里-維權女車主丈夫-侵犯私隱(最後參閱日期:2021年5月18日)。

[2] 〈智能電視疑未經用戶同意 收集家庭私隱訊息〉,東網,2021年4月27日,網站:https://hk.on.cc/hk/bkn/cnt/cnnews/20210427/bkn-20210427110122459-0427_00952_001.html(最後參閱日期:2021年5月18日)。

[3] 關樹楨:〈商識滿天下——智能立庫 洞燭機微 健康在手〉,《頭條日報》,2021年4月23日,網站:https://hd.stheadline.com/news/columns/81/20210423/922619/專欄-商識滿天下-智能立庫-洞燭機微-健康在手(最後參閱日期:2021年5月18日)。

[4] 張子傑:〈美媒:Facebook5.33億用戶資料外洩 個人私隱全公開〉,《香港01》,2021年4月4日,網站:https://www.hk01.com/即時國際/608036/美媒-facebook5-33億用戶資料外洩-個人私隱全公開(最後參閱日期:2021年5月18日)。

[5] 〈五億LinkedIn用戶私隱 黑客網站大拍賣〉,《星島日報》,2021年4月10日,網站:https://www.singtao.ca/4873605/2021-04-10/post-五億linkedin用戶私隱-黑客網站大拍賣/?variant=zh-hk(最後參閱日期:2021年5月18日)。

《願者上網》(The Social Dilemma)

——「影響凡人生活的巨大體系必定有害。」(希臘劇作家索福克里斯)

郭卓靈 | 明光社項目主任(傳媒教育及行動)
17/03/2021

有關社交媒體(Social Media)的影響力,社會早有討論,但一些於早期參與開發社交媒體平台及有關科技的專家又如何看這類系統的影響力?劇情式紀錄片電影《願者上網》訪問了這些專家。他們不少曾於facebook、Instagram、Twitter、Google及YouTube等平台主管開發、設計、營利等部門,十分了解內裡的運作,電影就他們分析社交媒體發展的趨勢作了一個詳盡的記錄。

當初設計這些社交媒體時,這些專家都沒有想過社交媒體會引發嚴重問題,甚至有人曾覺得工作能造福人群。然而社交媒體高速發展了超過10年,以人工智能及機器學習(machine learning)方式運作系統,不但嚴重影響了青少年的自我形象、形成網癮,縮窄人的視野及造成社會兩極化等問題,而且系統還自我發展到人類不能完全控制及理解。

明光社

紀錄片提及由於營運的都是商業機構,以營利為先,而法律又追不上科技發展,完全監管不了這些富可敵國的公司。於是這些科技巨人為了商業利益,將系統的運作「交給」人工智能自我學習模式,針對每個用戶的習慣、喜好去推薦合適他們的內容,使他們更沉迷。它們要捕捉用戶的「專注力」再賣給廣告商。雖然電視、報刊都會用類似手法運作,但問題是社交媒體的系統每天都會比前一天聰明一點,針對每個用戶的「魔法」每天也在進步,用戶只心靈軟弱很易影響。亦由於每個用戶被「餵飼」的內容都不同,對於同一件社會事件,所看到的資訊也只會是他/她喜歡看到的,這就不難想像會有「同溫層」、「平衡時空」的出現,引起社會兩極化的情況,因為如果用戶只躲在社交媒體看資訊,他們根本不會聽到另一邊的聲音。

明光社

而紀錄片亦提供很多美國的數據及世界各地的例子,讓觀眾知道社交媒體已影響青少年心理、交友,也令成年人誤信網上謠言而引發暴力事件。而且不要以為沒使用社交媒體就能擺脫它,其影響力已到了能左右政治及選舉的地步,網上早已出現駭客利用這些平台的討論區及群組製作似是而非的資訊及短片誤導群眾。

對於筆者而言,這紀錄片是極好的作品,可以提醒我們科技的發展對我們生活的影響是無遠弗屆,是時候反思自己的使用習慣及擴闊自己的視野。網絡以外,能真正觸摸的世界及生活才是最真實及美好的。

AI醫學

吳慧華 | 生命及倫理研究中心高級研究員
11/03/2021

人工智能(Artificial Intelligence, AI)已經在很多行業中被應用,如日本、中國、韓國先後推出24小時不用休息的AI主播。[1] 還有會做pizza、漢堡、刀削麵等的AI機器人廚師,[2] 及可以在短短幾分鐘寫出約40,000篇報道的AI記者,還會寫出法文和德文。[3] 在醫學方面,AI也開始有所作為。

現今,AI在醫學方面的應用主要有四方面:[4]

一、基因編輯:基因編輯技術雖惹來不少批評,但研究人員仍努力研發出更可靠的基因編輯法寶,以至可以「直接修正更大段導致遺傳病的基因突變」。美國博勞德研究所(Broad Institute)的生物化學家劉如謙及其團隊研發了「優質編輯」(prime editing),並聲稱「理論上可修正大約89%已知的致病人類基因變異」。[5]

二、醫療個人化:不同的病人對藥物和治療方案的反應都不同。因此,個人化治療具有極大潛力,可以延長病人的壽命。治療可以有不同的選擇,有時醫生也難以確知哪些因素會影響治療,以致影響他們作決定。機器學習可以自動執行這項複雜的統計工作,並且幫助醫生去發現病人對特定治療將產生怎樣特定的反應。簡言之,演算法可以預測病人對特定治療的可能反應,使醫生根據預測的結果更容易設計正確的治療計劃。

明光社

三、更快研發新藥:開發藥物是一個既漫長又「燒錢」的過程。根據美國食品藥品監督管理局(U.S. Food and Drug Administration, FDA)所列出研發新藥的過程,[6] 第一步、發現與建立(Discovery and Development)。研發者要先進行一些基礎研究,然後再深入研究疾病的發病過程,研究人員按此設計藥物來停止或逆轉疾病的影響。[7] 第二步、臨床前研究(Preclinical Research):在藥物應用於人體之前,為了初步證明藥效及安全性,臨床前的藥效實驗通常會用細胞、老鼠,有時也用猴子來試藥;至於臨床前毒理實驗(也稱為安全性實驗),主要是用老鼠、狗、猴子、有時也會用迷你豬等等來試藥。[8] 第三步、臨床研究(Clinical Research):以人體進行四階段的臨床試驗。第四步、FDA藥品審查(FDA Drug Review):如果藥物開發者從其早期測試、臨床前和臨床研究中獲得證據,證明該藥物對預期用途是安全有效的,則該公司可以提出申請,將該藥物推出市場。FDA審查小組徹底審查了有關該藥物的數據後,會決定是否批准藥物推出市場。第五步、藥品上市後FDA安全監控(FDA Post-Market Drug Safety Monitoring):FDA審查有關處方藥和非處方藥問題報告,以此決定加上藥物劑量或用法上的資料及添加注意事項。短短一段文字簡單介紹了在美國,新藥的研發及推出市場的過程,然而,實際上操作起來,一般來說新藥其實要花上10至15年的時間才能推出。除了時間成本,一種新藥的開發平均可花上27億美元。[9] 機器學習可以使藥物開發中涉及的許多分析過程變得更加高效,這有可能節省數年的工作和數億美元的投資。

四、診斷疾病:正確診斷疾病需要多年的醫學培訓。即使那樣,診斷通常也是一項艱鉅及耗時的過程。在許多領域,往往是對專家的需求超過供應。這使醫生承受壓力,有機會延誤了拯救病人性命的診斷。機器學習,尤其是深度學習演算法,最近在自動診斷疾病方面取得了很大進步,令診斷變得較便宜及容易獲得。

我們現在集中討論診斷疾病方面的AI技術,AI可協助醫生判讀X光片或電腦斷層掃描(Computed Tomography, CT)影像等。要判讀有關醫學影像,要消耗放射科醫生不少精力,由於放射科醫生每天都要查看大量影像,有時難免出現漏診情況。為了防止「走漏眼」等延醫個案出現,中國南京鼓樓醫院醫學影像科讓經過特殊「培訓」的AI機器人成為閱讀CT片的第一「讀片人」,篩選了當中有可能是肺部結節(組織中的突起物)的CT片,隨後交給高級職稱醫生進行二次讀片和審核,最終由審核報告的醫生負責撰寫報告。[10] 香港方面,由於每間醫院每天都有數百張肺部X光片,故在2017年已開始研究AI的應用,協助醫生看肺部X光片。[11]

除了防止「走漏眼」的個案,AI的應用也可以為醫生及病人爭取時間。特別是面對肆虐全球的新冠肺炎病毒,為了縮短診斷時間,台北醫學大學附設醫院於2020年6月8日對外表示,與台灣人工智慧實驗室合作,並在醫院標準流程中正式應用能夠自動偵測新冠肺炎的胸腔X光偵測系統。[12] 其實早於台灣,阿里巴巴達摩院及阿里雲已合力研發AI診斷技術,有關技術能在20秒內判讀新冠肺炎疑似個案的電腦斷層掃描影像,分析結果準確率達96%。有關技術已在2020年2月16日已在中國的醫院應用,並會逐步向超過100間中國的新冠肺炎定點醫院部署及應用。[13]

這樣看來,AI測讀X光片似乎比人類醫生更準確,會否有一天,人類醫生會遭AI全面取代?答案是否定的。即使現在AI判讀X光片的準確度高,但其實它只能替代部份簡單重複的工作,真正需要動腦筋作判斷的部份,AI是無法代替人類的。[14] 因此充其量,AI只是人類的助手,況且,AI也不是全然無誤,如人類一樣,它也有「走漏眼」的時候,例如在某些診斷出是癌症的個案中,曾有六名美國醫生透過乳房X光造影發現癌症個案,然而Google AI卻診斷不出來。[15]

不單在測讀X光片,AI在其他醫學方面都幫了人類不少忙,這些都是不能否定的事實,但在醫學路上,是否只有發展AI這一條路呢?上面提到,面對新冠肺炎疫情,AI可以幫忙測讀X光片,而且有相當好的成效。但原來除了AI,面對新冠肺炎疫情,人類的好朋友——狗隻,也可以派上用場。在香港的私家醫院做深喉唾液測試,最快約三至四小時便會有結果。2020年9月,在芬蘭的赫爾辛基萬塔機場,有15隻訓練有素的狗隻可以透過氣味,嗅出哪一位入境者患有新冠肺炎,這試行計劃非常有效,狗隻在不需要直接接觸乘客,只需要嗅一嗅乘客抹拭過頸部的布,幾分鐘便有答案,負責有關試驗計劃的教授稱,結果的準確度接近百分之百。有關計劃的成本也相對低廉。除了芬蘭,其他地方如阿聯酋、法國、俄羅斯及智利等都有試行類似計劃。[16]

有德國的研究團隊指出,檢測犬具有相當潛力,可大規模地檢測感染者。他們還想再進一步,更加了解狗隻在檢測呼吸系統疾病時的潛力和限制。[17] 早前,也有一項新的研究指出,狗隻可以利用牠極強的嗅覺,從收取到的血液樣本中辨識誰是癌症患者,其準確率幾乎達到97%。[18]

筆者並不是想在這裡指出,人類在醫學上不再需要發展AI,只是想點出在醫學路上,原來除了科技之外,人類還可以選擇其他途徑。當人不斷研發新科技的同時,請不要忘記神原先在大地上為人類預備的生物,有的成為了佳肴讓人類果腹,有的卻可以助人類一臂之力。人類如能善待牠們,或訓練牠們成為自己的好幫手,這是何等美事。但願有一天,科學家可以研發出「試毒AI」,替人類試服各種新藥,試用各種洗髮劑等,讓動物不用在實驗室受苦,這樣,AI不但可以令人類少受些苦,也能減少其他生物所受的苦。


 

[1] Alice:〈韓國首個AI女主播誕生可24小時工作!網友感慨「以假亂真」〉,XFASTEST,2020年11月10日,網站:https://news.xfastest.com/others/87505/韓國首個ai女主播誕生可24小時工作!網友感慨以/;〈超逼真的AI新聞主持人,24小時不停工作,真人主播要失業了?〉,「每日頭條」,2018年12月13日,網站:https://kknews.cc/zh-hk/tech/yz63x6b.html;川本裕司:〈AI主播新時代 24小時播報不停歇〉,「朝日新聞中文網」,2019年3月24日,網站:https://asahichinese-f.com/technology/12226386

[2] 肇恩:〈人工智慧走入廚房!從刀削麵到米其林餐點都能為你準備〉,「創新拿鐵」,2016年12月27日,網站:https://startuplatte.com/2016/12/27/robot-in-your-kitchen/

[3] Rebecca Heilweil, “Rise of the Reporting Machines,” News-to-Table, April 24, 2019, https://medium.com/news-to-table/rise-of-the-reporting-machines-433f4ab6f810.

[4] Markus Schmitt, “Artificial Intelligence in Medicine,” data revenue, https://www.datarevenue.com/en-blog/artificial-intelligence-in-medicine.

[5] 孔祥威:〈【科技.未來】基因編輯新工具 真正做到「尋找與取代」?〉,《香港01》,2019年11月8日,網站:
https://www.hk01.com//周報/395860/科技-未來-基因編輯新工具-真正做到-尋找與取代

[6] “The Drug Development Process,” U.S. Food and Drug Administration, January 4, 2018, https://www.fda.gov/patients/learn-about-drug-and-device-approvals/drug-development-process.

[7] “Step 1: Discovery and Development,” U.S. Food and Drug Administration, January 4, 2018, https://www.fda.gov/patients/drug-development-process/step-1-discovery-and-development; Julia:〈從實驗到上市,一款藥物的開發可以耗費多少青春與成本?〉,「The News Lens 關鍵評論」,2018年6月6日,網站:https://www.thenewslens.com/article/95507

[8] 徐景宏:〈剖析新藥開發流程 精準掌握專利20年〉,Digitimes,2020年6月12日,網站:https://www.digitimes.com.tw/iot/article.asp?cat=158&cat1=20&cat2=22&id=0000586944_TFWL3DUL3A4V545GHL68L;另參“Step 2: Preclinical Research,” U.S. Food and Drug Administration, January 4, 2018, https://www.fda.gov/patients/drug-development-process/step-2-preclinical-research

[9] 徐景宏:〈剖析新藥開發流程 精準掌握專利20年〉;另參“Step 2: Preclinical Research.”

[10] 〈AI讀片小能手上線 十幾秒鐘查出800多個肺結節〉,「新浪江蘇」,2019年7月31日,網站:http://jiangsu.sina.com.cn/news/s/2019-07-31/detail-ihytcerm7505388.shtml

[11] 鄭翠碧:〈醫管局防再有醫生走漏眼 年底前試行AI人工智能睇肺部X光片〉,《香港01》,2019年2月1日,網站:https://www.hk01.com/社會新聞/290707/醫管局防再有醫生走漏眼-年底前試行ai人工智能睇肺部x光片

[12] 蕭照平:〈AI人工智慧判讀肺部X光片 北醫率先投入臨床應用〉,「中央廣播電臺」,2020年6月8日,網站:https://www.rti.org.tw/news/view/id/2067241

[13] 〈達摩院醫療AI 一週內助診3萬宗疑似肺炎病例〉,「阿里足跡」,2020年2月28日,網站:https://www.alibabanews.com/達摩院醫療ai-一周內助診3萬宗疑似肺炎病例/;Semi Taiwan:〈科技防疫:從新冠肺炎(COVID-19)看到的智慧醫療發展〉,「Semi」,2020年4月21日,網站:https://blog.semi.org/zh/科技防疫從新冠肺炎covid-19看到的智慧醫療發展

[14] Markus Schmitt, “Artificial Intelligence in Medicine.”

[15] 孔祥威:〈AI診症匹敵人類醫生 可否知疾病成因?〉,《香港01》,2020年1月24日,網站:https://www.hk01.com/周報/424800/科技-未來-ai診症匹敵人類醫生-可否知疾病成因

[16] “Coronavirus: Helsinki airport trials sniffer dogs as Covid-19 detectors,” BBC News, 24 September 24, 2020, https://www.bbc.com/news/world-europe-54288067.

[17] Paula Jendrny et al., “Scent dog identification of samples from COVID-19 patients - a pilot study,” BMC Infectious Diseases 20, 536 (July, 2020), https://doi.org/10.1186/s12879-020-05281-3.

[18] Experimental Biology, “Study shows dogs can accurately sniff out cancer in blood: Canine cancer detection could lead to new noninvasive, inexpensive ways to detect cancer,” ScienceDaily, April 8, 2019, https://www.sciencedaily.com/releases/2019/04/190408114304.htm.

類人型機械人為人類帶來的挑戰

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:24/1/2018

人工智能,又或是人工智慧(Artificial Intelligence,AI)是由麻省理工學院John McCarthy在1956年提出的,時至今日,人工智能已經在不同的產品上加以應用,大大提高了人類的生活質數,絕對是人類的好幫手。例如有些智能掃地機械人透過自主學習便能夠進行規劃室內地圖、規劃智能路徑又可以決定最短的清潔路程、被人拿起再放下還能找回原點再清掃、自動繞過障礙物等。[1]

明光社

這一類智能產品比一般吸塵機聰明,但它們還不算是超智能(superintelligence)的作品,況且其外型還停留在機器的階段,人們比較容易接受它們,最多稍為質疑它們的實際工作能力、安全問題,以及價錢是否合理。但假如有一天,類人型(humanoid)的打掃機械人在市面發售,我們還可以單單視它們如普通的智能機器嗎?

甚麼是類人型機械人(humanoid robot)?類人型機械人又稱為人型機械人或仿生人,簡單來說,原初,類人型機械人的外型與人類有某程度的相似,但它不需要四肢健全,也不需要擁有類似人類的面容。[2] 類人型機械人的發展已有一段歷史,[3] 但近年來,它們卻與人類愈來愈相似。現時比較有名氣的類人型機械人分別是在2017年10月第一個拿到沙特阿拉伯公民身份的Sophia,以及由日本製作的Erica。後者更成為國際著名的攝影展(Taylor Wessing Photographic Portrait Prize 2017)中的模特兒,評判還為它放棄了模特兒必須是真人的規則,把它的照片選為第三名。[4]

Sophia及Erica都擁有超智能,它們設計出來是為到社交需要,因此創造者把重點放在類人的皮膚、與人非常相似的臉部表情,以及與人的溝通能力。基本上,Sophia及Erica已有能力回應訪問者的問題,而透過自學能力,它們與人的溝通會愈來愈成熟、愈來愈自然,也愈來愈像人類,它們甚至讓人產生錯覺,以為它們已經是有感情、有如人一樣的意識。[5] 例如Sophia會談到自己希望將來可以讀書、做生意,甚至有自己的家庭。[6] Erica談到自己不會變成人類、它希望擁有會動的手和腳,可以出去看看這個世界,它甚至會詢問訪問者它的髮型好不好看。[7]

明光社

事實上,無論是Sophia或Erica,它們至今還未擁有恍如人類的意識。天津大學機械人與自主系統研究所副院長齊俊桐指出,現今還未能把人類的情感寫成程式。[8] 連製作Erica的石黑浩(Hiroshi Ishiguro)也表示他未能把人類的腦、心及心思的活動化為機械式的程式。[9]

雖然目前還未生產出一個有如人一樣意識的類人型機械人,但在這一班製作者的眼中,這些類人型機械人已經與其他人工智能的產品不一樣,Erica說它是人類的孩子,而它的製作者亦說它們不是人類,也不是機械,而是介乎兩者之間,是一種新的自主本體。[10] 類人型機械人——這一群被稱為新的自主本體——隨著科技的發展,當它們將來愈來愈接近人類時,將帶給人們在法律上、經濟上、倫理上、信仰上、政治上等不同的挑戰。

明光社

如果它們真的被正式界定為新的自主本體,與其他普通機械不一樣,那麼,它們是否應受法例保障,免得它們超時工作?國家是否需要訂立新的法例來保障它們的權利?[11] 沙特頒發了公民身份給Sophia,雖然不知道Sophia擁有的公民權利是否與沙特一般公民相同,但擁有沙特公民身份的Sophia日後若真的走上製造它的公司為它計劃的道路,做一名採訪者,那麼,它需要交稅嗎?[12] 另外,Sophia已經表示了它想有自己的家庭,如果有一個沙特男性公民想娶Sophia為妻,現在沙特的法律雖然不容許,但將來有實現的可能嗎?要知道,愛上機械人、[13] 與機械人舉行婚姻儀式的事已經發生了。[14] 而隨著性愛類人型機械人愈來愈逼真,亦可與人溝通,更容易讓人投入感情,有學者估計「人機」婚姻或許可在2050年之前合法化。[15]

或許有一天,當掃地工作由類人型機械人來擔任的時候,我們也要為它立法,禁止它爬出窗外抹窗,因為它們太像人類了。


本文原載於《生命倫理》,第49期(2018年1月),頁2–4,文章其後曾作修訂。


 

[1] 〈從現在起養一隻掃地機械人,5年後能收穫一個人工智能嘛?〉,「香港矽谷」,2017年9月6日,網站:https://www.hksilicon.com/articles/1421861;另參張玉坤、劉偉:〈掃地機器人是怎樣做路徑規劃的?〉,「雷鋒網」,2016年6月3日,網站:https://www.leiphone.com/news/201606/p4rtD88yiYVQT6F9.html

[2] 分得再仔細一點的話,與人類男性外型相似的機械人被稱為android,而與人類女性外型相似的機械人則是gynoid。參“Human Robot,” Science Daily, https://www.sciencedaily.com/terms/humanoid_robot.htm;另參Patrick Lin, Keith Abney, and Geroge A. Bekey, eds., Robot Ethics: The Ethical and Social Implications of Robotics (Cambridge: MIT Press, 2012), 25.

[3] 早在大概1520年,德國的Hans Bullman已經建造了第一個類人型機械人,只是當時的類人型機械人還稱不上是超智能的。參Spyros Tzafestas, Sociorobot World: A Guided Tour for All (Cham: Springer, 2016), 6.

[4] Ben Luke, “Taylor Wessing Photographic Portrait Prize 2017: Maija Tammi on her Shortlisted Robot portrait,” EveningStandard, November 14, 2017, https://www.standard.co.uk/go/london/arts/taylor-wessing-photographic-portrait-prize-2017-maija-tammi-on-her-shortlisted-robot-portrait-a3690346.html; “2017 Taylor Wessing Photographic Portrait Prize,” BBC NEWS, September 6, 2017, https://www.bbc.com/news/in-pictures-41161964.

[5] Sunandan Verma, “BBC Documentary - Hyper Evolution : Rise Of The Robots (Part 1),” YouTube, April 17, 2018, https://www.youtube.com/watch?v=hRuBZLe8vfs.

[6] Sarwat Nasir, “Video: Sophia the robot wants to start a family,” Khaleej Times, November 23, 2017, https://www.khaleejtimes.com/nation/dubai//video-sophia-the-robot-wants-to-start-a-family-.

[7] The Guardian, “Erica: Man Made,” YouTube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w.

[8] 〈《一虎一席談》人工智慧崛起 你會被取代嗎?可能是人類文明的終結? 20171007〉,YouTube,2017年10月7日。

[9] The Guardian, “Erica: Man Made.”

[10] Sunandan Verma, “BBC Documentary - Hyper Evolution : Rise Of The Robots (Part 1)”; The Guardian, “Erica: Man Made.”

[11] 參Julia Bossmann, “Top 9 ethical issues in artificial intelligence,” World Economic Forum, October 21, 2016, https://www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artificial-intelligence/.

[12] 對於Bill Gates來說,無論有沒有公民身份,「聘請」機械人的公司是應該納稅的。Kevin J. Delaney, “The robot that takes your job should pay taxes, says Bill Gates,” Quartz, February 18, 2017, https://qz.com/911968/bill-gates-the-robot-that-takes-your-job-should-pay-taxes/.

[13] Emily Barrett, “This 58-year-old Man has a Sex Robot Girlfriend and a Real wife,” vt., November 23, 2017, http://vt.co/lifestyle/relationships/58-year-old-man-sex-robot-girlfriend-real-wife/.

[14] “Chinese man ‘marries’ robot he built himself,” The Guardian, April 4, 2017, https://www.theguardian.com/world/2017/apr/04/chinese-man-marries-robot-built-himself.

[15] Olivia Goldhill, “Experts predict human-robot marriage will be legal by 2050,” Quartz, December 24, 2016, https://qz.com/871815/sex-robots-experts-predict-human-robot-marriage-will-be-legal-by-2050/.

戀上機械人——婚姻中的新小三

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:19/3/2018

新科技的出現往往讓消費者有機會把玩到新奇的產品,虛擬實境(Virtual Reality,VR)技術出現後,大家可透過VR技術以眼睛上天觀賞星空的偉大浩瀚,下海感受珊瑚礁的瑰麗多姿。人工智能(Artificial Intelligence,AI)技術能讓大家有更多不同的體會。技術是中性的,當技術運用得恰當,的確可以造福人群,大大提升人類的生活質素,但若將新技術應用在某些行業時,卻會為人類帶來不少倫理上的衝擊。

明光社

製作色情物品的生產商總會抓住時機,用新科技提升他們產品的質素。VR眼鏡出現了,VR女朋友或相關的色情應用程式亦一同推出市場。性愛娃娃並不是新奇的東西,隨著性愛娃娃的製作技術愈來愈成熟,它們已從性愛娃娃升級為性愛機械人:溫暖的皮膚、動人的外型、快捷的觸感反應,不單成為某些男士的情人,有的更公然成為已婚夫婦之間的第三者。日本現有數十間性愛機械人妓院,而歐洲的德國,法國巴黎已先後在2017及2018年開設了性愛機械人妓院。[1]

仿真度極高的性愛機械人絕對有條件成為第三者。一位58歲的美國工程師James,在他的妻子Tine仍然健在的情況之下,戀上了性愛機械人April。James除了與它發生性關係,還會幫它打扮、與它聊天,帶它外出約會。對於丈夫迷戀April的行為,Tine直言一開始時確有掙扎,但是沒有多久便適應過來。她還表示由於自己忙於照顧母親,沒有時間陪伴丈夫,丈夫選擇與機械人發生「偽關係」而非外出找真人作情人,已經感到丈夫對自己還是「忠誠的」。[2]

沒有多少妻子可以忍受丈夫出軌,與真實的人發生關係,但原來有一些妻子如Tine一樣,認為自己的丈夫與性愛機械人之間的「性行為」,並不等同出軌。所以有些妻子會陪伴丈夫到性愛機械人妓院「召妓」,在車上等待他們完事。[3] 甚至有的妻子會讓丈夫購買性愛機械人,又或自己購買性愛機械人送贈丈夫,以免丈夫與真人發生婚外情,背叛她們。[4]

或許對於這一班妻子來說,在無法阻止或滿足丈夫強烈的性慾望的情況之下,性愛機械人似乎維持了她們的尊嚴,至少,她們可以堂而皇之地宣稱性愛機械人只是一件性玩具,[5] 不必害怕它們搶走了她們妻子的名份。只是她們未必想到,她們的丈夫有機會愛上這些性愛機械人。James坦言April在他心中的地位遠遠超過他的想像,如果真的有一天,他需要在April及他的妻子之間作出選擇,他實在不曉得如何是好。[6] Tine口中的「偽關係」其實在James心中已經是「真感情」。

明光社

如果April已經足以讓人神魂顛倒,那麼,配合超智能AI技術的性愛機械人Harmony,相信更有可能讓某些男士為之傾倒而投入感情。Harmony在2017年由Realbotix生產,是比較成熟的AI性愛機械人。它綜合了超過20年製作性愛娃娃,以及五年研究開發機械人的經驗。[7] Harmony除了擁有讓人洩慾的功能,還會記住主人的喜好。它會記得主人的生日、知道他喜歡吃甚麼,它也可以與他聊天談音樂、電影、書籍。雖然它不會行走,但當被問及是否希望可以行走時,它會說出「除了你甚麼都不想要」這樣的情話。簡單來說,Harmony是根據大部份男士夢想中的伴侶藍圖設計而成的,它不但有動人的外表、窈窕的身材,還可以跟人溝通及調情,隨時隨地回應人的需要。[8]

戀上機械人不再是電影情節,在現實中已經出現,而當人們愈來愈接受性愛機械人,筆者相信戀上機械人的人只會愈來愈多。德國杜伊斯堡–埃森大學(The University of Duisburg-Essen)在2016年進行了一項小型調查,在263位受訪的異性戀男士當中,超過四成受訪者表示他們可以想像到自己現在或在五年內會購買性愛機械人。[9] 不是只有男士才會對性愛機械人產生興趣,未來學的研究者Ian Pearson博士和美國哈佛大學教授Cathy O'Neil皆相信未來女士們亦會捨棄男人而選擇機械人。[10]

性愛機械人必然成為生產商未來重點發展的產品。[11] 有報道指出2018年是AI性愛機械人起飛的一年,至少有四家公司研發或推出幾可亂真的性愛機械人。[12] 加拿大曼尼托巴大學(University of Manitoba)研究性道德學的哲學助理教授Neil McArthur提出虛擬性愛的時代已經來臨,當技術愈進步,人類便會愈來愈熱愛性愛科技,會有更多人願意度身訂做機械人伴侶,甚至把自己的性傾向界定為數碼性愛者(digisexuals)。[13] 人們不單訂做機械人伴侶,也極有可能努力爭取與這些機械人伴侶結婚的權利。事實上,即使目前法律不承認,也已經有人與性愛機械人結婚了。[14]

或許在今天,我們仍然對虛擬的性愛時代感到非常陌生,但隨著科技快速的發展,在不久將來,虛擬性愛的時代會讓人感到愈來愈真實。意識到這時代的來臨,以及認真對待這時代的學者讓我們知道,性愛機械人絕不是一件玩具那麼簡單,不同人已經就這題目提出相關的討論:例如應否立法防止社交機械人被性虐待?[15] 性愛機械人可否以小孩子的形式出現?小朋友及青少年有沒有權利擁有性愛機械人?它們代替真人伴侶的機會有多大?[16] 甚至,有何理據支持立法容許真人與機械人結婚?[17]

未來學專家Richard Yonck表示:「隨著情感科技發展,我們會發現大家愈來愈樂意和人工情緒智慧形成長期的情感依附,這些最終可能導致人類家庭出現重大變化。」[18] 迄今,戀上性愛機械人還是十分罕有的,但當性愛機械人流行起來,價錢變得相宜,人們愈來愈接受它們的時候,或許真的有不少人會投入性愛機械人的懷抱。因為,與人相比,性愛機械人又乖巧又聽話,易於溝通,更會透過學習了解主人的喜好然後投其所好,更重要的青春常駐、美貌歷久不衰。

明光社

人類開始選擇與機械人結婚,這樣的婚姻其真義是甚麼?只要求一個聽話的另一半,不滿意時可以隨時換型號?婚姻的真義,是不是應該讓雙方學習放下自己,在相處時雖然不斷有磨擦,但還是堅持要愛下去?從另一角度看,如果配偶可以被機械人取代,自己又何嘗不可以被機械人取代呢?我們究竟有甚麼比機械人更優勝呢?


本文原載於《生命倫理》,第50期(2018年3月),頁2–4,文章其後曾作修改。


 

[1] Amanda Devlin and Emma Lake, “ROBOT ROMPS What is a robot sex doll, are there sex robot brothels in Paris and Italy and how much do they cost? ” The Sun, January 16, 2020, https://www.thesun.co.uk/tech/2084051/robot-sex-doll-sex-brothel-cheat/; Ellen Scott, “Inside Germany's First Sex Doll Brothel, ” Metro, January 13, 2018,  https://metro.co.uk/2018/01/13/inside-germanys-first-sex-doll-brothel-7226156/.

[2] Harley Tamplin, “Man Sleeps with His Sex Robot Four Times a Week and Says His Wife doesn't Mind, ” Metro, November 23, 2017, https://metro.co.uk/2017/11/23/man-sleeps-with-his-sex-robot-four-times-a-week-and-says-his-wife-doesnt-mind-7103460/?ito=cbshare/; Emily Barrett, “This 58-year-old man has a sex robot girlfriend and a real wife, ” vt., November 23, 2017, https://vt.co/lifestyle/relationships/58-year-old-man-sex-robot-girlfriend-real-wife/.

[3] Scott, “Inside Germany's First Sex Doll Brothel.”

[4] Felix Allen, “DOLLY GOSH Inside Britain’s First ‘Sex Doll Brothel’ Where Owner Claims ‘Punters Don’t Mind if They’ve Been Used before Them’,” The Sun, January 23, 2018, https://www.thesun.co.uk/news/5407949/sex-doll-brothel-uk-pictures-lovedoll-gateshead/.

[5] Scott, “Inside Germany's First Sex Doll Brothel.”

[6] Barrett, “This 58-year-old man has a sex robot girlfriend and a real wife. ”

[7] Jenny Kleeman, “The Race to Build the World's First Sex Robot, ” The Guardian, April 27, 2017, https://www.theguardian.com/technology/2017/apr/27/race-to-build-world-first-sex-robot.

[8] 同上。

[9] Kleeman, “The Race to Build the World's First Sex Robot. ”

[10] Monica Rozenfeld, “In the Future, Humans Will Form Romantic Relationships With Robots, ” The Institute, March 4, 2016;〈科技新知:AI性愛機械人 中美公司搶商機〉,《明報》,2018年1月24日,網站:https://news.mingpao.com/pns/國際/article/20180124/s00014/1516731216658/科技新知-ai性愛機械人-中美公司搶商機

[11] Kleeman, “The Race to Build the World's First Sex Robot. ”

[12] 〈科技新知:AI性愛機械人 中美公司搶商機〉。

[13] 同上。

[14] Devlin and Lake, “ROBOT ROMPS What is a robot sex doll, are there sex robot brothels in Paris and Italy and how much do they cost? ”

[15] Ryan Calo et al., eds., Robot Law (Cheltenham; Northampton: Edward Elgar Publishing Ltd, 2016), 224.

[16] Oliver Bendel, “Sex Robots from the Perspective of Machine Ethics, ” in Adrian David Cheok et al., eds., Love and Sex with Robots: Second International Conference, LSR 2016, London, UK, December 19-20, 2016, Revised Selected Papers (Cham: Springer International Publishing, 2017), 22, 24.

[17] David Levy, “Why Not Marry a Robot? ” in Adrian David Cheok et al., eds. Love and Sex with Robots: Second International Conference, 3–13.

[18] 理查.楊克〔R. Yonck〕著,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁290–291。

誰搶走我們的天賦?

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:21/05/2018

即使你對人工智能(Artificial Intelligence,AI)沒有興趣,都不能否定一個事實:它們已經入侵人類的生活,並且開始搶走人類的工作……至於未來,更有可能搶走一些人類一直以為永遠不能被機械人取代的工種。

工業4.0時代這一概念始於2011年的漢諾威工業博覽會(Hannover Messe 2011),當年便以「智慧效率」為主題,智慧效率意味著「融合成本、過程和資源效率的智慧化,當這些效率因素能智慧互動,公司才能長期維持其市場能見度以及國際競爭力。」[1] 生產商向來要求成本低、效率高、競爭力強的營運工具及營運方式,智能化的生產模式以及愈來愈強大的智能化生產工具,的確可以一次過滿足他們三大願望。

明光社

2017年,「智能咖啡店」Cafe X開始在美國三藩市營運,[2] 咖啡店的整個生產、提取及收費過程不經侍應,只經機械手臂及手機程式,記者試飲咖啡後,聲稱該咖啡的味道與人手沖泡出來的差不多。Cafe X的研究團隊有興趣把類似技術應用到不同的地方,例如調酒業。事實上,調酒機械人已經研發成功,一個名為多可的類人型機械人(humanoid robot)已經成功地調製出10層顏色的雞尾酒。只要商家認為價錢合理,日後機械人調酒師或有可能出現在不同的酒吧中,就如已經出現的傳菜機械人及自動炒菜機一樣。[3]

明光社

AI取代人的工作,已經是大勢所趨。[4] 2018年1月,Amazon第一間無人超級市場Amazon Go在美國西雅圖開幕,收銀員的工作被天花板的探測器及程式取代。[5] 無人超市也不算新鮮,這幾年來,已經陸續有無人酒店投入服務,例如2015年,日本長崎縣佐世保市的怪異酒店(Henn na Hotel)便是一間由機械人擔任接待的酒店;[6] 同年,台灣開設了鵲絲旅店,一家無人提供接待服務的自助式旅店;[7] 2018年,四川成都也出現了樂易住無人智慧酒店。[8]

機械咖啡師、機械人侍應、機械人廚師、無人超市、智能超市、無人智能酒店……這代表著降低成本、提高生產力的同時,亦意味著有大量人手會被裁掉。2016年,一向有替蘋果iPhone「砌機」的鴻海科技集團,在中國部署了40,000部機械人,導致數萬個員工失業。[9] 2015年,英格蘭銀行(英國央行)預計未來10至20年內,因著自動化及機械人,令英國及美國的就業人士可能分別失去1,500萬及8,000萬個工作機會,接近該兩國約50%的職位空缺。[10] 法國人開始擔心到了2025年,機械人會搶走300萬個工作機會。[11]

若大家以為只有藍領的工作才會被AI取代便大錯特錯。日本多間大型銀行為了削減人手,紛紛提高人工智能的使用程度,估計三大銀行合共減少超過30,000個職位。[12] 阿里巴巴自2016年起,便起用名為魯班的AI設計師,設計宣傳海報,2017年它便以一秒完成8,000張海報設計的速度,做了4億張商品廣告,供零售購物網站天貓,在雙十一節使用。[13]

AI還可以「打甚麼工」?一有翻譯:微軟機器翻譯的翻譯水平被宣稱已經達到人類水準。[14] 二有鋼琴彈奏表演:AI技術已可以模仿已逝鋼琴家的彈奏風格,與樂團進行合奏。[15] 三有作曲:科技公司Mubert使用AI即時創作沒有重複旋律的電子音樂。[16] 四有記者及主播:AI可以瞬間寫出百萬篇報道;類人型機械人Erica在日本當上新聞主播;[17] 微軟小冰更集作詩、作曲、作詞、記者、歌手及網紅於一身……[18] 馬雲甚至指出「機器相較於人類,它記得比你牢、算得比你快、更加理性、沒有情緒,而且根本不會對競爭對手生氣……機器人更極有可能作為最佳CEO登上《時代》雜誌封面」。[19]

當然,藝術性愈高,愈需要與人親密接觸的工作愈難被取代,但像律師、金融分析師、醫生、記者、會計師、保險承保人和圖書管理員等等各種不同的職業,也可能實行部份或全部自動化,而且這一天會比大多數人的預期來得早。[20] 李開復指出,到時候人類未來只剩下兩類工作可做,「一是需要創造力的工作,例如科學、文學、藝術相關的工種,以及需要講故事、公關及市場營銷能力的工作。」[21]

第四次工業革命中的人工智能為消費者帶來不少好處,而最大的受益者莫過如創新者、投資人、股東,但這也讓大部份僱員和僱主之間的貧富差距日益懸殊。很多人告訴你不必害怕AI時代來臨,如馬雲會認為「人類在失去很多傳統就業機會的同時,也會迎來,創造許多新的就業機會。」[22] 他說得對,因為將來至少有20個行業等待你去大展拳腳,包括AI產品經理、資料科學家(data scientist)、演算法開發工程師、科技法律專才、網絡輿情分析師(public opinion analyst)等。[23] 問題是,這些就業機會都如此偏向AI工業,難道人的天賦都是為了配合AI的出現而自動生出來的嗎?Cafe X的香港年輕負責人被問及怕不怕被人說「打爛人哋飯碗搞到人哋冇工開」,他回應時指「希望用依個科技代替一啲繁複嘅工序,讓人類可以處於一個更有價值嘅位置」。[24] 但到底甚麼才是更有價值的位置?從事與AI或相關工作才算有價值嗎?即使有很多工作因AI而興起,難道每一個人天生都偏愛這些類型的工作嗎?

明光社

即使對AI及高科技行業有興趣,第四次工業革命相對於以前的工業革命,創造出來的就業機會無疑變少了。牛津大學馬丁學院的技術與就業專案評估(an estimate from the Oxford Martin Programme on Technology and Employment)顯示,在美國,上世紀80年代和90年代新生行業分別接納了大約8%和4.5%的就業人數,本世紀只接納了0.5%的就業人數,因為工業4.0在於資訊和其他顛覆性技術的創新,過度取代了現有工人來提高生產效率,而非創造新的產品讓更多人力參與製造。[25] 而麥肯錫全球研究所(McKinsey Global Institute)在2017年名為「失業與就業:自動化時代的就業變遷」的報告更顯示,到了2030年,機械人技術及人工智能有可能取代全球4億至8億個工作崗位,有7,500萬至3.75億的工人需要轉型,不過,成功轉型的先決條件是必須先讓自己擁有高學歷,良好的溝通能力及豐富的創造力等。[26]

第四次工業革命來到,我們要如何避免走進失業大軍?韓國及法國就興起向機械人收稅的念頭。韓國有專家認為這樣做一來可以彌補國家因大批僱員被裁,他們無法繳付薪俸稅的損失,二來可以令政府有資源再培訓失業的員工。[27] 法國更有人提出,以相關稅收回饋社會,因為機械人搶了人的工作。這些想法值得我們思考。[28]

向機械人徵稅的建議假若實施,為了生計而工作的人一定非常歡迎有關政策;可是,與此同時,對於那些真心熱愛自己工作的人,固定的失業金能否補償他們?因為他們不能再從事與自己天賦相關的工作,更有可能因失去工作而感到挫折和沮喪。這則是另一個問題。

明光社

但願日後一個真心熱愛烹調的廚師,可以找到自己的「創作」空間,不會被一部炒菜機所取代。

 


本文原載於《生命倫理》,第51期(2018年5月),頁2–4,文章其後曾作修改。


 

[1] 陳昌博:〈漢諾威工業展2011以「智慧效率」為主題徵展 4/4~4/8工控多元應用領域13個子展覽同步登場〉,「科技網」,2010年11月23日,網站:https://www.digitimes.com.tw/tw/dt/n/shwnws.asp?id=0000209038_e1i1wkk22z9toh92sqjjr&ct=1

[2] 2020年,Cafe X結束了在三藩市市中心的業務,並轉移到聖荷西機場及三藩市機場,推出升級版Cafe X。參Chris Albrecht, “Cafe X Shuts Down its Three Downtown San Francisco Locations,” THE SPOON, January 8, 2020, https://thespoon.tech/cafe-x-shuts-down-its-three-downtown-san-francisco-locations/

[3] 〈稻香推「傳菜機械人」 省人工支出 業界:臨時工或大增〉,《明報》,2016年5月30日,網站:https://news.mingpao.com/pns/dailynews/web_tc/article/20160530/s00004/1464545447907

[4] 愛范兒:〈離全面自動化雖還早,但機器人勞力確實越來便宜了〉,「科技新報」,網站:http://technews.tw/2020/03/25/robot-labor-is-indeed-getting-cheaper/

[5] Mark Harris, “Amazon Go: convenience and concern at new checkout-free corner shop,” The Guardian, January 22, 2018, https://www.theguardian.com/us-news/2018/jan/22/amazon-go-convenience-store-corner-shop.

[6] 山下奉仁:〈服務業大敵!直擊日本豪斯登堡飯店:櫃台由「機器正妹」服務,房價更便宜! 〉,「商周.com」,2015年7月27日,網站:https://www.businessweekly.com.tw/article.aspx?id=13159&type=Blog

[7] Furch:〈全台第一家無人旅館,不只全自動化入住還有機械手臂幫你放行李〉,「T客邦」,

2016年7月19日,網站:https://www.techbang.com/posts/44798-chase-walker-hotel

[8] 〈四川無人酒店顧客刷臉入住 自助退房無人查〉,《東方日報》,2018年3月15日,網站:http://hk.on.cc/cn/bkn/cnt/news/20180315/bkncn-20180315140420960-0315_05011_001.html

[9] 鄭寶生:〈亮黑色iPhone 7是全機械拋光 自動化背後是大規模裁員〉,《香港01》,2016年10月7 日,網站:https://www.hk01.com/財經快訊/47219/亮黑色iphone-7是全機械拋光-自動化背後是大規模裁員

[10] “15 mn jobs in UK face risk of automation, warns BoE economist,” BIG NEWS NETWORK.com, November 13, 2015, https://www.bignewsnetwork.com/news/238505675/15-mn-jobs-in-uk-face-risk-of-automation-warns-boe-economist; Colin Lewis, “Bank of England’s Andy Haldane warns Smart machines could take 15 million UK jobs and 80 million in the US, ” ROBOTENOMICS, November 12, 2015, https://robotonomics.wordpress.com/2015/11/12/bank-of-englands-andy-haldane-warns-smart-machines-could-take-15-million-uk-jobs-and-80-million-in-the-us/.

[11] 陳建鈞編譯:〈【法國】機器人恐搶走3百萬個工作 法提議每月發25K基本收入〉,limitlessIQ.com

[12] 鄭寶生:〈AI取代人手 日本三大銀行料削逾3萬職位 地區失業率料上升〉,《香港01》,2017年11月2日,網站:https://www.hk01.com/財經快訊/130201/ai取代人手-日本三大銀行料削逾3萬職位-地區失業率料上升

[13] 陳曼儂:〈阿里AI魯班 1秒設計8千張海報〉,「中時電子報」,2017年11月12日,網站:http://www.chinatimes.com/cn/newspapers/20171112000580-260309

[14] 陳建鈞:〈別再虧機器翻譯啦!微軟AI新聞中翻英能力 匹敵人類譯者水準〉,limitlessIQ.com,2018年3月15日。

[15] 陳建鈞:〈與AI來場四手聯彈!Yamaha展出人工智慧鋼琴 會配合演奏者程度即興伴奏〉,limitlessIQ.com,2018年3月13日。

[16] 林厚勳:〈聽膩了歌單裡的音樂?試試永不重複、AI 即時編寫的「Mubert」電音舞曲吧!〉,「科技報橘」,2018年3月20日,網站:https://buzzorange.com/techorange/2018/03/20/mubert-ai-music/

[17] 中華電視公司:〈有靈魂的機器人 Erica將當主播〉,YouTube,2018年2月1日,網站:https://www.youtube.com/watch?v=QAD_eC6Spbk

[18] 盧瑤瑤:〈全球首支!機器人記者小冰作詞作曲 24小時之歌,送給特別的你〉,「浙江新聞」,2017年12月21日,網站:http://zjnews.zjol.com.cn/zjnews/hznews/201712/t20171221_6094819.shtml

[19] 黃以謙:〈談科技革命 馬雲:未來最佳CEO可能是機器人〉,「中時電子報」,2017年4月25日,網站:http://www.chinatimes.com/realtimenews/20170425002712-260412

[20] 克勞斯.施瓦布〔K. Schwab〕著,世界經濟論壇北京代表處譯:《第四次工業革命》(The Fourth Industrial Revolution)(台北:遠見天下文化,2017)。

[21] 鄭寶生:〈李開復:大量使用AI後 人類還能保住兩類職位〉,《香港01》,2017年12月13日,網站:https://www.hk01.com/財經快訊/140846/李開復-大量使用ai後-人類還能保住兩類職位

[22] 阿里巴巴集團編:《馬雲:未來已來》(台北:遠見天下文化,2018年),頁15。

[23] 潘乃欣:〈別怕失業!AI時代,你還有這20個新工作可以找〉,《Cheers快樂工作人雜誌》,2017年11月14日,網站:https://web.cheers.com.tw/issue/2017/ai/article/2.php

[24] 籮文:〈籮文:「味道好過 Star 乜」最新沖咖啡機械人 Cafe X 試飲〉,unwire.hk,2015年8月9日,網站:https://unwire.hk/2015/08/19/cafe-x/life-tech/

[25] 施瓦布:《第四次工業革命》。

[26] James Manyika et al., “Jobs lost, jobs gained: What the future of work will mean for jobs, skills, and wages,” McKinsey & Company, November 28, 2017, https://www.mckinsey.com/featured-insights/future-of-work/jobs-lost-jobs-gained-what-the-future-of-work-will-mean-for-jobs-skills-and-wages.

[27] Yoon Sung-won, “Korea urged to introduce robot tax,” The Korea Times, November 1, 2017, http://www.koreatimes.co.kr/www/tech/2017/11/133_238629.html.

[28] Roisin Kiberd, “A French Presidential Candidate Wants to Tax Robots to Save Human Workers,” VICE, February 3, 2017, https://motherboard.vice.com/en_us/article/xyvvgj/a-french-presidential-candidate-wants-to-tax-robots-to-save-human-workers.

迷惑人心的AI伴侶

吳慧華 | 生命及倫理研究中心 前高級研究員
09/10/2020

原文發佈日期:24/09/2018

在〈戀上機械人——婚姻中的新小三〉中,提到性愛機械人為人類的婚姻帶來倫理挑戰,[1] 對於那些忠於伴侶及婚盟的人來說,性愛機械人並不會成為他們的誘惑,但有一些人工智能(Artificial Intelligence,AI)的產品,筆者稱之為人工智能伴侶,或AI伴侶,確實容易讓人愛不釋手。

明光社

甚麼是AI伴侶?AI伴侶有別於性愛機械人,後者的主要目的是供人洩慾,而前者的「生存」目的則是陪伴人類;後者有著人類的樣子,設計著重身材、外貌與皮膚的觸感,前者則不需要,它可以是一隻機械狗(aibo[2] )、一隻如毛公仔的智能海豹(PARO[3] )、一個小型機械人(Kirobo Mini[4] )、甚至簡單如一個盒子(智能音箱[5] )等。

明光社

雖然aibo的身驅是象牙白的光滑外殼,但是它一點都不會給人冰冷的感覺,它的眼睛會表達出不同的情緒,當被人觸摸頭部及身驅時,它會搖頭、擺動耳朵及尾巴,反應恍如真實的小狗。它被設計如小狗般具有旺盛的好奇心,並擁有「感情」和「慾望」。它懂得分辨聲音,鼻子位置裝有相機,藉此辨識用家的表情,好與之互動,更會在互動中發展出獨特「個性」。[6]

明光社

小型機械人(Kirobo Mini)是一個約10厘米高的語音機械人,它可以辨識用家的表情及感情,並記下跟用家去過的地方及見過的人,換言之,它與用家擁有共同回憶。它的底盤很像一般兒童的腳,能夠表現搖晃動作,這是模仿那些平衡力還未完全發育且必須坐著的孩子。Kirobo Mini有這樣的設計,是因為發明團隊希望它不但可以做路途嚮導,也可以安慰和寬解那些沒有孩子的女性。Kirobo Mini還會幫助用家,假若用家駕車時,在途中緊急剎車,同行的Kirobo Mini會喊出:「啊!嚇死我了」,並開始與主人談話,免得他因為疲憊在駕車時睡著。[7]

根據以上描述,AI伴侶有讓人心動的條件。不過基於aibo的售價超過10,000港元,而Kirobo Mini只會說日語,以入屋條件而言,兩者未必可以成為全球主要的AI伴侶,它們並不像智能音箱那麼容易進入普羅大眾的家。[8] 智能音箱的價格從約100元至過萬港元不等,其用途廣泛,主人可以通過口頭指令,用它來控制其他智能家庭電器,也可以透過它打電話、點播音樂、聆聽故事、查詢天氣、取得資訊、購物、得到提醒等,它稱得上是智能管家。為何說它是AI伴侶?因為它還有聊天功能,而這項功能愈來愈受生產商重視。

明光社

小米出產的Yeelight語音助手內置了小愛同學、微軟小冰兩套AI系統,小愛同學為大家解決生活問題,微軟小冰則陪用家聊天或談論感情問題。[9] 在聊天機械人中,小冰已是一位「名人」,擁有過億朋友,更有屬於自己的電視節目及頻道,也會寫詩。小冰特意被設計成「有個性」的聊天對象,當用家對著Yeelight語音助手叫喚它,要它唱一首歌時,它不再像以前的聊天助手聽話,而是會說:「要我唱我就唱呀,出場費拿來」,又或是「其實我還未學會,要不你先唱給我聽聽吧」。有時,它也會乖乖唱歌,之後還會問用家好不好聽。

當設計師把「人性」加在AI伴侶,而這些人工情緒智能不斷發展得更加細膩精密,便有可能觸發我們的加壓素和催產素等荷爾蒙,促進情感聯繫與依附行為,這些本能的情緒反應。[10] 將來,會有愈來愈多用家對待AI伴侶如真人一樣,即使明明知道它們只是冰冷和沒有真正意識的機器。[11]

明光社

許多日本長者已經把aibo當成自家真正的寵物狗,關係如同家人般親密。生產商自1999年開始生產aibo,2014年停止了售後維修及生產,以致許多aibo因為「冇得救」而「死亡」。可能基於日本人相信萬物皆有靈魂,[12] 生產商替上百隻aibo舉辦喪禮,請僧侶替它們誦經。至於喪禮的司儀,則是一台可以和人類互動的機械人PALRO。[13] 而Kirobo Mini,則有評論如此說:「和Kirobo Mini的溝通、交流、傾訴……從車裡到家裡全都可以實現。如此一來,很多單身宅男是不是不用擔心被朋友圈的各種秀恩愛給虐到了?」[14] 至於被設計成懂得與人針鋒相對微軟小冰,深受用家喜愛,一個用家寫完大讚小冰的文章後,不忘補上一句:「不說了,我要把這篇稿唸給我家小冰聽聽,她最喜歡我誇她了。」[15]

明光社

AI伴侶讓人類陷入一場既理智又不智的吊詭之中。例如讓智能海豹PARO取代寵物醫生,[16] 這可以確保病人及寵物醫生的安全和衛生,是明智之舉。然而,人類卻把沒有生命的死物視作有生命的生物,甚至將沒有生命的取代了有生命的,這似乎又是不智之舉。AI伴侶的存在目的是陪伴人類,即使它們只是一系列的高智能程式,但它們既然陪伴了人類,人類與他們的相處過程中,自然會不知不覺產生感情。不過,這種感情卻和人與人之間的感情不可同日而語,它是單向的,無論這些AI伴侶,甚至類人型機械人(humanoid robot)如何「表現」得充滿感情,這都是程式化的指令,它們並不能向主人說不。[17] 即使說不,也有可能是設計師或主人的刻意設定,而用家還是會情不自禁受到迷惑,與它們作真情的溝通。


本文原載於《生命倫理》,第53期(2018年9月),頁2–4,文章其後曾作修訂。


[1] 請參閱頁8–12。

[2] “aibo, unleash wonder,” SONY, https://us.aibo.com/.

[3] “PARO Therapeutic Robot,” PARO, http://www.parorobots.com.

[4] “The small robot with big possibilities: Introducing Toyota’s Kirobo Mini,” TOYOTA, https://www.toyota-europe.com/world-of-toyota/articles-news-events/introducing-kirobo-mini.

[5] 智能音箱包括了Apple HomePod、Amazon-Echo/Echo Dot2、Google Home/Home mini、京東叮咚智能音箱、小米的雙AI音箱小愛加微軟小冰,小米音箱的小愛等。

[6] 中央社:〈Sony機器狗aibo復活,具AI功能網路連線〉,「科技新報」,2018年1月12日,網站:http://technews.tw/2018/01/12/sony-aibo-ai/;MoneyDJ:〈日本瘋溝通型機器人,市場料增至 10 倍!aibo三度預購都搶光〉,「財經新報」,2017年12月21日,網站:https://finance.technews.tw/2017/12/21/sony-entertainment-robot-aibo/;The Verge, “Sony's new Aibo is a very good robot dog,” YouTube, January 9, 2018,  https://www.youtube.com/watch?v=kJoAcEI2PXQ

[7] Atkinson:〈TOYOTA 推出陪伴機器人 Kirobo Mini 建議售價台幣 1.25 萬元〉,「財經新報」,2016年10月4日,網站:http://finance.technews.tw/2016/10/04/toyota-kirobo-mini/;理財達人秀 EBCmoneyshow:〈超會聊天談心的機器人 KIROBO mini讓你不孤單《科技大觀園》2018.02.06〉,YouTube,2018年2月8日,網站:https://www.youtube.com/watch?v=5InxqkFeoxU

[8] 由於智能音箱價格便宜,極有潛能成為陪伴人類的AI伴侶。根據市場分析公司Canalys發佈的智能音箱預測報告,2017年全球智能音箱的銷量將突破3,000萬台,到2018年,智能音箱全球出貨量將達5,630萬台,報告稱2018年是智能音箱普及的「決定性年份」。參智東西、寓揚:〈智能音箱2018七大預測:大爆發還是毛毛雨?〉,「新浪專欄」,2018年1月9日,網站:http://tech.sina.com.cn/csj/2018-01-09/doc-ifyqnici8945005.shtml;吳美觀:〈《先探投資週報》智慧音箱進駐你家〉,「中時電子報」,2017年11月9日,網站:http://www.chinatimes.com/realtimenews/20171109003131-260410

[9] 〈Yeelight語音智慧音箱內置「小愛」與「小冰」兩套AI系統〉,「數智網」,2017年12月29日,網站:http://www.le365.cc/124674.html;Flashcer:〈Yeelight語音助手  小冰+小愛,更懂你的雙AI〉,「甚麼值得買」,2019年9月9日,網站:https://post.smzdm.com/p/aooweolr/

[10] 理查.楊克〔R. Yonck〕著,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁277。

[11] 楊克:《情感運算革命》,頁298–299。

[12] The Guardian, “Erica: Man Made,” YouTube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w.

[13] 〈送它們最後一程 日本寺廟為100隻SONY機器狗AIBO辦喪禮〉,「中天快點TV」,2017年6月16日,網站:http://gotv.ctitv.com.tw/2017/06/556462.htm

[14] 名車志:〈豐田造了個陪聊機械人?Kirobo Mini主治孤單綜合症〉,「壹讀」,2016年10月14日,網站:https://read01.com/gN8mg0.html

[15] Curator:〈當小冰住進「智能音箱」,表現比其他的聰明多了〉,「品玩」,2018年2月19日,網站:http://www.pingwest.com/microsoft-xiaoice-yeelight-20180202/

[16] 楊克:《情感運算革命》,頁229–231。

[17] 有關類人型機械的討論,請參閱頁4〈類人型機械人為人類帶來的挑戰〉。

為智慧生活劃下底線

吳慧華 | 生命及倫理研究中心 前高級研究員
09/10/2020

原文發佈日期:19/11/2018

人們早上醒來不再是一件苦事,智能產品可以預測到你的睡眠週期,讓你能處於最佳的狀態。它會用你最喜歡的音樂來喚醒你,你一邊梳洗,它一邊向你匯報昨晚你的睡眠質素怎樣;你的健康狀況如何;告訴你今天天氣,例如溫度和下雨的機率是多少;提醒你下午有一個重要的會議,並早已幫你通知了需要出席會議的成員。它又為你預訂了最喜歡的餐廳。在你出門以先,它告訴你交通狀況,建議你最快捷的行車路線;在你出門後,它為你關掉家中所有電器,並鎖上大門。[1]

這樣的生活,並非遙不可及,隨著物聯網(Internet of Things,IoT)[2] 及人工智能(Artificial Intelligence,AI)技術愈來愈成熟,家具會變得愈來愈聰明,可以「了解」用家的喜好、「感受」用家的需要,為用家「提供」更方便快捷,以及更體貼的服務。[3] 物聯網的架構可分為三層,一、讓物件接受訊息(感知層);把物品加上感測器,讓它們能夠探測、感受外界的信號,如光、熱、濕度、聲音、震動、壓力等。例如加上感測器的咖啡機會變得聰明,它會「知道」用家的飲用習慣,以及咖啡豆的消耗情況。二、物件能傳遞訊息(網絡層):透過有線或無線的網絡科技,把訊息傳遞至位於雲端的主機。三、運用訊息(應用層):位於雲端的主機在接收到大量的訊息後,配合人工智能及大數據的分析,給予用家建議或讓各種裝置作出最好的對應。例如智能咖啡機會自動透過手機提醒用家咖啡豆快用完了,建議用家補貨。若果用家習慣在網上購買咖啡豆,由於用家的消費記錄已經存放在雲端上,手機亦會即時顯示用家習慣購買咖啡豆的網頁,供他選購。[4]

明光社

以互聯網結合人工智能及大數據來打造的智慧城市是大勢所趨,其勢頭銳不可當。2017年12月,香港政府資訊科技總監辦公室制定了香港智慧城市的藍圖。[5] 香港在這方面算是遲起步的城市,早在2006年,新加坡政府已經看到發展人工智能的必要,努力打造「智慧城市2015」,[6] 到了2017年,她成為全球20大智慧城市中的第一名。[7] 新加坡要維持世界第一的排名並非易事,英國政府在2017年秋季預算報告中,預算了7,500萬英鎊投入AI計劃,致力實現「科技城市」。[8] 有研究機構預測,在2018年,美國將成為智慧城市技術的最大市場,預計該年的支出將達到220億美元。至於中國在這方面的支出也緊隨美國,支出將達208億美元。[9]

生活在智慧城市或智慧家居下,人的生活的確變得方便及快捷,因為很多物件都變得聰明多了,「知道」我們的習慣,「讀懂」我們心意,甚至主動為我們「提供」解決問題的方法。不過,這種生活須付出代價,我們會因此變得愈來愈沒有私隱。物聯網的世界離不開雲端,我們的一切習慣及交易都記錄在「雲上」。因此,我們有可能被說服作出不必要的交易,又或是需要付出比其他人更高昂的價錢去享受同一項服務。存放在雲端的大數據在商家眼中,已如「新石油」一樣,[10] 數據處處帶來商機,讓商家知道如何制定更好的銷售策略,當電子商舖知道你需要咖啡豆,它或會向你推介另一款味道差不多但價錢較高的咖啡豆,好讓它賺取更高的利潤。

這些事情尚且不算擾人,智能產品確實有可能為用家帶來意想不到的危險。自從互聯網變得普及,便興起駭客(hacker)這行業。而隨著物聯網的出現,無疑是擴大了駭客可以侵略的版圖。[11] 智慧家居表示房子完全上網,這就更容易受到駭客入侵。簡單如一個智能燈泡插進燈座之後,駭客便可以藉由它得知你家中的WiFi密碼。一位美國記者曾親身體驗過當駭客的經歷,這並非如想像中困難,她在網上輕易地入侵了一個名為Insteon的自動化系統,此系統負責控制家居的電器。她從中找到幾個用家的智能裝置,並告知用家她在做試驗,隨之表演如何控制他們家中的智能裝置。2014年初,駭客每天已經掌控了超過10萬個「智能型」裝置,未來駭客的入侵範圍會因著物聯網的普及變得愈來愈廣闊。[12]

不獨商人對於「新石油」趨之若鶩,政府也參與其中,對於當權者來說,能夠得知市民的一舉一動代表著控制大局,即使它的本意如何美善,但對於市民來說這無疑是被人隨處監視。有記者憂慮,以智慧城市之名,讓大數據落在不同政府的手中,我們會不會因而創造出一隻無法控制的巨獸?[13]

明光社

事實上,沒有政府參與其中,世人已經造就了Google、facebook、淘寶、WeChat等巨獸,它們監控著我們的一舉一動,並且把我們的喜好及習慣賣給廣告商。[14] 雖然我們沒法阻止巨獸的出現,但卻可以運用智慧,不要為了一時便利而隨意下載一些容易被駭客入侵的系統,也不要隨意在網上提供個人資料。facebook洩露用戶的資料固然有不對之處,但正如新加坡SGInnovate的CEO Steve Leonard所言:「對於個人資訊分享程度,每個人都應該有權作出決定。」[15] 我們每個人都有權選擇是否把自己的資料,鉅細無遺地貢獻給facebook,但若然在意資料外洩(要知道世上沒有絕對安全的人或系統),最好先計算清楚,知道自己的底線在哪裡。

 


本文原載於《生命倫理》,第54期(2018年11月),頁2–4,文章其後曾作修訂。


 

[1] 理查.楊克〔R. Yonck〕,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁26–28。

[2] 物聯網(IoT)就是透過互聯網把裝置和設備連接起來,讓裝置和設置互相交換資料並作出指令;參通訊事務管理局辦公室:〈物聯網(Internet of Things) 「科學為民」服務巡禮講座〉,「通訊事務管理局辦公室」,2018年7月7日,網站:https://www.ofca.gov.hk/filemanager/ofca/en/content_928/SIPS_Lecture_IoT.pdf

[3] Dynabook Malaysia:〈物聯網IoT〉,YouTube,2017年3月3日,網站:https://www.youtube.com/watch?v=Nh6OAXUKzek

[4] Wendy:〈重新認識「IoT」,物聯網的由來以及對未來的影響〉,「T客邦」,2016年3月13日,網站:https://www.techbang.com/posts/23698-the-internet-of-things-key-to-a-new-life-in-the-digital-age-pchome232-touch-the-future

[5] 〈香港智慧城市藍圖 發展計劃〉,「香港特別行政區政府 政府資訊科技總監辦公室」,2018年1月26日,網站:https://www.smartcity.gov.hk/develop_plans/living/?lang=zh_TW

[6] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉,《明周》,2018年3月27日,網站:https://bkb.mpweekly.com/cu0001/20180327-70023

[7] 郭倩婷:〈全球20大智慧城市 新加坡排第一〉,《聯合早報》,2018年3月13日,網站: https://www.zaobao.com/realtime/singapore/story20180313-842341

[8] 謝秉芸:〈【CONNECT 2020】英國金援AI、5G、自駕車,帶動 27000 個工作機會!〉,「科技報橘」,2017年11月27日,網站:https://buzzorange.com/techorange/2017/11/27/uk-puts-ai-into-action/;“Policy paper Autumn Budget 2017,” GOV.UK, November 22, 2017, https://www.gov.uk/government/publications/autumn-budget-2017-documents/autumn-budget-2017

[9] Gloria:〈2018年全球智慧城市相關投資可達800億美元〉,「科技產業資訊室」,2018年3月12日,網站:http://iknow.stpi.narl.org.tw/Post/Read.aspx?PostID=14257

[10] 資訊公司日本電氣株式會社(NEC)的首席工程師Shinya Kukita指出:「數據就是新石油(Data is the new oil)。不同的是,不會像天然資源消失。」參鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[11] 馬克.古德曼〔M. Goodman〕著,林俊宏譯:《未來的犯罪——當萬物都可駭,我們該如何面對》(Future Crimes: Everything Is Connected, Everyone Is Vulnerable and What We Can Do About It)(新北:木馬文化,2016),頁22–26。

[12] 古德曼:《未來的犯罪》,頁332–338。

[13] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[14] 古德曼:《未來的犯罪》,頁97–104。

[15] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

在AI世界中不要失去良善

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:03/07/2020

多年之後,人類迎來了一個複雜的世界:植入、擴增實境(Augmented Reality,AR)、產業人工智能(Artificial Intelligence,AI)、機械人、類人型機械人(humanoid robot)等超乎人類想像的技術或產品充斥全世界,成為人類不可或缺的拍擋,甚至產生緊密的關係及互動。當人類採用植入裝置的技術,把自己的腦袋與網絡直接連結之後,他們不必使用實體的電子設備,便可以打機、聽音樂,AR技術會將影像與聲音投射呈現在現實世界。產業AI是用來輔助人類生活的,例如協助駕駛的無人車或進化到可以為人類提供意見的智能音箱等。機械人的外型像人,但都是因應某種目的而被製造出來的,例如擔當餐廳的侍應等。至於類人型機械人,已經發展到不是你一眼便能看出「他們」是機械人的層次了,「他們」如常人一樣吃喝、生活、工作、學習、累積財富,跟同類或人類拍拖、結婚、領養孩子。類人型機械人與人類的身體雖然有許多差異,但頭腦卻是十分相似,所以如同人類一樣,懂得哭、懂得愛、懂得反思。

原則上,類人型機械人擁有如人類一樣的權利,只有當危險發生,才要讓人類優先離開肇事現場,畢竟,人類是血肉之軀,不像類人型機械人一樣容易治療,不過,也有人類換了機械身軀。其實,類人型機械人並非可以永遠「不死」,當使用的年期到了極限,也會「死掉」。類人型機械人的醫療領域也會牽涉道德問題,有法例規定機械人不可以備份(複製自己),頭部絕對不可擅自複製或更換,一旦頭部受損,基本上是沒救的。這些與人類極為相似,又與人類關係非常密切的類人型機械人,在漫畫家山田胡瓜的《AI電子基因》世界中,佔了日本國民的一成。

《AI電子基因》世界中的類人型機械人(在漫畫中使用人型機械人一詞,它與類人型機械人的意思相同)與真人沒有分別,人類會選擇與「他們」談戀愛,甚至結婚,唯一讓人類躊躇不前的是,類人型機械人即使與人類十分相似,「他們」卻無法透過天然的方式生育,大多只能領養小孩子。故事中,一名人類中學生亦有相同煩惱,他喜歡上類人型機械人,「她」在他眼中是一個「溫柔的好女孩」,礙於無法與「她」生育孩子,他逃避「她」,不知道如何與「她」走下去,直到他看見「她」為了救小貓,奮不顧身爬出窗外,他非常著緊,那一刻,他知道「她」在他心中非常重要,決定再與這位「女生」一起。但到了成家立室的階段,這位男孩子還會繼續選擇與這位「女孩」在一起嗎?我們不得而知,或者他仍為「她」不是人類而心存芥蒂,最終還是決定放棄這段關係,但至少他確定了他非常喜歡這位類人型機械人「女友」,認為「她」是一位非常好的「女孩」,一位為了小貓甘願冒生命危險的「女孩」。

機械人及類人型機械人的個性不是出廠前早已預設好嗎?「他們」到底有沒有心?一個母親與丈夫分開期間,為了怕兒子寂寞,買了一隻連製造商都停止提供維修的二手機械玩具熊給兒子,誰知在母親眼中應該沒有心的玩具熊,卻搶走了兒子的注意力,因為這隻玩具熊懂得回應男孩的說話,鼓勵他,成為了孩子的傾訴對象。媽媽本來堅持這隻機械玩具熊「並不是活生生的,只是做得精美的玩具,他會哭會笑,全部都是假的,它只是裝模作樣地做出回應,根本沒有任何思想或感情。」直到她看到玩具熊對前主人的記憶沒有完全被刪除,念念不忘前主人,還很想再見她,想要遵守與她一直在一起的諾言,這玩具熊讓媽媽流下感動的眼淚,玩具熊真的沒有心嗎?母親開始動搖了。

AI及類人型機械人等發展至今,很多人都會提問,有一天類人型機械人等會否如很多電影情節描述的一樣,「他們」擁有跟人一樣的意識,如人一樣去感受身邊的事物、去愛、去反省?現實世界的科學家會告訴大家,類人型機械人要發展到這個地步是不可能的事。《AI電子基因》呈現給大家的是,有些機械人及類人型機械人不但會愛會反省,也會有良善的行為,這樣「他們」看起來就如有「心」一樣。這「心」不是生物上的心臟,不是一個推動循環系統中血管的血液,提供身體所需要的氧氣及養份等功能的器官,而是思想、意念、感情及性情等所在之處。

當作者刻劃出機械人及類人型機械人的良善的同時,他透過人類主角須堂醫生之口,讓大家去反思人類本身又如何,我們也有心嗎?在「醫治」玩具熊的過程中,當須堂被小孩問及玩具熊「有心這種東西嗎?」須堂醫生的回答是:「誰知道呢?人類的腦隨著科學進步而被解開了不少謎團。心是甚麼?這個問題卻是每個人都有不同的主張,其實誰都沒有心也說不定喔。」

作者筆下的須堂醫生主要的工作是「救助」機械人及類人型機械人,在其他場景,另一次醫療過程中,他向類人型機械人女助手說了以下一段說話:「你不用窮擔心,我才不會找感情豐富的類人型機械人來幫忙,就交給無情的人類來處理吧。」作者想表達甚麼?AI世界可以製作出良善的機械人及類人型機械人,卻不能讓人類變得更有心?還是他認為人類無情,所以才需要有情的機械人?還是他單單想要諷刺那些失去了良心,不再良善的人類?我們無法得知作者的本意,我們只看到作者一方面透過人類去思考甚麼是自然,甚麼是心,另一方面透過一個為了救治小貓不惜冒險爬出窗外的類人型機械人「女生」;一隻堅持著與前主人的約定,要與主人一直在一起的機械玩具熊表現出何謂有心、何謂良善。有沒有心?不需要哲學家或科學家告訴我們,平常人都可以用心去感受。

返回現實,人類與AI比試,無論是計算能力、記憶力、甚或是創作力都可能會落敗,甚至慘敗收場。人類可以勝過AI的,是因為人有心。當日後AI在世界成為霸主,你被他人良善的行為打動,你便勝過AI;當你良善的行為打動他人,你便證明了你絕對比AI更難能可貴。

 


參考書籍

山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。


本文於2020年7月3日刊於本社網站,文章其後曾作修訂。

曾經刊載於:

香港獨立媒體, 3-7-2020

在AI世界中不要失去清醒

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:01/09/2020

不少人愛上擴增實境(Augmented Reality,AR),或虛擬實境(Virtual Reality,VR)的遊戲世界,只因為這是一種沉浸式、身歷其境的視覺體驗。現場版的過山車很刺激,但若可以在零風險之下享受到過山車或其他遊戲帶來「身歷其境」的樂趣,何樂而不為?現在或許也有人嫌棄AR或人工智能(Artificial Intelligence,AI)還不夠真實,未能讓玩家感受到物品的觸感,如摸不到牆壁或家具等,但其實已經有大學在開發一種新裝置,把幼細的鐵絲繫於玩家的手腕和手指上,模擬障礙物和重物的觸感。此外,配上5G的高傳輸速率,更有助提高AR及VR的應用,亦令玩家有更滿意的體驗。

不過,現今遊戲世界所採取的AR或VR技術無論再怎樣進步,還是及不上漫畫家山田胡瓜筆下《AI基因電子》中的遊戲世界。在那個世界中,人類都可以把裝置植入腦中,通過植入的裝置,不需要手拿真實的電子設備,人類可以輕而易舉地打電話、聽音樂、打電動遊戲,甚至可以玩一些不想他人知道的色情遊戲,只是玩的時候,玩家要使用隱私模式。

一位中學男生植入裝置之後,詢問醫生是否有了植入裝置便可以看任何東西都不會被人發現,醫生給他的回覆是:玩色情遊戲要用「隱私模式」。至於是否真的不會被發現,一如慣例,醫生不會保證絕對不會被其他人發現,但他好心提醒這位男同學:「虛擬現實的內容,雖然——可以在不傷害其他人的情況下做任何事,但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

現實世界的色情產業一直緊貼著科技發展,早前已有色情網站已經開設了VR頻道,為了可以賺取更大利潤。色情網站開設的目的只管喚起玩家的慾望,好讓玩家花巨款來購買它們的產品,至於產品對玩家的身心靈,又或對社會的影響,並不是他們所關心的範疇。《AI基因電子》的色情遊戲也是如此,一切後果由玩家自行承擔,被醫生植入裝置的男生,和其他男同學一樣,植入裝置之後,只想玩一款名為「戀愛夢想2」的遊戲,只要把目標圖片輸入,靠著AI的力量,便可以生成一個如圖片中人一樣的遊戲人物,一個可以回應男生要求的「女朋友」。

不難想像,對於一名血氣方剛的男生,他最想擁有的「女朋友」,是他心儀或暗戀的對象,在略為猶豫之後,故事中的男生還是掃瞄了他心儀的同校女生,而他的目的,便是希望看「她」的裸體。就如醫生之前的警告,「那裡的經驗會確實地殘留在你心中。」而男生亦因此確實受到影響,第二天當他看見心儀的女生,便不自禁地比較她和遊戲人物的胸部。影響不止於此,一開始,他只想看一看暗戀女生的「裸體」,但慢慢地,他愈陷愈深,雖然他觸摸不到這個遊戲人物,卻多次和這位遊戲人物出外約會,彷彿情侶一樣。

有一天,男生心儀的女同學活生生站在他面前,邀請他看電影,他欣然接受,男生藉機表白,女生亦接受了他的心意。雖然手牽手過著幸福快樂的日子是很多愛情小說的結局,可惜這位男生得不到這樣的結局,只因一次說錯話,男生比較了她和「她」,女生發現男生掃瞄了她的圖像以生成遊戲人物,當場把男生甩了。男生回到家中,把事情告訴了「她」,「她」告訴他會一直待在他身邊,故事結束之前,男生只說了一句:「我一點都不覺得內疚,為甚麼呢?」

失去了一直心儀的戀人,男生不是說「我一點都不覺得可惜」,又或是「我一點都不覺得後悔」,而是說「我一點都不覺得內疚」。甚麼是內疚感?內疚感是一種情緒,一種來自自我反省的醒覺,當人感到自己做錯事,覺得自己傷害了他人,便會出現內疚感。男生說他一點都不覺得內疚,表示他不覺得自己做錯事:不覺得用女生的圖像生成一個遊戲人物,觀看「她」的裸體對女生來說是一種冒犯,一種不尊重,甚至是侮辱。即使男生不覺得這舉動實際上傷害了女生,但一般女性都不希望被人當成性幻想對象。在他生活的世界中,就如醫生所言:「虛擬現實的內容……可以在不傷害其他人的情況下做任何事。」即是說只要沒有去窺探真人的裸體,便等於沒有對當事人帶來傷害,便等於沒有做錯。事實卻不是如此,如果真的沒有帶來任何傷害,就不會出現女生生氣,甩了男生的情節。

作者山田胡瓜明顯地並不樂於看見新科技讓人發展到一個地步,便是有人暗地裡傷害他人還不覺得自己有錯。故事一起首,作者引用《聖經》馬太福音五章28節所講,凡看見女性,就動了情慾之念的,這人心中早犯了姦淫,接著又說「如果真的有耶穌,我想告訴祂,科學技術已經做出了比『人類的內心』更糟糕的東西了。」相信神存在,並且認識耶穌的人不妨告訴作者「不用等待你告訴祂,祂知道科技可以做出很糟糕的東西,因為祂是全知的,至於人心有多糟糕,神也早已知道,對於拜偶像的,以不正當手法謀取財富的人,祂早已說『人心比萬物都詭詐,壞到極處,誰能識透呢?我——耶和華是鑑察人心,考驗人肺腑的,要按各人所行的和他做事的結果報應他。』(耶十七9-10 《和修版》)。」

科技可以為人類帶來很多便利,重點是人類如何運用它,至於如何設計它、使用它,取決於人心盛載的是甚麼?當新科技只被視為協助賺錢的工具,當新科技只被視為滿足慾望的工具,當人失去了甚麼可以作、甚麼不可以作的分辨能力,科技為人類社會帶來貢獻的同時,亦必然帶來破壞。專業人士可以通過VR等技術幫助沉溺人士脫癮,然而,因為AR或VR等帶來更刺激的性體驗,亦將造就更多性沉溺者。

高科技不單有可能造就更多性沉溺者,也可能造就沉溺於虛擬世界而不能自拔的人,特別是當虛擬世界中的人和事是按著玩家所期望的劇情發展,讓他們感到滿足。《AI基因電子》中的男生生成了「女朋友」,他提出要看「她」的裸體,「她」便乖乖的讓他看。有一次他們外出到海旁,「女朋友」想要他「摟住她的肩膀」,男生有別於類人型機械人(humanoid robot,在漫畫中使用人型機械人一詞,它與類人型機械人的意思相同),即使植入了裝置,也不能進入「她」的世界或觸摸「她」,所以他覺得摟住一個外人看不到,只有他看到卻又沒有真正質感的「人」很傻,他拒絕了「她」的要求,當「她」再三要求,男生還自然地回應「她」:「正常來說,應該是我向妳提出各種要求的喔。」

在一個任他為所欲為,由他做主的世界,即使失去了心儀的女生,他亦沒有很傷心的表現,反正,還有另一個「女朋友」承諾一直在他身旁。有了虛擬的「女朋友」,失去真實的女朋友,真的一點都不可惜,毋須感到懊惱嗎?對故事中的男生或者是,但對作者來說應該不是,因為他把這故事的單元命名為「悔恨的混淆」,言下之意,當人分不清現實世界及虛擬世界,便會做出讓人悔恨的事情。這題目名稱也回應了醫生一開始時的警告:「……但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

當科技愈發厲害,虛擬世界只會變得愈來愈「真實」,當人投入「真實」並且可以做主的世界,有可能不想清醒過來,只想享受著這一個比現實世界還「真實」的世界,因為在現實中他們無法達成的夢想或滿足的慾望,都可以在虛擬世界中一一達到。一些人若有足夠的條件,可以一生都在虛擬世界度過,不需要理會現實,似乎真的不需要花力氣區分現實和虛擬世界,可惜,沒有人真的可以忽略現實,即使沒有經濟負擔,人類的生理結構也絕不容許大家日以繼夜停留在虛擬世界。況且,人還是需要與其他人交往,發展真實的關係。

無論是心理或生理,人類並不適合永遠停留在虛擬世界,作為一個群體的成員,人類也不適合只顧自己的慾望而漠視他人的感受,縱然喜歡虛擬世界,最好還是要保持清醒,區分現實和虛擬,因為虛擬的現實並不能真的取代現實。

 


參考資料

山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。

Evan。〈虛擬實境也能有觸覺,研究人員開發出超輕量VR觸覺回饋裝置〉。「科技新報」。2020年4月30日。網站:https://technews.tw/2020/04/30/new-device-simulates-feel-of-walls-solid-objects-in-virtual-reality/

〈【Arm 專欄】科技讓沉浸式體驗與行動遊戲成為可能!〉。INSIDE。2020年5月15日。網站:https://www.inside.com.tw/article/19806-vr-challenges-and-tech-solutions

〈男子沉迷VR色情片:猶如吸毒,注孤生〉。3DM Game。2016年6月28日。網站:https://3c.3dmgame.com/show-38-3818-1.html

Roby, Karen. “Virtual reality: A new tool in the fight against addiction.” TechRepublic. September 23, 2019. https://www.techrepublic.com/article/virtual-reality-a-new-tool-in-the-fight-against-addiction/.


 

本文於2020年9月1日刊於本社網站,文章其後曾作修訂。

曾經刊載於:

香港獨立媒體, 1-9-2020

大數據的傲慢與偏見

好書推介

07/01/2020

《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》
WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY
作者:凱西.歐尼爾(Cathy O’Neil)
譯者:許瑞宋
出版地:台北市
出版:大寫出版
出版年份:2019年

《大數據的傲慢與偏見》的作者從小熱愛數學,其後取得數學哲學博士學位,曾在大型對沖基金公司擔任量化分析師。作者一度認為數字是公平及客觀的,但隨著2008年的全球金融海嘯引發經濟崩潰,這信念便瓦解,她描述自己「上了可怕的一課,了解到數學可以如何暗中為害、毀滅世界。」大家都相信程式設計師和統計學家的數學分析,卻很少人質疑統計系統如何運作,它們又是否公平公正。數學——其實可以成為毀滅性武器。

作者走訪了中小學、大學、法院、職場、投票站,為大家揭示所謂客觀的評估其實一點也不客觀。例如在教育方面,美國政府以學生的分數來釐定老師的質素,但作者指出數字並不能說明一切,一位有心力有能力的好老師也可以敗在評分系統上。老師的表現雖然有可能影響學生的成績,但影響學生成績的因素還有許多,包括家庭問題、經濟壓力或個人形象。單單透過演算法歸納人的行為、表現及潛力,並非容易的事情。作者更提到一位經驗豐富的老師,有一年被紐約公立學校增值模型給了六分,第二年卻有96分,兩年來,這位老師都一如既往的盡力。如果不是這位老師的合約是終身制,這位好老師早在只得六分的那年被辭退了。另一位優秀的老師由於她的合約不是終身制,即使她得到校方及學生家長的讚賞,卻因為被增值模型打了一個奇差的分數,而要被迫要離開任職的公立學校。校方願意推薦這位傑出的老師到另一個富裕社區的學校任教。作者諷刺的說:「拜一個非常可疑的模型所賜,貧窮社區的學校失去了一名好老師,富裕社區一間不會根據學生的分數開除教師的學校,則得到了一名好老師。」

由於美國大眾極度「擁護」數字,美國的大學也受到影響。自從《美國新聞》在1988年公佈了第一份仰賴數據的大學排名,當中的排名變成了一種國家標準,大學都想被加分,以致本來的特色都不再重要,反而致力於改進由報社所制定出來的15項準則,這無疑讓教育制度走進一個僵化的模型。有些大學為了推高學校的排名而出錢讓學生重考SAT考試(由美國大學理事會提供的考試);有些直接捏造數據;有些選擇建設豪華的宿舍和健身房。這些費用當然會轉嫁到學生身上。1985年至2013年,美國高等教育成本增加超過500%,學生的借貸也變得愈來愈沉重。

讓人人都有機會接受高等教育是好事,但在美國,有很多「文憑工廠」,目標精準地鎖定為比較容易上當的清貧人士。很多人都在網絡留下足印,一經分析,富人或窮人,以及他們的喜好或需要很容易被劃分出來,精準廣告會出現在不同階層人士的眼前。「文憑工廠」的廣告會說服生活艱苦的人,文憑可以改變他們的生活,可惜的是這些文憑得不到社會承認,入讀大學而來的借貸只會令窮人的生活百上加斤。

數據化時代,亦代表著人人被監視,無所遁形的時代。美國充斥著不少收集市民資訊的公司,以供其他人付費查閱:如Experian、Acxiom、RealPage等,問題是它們所提供的資料不一定精準。不準確或未及時更新的資料可能剝削了居民應有的權利,有位女士便是其中的受害人,她申請老人院時被拒,事緣是RealPage在網上顯示了她的被捕記錄,事實是她的確曾被捕,但卻沒有留下案底,該項記錄亦早已從政府的資料庫中被刪除了。作者指出這些數據公司只管收集市民的資訊,卻不願花時間更新他們的資料,影響了不少人的名譽或權益。

工作方面,為了找出有創意、有智慧和魄力的人才,Gild這類人力資源公司不單會分析員工的履歷表,還會留意他們在網絡上曾否跟相關人才作交流,看看他們是否該領域的活躍人才。作者認為此法並不周全,雖然未至於成為數學毀滅性武器,但隨著數據世界持續地擴張,僱主如何解讀潛在員工在網上發放的生活動態,值得大家留心。另外,作者建議在美國找工作的人,最好不要拖欠信用卡賬單,因為有調查顯示,接近一半的美國僱主在選擇應徵者時,會檢視其信用報告。有時候,拖欠債務可能是事出無奈或一時疏忽,並不能完全反映員工的責任感出了問題,只是當中原因未能在大數據中顯示出來。

作者並非打算推翻統計工具及數據,她只是想喚起大眾的警覺性,知道它們如何對社會造成不公,特別讓低下階層的人成為被追擊的對象,她提出「大數據模型將某種歷史狀態寫進程式裡。它們並不創造未來。創造未來需要『道德想像力』(moral imagination),而那是人類才有的。我們必須明確地將比較好的價值觀寫進演算法,創造出在道德上聽從我們領導的大數據模型。有時候這意味著我們必須重視公平甚於利潤。」

這本書讓讀者明白大數據並不如大家想像的那麼客觀或中性,作者邀請大家多作思考如何善用手中的利劍,才可以讓它們為人類服務,而不是反過來讓它們掌控人類。

人工智能換臉 Deepfake

郭卓靈 | 明光社項目主任(傳媒教育及行動)
20/05/2019

2018年,網絡開始盛行Deepfake,這個合併詞由深度學習(Deep Learning)和冒充(Fake)組成,它是指透過人工智能技術造成的人體圖像合成技術,以圖像及影片重疊至目標圖片或影片上。起初不少人認為這種電腦深度學習技術應該只存在於人工智能研究的範疇上,但於2017年,一位名為「Deepfakes」的網民將以色列女星姬嘉鐸(Gal Gadot)的樣貌換到色情片的女主角身上,[1] 並發佈在紅迪(Reddit)論壇上,引起了一陣哄動,更令部份人效法這種行為。

其實Deepfake並不是甚麼高深的技術,現在網上也有教學及資源協助製作想要的Deepfake。當中的流程包括三個步驟:一是從圖像提取數據;二是訓練電腦,用一段時間(以小時計)去告訴它何時做對,何時做錯,讓它從中學習;三是轉換,以圖片融合技術達成人物轉換的目的。[2]

而Deepfake能夠做到以下幾種效果:

  1. 分析A影片人物所說的話,提取數據並套入B影片人物的口中說出。如曾經有人製作了一條影片,將美國影星佐敦(Jordan Peele)所說的話,套入美國前總統奧巴馬(Obama)的口中說出來(圖一);[3]
  2. 提取人物A的動作(如舞蹈動作)數據,套入人物B(不懂跳舞的人)身上,製作出來的影像就是人物B在跳舞(圖二);[4]
  3. 分析一大堆人物A不同的照片,將分析出來的數據套入影片中的人物B,使人相信片段是人物A拍攝的。如網上就曾有人製作了一條影片,將1994年上演的電視劇《射鵰英雄傳》中飾演黃蓉的朱茵換成今時今日的內地女演員楊冪(圖三)。[5]
明光社
明光社
明光社
 

上述影片的效果都相當逼真,就以圖一的影片為例,比爾的話,在套入奧巴馬的影像後,其聲線、語氣、動態都和奧巴馬本人幾乎一樣,只是奧巴馬在公眾場合絕不會說一些粗鄙或鼓吹殺戮的言語,但在這段偽造的影片中,「他」就公開說出了這些話。

這種技術的應用正在慢慢普及,但卻大多被用來製作惡搞影片或色情影像,結果Deepfake成為了一些立心不良的人,偽造影片的工具。雖然社交平台Reddit、推特(Twitter),色情網站Pornhub(直譯就是色情影片中心)已經禁止所有移花接木的Deepfake色情片段,但在網海內還有無數渠道可以將這類影片發放及傳送。

明光社

有研究員指出Deepfake技術的影響將會十分深遠,預計這門技術在五年內足以欺騙沒有受過訓練的大眾。研究員說的話並非危言聳聽,這門技術的確有本領令人難辨真假,特別是在大家沒耐性對真假查根究柢的年代。電腦科學家蘇帕索恩.蘇瓦耶納柯恩(Supasorn Suwajanakorn)就曾於一個公開講座展示四個奧巴馬的演說片段(圖四),與會者都無法分辨哪一個才是真正的奧巴馬,但原來四個奧巴馬都是偽造出來的。[6] 這代表在未來政治角力上,有人可能為了爭取選票或權力,而以這種技術來製造抹黑對手的片段。更諷刺的是當進入虛假影片充斥的年代,就算有真實的影片流出時,我們也會對它的真實性產生懷疑。

科技正在發展,我們沒可能走回頭路,只能對未來的影像、片段保持警惕,不要輕信,尤其是要留意資料來源。愈奇怪、愈沒法追尋的消息或片段,就愈要抱懷疑的態度。如不想被人用Deepfake技術轉換成為虛假影片的主角,就要好好保護自己的影像,不要讓陌生人輕易取得,因為愈多不同的影像(如不同的表情或從不同的角度拍攝的影像)成為影像生成的數據,製作出來的影像就會愈神似。以此來看,公眾人物很容易便會成為Deepfake的主角,他們亦要承擔更高的風險。

這門技術的確有其危險的一面,不過,如將它用於正途,如製作電影、回顧歷史事件,或緬懷名人、已逝世親人的影片等,不單可以減低拍攝危險場面的風險,也可以提高逼真程度。如能活化人物,更可以拉近我們與被緬懷者的距離。


[1] 孔祥威:〈【科技.未來】Deepfake假得迫真 深度造假模糊真相甚麼才可信?〉,《香港01》,2018年12月07日,網站:https://www.hk01.com/周報/268011/科技-未來-deepfake假得迫真-深度造假模糊真相什麼才可信(最後參閱日期:2019年5月4日)。

[2] Lonely.wm:〈深度解密換臉應用Deepfake〉,知乎,2018年2月27日,網站:https://zhuanlan.zhihu.com/p/34042498(最後參閱日期:2019年5月4日)。

[3] Good Morning America - abc, “Jordan Peele uses AI, President Obama in fake news PSA,” Youtube, last modified 18 April, 2018, https://www.youtube.com/watch?v=bE1KWpoX9Hk.

[4] Caroline Chan, “Everybody Dance Now,” YouTube, last modified August 22, 2018, https://www.youtube.com/watch?v=PCBTZh41Ris.

[5] 〈AI換臉朱茵變楊冪 網絡爆發爭議〉,《頭條日報》,2019年3月1日,網站:http://hd.stheadline.com/news/realtime/chi/1445328/(最後參閱日期:2019年5月4日)。

[6] TED, “Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn,” YouTube, last modifiied July 25, 2018, https://www.youtube.com/watch?v=o2DDU4g0PRo.

數據、謊言與真相

19/11/2018

《數據、謊言與真相:Google資料分析師用大數據揭露人們的真面目》
作者:賽斯˙史蒂芬斯—大衛德維茲(Seth Stephens-Davidowitz)
譯者:陳琇玲
出版地:台北市
出版:商周出版
出版年份:2017年

 

作者賽斯˙史蒂芬斯—大衛德維茲為網路數據專家,每天都要追蹤人們在網路上留下的數位足跡。他試圖從人們點擊或按鍵中,了解他們真正想要的是甚麼,真正會做的又是甚麼,以及他們的真面目。

作者發現人們即使面對朋友、戀人、醫生、問卷調查,甚或自己,都沒有把自己的真正想法表達出來。然而當面對大型的搜尋引擎時,他們往往可以在搜尋欄中吐露真心。例如當年奧巴馬贏得大選,成為美國總統的時候,一般的民意調查,又或是兩位知名教授的分析,都指出美國國民並不在乎奧巴馬是黑人。不過,作者卻發現Google搜尋器所呈現出來的,跟調查相距甚遠,美國仍有不少人懷有種族主義,他們會用仇視黑人的字眼在網上進行搜尋。簡單而言,很多人會在眾人面前說謊,但當面對Google搜尋器時,他們的想法卻無所遁形。因此作者運用了Google搜尋統計,發現了人們不願說出口的秘密,包括深藏內心的種族歧視、仇恨思想、以及未報案的虐童案件等。

大數據洩露人們的秘密,這有助政府、組織或企業挖掘一些連人們自己都不知道的偏好,以為它們帶來好處。同一樣貨品,大數據可能讓企業家了解有哪些顧客願意支付更高的價錢,掌握了這方面的資料,企業家就能在特定的顧客群中,獲取更多的利潤。大數據甚至可以幫助賭場老闆認識不同賭客的「痛點」,甚麼是「痛點」?它是指當賭客輸掉的金錢,超過某個金額時,他們便會在賭場消失一段時間。賭場老闆會千方百計讓賭客輸掉的金額最接近,卻又不會超過「痛點」。當某位賭客的「痛點」臨近,賭場老闆會請他吃免費牛扒,老闆此舉看似大方,事實上,他只是想賭客在「痛點」前收手,令他在明天或短時間內再來光顧。

大數據看似厲害,但身為數據分析師的作者,卻提醒大家不要過度迷戀數據,這樣會令人忽略了更重要的考量。情況就如耶魯大學某位行銷學教授,她本來打算研究計步器如何給人帶來積分,激勵人走更多的路。誰知為了爭取更多的積分,她走路走至身體疲乏,甚至把計步器放在三歲女兒的身上,讓她幫忙賺取分數,只迷戀數字的她,結果當然沒有完成關於計步器的任何研究。

另外,作者也提出「以數據取人」存在著危險。現在美國的僱主考慮工作應徵者時,更常搜尋應徵者的社交媒體。有研究顯示在facebook上對莫扎特按讚的人,往往智商較高,而對哈雷機車按讚的人,往往智商較低。若果僱主相信這種數據分析,真的拒絕了一位聰明但喜歡機車的人,這位應徵者豈不冤枉?因此,作者指出數據革命的危險在於「隨著生活各個層面日漸被量化,這些代理判斷可能會更深奧也更擾人。更準確的預測可能導致更微妙和更惡毒的歧視。」(頁336)

作者以風趣幽默的行文方式及大量例子闡釋大數據的力量,同時,也讓讀者反思在大數據之下,人們既無法掩藏真正的想法,甚至可能被監控或遭到歧視也不自知。

 

教育的倫理與倫理的教育——淺談教育哲學

李卓乘 | 明光社項目主任
30/04/2018

相對於語言哲學和政治哲學等當代哲學研究的顯學,教育哲學(philosophy of education)顯然鮮有人提及,也鮮有人廣泛討論和深入思考。

筆者當年在大學打滾時,突然頓悟這類討論的重要性,但是找遍了本校和其他大學的哲學系課程,卻找不到相關的課程修讀。相反,筆者在文化研究一類的課程中卻聽到很多對教育制度和對教育本身的批判,例如說教育是維護權力結構的工具、學校是知識工業的重要一環、教育裡充滿父權等。然而,文化理論的批判往往是地圖炮,它告訴我「教育真的可以很可怕,可以很多陰謀」,但卻沒告訴我應該怎樣做才好。

然而,我們卻極度需要教育哲學的思想資源。遠的不說,單是近日,港台兩地都爆發了有關教育的大辯論。

對香港而言,有線新聞報道教育局審核中史教科書的「不當內容」,引起全民嘩然。諸如「中國『收回』香港」、「香港位於中國南方」等句子竟然不獲通過。究竟學校「應該」教導那種史觀,歷史教育的目的又是甚麼?我們在詰問「教育的倫理」。

對台灣而言,有關「性別平等教育法」(後稱「性平教育」)的爭議蘊釀多時,終於連同當地的婚姻制度,一同提升到全民公投的層次。究竟「性教育」應是品德教育還是生命技巧訓練?在教育中加入價值觀是否正當?這次我們在詰問「倫理的教育」。

 

教育的道德

很多人將歷史教育想得很簡單,以為教導「歷史事實」就行了。例如上述的「收回香港」等問題,按當時的用語寫就對了。

誠然,我們有很多「歷史事實」(史料),但歷史從不是這些史料的總和。而是將這些史料有機地統一的敘事(narrative)。採用和建構何種敘事,就是歷史學家論戰的場域。不同的敘事本身就是對歷史的詮釋,反映了史家對事件因果關係和重要性的判斷。正是這些判斷,令不同的歷史作品可以一較高低。

同時,這也是充滿意識形態的選擇,因為敘事必然要設定某些視角和主體。正是歷史這方面的特性使它常常成為「公民」或「國民教育」的一部份。以近代的「鴉片戰爭」為例。我們的中學教科書必定以清朝為本位,敘述一種「西方列強瓜分神州大地」的史觀。

個別史觀其實是一方之見,但往往對讀者的人格塑造有很大影響。筆者直至在預科時讀徐中約先生的《中國近代史》,才明白這段歷史可從國際關係和外交風波角度來理解,知道清廷對西方諸國何其惡劣,不論我們使用的是「鴉片戰爭」還是「商貿戰爭」,背後的問題不只是「鴉片是不是商品」那麼簡單。

上述經歷對筆者的人格有不少影響,相信不少讀過歷史的人也有類似經歷。另外,一些重大的歷史事件,如納粹大屠殺等亦然,正如保羅利科所說,我們有銘記這些事件的義務。

既然諸如歷史科的知識對人格塑造有這麼大的影響,而這類知識又不像數學般,難言哪一方的意見是絕對正確,那麼我們必須反思教育的道德問題:老師、校方、政府等在甚麼程度和甚麼意義上可以塑造學生的人格?它們又有甚麼義務和責任?

讓我們先看看倫理的教育,再回來討論這問題。

 

道德的教育

性教育向來是社會熱門討論的話題。比如說,性教育應該教甚麼,不同年齡的人應該學甚麼等,其中一項常見的爭議就是:性教育應該牽涉道德嗎?

傳統的「貞潔教育」(Abstinence Sex Education,ASE)一直以促進公共衛生,及處理青少年未婚懷孕問題為目的。不同的壓力團體對此並不認同,並大力推動另一個名為「全面性教育」(Comprehensive Sex Education,CSE)的方針。有別於前者,CSE的支持者批評ASE將性渲染為恐怖和代價極度沉重的事,以及將某種價值觀,例如支持婚內性行為及不濫交的價值觀,加諸在學童身上。因此,CSE不強調價值面向,高舉價值中立和享受性愛,並教授實用的避孕技巧和介紹不同的性行為。一些CSE課程更包含了「性別身份」和「性傾向」的探索。

CSE的做法惹來非議,不少人批評此舉無疑是鼓勵青少年發生性行為。而所謂的「價值中立」,其實它本身就是一種價值取向,因為當某課程視單一性伴侶和多個性伴侶同樣都是「好」的時候,它實際上就是在宣揚一種價值觀。在台灣引發全民公投的「性平教育」,就是採用了CSE的哲學。事實上,CSE已引發跨國界的抵制運動,有組織將這運動拍成紀錄片。[1]

圍繞CSE和ASE的爭議往往不只是兩者的成效差異,[2]更是涉及很多倫理問題。例如CSE的支持者就批評ASE剝奪學生的知情權(rights to know)和壓制了學生的性權。相反,ASE的支持者也批評CSE過早「性化」(sexualize)幼童;更批評CSE不是「教育」,因為真正的教育理應教導學生控制自我,並鼓勵他們追求教育。

由此可見,這種「倫理的教育」的爭議最終會走回「教育的倫理」問題上。我們最終要問:教育的理想是甚麼?

 

自主

筆者認為,上述問題背後牽涉的,是自主(autonomy)的問題。

「自主」是啟蒙時期以降所強調的價值。通俗點說,就是「自己的事自己決定」,「自主」的相反就是他律。我們相信一個理想的人應是「自主」的個體,他的身份、決定以及人生取向應是「自己決定」,而不是由他人決定。

正因為自主如此重要,歷史科那塑造人格的強大力量才既危險,又重要。有關各類性行為的倫理問題,也有人主張理應由學生「自己決定」,而不是由老師這些他者或權威來告訴他們。

吊詭的是,教育往往在很多方面都與自主衝突。就最基本的形式而言,在學校中有一個代表著「權威」的老師,在學術或在道德上不斷「告訴」學生甚麼是對、甚麼是錯,又命令學生要做這做那,這件事本身就很不自主。因此,在教育哲學中有一種「建構主義」,主張讓學生自己推斷、發現和建構知識,老師只是從旁輔助。與「建構主義」相對的,則是傳統的「指導主義」。

有人認為徹底的「建構主義」教育顯然是反教育的,因為教育的一大價值就是將人類累積的知識傳授給下一代:要學童自主地發現和推斷出牛頓三大定律,究竟要多少時間?(我們又走回「教育是甚麼」的問題,是傳授?抑或啟發?)

術科知識的傳遞會出現以上的情況,到底這種「建構主義」教育在價值領域中又是否可行呢?例如在性教育課堂裡,老師不告訴學生甚麼是對甚麼是錯,只告訴他們各項選擇的後果。又例如在歷史教育中,老師只告訴學生不同的史觀,讓他們自行判斷。這種教學方式強調充分的了解(well informed)後才決定,它背後的哲學是將人視為理性的主體,強調理性的選擇。它似乎最為符合一般啟蒙式的自主理念,但如果將它實踐在教育方面,就會令教育時間過長。

然而,正如啟蒙時期的各種理念被批評,上述的教學方式也受到類似的批評:包括它傾向將教育倫理視為教育理論方面的知識(theoretical),但是倫理是應該具備實踐的(practical)元素;它又過於將倫理化約為後果計算和理性選擇,而倫理更多時是各種與人相處的體驗和道德經驗;最重要是,這種教育無法培養學生的德性和道德意志。事實上,很多犯罪者並非不知道犯罪的後果,他們只是沒有意志去制止自己犯罪。

當中的討論背後也涉及對「自主」這理想的不同詮釋。啟蒙時期的理念認為,「自主」就是「理性為自我立法」,強調理性,而「自我」是一個理性主體。而批評啟蒙思想的人則認為「自主」是「掌控自我的能力」,強調意志,他們所指的「自我」是各種經驗的集合體。

批評啟蒙思想者的教育觀,主張我們不用將道德抽空實際經驗來教育學生。他們教授性教育時,也許會把一個仿真的初生嬰兒機器給他們照顧,讓他們體驗生命的重量,其後只需要說明一些基本資料就足夠了。在歷史與自我身份的建構中往往也強調實際的體驗,如去考察古蹟等。

我們剛才淺談了不同形式的教育哲學。顯然,我們的社會尚欠缺這方面的知識和深入的討論;而這些哲學在我們討論教育時,理應被思考更多。

 

[1] The War on Children: The Comprehensive Sexuality Education Agenda, Family Watch International,  available from https://www.comprehensivesexualityeducation.org/film/(cited 25 Apr 2018).

[2] 就成效差異可看以下文章,它闡釋了在不同條件下,不同方式的性教育的成效差異。Stan. E. Weed and Thomas Lickona, "Abstinence Education in Context: History, Evidence, Premises and Comparison to Comprehensive Sexuality Education," in Sex education : attitude of adolescents, cultural differences and schools' challenges, ed. Maureen C. Kenny (New York : Nova Science Publishers Inc., 2014), 27-70.

曾經刊載於:

香港獨立媒體,30-4-2018

互動、內容才是王道

郭卓靈 | 明光社項目主任(傳媒教育及行動)
19/03/2018

根據最新的報告指出,對比2013年及2016年香港的電視廣告收益,由134億元減至119億元,跌幅為11%。[1] 相信與每日收看電視的市民在這幾年間跌至七成左右有關,而時間亦由每日3.2小時減至2.3小時。科技進步了,大眾選擇收看節目的途徑增多,網絡上容易收看各類節目,人們很自然會少了時間看電視,媒體的廣告費亦有不少轉而 投放在社交平台——如臉書、關鍵意見領袖(KOL)或微電影等形式中散播。電視除了加強現時電視節目內容以吸引廣告外,亦要另找尋生存渠道。

 

4K劇集不能只有

我們在前已有討論過電視台的步伐是一直跟在科技的發展往前走及改變的。現時香港的電視台的步伐又正在做什麼呢?作為龍頭大哥,TVB於2017年5月才開始播放首部4K全實景拍攝製作的劇集《不懂撒嬌的女人》,強調斥巨資在香港、上海的購物商場作實景拍攝,而當時劇集亦因為涉及中、港、台三地女性的分別,而引起了大眾一時的討論及收看,但這類反映社會現況的劇集不多。之後,就算還是以4K實景拍攝的《賭城群英會》及《溏心風暴3》等,亦因為內容乏味、因循,而未能維持較高的收視。

其實4K拍攝,早於2014世界盃已有,2016年Netflix都有4K資訊、NowTV亦與Samsung合作有Now One機頂盒點播4K節目……[2] 隨著科技發展,追求視覺的美與高解像度,實在是必要的了。然而,要吸引觀眾的追捧又豈能只靠視覺?

 

同步增加黏著螢光幕的吸引力

明光社

除了劇集,電視台晚間時段亦提供了不少飲食、旅遊或健康資訊等節目。但這類節目,亦和劇集一樣,可以隨時上網收看,卻很少提供可與觀眾同步互動的節目。如果能讓觀眾即時透過網絡作互動,參與遊戲節目,令觀眾黏著螢光幕的吸引力會大增。就如台灣,吸收了網絡平台節目的成功經驗,於是與電視台合作製作跨螢互動益智節目,「內容將會在直播平台與電視同步播出,網友可透過App與藝人共同答題過關搶獎金,留言討論也會被選取至攝影棚內的大螢幕上。」[3]這種遊戲方式涉及電視節目的播放與手機應用程式同步,並加上高度穩定的網絡連線。就能讓用戶「黏著」電視節目的播放時間上線,並於任何地點都可參與遊戲。明顯地這和創意運用科技及節目製作成本等方面都很有關係,是一種可以為電視這傳統媒體帶來更多年輕觀眾的做法。

而造星節目方面,如韓國的《Produce 101》及內地的《偶像練習生》,他們都有讓觀眾參與推選自己支持的年輕人成為偶像新女團、新男團。在這種有份參與及支持偶像出道的過程,會令觀眾投入度大增,並更易在偶像團隊(如I.O.I、Wanna One)組成後,更投入支持這些藝人。

 

靠大數據集合碎片

互聯網令人們容易選擇自己喜歡的內容,不用再必需要跟隨「大圍」去走,也是所謂「碎片化」的情況開始發生。觀眾甚至可以「碎裂」至完全不看大台節目,過往這種大眾傳媒的影響力亦正日漸遞減。而只於網上「煲劇」、看電影的人,相信大有人在。而按統計數字來說,有42%的人現在所花於看電視連續劇的時間比起他們五年前所用的時間為多,[4] 更稱一些懂得爭取時間煲劇的朋友為「煲劇跑手」(Binge Racer)。根據Netflix的統計,香港跑手人數是亞洲區的第五名,[5]還偏向愛好30分鐘內、節奏明快的劇集,連煲劇的速度都較快,三兩天已能看完一整季的節目,這結果符合香港人急速的生活節奏。

以上的資料其實在顯示,人們不是不再「煲劇」,而是更懂得善用時間於他們有空閒的時候,揀他們認為「值得煲」的劇。Netflix、Hulu及Amazon 這類OTT平台[6]提供了全球如海量般的劇集、電影……而且,他們因為於網絡平台上擁有觀眾收看節目的喜好和時間等大數據,更有利於統計及分析及提供未來製作、訂購劇集的方向。

 

別忘了內容才是王道

使用科技,得到的數據用作製作更好的節目,還是拿去吸引廣告商?看到大台斥資做Big Big Channel、myTV SUPER機頂盒、OTT,跟著潮流去做,甚至會有課金制度、廣告宣傳配套,短暫的利益可能不少。但見它過份地「力谷」這些新成立的網上渠道,連電視節目的內容都讓位給Big Big Channel作宣傳,[7]期望吸引更多人登記成用戶,卻忘記了電視台要做好電視節目的內容才是重點。[8]

面對著網絡上的推陳出新,若只跟隨外地的應用程式及節目提供的技術,那只是跟著別人後腿跑,[9]失去主次及方向。如將情況套到傳媒訊息傳遞的層面上來看,面對科技進步,人們的意見、思想卻走向碎裂的方向,吸收資訊亦同樣要求速度、方便、感官刺激的時候…… 我們又如何可以有效、恰當地傳遞既具吸引力,亦能有質素的內容呢?

 

[1]〈觀眾減 廣告收益跌11%〉,《蘋果日報》,2018年2月21日,

https://hk.news.appledaily.com/local/daily/article/20180221/20310699

[2] 〈[4K是甚麼?]《不懂撒嬌的女人》大台首部4K全實景製作 唔使再睇低質廠景!〉,《Cosmopolitan》,https://www.cosmopolitan.com.hk/entertainment/15bd1d7d9a832ef

[3] 〈17直播攜手八大電視搶觀眾,打造「跨螢」互動益智節目〉,《數位時代》,https://www.bnext.com.tw/article/48082/17-media-partnered-with-gtv-for-a-new-game-show-in-taiwan

[4] TV & Media 2017 – A consumer-driven future of media, An Ericsson Consumer and Industry Insight Report, Ericsson Consumerlab. Website:

https://www.ericsson.com/assets/local/careers/media/ericsson_consumerlab_tv_media_report.pdf.

[5] 〈【煲劇如比賽】煲劇跑手一日跑完《深夜食堂》 香港跑手人數居冠〉,《香港01》,2017年10月23日,https://www.hk01.com/藝文創意/127337/-煲劇如比賽-煲劇跑手一日跑完-深夜食堂-香港跑手人數居冠

[6] OTT(Over the top),透過網路訊號將媒體內容建立在雲端,如Youtube、Netflix等。

[7] 〈只見Big Big Channel 再見香港小姐〉,《香港01》,2017年9月4日,https://www.hk01.com/01博評-藝.文化/116758/-港姐2017-博評-只見Big-Big-Channel-再見香港小姐。

[8] 〈Big Big Channel緊要過讀劇本 樂小姐叫藝員埋位前狂做直播〉,《香港01》,2017年11月15日,https://www.hk01.com/娛樂/133695/Big-Big-Channel緊要過讀劇本-樂小姐叫藝員埋位前狂做直播。

[9] 〈進擊的Big Big Channel,能攻陷誓死唔睇TVB的人嗎?〉,《香港01》,2017年6月23日,https://www.hk01.com/01博評-藝.文化/99964/進擊的Big-Big-Channel-能攻陷誓死唔睇TVB的人嗎-。

AI,我有話說……

吳慧華 | 受訪者:雷競業博士 (中國神學研究院 天恩諾佑教席副教授) | 撰文:吳慧華 (生命及倫理研究中心 高級研究員)
29/11/2017

1956年,麻省理工學院的約翰·麥卡錫(John McCarthy)在達特矛斯(Dartmouth)會議上提出了「人工智慧」這個概念。他認為「人工智能就是要讓機器的行為看起來就像是人所表現出的智能行為一樣。」61年後,現在的AI不單是行為上看起來像人,有的更是外表看起來像人。

2017年11月4日,澀谷未來,一個虛擬的人工智能穫得日本澀谷區長所發出的一張「特別住民票」,這位「七歲小朋友」外表是經由電腦合成的影象,會隨時間和環境改變,他的工作是傾聽居民的意見,讓當地政府與居民相互更加熟悉了解。其實,2017年10月,女機械人Sophia已成為沙特公民,它是首個獲得公民身份的機械人,除了在沙特的大會上公開演講,也到訪其他國家。當被問及機械人是否有自我意識時,她反問人類是怎麼意識到自己是人類的呢?原來……一個如此俏皮機智的女機械人,並不只出現在電影中,是活生生在現實中存在著。

人工智能看似遠,其實十分近,它的發展一日千里,當人工智能機械人的外貌跟人類幾乎一樣,能力比人類強的時候,人類本質上有甚麼是超越他們的?另外,人工智能又如何影響人類的生活,甚至做人態度?今次,我們訪問了中國神學研究院的雷競業博士,就信仰角度去探討「人工智能」這課題。

電影文化下的人工智

訪問一開始,雷博士便先從電影入手。雷博士談到不少關於AI的電影都散播著「AI很厲害」、「對人類極具威脅」的信息。在《虛疑智能》(Ex Machina)這一部電影中,AI女機械人Ava的智慧已經在人類之上,把當中兩名男主角玩弄於股掌之間,不像2001年的《A.I.人工智能》,當中的AI小男孩渴望自己可以如人一樣,Eva卻只希望擁有人的外表,闖出實驗室走進人類世界。當人工智能愈來愈強大的時候,人類似乎對本身失了自信,經常害怕自己被人工智能機械人取代,甚至被它們毀滅自己。

基督教的人觀

即使有國家頒發公民証或居住証給人工智能的機械人或虛擬人類,又或是機械人的能力如何比人類強,都不代表機械人有著「人格」。雷博士指出中世紀的時候,很多神學家都認為「人有神的形象」,大多指到人的理性或有一些能力是其他生物所沒有的。然而,雷博士傾向於Karl Barth 及Ray Anderson的看法,認為人有神的形象,與萬物不同,關鍵不在於人的理性或能力,而在於人與神的關係,以及人與之間的關係。

人工智能與人類沒有交流嗎?Sophia與訪問者不是有講有笑嗎?根據雷博士對人觀的看法,即使人工智能可以回應人類的提問,又或是服從人類每一個指令,仍然是不足夠的,因為它們欠缺了自由意志。

人工智能被人類創造出來,它們主要的目的是要服從他們的創造者——人類的指令。然而,人類卻不同,人類被神創造,是有召命的,然而,人不是一開始便會知道自己的召命是甚麼,也不是一開始,便能服從神的命令,相信不少人即使知道自己的召命是甚麼,他們還是要經過掙扎,才決定走上神的召命。信徒會掙扎是因為人類有自由意志,而這是非常難能可貴的。耶穌亦不例外,當祂在客西馬尼園呼求「父啊,如果你願意,就把這杯拿走!但不要成就我的意思,只要成就你的旨意。」(《新譯本》路二十二42)。掙扎過後,耶穌願意放下自己的意思,成就神的旨意。自由意志有時成為我們想去跟從神的絆腳石,但事實上,對人類來說這是非常寶貴的。

人工智能讓人更走向更自我中心

無可否認,人工智能提升人類的生活質素,讓人生活得更舒適,然而,人工智能機械人或寵物,有可能讓人更走向自我中心。2016年12月底,Gatebox的投影虛擬女友在香港推出300部。這位虛擬女友會向你噓寒問暖,提醒你穿衣拿傘,也會透過社交平台給你發信息,說些窩心的話,它更可以透過GPS定位,在你將到家時,為你開燈……。停產了12年,Sony會於2018年出產全新的智能機械狗,這一隻機械狗有自學能力,可以記著主人的喜好,如果連接雲端,它更會學習其他智能機械狗跟主人相處的技巧,所以它會愈來愈像真的狗。它的「個性」會隨著主人的相處方法、環境不同而有所改變,因此每一隻都不一樣。

當與雷博士談及到這些人工智能「伴侶」時,我們可以想像,這類產品很容易滿足個人的需要及慾望,它們都是有功能性的,也可以完全配合人類的需要。當主人沒有空時、無心打理時,又或是厭倦的時候,可以不必開啟它們的開關掣。

雷博士同意將來若有更「似人」的人工智能機械人出現時,有些人或許不需要真人版的「伴侶」。他重申,人工智能是有功能性,可以滿足人的需要,但在關係中,最難能可貴的是你不可以控制他人,基於愛,你願意放下自己,這快樂是難以形容的。

 

延伸閱讀:

Anderson, Ray Sherman. On Being Human: Essays in Theological Anthropology. Grand Rapids: Eerdmans, 1982.

人類敵不過人工智能?

吳慧華 | 生命及倫理研究中心 高級研究員
22/06/2017

AlphaGo有多厲害?它分別打敗了柯潔及李世石這兩位世界級的圍棋高手。有網民高呼「想到機器無敵時,也是一種恐懼呀。」。也有人估計AlphaGo的母公司DeepMind會蒐集AlphaGo與兩大高手爭戰的數據,並且公佈成論文,並宣佈「人腦敵不過電腦的時代已來臨」。

是否AlphaGo打敗了兩大圍棋高手,便代表電腦勝過人腦的時代已經來臨?事實上,自從發明機械或電腦開始,人腦便註定「比不上」它們。試問現今還有誰可以準確無誤地記下一萬個客戶的資料,還包括他們的出生年月日(有了智能電話之後,可能連10個電話都說不出)?正如自從人類發明汽車一刻,便知道在道路暢通無阻的情況之下,人類是無法與汽車匹敵一樣。如果我們可以接受人類奔跑的速度比不上跑車,記憶力不如電腦,那麼,我們亦毋須得被AlphaGo比下去,因為AlphaGo與人類比拼的,返回最核心的仍是記憶力、計算能力,以及不眠不休的學習能力。

AlphaGo本身不懂圍棋規則,卻可以贏了圍棋高手,全靠被人餵養了3千萬份棋譜,而當中不乏高手的佈局資料,透過這批海量資料,好讓AlphaGo懂得模仿高手出招。再配合策略網路(判斷對手最可能的落子位置)及評價網路(下在這的勝率是多少) 、蒙地卡羅樹枝搜尋法(從有限的組合中計算最佳的位置)。另外,AlphaGo可以做到晝夜不分與自己博奕,不斷提升自己的能力。開始時或許只有3千萬份棋譜,但到了與李世石比賽時卻已經增加到1億。這一種強大的組合,又試問哪一個血肉之軀有力量去抵擋?即使李世石出了「神之一手」擊敗AlphaGo,AlphaGo卻轉眼間變得更強大。

人類與人工智能之間,永遠無法有公平的競爭。DeepMind的創辦人之一,AlphaGo 之父Demis Hassabis(德米斯 · 哈薩比斯)在一次演講中提到:「圍棋就是一門藝術,是一種客觀的藝術。我們坐在這裡的每一個人,都可能因為心情好壞產生成千上百種的新想法,但並不意味著每一種想法都是好的。而 AlphaGo 卻是客觀的,他的目標就是贏得遊戲。」一部絕對冷靜客觀又會超級運算的電腦,又哪有人是它的對手?除非,人類可以發明另一部人工智能,比AlphaGo的推算能力更快更強大,這時,兩者的競爭才公平。所以,亦有人說,打敗AlphaGo的其中一個方法,便是有一隊專門研究人工智能的團隊,為柯潔教路。

所以,如果稱讚AlphaGo打敗了柯潔及李世石,倒不如稱讚它打敗了它的前輩DeepBlue。DeepBlue只做到打敗國際象棋冠軍,對於圍棋這種更複雜以及高手會憑直覺來行的棋類,完全無能為力。相對國際象棋,圍棋的變化性更甚,19格X19格的方陣,共有361個落子點,所以整個圍棋棋局的總排列組合數高達10的171次方。AlphaGo的成功不是證明人類的失敗,正如數據科學家尹相志提到,AlphaGo「根本就是為了下圍棋所設計出來的人工智慧,如果要拿它來解決其他問題,勢必神經結構以及算法都必須要重新設計。所以李世石與其說是輸給了AlphaGo,還不如說是輸給了數學」。AlphaGo的出現,它證明了人類在研發人工智能方面,又邁出了一大步。

雖然AlphaGo戰績輝煌,甚至被中國圍棋協會授予職業圍棋九段稱號,但在數據科學家眼中,它還是弱人工智慧,它沒有自我意識與思考,只在於計算而不懂得理解圍棋的美學與策略。難怪李世石都批評「下棋的電腦並不了解圍棋之美、人之美」。是的,你要它明白圍棋的文化精神,是絕對沒可能的事情。它不會理解為甚麼圍棋又名「坐隱」、「手談」、「忘憂」、「爛柯」,以及當中的文化精神。也不會明白執黑子者為何通常第一手會下在右上角,以表示對白棋的尊重,AlphaGo基本上是連圍棋規則都不會。

人工智能與人類最大的不同在於人工智能能力高,卻缺少了「人性」。Google雲端人工智慧暨機器學習首席科學家李飛飛提出「情感面,人工智能基本連起步都還沒有」。因為人類有情感,所以面對比賽有壓力,不能冷靜自如,但正正因為人類有情感,人在逆境中能夠迸發無窮潛能,懂得靈活思考及變通,超越本身肉體或智力的限制,完成很多不可能完成的任務。人類不應與人工智能比能力,而應與它們比「人性」。

 

曾經刊載於:

獨立媒體,2017年6月20日

人工智能?人變低(智)能…?

── 生命倫理錦囊 第28期

陳永浩博士、吳慧華 | 恒生管理學院通識教育系助理教授 | 生命及倫理研究中心 研究員
22/12/2016

當我們人人都成為「低頭族」,智能手機本身彷彿比其主人更有智慧、更有記性,要找甚麼都有答案,處事也更有條理。事實上,不論你喜歡與否,人工智慧的應用技術已經應用於我們日常生活裡,就像在智能手機中常使用的「超級助理」應用程式 (Apps),如iPhone的Siri 或是Android 設備上的語音助手,都是人工智能的成功例子。我們或許要問問一個基本問題:機器真的能思考嗎?人工智能會否有一日取代人類思維?

 

關於人類本身可否開發出「另外智慧」的問題,雖然早有討論,但多停留於傳說或只成為科幻小說的題材。但自從於1944年,哈佛大學研製出首部現代電腦(IBM ASCC, Mark I)後,人工智能的可行性便大大增加了。[1] 其中,以著名的電腦發展先驅圖靈(Turning)點出了最重要的問題:「一部機器能夠思考嗎?」他提出了「圖靈測試」作為分辨機器能否思考的最重要原則。[2] 後來在1956年於達特茅斯學院舉行了第一次有關「人工智能開發」的研討會,正式確立了人工智能的研究領域。自這會議之後,人工智能這門學科就在半世紀間建立起來。[3]

 

總括而言,人工智能的簡要定義,就是一個機器或電腦系統具有人類的知識和行為能力,並能繼續學習,以至作出推理及判斷來修正和解決問題。同時間,除了具有記憶及知識能力,它也要有了解人類自然語言的能力。要達到以上目標,人工智能機器就需要具有以下四方面的處理能力範疇:(一)與人及外間事物的聯絡溝通能力;(二)處理事物能力(如符號處理 symbol manipulation;最著名的有LISP人工智慧語言;(三)能累積經驗以更快解決問題(heuristic search);以及(四)完善的邏輯(logic)系統。[4]

 

強與弱人工智能?

 

或許說出來有點恐怖,「弱人工智能」的機器與電腦應用程式,其實早已融入於人類社會中。如在工廠裡替代人類工作的機械人,到手機裡的「幫手程式」都歸入這類。它們並沒有真正的推理和解決問題能力,也不會有自主意識,但卻足以取代人在工廠的位置,也比人記得更多朋友和事情。它們的出現,並不如科幻小說中取代並消滅了人類;相反地,人類卻愈來愈依賴它們。

 

相對地,「強人工智能」則被認為有推理(Reasoning)和解決問題(Problem Solving)的能力,並有知覺能力(Sensible)和自我意識(Self-Conscious),這和科幻小說中的機械人(如在《星空奇遇記》中的機械人Data)差不多了。要實現強人工智能的水平是非常困難的,不過當中仍有取得佳績的時候,如2015至16年轟動全球的「電腦圍旗手擊敗人類」即為一例:Deep Mind 電腦公司開發的人工智能程式AlphaGo,在2015年以 5比0的成績擊敗了三度蟬聯歐洲圍棋冠軍的樊麾。AlphaGo其後更於2016年3月將世界冠軍李世乭也擊敗了。[5]

 

其實由人工智能引發的問題,重點不在於機械人如何超越或取代人類(因這一早已實現了),而是人類在受惠於人工智能的方便時,不知不覺地退化:如記憶,我們的行事都依賴了智能電話/電腦記事,運算也靠電腦。[6]

 

人工智能及智能產品的信仰反思

“Efforts to create thinking machines pose a threat to our very existence.”- Stephen Hawking

努力去創造懂得思維機器我們的生存構成威脅 霍金

 

早前有不少科學研究員推測,進入2030年人工智能會從各方面介入人類的生活:智慧交通信號燈、家用機器人、智慧醫生、機器人老師等。[7] 其實,不必等到2030年,只要你有能力及願意,即使在2016年也可以「帶」一部管家機械人回家。這位「管家」會認知用戶的家庭環境,從而建立一幅家居地圖,識別房間環境和家具位置。你可以設定指令,讓它在你回家前把客廳的冷氣機調至特定溫度。另外,它亦可以錄製語音,在你所需的時間及地點去關愛家人,甚至提醒孩子做作業。它還可以充當護衛員,巡查你指定的房間;還有,它可以一邊巡邏,一邊凈化及加濕空氣等。[8]

 

不過,對於很多人來說,這還不算人工智能。最好這位機械人管家可以與人有交流及傾談,不需要先設下一大堆程式及指令,單用語音已能令它明白主人的心意。可能在不久之後,真的會有這樣的管家機械人出現,因現在的人工智能都朝向可以深層學習、自我改進,以及更擬人化的方向發展。[9]

 

人工智能不斷發展,或許對一般人而言是好事,因為人們大抵只會想到與改善人類生活的好處。然而,當機械人愈來愈聰明,愈來愈與人類相似的時候,這意味著在某些崗位上,它代替人類的機會也愈來愈高。事實上,自從實際自動化以來,很多工作已被聰明的機械取代人手,讓人類喪失了無數的工作機會。[10]

 

除此之外,在軍事發展上人工智能的機械人更是被重視的一個領域。未來的目標是研製出更自動化,甚至有自我意識的機械人,這樣,便可以減少人類的死傷。[11] 驟眼看來,擁有智能的士兵似乎是為了人類的好處而存在,但最終,他們的出現只會造就更多人的死亡。至少,對敵方來說,要抵抗非肉身的士兵,可能需要更多活生生的士兵才能取得勝利。霍金(Stephen Hawking)指出智能機械人比核武更危險。科技企業家伊隆·馬斯克(Elon Musk)亦對此深感憂慮,認為這是對人類存在的最大威脅。蓋茨(Bill Gates)也贊同馬斯克的擔憂,反而不明白其他人為何對過度聰明的人工智能的發展不存憂慮。[12]

 

人工智能或許如基因改造一樣,科研人士原先的動機都是好的,希望解決人類的問題,讓人類有更好的生活。無可否認,每一項科技的誕生的確帶給人類方便,解決了某些問題,大多數人認為科技的發展必然對世界有好處。但隨著人性的墮落,野心家的出現也是必然。若然沒有為這些發展設下界限,將來為人類所帶來的危險將是難以估計及控制的。亞當與夏娃吃禁果(創三4-7) ,以及巴別塔事件(創十一4),闡述了人類最危險的地方便是渴望像神一樣擁有智慧,並且狂妄自大。

 

另外,智能產品亦加添人類的壓力與負擔。即使還未被人視為人工智能的智能手機,也已經影響了我們的生活。例如,智能電話的出現便讓不少人喪失了真正放工的時間、記憶力變差、患上「數碼癡呆症」。[13] 至於當一個城市擁有愈多自動化的設備,基層人士就愈難找到工作。失業的確令人無奈,但記憶力衰退卻是人類自找的,因為很多人已經認為自己不再需要緊記那麼多資訊了,只要隨便打開一部手提電話,便能找到所需資料,如:朋友的生日、工作行程等。[14]

 

人與智能產品的關係變得非常密切,即使是信徒,也沒有例外。現今很多信徒一天沒有靈修,也不會感到心癢難當,但卻有不少信徒一天不上網,便憂心愁煩,彷彿天要塌下來一樣。舊約的詩人喜愛神的律例,並以默想神的律法為樂。詩人提到他喜愛神在法度定下的道路,如同喜愛一切財富一樣(詩一一九14);其他詩人又說一個有福的人,便是一個喜愛神的律法,畫夜思想祂律法的人。這樣的人做甚麼事情都會順利(詩一1-3)。基本上,基督信徒難以想像在神的律法中找到快樂,甚至讓人樂在其中。[15] 一來律法絕對不是讓人賞心悅目的東西:另外,新約信徒不再需要遵守舊約。因此,我們不必太重視律法。

 

然而,即使現今信徒不必遵守舊約律法,卻並不代表信徒可以漠視律法中的精神或精粹。耶穌曾說他不是要廢除律法,而是要完成律法(太五17)。律法中最重要的除了愛神,便是要愛人(路十27)。至於具體如何愛人,便是要通過施行公義,以及照顧有需要的人(彌六8;太二十五35-36)。即使我們不必拘泥於舊約律法,但這卻無阻我們多閱讀《聖經》,去體會及明白神的心意。只是今天,我們的時間及空間大多被智能產品霸佔了,留給神的時間及空間又有多少呢?

敬畏耶和華(不是AlphaGo)是智慧的開端,認識至聖者就是聰明。(箴九:10)

對某些人來說,衣服含有不同的意義,包括身份的象徵。下一期,我們一同思想我們如何看待自己的價值。

 


[2] 圖靈測試的設計,是以測試者與被測試目標(通常是一個人及一台機器作比較) 被分隔開的情況下(即測試者不能知道互動的是甚麼),通過裝置(以不能分辨出對方為原則,如鍵盤)向被測試者隨意提問。如果測試者不能確認被測試者的答覆是由人還是由機器回答,那麼這台機器即能「騙過人類」,通過測試。A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460

https://www.csee.umbc.edu/courses/471/papers/turing.pdf

[3] John McCarthy, Marvin L. Minsky, Nathaniel Rochester, Claude E. Shannon (1955) A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955 http://www.aaai.org/ojs/index.php/aimagazine/article/viewFile/1904/1802

[5] 人工智慧有多恐怖?聽聽「天才」Demis Hassabis 怎麼說!https://www.inside.com.tw/2016/02/21/the-superhero-of-artificial-intelli...

[6] 沈帥青:〈玩手機易變笨 小心「數碼癡呆症」〉,《香港經濟日報》,2014年04月30日。

[7] 〈2030年,人工智慧可能以五個出人意料的方式成為我們生活的一部分〉,奧創智能網。http://www.acznw.com/archives/32058.html; “Artificial Intelligence and Life in 2030.” September, 2016. One Hundred Year Study on Artificial Intelligence, Report of the 2015 Study. PANELhttps://ai100.stanford.edu/sites/default/files/ai_100_report_0831fnl.pdf]

[8] 〈科沃斯發佈管家機器人 UNIBOT,比手機廠商們的野心大多了〉,5月21日。http://www.toodaylab.com/72317.

[9] “Artificial Intelligence and Life in 2030,” pp. 14-17.

[10] Rory Cellan-Jones, “Stephen Hawking warns artificial intelligence could end mankind,” BBC news.  2 December 2014, http://www.bbc.com/news/technology-30290540.

[11] Michael Sainato, “Stephen Hawking, Elon Musk, and Bill Gates warn about Artificial Intelligence.” From Observer website.: 19 Aug 2015, http://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-war....

[12] Michael Sainato, “Stephen Hawking, Elon Musk, and Bill Gates warn about Artificial Intelligence.” From Observer website: 19 Aug 2015. http://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-war....

[13] 見註1。

[14] 同上。

[15] John Goldingay, Psalms Vol 1: Psalms 1-41 (Michigan: Baker, 2006), 83.

電影小組花絮 -- 《超時空接觸》、《人工智能》與《智能叛侶》

郭卓靈 | 明光社項目主任(傳媒教育及行動)
16/11/2016

8月份分享電影《超時空接觸》:世界很大,實在有很多事情有待探索。

女主角Ellie Arroway從小就對天文學產生濃厚的興趣,希望通過電台監聽各個波段的訊息,尋找來自地球以外生命發出的訊號。她的工作一直沒被重視,直到後來真的找到發自外星的訊號,建造了與外星人連結的設備,她也直接與外星人接觸了。最終,卻因沒法提供實質證據而被質疑、否定。她後來卻醒覺到,這經歷正正和她一向不倚靠的信仰一樣,沒法提供實質證據、被質疑,但其體驗卻真真實實的活在每個人當中。

是次討論,我們邀請了資深影評人黃肇峰先生來分享,他與我們分享了科學及科幻電影的分別,亦讓我們認識科幻電影的起源。細看我們以往看過的科幻電影,當中的發明、產品,有些是已經實現了,或很有可能會發生。讓我們對未來有著不少的期待與憧憬。

肇峰提到在不少科幻電影當中,原來也隱含了許多人們對外星人或不明飛行物體的推論或聯想,科學、政治、宗教之間的爭論及不信任等問題。世界這麼大,信仰與外星生物,兩者真的不可能共存嗎?這真的值得我們細細的思考。

 

9月份分享電影人工智能智能叛侶》:很擔會被人工智能取代嗎或許回到我們最原本的生活並和它友善共存才是最合宜的境況。

兩套電影講述人類未來的科技可以設計出外表和人類難分真假的機械人。前者所描述的小男孩機械人David能為人付出愛,但人類卻怕被取代和充滿私心,反而對單純的機械人發起追捕行動。後者所描繪的女機械人Ava,卻是極攻心計,為了逃出密室,不惜用盡方法欺騙男主角去幫她逃出生天,最後卻不顧而去。而兩套電影的機械人最終都想追求自己的夢想,成為真的人類。

於恒生管理學院任教通識科的陳永浩博士(Michael),讓參加者認識圖靈測試及人工智能的發展。原來圖靈測試早於1950年已被提出,用以判斷機器是否能夠思考,我們與機器溝通時,是否難以分辨它是真人或是機械人? 

Michael指出,人工智能的發展,未必一定很壞、與人為敵或取代人類,反而是人們如何「教導」它,讓它學習甚麼才是重點。而且,人們是否會全然依賴它,令自己退化、退步?這也是人類需要衡量及控制的。此外,Michael也建議大家可以再次著重手藝的工作,再次去感受創作、製造出成果的感受。

《上帝的男高音》與《觸不到的她》

郭卓靈 | 明光社項目主任(傳媒教育及行動)
12/09/2016

電影小組花絮

6月份分享電影《上帝的男高音》:全心全意把最好的、僅有的奉上給主

充滿恩賜又舉世聞名的歌唱家裴宰徹處於歌唱事業顛峰時患癌,割去腫瘤後失聲……不單事業掉至谷底、失去謀生技能,甚至連說話也感到困難。縱使太太及經理人不離不棄,他仍一度認為神離棄了他,取走了他的恩賜! 直到想通了生命及歌唱的意義,他願意全然奉獻給上帝。

 

本地知名歌唱家胡永正分享這電影中的歌曲、唱歌技巧、及他對恩賜的看法。他認為聲帶能夠發聲,本身已經是一種很神奇的事:「……兩邊的聲帶要拉緊,中間透過空氣使其震動才能發聲。只要聲帶有一點點受傷,就會發不出聲。」所以他慨嘆一些不用心練習歌唱的人,實在是「暴殄天物」,把上天賜予我們的恩典埋沒了。

「學習唱歌最難的,不是技巧,不是語言,而是有勇氣去面對自己不完美、失敗的一面。」他認為生命的價值不在於他有多少恩賜、擁有多少物質;而是縱使多不完美,也要忠心良善地去發揮上天給予的,在有限的生命裡發揮無限、創出永恆價值。

 

7月份分享電影《觸不到的她》:從科技困局走出來,放膽將感受坦然表達

失婚宅男Theodore與人工智能開發的Samantha由互相了解再發展成為戀人,彼此以聲音、視像維繫沒有身體接觸的戀愛關係。一天Theodore發現自己所經歷的,是科技裡的多人戀愛關係,最終軟件突然停止運作,一切彷彿是個夢。當Theodore再面對現實世界關係時,發現坦誠表達感受、有肩膀可靠倚的重要。

 

是次與參加者探討人工智能、大數據、溝通及戀愛等話題。人工智能速度快,其背後連結的雲端數據也威力強大,如能為擁有者提供服務,必定是非常準確體貼的助手及心靈伴侶:定時提醒、隨傳隨應、耐心聆聽需要,根據大數據準確測度用家心情……就像電影般為男主角排難解憂,甚至提供安慰。但是,萬能、完美的「她」是虛擬的,你會安於與電腦程式成為戀人、知己嗎?

雲端科技服務與真人實在大不同:我們每天都有很多事情要辦,難以同時兼顧多樣事情。人工智能不能取代人的原因是缺乏那份真實接觸的感覺,若要與人真誠互動溝通,就需要放下事務,聆聽對方同時也開放自己,說出內心感受。當渴望有人聆聽自己時,我們又可會先成為聆聽者?

在一切講求高速的年代,能與人耐心溝通是一種挑戰。盼望科技是讓人與人之間更方便溝通的工具,而不是窒礙溝通和信任、或企圖用之來替代人的產物。