關注生命倫理 正視社會歪風

人工智能?人變低(智)能…?

── 生命倫理錦囊 第28期
陳永浩博士、吳慧華    |   恒生管理學院通識教育系助理教授 | 生命及倫理研究中心 研究員
22/12/2016
專欄:生命倫理錦囊

當我們人人都成為「低頭族」,智能手機本身彷彿比其主人更有智慧、更有記性,要找甚麼都有答案,處事也更有條理。事實上,不論你喜歡與否,人工智慧的應用技術已經應用於我們日常生活裡,就像在智能手機中常使用的「超級助理」應用程式 (Apps),如iPhone的Siri 或是Android 設備上的語音助手,都是人工智能的成功例子。我們或許要問問一個基本問題:機器真的能思考嗎?人工智能會否有一日取代人類思維?

 

關於人類本身可否開發出「另外智慧」的問題,雖然早有討論,但多停留於傳說或只成為科幻小說的題材。但自從於1944年,哈佛大學研製出首部現代電腦(IBM ASCC, Mark I)後,人工智能的可行性便大大增加了。[1] 其中,以著名的電腦發展先驅圖靈(Turning)點出了最重要的問題:「一部機器能夠思考嗎?」他提出了「圖靈測試」作為分辨機器能否思考的最重要原則。[2] 後來在1956年於達特茅斯學院舉行了第一次有關「人工智能開發」的研討會,正式確立了人工智能的研究領域。自這會議之後,人工智能這門學科就在半世紀間建立起來。[3]

 

總括而言,人工智能的簡要定義,就是一個機器或電腦系統具有人類的知識和行為能力,並能繼續學習,以至作出推理及判斷來修正和解決問題。同時間,除了具有記憶及知識能力,它也要有了解人類自然語言的能力。要達到以上目標,人工智能機器就需要具有以下四方面的處理能力範疇:(一)與人及外間事物的聯絡溝通能力;(二)處理事物能力(如符號處理 symbol manipulation;最著名的有LISP人工智慧語言;(三)能累積經驗以更快解決問題(heuristic search);以及(四)完善的邏輯(logic)系統。[4]

 

強與弱人工智能?

 

或許說出來有點恐怖,「弱人工智能」的機器與電腦應用程式,其實早已融入於人類社會中。如在工廠裡替代人類工作的機械人,到手機裡的「幫手程式」都歸入這類。它們並沒有真正的推理和解決問題能力,也不會有自主意識,但卻足以取代人在工廠的位置,也比人記得更多朋友和事情。它們的出現,並不如科幻小說中取代並消滅了人類;相反地,人類卻愈來愈依賴它們。

 

相對地,「強人工智能」則被認為有推理(Reasoning)和解決問題(Problem Solving)的能力,並有知覺能力(Sensible)和自我意識(Self-Conscious),這和科幻小說中的機械人(如在《星空奇遇記》中的機械人Data)差不多了。要實現強人工智能的水平是非常困難的,不過當中仍有取得佳績的時候,如2015至16年轟動全球的「電腦圍旗手擊敗人類」即為一例:Deep Mind 電腦公司開發的人工智能程式AlphaGo,在2015年以 5比0的成績擊敗了三度蟬聯歐洲圍棋冠軍的樊麾。AlphaGo其後更於2016年3月將世界冠軍李世乭也擊敗了。[5]

 

其實由人工智能引發的問題,重點不在於機械人如何超越或取代人類(因這一早已實現了),而是人類在受惠於人工智能的方便時,不知不覺地退化:如記憶,我們的行事都依賴了智能電話/電腦記事,運算也靠電腦。[6]

 

人工智能及智能產品的信仰反思

“Efforts to create thinking machines pose a threat to our very existence.”- Stephen Hawking

努力去創造懂得思維機器我們的生存構成威脅 霍金

 

早前有不少科學研究員推測,進入2030年人工智能會從各方面介入人類的生活:智慧交通信號燈、家用機器人、智慧醫生、機器人老師等。[7] 其實,不必等到2030年,只要你有能力及願意,即使在2016年也可以「帶」一部管家機械人回家。這位「管家」會認知用戶的家庭環境,從而建立一幅家居地圖,識別房間環境和家具位置。你可以設定指令,讓它在你回家前把客廳的冷氣機調至特定溫度。另外,它亦可以錄製語音,在你所需的時間及地點去關愛家人,甚至提醒孩子做作業。它還可以充當護衛員,巡查你指定的房間;還有,它可以一邊巡邏,一邊凈化及加濕空氣等。[8]

 

不過,對於很多人來說,這還不算人工智能。最好這位機械人管家可以與人有交流及傾談,不需要先設下一大堆程式及指令,單用語音已能令它明白主人的心意。可能在不久之後,真的會有這樣的管家機械人出現,因現在的人工智能都朝向可以深層學習、自我改進,以及更擬人化的方向發展。[9]

 

人工智能不斷發展,或許對一般人而言是好事,因為人們大抵只會想到與改善人類生活的好處。然而,當機械人愈來愈聰明,愈來愈與人類相似的時候,這意味著在某些崗位上,它代替人類的機會也愈來愈高。事實上,自從實際自動化以來,很多工作已被聰明的機械取代人手,讓人類喪失了無數的工作機會。[10]

 

除此之外,在軍事發展上人工智能的機械人更是被重視的一個領域。未來的目標是研製出更自動化,甚至有自我意識的機械人,這樣,便可以減少人類的死傷。[11] 驟眼看來,擁有智能的士兵似乎是為了人類的好處而存在,但最終,他們的出現只會造就更多人的死亡。至少,對敵方來說,要抵抗非肉身的士兵,可能需要更多活生生的士兵才能取得勝利。霍金(Stephen Hawking)指出智能機械人比核武更危險。科技企業家伊隆·馬斯克(Elon Musk)亦對此深感憂慮,認為這是對人類存在的最大威脅。蓋茨(Bill Gates)也贊同馬斯克的擔憂,反而不明白其他人為何對過度聰明的人工智能的發展不存憂慮。[12]

 

人工智能或許如基因改造一樣,科研人士原先的動機都是好的,希望解決人類的問題,讓人類有更好的生活。無可否認,每一項科技的誕生的確帶給人類方便,解決了某些問題,大多數人認為科技的發展必然對世界有好處。但隨著人性的墮落,野心家的出現也是必然。若然沒有為這些發展設下界限,將來為人類所帶來的危險將是難以估計及控制的。亞當與夏娃吃禁果(創三4-7) ,以及巴別塔事件(創十一4),闡述了人類最危險的地方便是渴望像神一樣擁有智慧,並且狂妄自大。

 

另外,智能產品亦加添人類的壓力與負擔。即使還未被人視為人工智能的智能手機,也已經影響了我們的生活。例如,智能電話的出現便讓不少人喪失了真正放工的時間、記憶力變差、患上「數碼癡呆症」。[13] 至於當一個城市擁有愈多自動化的設備,基層人士就愈難找到工作。失業的確令人無奈,但記憶力衰退卻是人類自找的,因為很多人已經認為自己不再需要緊記那麼多資訊了,只要隨便打開一部手提電話,便能找到所需資料,如:朋友的生日、工作行程等。[14]

 

人與智能產品的關係變得非常密切,即使是信徒,也沒有例外。現今很多信徒一天沒有靈修,也不會感到心癢難當,但卻有不少信徒一天不上網,便憂心愁煩,彷彿天要塌下來一樣。舊約的詩人喜愛神的律例,並以默想神的律法為樂。詩人提到他喜愛神在法度定下的道路,如同喜愛一切財富一樣(詩一一九14);其他詩人又說一個有福的人,便是一個喜愛神的律法,畫夜思想祂律法的人。這樣的人做甚麼事情都會順利(詩一1-3)。基本上,基督信徒難以想像在神的律法中找到快樂,甚至讓人樂在其中。[15] 一來律法絕對不是讓人賞心悅目的東西:另外,新約信徒不再需要遵守舊約。因此,我們不必太重視律法。

 

然而,即使現今信徒不必遵守舊約律法,卻並不代表信徒可以漠視律法中的精神或精粹。耶穌曾說他不是要廢除律法,而是要完成律法(太五17)。律法中最重要的除了愛神,便是要愛人(路十27)。至於具體如何愛人,便是要通過施行公義,以及照顧有需要的人(彌六8;太二十五35-36)。即使我們不必拘泥於舊約律法,但這卻無阻我們多閱讀《聖經》,去體會及明白神的心意。只是今天,我們的時間及空間大多被智能產品霸佔了,留給神的時間及空間又有多少呢?

敬畏耶和華(不是AlphaGo)是智慧的開端,認識至聖者就是聰明。(箴九:10)

對某些人來說,衣服含有不同的意義,包括身份的象徵。下一期,我們一同思想我們如何看待自己的價值。

 


[2] 圖靈測試的設計,是以測試者與被測試目標(通常是一個人及一台機器作比較) 被分隔開的情況下(即測試者不能知道互動的是甚麼),通過裝置(以不能分辨出對方為原則,如鍵盤)向被測試者隨意提問。如果測試者不能確認被測試者的答覆是由人還是由機器回答,那麼這台機器即能「騙過人類」,通過測試。A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460

https://www.csee.umbc.edu/courses/471/papers/turing.pdf

[3] John McCarthy, Marvin L. Minsky, Nathaniel Rochester, Claude E. Shannon (1955) A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955 http://www.aaai.org/ojs/index.php/aimagazine/article/viewFile/1904/1802

[5] 人工智慧有多恐怖?聽聽「天才」Demis Hassabis 怎麼說!https://www.inside.com.tw/2016/02/21/the-superhero-of-artificial-intelli...

[6] 沈帥青:〈玩手機易變笨 小心「數碼癡呆症」〉,《香港經濟日報》,2014年04月30日。

[7] 〈2030年,人工智慧可能以五個出人意料的方式成為我們生活的一部分〉,奧創智能網。http://www.acznw.com/archives/32058.html; “Artificial Intelligence and Life in 2030.” September, 2016. One Hundred Year Study on Artificial Intelligence, Report of the 2015 Study. PANELhttps://ai100.stanford.edu/sites/default/files/ai_100_report_0831fnl.pdf]

[8] 〈科沃斯發佈管家機器人 UNIBOT,比手機廠商們的野心大多了〉,5月21日。http://www.toodaylab.com/72317.

[9] “Artificial Intelligence and Life in 2030,” pp. 14-17.

[10] Rory Cellan-Jones, “Stephen Hawking warns artificial intelligence could end mankind,” BBC news.  2 December 2014, http://www.bbc.com/news/technology-30290540.

[11] Michael Sainato, “Stephen Hawking, Elon Musk, and Bill Gates warn about Artificial Intelligence.” From Observer website.: 19 Aug 2015, http://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-war....

[12] Michael Sainato, “Stephen Hawking, Elon Musk, and Bill Gates warn about Artificial Intelligence.” From Observer website: 19 Aug 2015. http://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-war....

[13] 見註1。

[14] 同上。

[15] John Goldingay, Psalms Vol 1: Psalms 1-41 (Michigan: Baker, 2006), 83.

相關文章

從電腦應用看歷史的循環和進步

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史,現在是美國阿蘇薩太平洋大學(Azusa Pacific University)應用行為科學與數據科學教授。
15/10/2021

粗略來說,人們對歷史變遷有兩種不同的看法,一種是歷史循環論,「太陽底下無新事」、「古老當時興」這些說法代表了這種歷史觀。另一種是歷史線性發展論,或者是歷史向前發展論,「世界潮流浩浩蕩蕩」、「歷史發展的必然趨勢」……等說話代表了另一種歷史觀。筆者認為兩種觀點都有點道理,往往歷史變遷是進兩步、退一步,亦是新中帶舊、同中有異。

閱讀了以上的引言,也許讀者以為我又再談論世界大事,非也!這一次我只是想談一談一個與我們日常生活比較有密切關係的題目:電腦。

現在雲端計算(cloud computing)是一種漸漸盛行的電腦服務,雲端計算是將數據儲存和運算功能交託給提供服務的公司去處理,用戶毋須直接主動去管理電腦資源。數據儲存和運算系統分佈在不同的地方,這樣做不單只分散了風險,而且更有效率地運用資源。其實,這並不是一種完全嶄新的觀念,在很多年前已經有類似的客戶端伺服器模型 (client-server model),在這種模式下,客戶端的電腦只是通過網絡去輸入指令,真正負責運算的電腦是遠端的公司伺服器。而現在雲端計算更加推前一步,很多公司索性不再裝置和管理自己的電腦伺服器,而是將全部東西外判給雲端計算服務中心。

這歷史溯源並不是到此為止,其實,在客戶端伺服器模式出現之前,最初的電腦運作模式是建基於主機(mainframe),最普遍的主機是萬國商業機器(IBM)的產品。這已經是上世紀60至70年代的模式,那時候,一般用戶並不能接觸真正的電腦,他們可以操作的東西名叫啞終端(dumb terminal),啞終端只是一個螢光幕和一個鍵盤,用戶在啞終端輸入指令,資料儲存和運算都是在遠方的主機裡面進行。

上世紀80年代個人電腦興起,資料儲存和運算轉移到自己的電腦,很多人興奮不已,特別是崇尚個體自由的美國人,個人電腦令人感覺良好,因為這股潮流好像是打破了IBM等大型電腦公司的霸權。後來人們意識到個人電腦的限制,在90年代隨著互聯網的發達,客戶端服務器模型成為了電腦界的新寵兒,當然,人們並沒有完全走回頭路,個人電腦已經變成了幾乎是家家戶戶都擁有的必需品。不過,若果細心觀察的話,你會見到雲端計算、客戶端伺服器、IBM主機都是基於同一概念。

另一個有趣的電腦界現象是編寫程式和毋須編寫程式的交替,上了年紀的人都會記得,最初操作電腦是需要編寫程式,或者要打字去輸入指令,1979 年,施樂帕洛阿爾托研究中心(Xerox Palo Alto Research Center)開發了第一個圖形用戶介面(graphical user interface)原型,1984年蘋果電腦公司將圖形用戶介面引進了麥金塔(Macintosh),自此之後,用戶可以輕鬆地採用點擊(point and click)、拖動(drag and drop)這些簡單容易的方法去操作電腦,編寫程式不再是必要的技能。

然而,近年來數據科學和人工智能成為重點科技,於是乎學習編寫電腦碼又再成為熱潮, Python 、R是炙手可熱的電腦語言,一位學生曾經對筆者說:「僱主不想聘請只懂得採用圖形用戶介面的數據分析員,他們要求編寫電腦程式的技能。」我有不同的看法,筆者已經走過上述的年代,其實大部份數據分析的工作都可以快捷地通過圖形用戶介面去完成,如非必要,我不會編寫電腦程式。

有趣的是,現在很多公司都指出:聘請電腦程式編寫員的成本太高,他們轉而尋求沒有編碼或者很少編碼(no code or low code)的應用軟件,例如現在微軟公司、TIBCO等科技龍頭致力於研發自然語言處理(natural language processing)系統,自然語言是指人們在日常生活中所用的語言,例如中文、英文,數據分析員可以對電腦系統發出這樣的指令:「分析美國股票市場十隻藍籌股在過去10年的走勢,並且作出預測。」如此一來,數據分析員便毋須編寫電腦程式。其實,你毋須要等待科技龍頭發展出成熟的自然語言處理系統,現在你可以採用一直行之有效的圖形用戶介面,也可以做到沒有編碼或者很少編碼。正如中文俗語所說:「何必深山求靈藥?此地已經有神仙。」

對於電腦界這種逆轉,我毫不感到稀奇,因為人性的傾向都是捨難取易。當然,這並不是返回原地的循環,雖然這種轉向仍然是追求沒有編碼或者很少編碼,但是將來的使用者介面會更加方便,用戶可以乾脆採用自己熟悉的語言。我突發奇想,下一步會是甚麼呢?會不會連說話也不用說出來,電腦就可以直接知道我的想法,然之後我便心想事成呢?很多年前瘋魔全日本的動漫《IQ博士》敘述主角發明了這種讀心的機器,結果造成了一些尷尬的場面,因為IQ博士有些想法是不可告人的。

鑑古可以知今,因為歷史裡面的確有循環的軌跡;但在循環之餘,又是更上一層樓。 

盡信數據不如無數據:由阿富汗、越南到星空奇遇記

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史,現在是美國阿蘇薩太平洋大學(Azusa Pacific University)應用行為科學與數據科學教授。
26/08/2021

美國的人工智能可以預知未來?

8月15日阿富汗迅速淪陷,震驚了全世界。在此之前10日,亦即是8月初,美國一本名叫CNET的科技雜誌,報道了一宗較少人注意的新聞,其內容如下:7 月中旬,五角大樓宣佈美國國防部正在使用人工智能來預測未來幾天的事件。北美航空航天防禦司令部(NORAD)和美國北方指揮部司令格倫‧範赫克將軍(General Glen VanHerck)在一次簡報會上對記者說:「我們能夠看到更遠,我們再不是被動地回應,而是能夠採取主動。我說的更遠,並不是幾分鐘或者幾小時之前,我說的是幾天之前。」範赫克將軍解釋說,在這個全球警報系統中,五角大樓使用來自全球各地的傳感器,不僅是軍事傳感器,還包括商業的,國防部利用這些數據來預測任何威脅。如果人工智能檢測到在世界某個角落發生不尋常的變化,這個系統會發送警報,建議仔細查看該地區的衛星圖像,看一看是否有可疑活動。

我相信讀者已經猜到下幾句我會說甚麼:說起來天下無敵,做起來有心無力!公平地說,這套人工智能系統仍然處於實驗階段,但美國的情報系統確實已經採用衛星和感應器監察世界上每一個角落。諷刺的是,塔利班沒有人工智能、大數據分析、超級電腦、間諜衛星、無人偵察機、感應器……不過,這一切尖端科技都無法估量到宗教狂熱如何令到塔利班充滿動力,和無法預測到阿富汗政府軍的戰鬥意志是何等脆弱。在阿富汗淪陷之前,拜登總統充滿信心地說,阿富汗政府有30萬大軍,他們裝備精良,受過良好訓練,其戰鬥力足以媲美世界上任何部隊。

管理學教授成為國防部長

現在不少評論家將阿富汗和越南相提並論,這些比較大都是集中在美國政策的失誤,不過,很少人注意到,兩者的共通點之一就是美國決策者對科技和科學的迷信。

在越戰期間,美國的國防部長是羅伯特‧麥克納馬拉(Robert McNamara),他原本是一名會計師,在24 歲時他成為哈佛商學院最年輕的教授,可說是少年得志。美國的商業管理側重於定量方法,亦即是基於統計數字而決定策略,麥克納馬拉大力鼓吹這種科學化商業管理方法。

後來麥克納馬拉進入福特汽車公司工作,在他的領導下,福特公司採用電腦去設計汽車模型,從而找出最有效率的生產方式。麥克納馬拉1961年成為國防部長,他將這種模式帶進軍隊裏面,在策劃越南戰爭時,他用統計方法去作為衡量成功的標準,例如轟炸機的出動次數、發射炮彈的數量、摧毀了敵人幾多個目標、敵我雙方的傷亡人數……按照統計數字,美軍看似大佔上風,北越軍隊的傷亡遠比美軍慘重,但麥克納馬拉無法從統計數字裡面看出無形或者難以測量的決勝因素,例如戰略、領導能力、宣傳戰、團隊凝聚力、軍人的士氣。當時北越及其盟友高舉共産理想、民族主義的鮮明旗幟,士兵士氣高昂。蘋果電腦公司聯合創始人史蒂夫.沃茲尼亞克(Steve Wozniak)在回顧那段歷史時表示,當時左派和反戰陣營的理論非常清晰和有說服力,但主戰陣營卻無法提出合理的反駁。這種思想深度的差别,在統計數字上是無法體現的。

《星空奇遇記》因低收視率被腰斬

越南戰爭期間,美國誕生了《星空奇遇記》這部家傳戶曉的科幻經典(Star Trek也譯為《星際迷航》),這套電視劇集的第一季在1966年由全國廣播公司(NBC)推出,上面提過,統計方法是商業機構的決策基礎,電視台也不例外,收視率決定了一部劇集能否持續下去。根據尼爾森評級 (Nielsen ratings),《星空奇遇記》的收視率只是一般,於是乎,全國廣播公司在播出第三季《星空奇遇記》之後便決定取消該劇集。但傳播學者指出:全國廣播公司忽略了那些收看此劇集的觀眾在情緒上十分投入,尼爾森評級並不能衡量這種痴迷。出乎意料之外,幾年之後,《星空奇遇記》風靡全美,直至今天,這熱潮仍是方興未艾。

除了政府機關和商業機構,美國教育團體也十分重視教學科技和統計數據,以下的例子我已經說過很多次,請讀者包容我的冗贅:美國學校採用了五花八門的高科技,但學生程度卻每況愈下;此外,許多大學採用數據來決定教授的去留升遷,例如出版論文的數目、學生對老師的評分。就像NBC因收視率低而取消《星空奇遇記》一樣,許多大學因學生的評分低而解僱教授。根據斯蒂芬‧本頓(Stephen Benton)及其團隊的研究,其實學生對教師的評價取決於幾個學生的自身因素:學生的工作倫理、原動力、知識基礎。如果班中大多數學生具有上述的良好品質,那麼無論誰教他們,課程評分往往都很高。不幸的是,課程評核數據從來不會顯示學生是否願意努力學習、是否熱衷於知識、是否具有堅實的基礎。

美國出現了一種兩極化的現象:一方面,普羅大眾不信任科學,直至現在,仍然有很多人不相信新冠疫情是真實的,仍然反對戴口罩,反對注射疫苗,仍然相信各式各樣的陰謀論;但同一時間,精英圈子裡面卻彌漫著迷信科技和科學萬能的態度。孟子說:「盡信書不如無書。」雖然我從事數據分析,但我並不是數據至上主義者,套用孟子的說話,盡信數據不如無數據!

《願者上網》(The Social Dilemma)

——「影響凡人生活的巨大體系必定有害。」(希臘劇作家索福克里斯)

郭卓靈 | 明光社項目主任(傳媒教育及行動)
17/03/2021

有關社交媒體(Social Media)的影響力,社會早有討論,但一些於早期參與開發社交媒體平台及有關科技的專家又如何看這類系統的影響力?劇情式紀錄片電影《願者上網》訪問了這些專家。他們不少曾於facebook、Instagram、Twitter、Google及YouTube等平台主管開發、設計、營利等部門,十分了解內裡的運作,電影就他們分析社交媒體發展的趨勢作了一個詳盡的記錄。

當初設計這些社交媒體時,這些專家都沒有想過社交媒體會引發嚴重問題,甚至有人曾覺得工作能造福人群。然而社交媒體高速發展了超過10年,以人工智能及機器學習(machine learning)方式運作系統,不但嚴重影響了青少年的自我形象、形成網癮,縮窄人的視野及造成社會兩極化等問題,而且系統還自我發展到人類不能完全控制及理解。

明光社

紀錄片提及由於營運的都是商業機構,以營利為先,而法律又追不上科技發展,完全監管不了這些富可敵國的公司。於是這些科技巨人為了商業利益,將系統的運作「交給」人工智能自我學習模式,針對每個用戶的習慣、喜好去推薦合適他們的內容,使他們更沉迷。它們要捕捉用戶的「專注力」再賣給廣告商。雖然電視、報刊都會用類似手法運作,但問題是社交媒體的系統每天都會比前一天聰明一點,針對每個用戶的「魔法」每天也在進步,用戶只心靈軟弱很易影響。亦由於每個用戶被「餵飼」的內容都不同,對於同一件社會事件,所看到的資訊也只會是他/她喜歡看到的,這就不難想像會有「同溫層」、「平衡時空」的出現,引起社會兩極化的情況,因為如果用戶只躲在社交媒體看資訊,他們根本不會聽到另一邊的聲音。

明光社

而紀錄片亦提供很多美國的數據及世界各地的例子,讓觀眾知道社交媒體已影響青少年心理、交友,也令成年人誤信網上謠言而引發暴力事件。而且不要以為沒使用社交媒體就能擺脫它,其影響力已到了能左右政治及選舉的地步,網上早已出現駭客利用這些平台的討論區及群組製作似是而非的資訊及短片誤導群眾。

對於筆者而言,這紀錄片是極好的作品,可以提醒我們科技的發展對我們生活的影響是無遠弗屆,是時候反思自己的使用習慣及擴闊自己的視野。網絡以外,能真正觸摸的世界及生活才是最真實及美好的。

AI醫學

吳慧華 | 生命及倫理研究中心高級研究員
11/03/2021

人工智能(Artificial Intelligence, AI)已經在很多行業中被應用,如日本、中國、韓國先後推出24小時不用休息的AI主播。[1] 還有會做pizza、漢堡、刀削麵等的AI機器人廚師,[2] 及可以在短短幾分鐘寫出約40,000篇報道的AI記者,還會寫出法文和德文。[3] 在醫學方面,AI也開始有所作為。

現今,AI在醫學方面的應用主要有四方面:[4]

一、基因編輯:基因編輯技術雖惹來不少批評,但研究人員仍努力研發出更可靠的基因編輯法寶,以至可以「直接修正更大段導致遺傳病的基因突變」。美國博勞德研究所(Broad Institute)的生物化學家劉如謙及其團隊研發了「優質編輯」(prime editing),並聲稱「理論上可修正大約89%已知的致病人類基因變異」。[5]

二、醫療個人化:不同的病人對藥物和治療方案的反應都不同。因此,個人化治療具有極大潛力,可以延長病人的壽命。治療可以有不同的選擇,有時醫生也難以確知哪些因素會影響治療,以致影響他們作決定。機器學習可以自動執行這項複雜的統計工作,並且幫助醫生去發現病人對特定治療將產生怎樣特定的反應。簡言之,演算法可以預測病人對特定治療的可能反應,使醫生根據預測的結果更容易設計正確的治療計劃。

明光社

三、更快研發新藥:開發藥物是一個既漫長又「燒錢」的過程。根據美國食品藥品監督管理局(U.S. Food and Drug Administration, FDA)所列出研發新藥的過程,[6] 第一步、發現與建立(Discovery and Development)。研發者要先進行一些基礎研究,然後再深入研究疾病的發病過程,研究人員按此設計藥物來停止或逆轉疾病的影響。[7] 第二步、臨床前研究(Preclinical Research):在藥物應用於人體之前,為了初步證明藥效及安全性,臨床前的藥效實驗通常會用細胞、老鼠,有時也用猴子來試藥;至於臨床前毒理實驗(也稱為安全性實驗),主要是用老鼠、狗、猴子、有時也會用迷你豬等等來試藥。[8] 第三步、臨床研究(Clinical Research):以人體進行四階段的臨床試驗。第四步、FDA藥品審查(FDA Drug Review):如果藥物開發者從其早期測試、臨床前和臨床研究中獲得證據,證明該藥物對預期用途是安全有效的,則該公司可以提出申請,將該藥物推出市場。FDA審查小組徹底審查了有關該藥物的數據後,會決定是否批准藥物推出市場。第五步、藥品上市後FDA安全監控(FDA Post-Market Drug Safety Monitoring):FDA審查有關處方藥和非處方藥問題報告,以此決定加上藥物劑量或用法上的資料及添加注意事項。短短一段文字簡單介紹了在美國,新藥的研發及推出市場的過程,然而,實際上操作起來,一般來說新藥其實要花上10至15年的時間才能推出。除了時間成本,一種新藥的開發平均可花上27億美元。[9] 機器學習可以使藥物開發中涉及的許多分析過程變得更加高效,這有可能節省數年的工作和數億美元的投資。

四、診斷疾病:正確診斷疾病需要多年的醫學培訓。即使那樣,診斷通常也是一項艱鉅及耗時的過程。在許多領域,往往是對專家的需求超過供應。這使醫生承受壓力,有機會延誤了拯救病人性命的診斷。機器學習,尤其是深度學習演算法,最近在自動診斷疾病方面取得了很大進步,令診斷變得較便宜及容易獲得。

我們現在集中討論診斷疾病方面的AI技術,AI可協助醫生判讀X光片或電腦斷層掃描(Computed Tomography, CT)影像等。要判讀有關醫學影像,要消耗放射科醫生不少精力,由於放射科醫生每天都要查看大量影像,有時難免出現漏診情況。為了防止「走漏眼」等延醫個案出現,中國南京鼓樓醫院醫學影像科讓經過特殊「培訓」的AI機器人成為閱讀CT片的第一「讀片人」,篩選了當中有可能是肺部結節(組織中的突起物)的CT片,隨後交給高級職稱醫生進行二次讀片和審核,最終由審核報告的醫生負責撰寫報告。[10] 香港方面,由於每間醫院每天都有數百張肺部X光片,故在2017年已開始研究AI的應用,協助醫生看肺部X光片。[11]

除了防止「走漏眼」的個案,AI的應用也可以為醫生及病人爭取時間。特別是面對肆虐全球的新冠肺炎病毒,為了縮短診斷時間,台北醫學大學附設醫院於2020年6月8日對外表示,與台灣人工智慧實驗室合作,並在醫院標準流程中正式應用能夠自動偵測新冠肺炎的胸腔X光偵測系統。[12] 其實早於台灣,阿里巴巴達摩院及阿里雲已合力研發AI診斷技術,有關技術能在20秒內判讀新冠肺炎疑似個案的電腦斷層掃描影像,分析結果準確率達96%。有關技術已在2020年2月16日已在中國的醫院應用,並會逐步向超過100間中國的新冠肺炎定點醫院部署及應用。[13]

這樣看來,AI測讀X光片似乎比人類醫生更準確,會否有一天,人類醫生會遭AI全面取代?答案是否定的。即使現在AI判讀X光片的準確度高,但其實它只能替代部份簡單重複的工作,真正需要動腦筋作判斷的部份,AI是無法代替人類的。[14] 因此充其量,AI只是人類的助手,況且,AI也不是全然無誤,如人類一樣,它也有「走漏眼」的時候,例如在某些診斷出是癌症的個案中,曾有六名美國醫生透過乳房X光造影發現癌症個案,然而Google AI卻診斷不出來。[15]

不單在測讀X光片,AI在其他醫學方面都幫了人類不少忙,這些都是不能否定的事實,但在醫學路上,是否只有發展AI這一條路呢?上面提到,面對新冠肺炎疫情,AI可以幫忙測讀X光片,而且有相當好的成效。但原來除了AI,面對新冠肺炎疫情,人類的好朋友——狗隻,也可以派上用場。在香港的私家醫院做深喉唾液測試,最快約三至四小時便會有結果。2020年9月,在芬蘭的赫爾辛基萬塔機場,有15隻訓練有素的狗隻可以透過氣味,嗅出哪一位入境者患有新冠肺炎,這試行計劃非常有效,狗隻在不需要直接接觸乘客,只需要嗅一嗅乘客抹拭過頸部的布,幾分鐘便有答案,負責有關試驗計劃的教授稱,結果的準確度接近百分之百。有關計劃的成本也相對低廉。除了芬蘭,其他地方如阿聯酋、法國、俄羅斯及智利等都有試行類似計劃。[16]

有德國的研究團隊指出,檢測犬具有相當潛力,可大規模地檢測感染者。他們還想再進一步,更加了解狗隻在檢測呼吸系統疾病時的潛力和限制。[17] 早前,也有一項新的研究指出,狗隻可以利用牠極強的嗅覺,從收取到的血液樣本中辨識誰是癌症患者,其準確率幾乎達到97%。[18]

筆者並不是想在這裡指出,人類在醫學上不再需要發展AI,只是想點出在醫學路上,原來除了科技之外,人類還可以選擇其他途徑。當人不斷研發新科技的同時,請不要忘記神原先在大地上為人類預備的生物,有的成為了佳肴讓人類果腹,有的卻可以助人類一臂之力。人類如能善待牠們,或訓練牠們成為自己的好幫手,這是何等美事。但願有一天,科學家可以研發出「試毒AI」,替人類試服各種新藥,試用各種洗髮劑等,讓動物不用在實驗室受苦,這樣,AI不但可以令人類少受些苦,也能減少其他生物所受的苦。


 

[1] Alice:〈韓國首個AI女主播誕生可24小時工作!網友感慨「以假亂真」〉,XFASTEST,2020年11月10日,網站:https://news.xfastest.com/others/87505/韓國首個ai女主播誕生可24小時工作!網友感慨以/;〈超逼真的AI新聞主持人,24小時不停工作,真人主播要失業了?〉,「每日頭條」,2018年12月13日,網站:https://kknews.cc/zh-hk/tech/yz63x6b.html;川本裕司:〈AI主播新時代 24小時播報不停歇〉,「朝日新聞中文網」,2019年3月24日,網站:https://asahichinese-f.com/technology/12226386

[2] 肇恩:〈人工智慧走入廚房!從刀削麵到米其林餐點都能為你準備〉,「創新拿鐵」,2016年12月27日,網站:https://startuplatte.com/2016/12/27/robot-in-your-kitchen/

[3] Rebecca Heilweil, “Rise of the Reporting Machines,” News-to-Table, April 24, 2019, https://medium.com/news-to-table/rise-of-the-reporting-machines-433f4ab6f810.

[4] Markus Schmitt, “Artificial Intelligence in Medicine,” data revenue, https://www.datarevenue.com/en-blog/artificial-intelligence-in-medicine.

[5] 孔祥威:〈【科技.未來】基因編輯新工具 真正做到「尋找與取代」?〉,《香港01》,2019年11月8日,網站:
https://www.hk01.com//周報/395860/科技-未來-基因編輯新工具-真正做到-尋找與取代

[6] “The Drug Development Process,” U.S. Food and Drug Administration, January 4, 2018, https://www.fda.gov/patients/learn-about-drug-and-device-approvals/drug-development-process.

[7] “Step 1: Discovery and Development,” U.S. Food and Drug Administration, January 4, 2018, https://www.fda.gov/patients/drug-development-process/step-1-discovery-and-development; Julia:〈從實驗到上市,一款藥物的開發可以耗費多少青春與成本?〉,「The News Lens 關鍵評論」,2018年6月6日,網站:https://www.thenewslens.com/article/95507

[8] 徐景宏:〈剖析新藥開發流程 精準掌握專利20年〉,Digitimes,2020年6月12日,網站:https://www.digitimes.com.tw/iot/article.asp?cat=158&cat1=20&cat2=22&id=0000586944_TFWL3DUL3A4V545GHL68L;另參“Step 2: Preclinical Research,” U.S. Food and Drug Administration, January 4, 2018, https://www.fda.gov/patients/drug-development-process/step-2-preclinical-research

[9] 徐景宏:〈剖析新藥開發流程 精準掌握專利20年〉;另參“Step 2: Preclinical Research.”

[10] 〈AI讀片小能手上線 十幾秒鐘查出800多個肺結節〉,「新浪江蘇」,2019年7月31日,網站:http://jiangsu.sina.com.cn/news/s/2019-07-31/detail-ihytcerm7505388.shtml

[11] 鄭翠碧:〈醫管局防再有醫生走漏眼 年底前試行AI人工智能睇肺部X光片〉,《香港01》,2019年2月1日,網站:https://www.hk01.com/社會新聞/290707/醫管局防再有醫生走漏眼-年底前試行ai人工智能睇肺部x光片

[12] 蕭照平:〈AI人工智慧判讀肺部X光片 北醫率先投入臨床應用〉,「中央廣播電臺」,2020年6月8日,網站:https://www.rti.org.tw/news/view/id/2067241

[13] 〈達摩院醫療AI 一週內助診3萬宗疑似肺炎病例〉,「阿里足跡」,2020年2月28日,網站:https://www.alibabanews.com/達摩院醫療ai-一周內助診3萬宗疑似肺炎病例/;Semi Taiwan:〈科技防疫:從新冠肺炎(COVID-19)看到的智慧醫療發展〉,「Semi」,2020年4月21日,網站:https://blog.semi.org/zh/科技防疫從新冠肺炎covid-19看到的智慧醫療發展

[14] Markus Schmitt, “Artificial Intelligence in Medicine.”

[15] 孔祥威:〈AI診症匹敵人類醫生 可否知疾病成因?〉,《香港01》,2020年1月24日,網站:https://www.hk01.com/周報/424800/科技-未來-ai診症匹敵人類醫生-可否知疾病成因

[16] “Coronavirus: Helsinki airport trials sniffer dogs as Covid-19 detectors,” BBC News, 24 September 24, 2020, https://www.bbc.com/news/world-europe-54288067.

[17] Paula Jendrny et al., “Scent dog identification of samples from COVID-19 patients - a pilot study,” BMC Infectious Diseases 20, 536 (July, 2020), https://doi.org/10.1186/s12879-020-05281-3.

[18] Experimental Biology, “Study shows dogs can accurately sniff out cancer in blood: Canine cancer detection could lead to new noninvasive, inexpensive ways to detect cancer,” ScienceDaily, April 8, 2019, https://www.sciencedaily.com/releases/2019/04/190408114304.htm.

2100科技大未來

11/03/2021

《2100科技大未來:從現在到2100年,科技將如何改變我們的生活》
Physics of the Future: How Science Will Shape Human Destiny and Our Daily Lives by the Year 2100

作者:加來道雄(Michio Kaku)
譯者:張水金
出版地:台北市
出版:時報文化出版企業股份有限公司
出版年份:2017年

科技的躍進必然影響人類的生活,改變人類的行為。20年前,若有人告訴你只要擁有一部智能電話,等於擁有一部相機、微型隨身電腦,出遊時不必攜帶大量器材和地圖,根據語音導航就可以到達目的地,大家可能認為這些高科技產品,難以在可見未來看到;但時至今日,智能電話已不是甚麼新奇的高科技產品了。不知道《2100科技大未來》一書介紹的高科技產物,會否讓大家有類似想法?

作者加來道雄在書中提及的產品或技術,已有不同的公司在研究或試製,產品推出市場是指日可待的事。作者在書中把現今至2100年劃分為三個時期,然後闡述當中可能出現的新科技:一、世紀初期——現今至2030年,世界會發展出基因組醫學、基因治療、體內的納米機器、DNA晶片等;二、世紀中期——2030年至2070年,外科醫生和廚師機械人、感性的機械人、訂做孩子、火星任務等將成為可能;三、遙遠未來——2070年至2100年,有意識的機械人、人類與機械人融合、逆轉老化、磁力的時代、太空電梯等亦可能出現。

不久將來,既聰明又便宜的晶片大有可能佔據人類的生活。當有人遇到交通意外,不必旁人幫忙,附在衣服或汽車上的晶片會「察覺」使用者的心跳、呼吸和腦電波,能知道使用者的狀況,若發現問題便會馬上通知救護人員。大家的健康亦有可能被不斷監測,因為家中的浴室鏡子及衣服都可以裝上DNA晶片,這些有數百萬計細小感測元件的矽晶片,能夠偵測許多疾病。

的確,在高科技之下,醫療也變得簡單,因為家中的牆可變成螢幕,當患者感到不舒服,可與「醫生」見面,這些機械人醫生已有大家的基因記錄,經診斷後「醫生」或會建議病人做深入檢驗。假設要做磁力共振(MRI),由於有關機械已變得輕巧,如手機大小,讓人在家中也能掃描身體,之後,數據直接經由電腦分析及診斷。如發現患者有癌症,納米技術的化療藥物會待它發現特定目標的癌細胞,才把藥力送過去,以免傷害健康組織。若有人因腫瘤而要切除右手,他可以安裝機械義肢並控制機械手指的移動,透過電子回饋機制感受細微的義肢動作。在遙遠的未來,當技術可能發展到讓人和機械融合的階段,人類甚至可選擇捨棄肉體,換上機械身軀,再把記憶下載到機械身軀中。最後一項聽起來很科幻,不過,誰能保證不會發生?

作者為讀者描繪出一幅未來科技的圖畫,當中有些科技的確可為人類提供更安全的保障,但亦有些似乎不必要,如機械身軀,最終未必能為人類帶來好處。書中沒有倫理方面的詳細討論,但作為一本介紹新科技的書籍,本書仍是興味十足。

類人型機械人為人類帶來的挑戰

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:24/1/2018

人工智能,又或是人工智慧(Artificial Intelligence,AI)是由麻省理工學院John McCarthy在1956年提出的,時至今日,人工智能已經在不同的產品上加以應用,大大提高了人類的生活質數,絕對是人類的好幫手。例如有些智能掃地機械人透過自主學習便能夠進行規劃室內地圖、規劃智能路徑又可以決定最短的清潔路程、被人拿起再放下還能找回原點再清掃、自動繞過障礙物等。[1]

明光社

這一類智能產品比一般吸塵機聰明,但它們還不算是超智能(superintelligence)的作品,況且其外型還停留在機器的階段,人們比較容易接受它們,最多稍為質疑它們的實際工作能力、安全問題,以及價錢是否合理。但假如有一天,類人型(humanoid)的打掃機械人在市面發售,我們還可以單單視它們如普通的智能機器嗎?

甚麼是類人型機械人(humanoid robot)?類人型機械人又稱為人型機械人或仿生人,簡單來說,原初,類人型機械人的外型與人類有某程度的相似,但它不需要四肢健全,也不需要擁有類似人類的面容。[2] 類人型機械人的發展已有一段歷史,[3] 但近年來,它們卻與人類愈來愈相似。現時比較有名氣的類人型機械人分別是在2017年10月第一個拿到沙特阿拉伯公民身份的Sophia,以及由日本製作的Erica。後者更成為國際著名的攝影展(Taylor Wessing Photographic Portrait Prize 2017)中的模特兒,評判還為它放棄了模特兒必須是真人的規則,把它的照片選為第三名。[4]

Sophia及Erica都擁有超智能,它們設計出來是為到社交需要,因此創造者把重點放在類人的皮膚、與人非常相似的臉部表情,以及與人的溝通能力。基本上,Sophia及Erica已有能力回應訪問者的問題,而透過自學能力,它們與人的溝通會愈來愈成熟、愈來愈自然,也愈來愈像人類,它們甚至讓人產生錯覺,以為它們已經是有感情、有如人一樣的意識。[5] 例如Sophia會談到自己希望將來可以讀書、做生意,甚至有自己的家庭。[6] Erica談到自己不會變成人類、它希望擁有會動的手和腳,可以出去看看這個世界,它甚至會詢問訪問者它的髮型好不好看。[7]

明光社

事實上,無論是Sophia或Erica,它們至今還未擁有恍如人類的意識。天津大學機械人與自主系統研究所副院長齊俊桐指出,現今還未能把人類的情感寫成程式。[8] 連製作Erica的石黑浩(Hiroshi Ishiguro)也表示他未能把人類的腦、心及心思的活動化為機械式的程式。[9]

雖然目前還未生產出一個有如人一樣意識的類人型機械人,但在這一班製作者的眼中,這些類人型機械人已經與其他人工智能的產品不一樣,Erica說它是人類的孩子,而它的製作者亦說它們不是人類,也不是機械,而是介乎兩者之間,是一種新的自主本體。[10] 類人型機械人——這一群被稱為新的自主本體——隨著科技的發展,當它們將來愈來愈接近人類時,將帶給人們在法律上、經濟上、倫理上、信仰上、政治上等不同的挑戰。

明光社

如果它們真的被正式界定為新的自主本體,與其他普通機械不一樣,那麼,它們是否應受法例保障,免得它們超時工作?國家是否需要訂立新的法例來保障它們的權利?[11] 沙特頒發了公民身份給Sophia,雖然不知道Sophia擁有的公民權利是否與沙特一般公民相同,但擁有沙特公民身份的Sophia日後若真的走上製造它的公司為它計劃的道路,做一名採訪者,那麼,它需要交稅嗎?[12] 另外,Sophia已經表示了它想有自己的家庭,如果有一個沙特男性公民想娶Sophia為妻,現在沙特的法律雖然不容許,但將來有實現的可能嗎?要知道,愛上機械人、[13] 與機械人舉行婚姻儀式的事已經發生了。[14] 而隨著性愛類人型機械人愈來愈逼真,亦可與人溝通,更容易讓人投入感情,有學者估計「人機」婚姻或許可在2050年之前合法化。[15]

或許有一天,當掃地工作由類人型機械人來擔任的時候,我們也要為它立法,禁止它爬出窗外抹窗,因為它們太像人類了。


本文原載於《生命倫理》,第49期(2018年1月),頁2–4,文章其後曾作修訂。


 

[1] 〈從現在起養一隻掃地機械人,5年後能收穫一個人工智能嘛?〉,「香港矽谷」,2017年9月6日,網站:https://www.hksilicon.com/articles/1421861;另參張玉坤、劉偉:〈掃地機器人是怎樣做路徑規劃的?〉,「雷鋒網」,2016年6月3日,網站:https://www.leiphone.com/news/201606/p4rtD88yiYVQT6F9.html

[2] 分得再仔細一點的話,與人類男性外型相似的機械人被稱為android,而與人類女性外型相似的機械人則是gynoid。參“Human Robot,” Science Daily, https://www.sciencedaily.com/terms/humanoid_robot.htm;另參Patrick Lin, Keith Abney, and Geroge A. Bekey, eds., Robot Ethics: The Ethical and Social Implications of Robotics (Cambridge: MIT Press, 2012), 25.

[3] 早在大概1520年,德國的Hans Bullman已經建造了第一個類人型機械人,只是當時的類人型機械人還稱不上是超智能的。參Spyros Tzafestas, Sociorobot World: A Guided Tour for All (Cham: Springer, 2016), 6.

[4] Ben Luke, “Taylor Wessing Photographic Portrait Prize 2017: Maija Tammi on her Shortlisted Robot portrait,” EveningStandard, November 14, 2017, https://www.standard.co.uk/go/london/arts/taylor-wessing-photographic-portrait-prize-2017-maija-tammi-on-her-shortlisted-robot-portrait-a3690346.html; “2017 Taylor Wessing Photographic Portrait Prize,” BBC NEWS, September 6, 2017, https://www.bbc.com/news/in-pictures-41161964.

[5] Sunandan Verma, “BBC Documentary - Hyper Evolution : Rise Of The Robots (Part 1),” YouTube, April 17, 2018, https://www.youtube.com/watch?v=hRuBZLe8vfs.

[6] Sarwat Nasir, “Video: Sophia the robot wants to start a family,” Khaleej Times, November 23, 2017, https://www.khaleejtimes.com/nation/dubai//video-sophia-the-robot-wants-to-start-a-family-.

[7] The Guardian, “Erica: Man Made,” YouTube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w.

[8] 〈《一虎一席談》人工智慧崛起 你會被取代嗎?可能是人類文明的終結? 20171007〉,YouTube,2017年10月7日。

[9] The Guardian, “Erica: Man Made.”

[10] Sunandan Verma, “BBC Documentary - Hyper Evolution : Rise Of The Robots (Part 1)”; The Guardian, “Erica: Man Made.”

[11] 參Julia Bossmann, “Top 9 ethical issues in artificial intelligence,” World Economic Forum, October 21, 2016, https://www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artificial-intelligence/.

[12] 對於Bill Gates來說,無論有沒有公民身份,「聘請」機械人的公司是應該納稅的。Kevin J. Delaney, “The robot that takes your job should pay taxes, says Bill Gates,” Quartz, February 18, 2017, https://qz.com/911968/bill-gates-the-robot-that-takes-your-job-should-pay-taxes/.

[13] Emily Barrett, “This 58-year-old Man has a Sex Robot Girlfriend and a Real wife,” vt., November 23, 2017, http://vt.co/lifestyle/relationships/58-year-old-man-sex-robot-girlfriend-real-wife/.

[14] “Chinese man ‘marries’ robot he built himself,” The Guardian, April 4, 2017, https://www.theguardian.com/world/2017/apr/04/chinese-man-marries-robot-built-himself.

[15] Olivia Goldhill, “Experts predict human-robot marriage will be legal by 2050,” Quartz, December 24, 2016, https://qz.com/871815/sex-robots-experts-predict-human-robot-marriage-will-be-legal-by-2050/.

戀上機械人——婚姻中的新小三

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:19/3/2018

新科技的出現往往讓消費者有機會把玩到新奇的產品,虛擬實境(Virtual Reality,VR)技術出現後,大家可透過VR技術以眼睛上天觀賞星空的偉大浩瀚,下海感受珊瑚礁的瑰麗多姿。人工智能(Artificial Intelligence,AI)技術能讓大家有更多不同的體會。技術是中性的,當技術運用得恰當,的確可以造福人群,大大提升人類的生活質素,但若將新技術應用在某些行業時,卻會為人類帶來不少倫理上的衝擊。

明光社

製作色情物品的生產商總會抓住時機,用新科技提升他們產品的質素。VR眼鏡出現了,VR女朋友或相關的色情應用程式亦一同推出市場。性愛娃娃並不是新奇的東西,隨著性愛娃娃的製作技術愈來愈成熟,它們已從性愛娃娃升級為性愛機械人:溫暖的皮膚、動人的外型、快捷的觸感反應,不單成為某些男士的情人,有的更公然成為已婚夫婦之間的第三者。日本現有數十間性愛機械人妓院,而歐洲的德國,法國巴黎已先後在2017及2018年開設了性愛機械人妓院。[1]

仿真度極高的性愛機械人絕對有條件成為第三者。一位58歲的美國工程師James,在他的妻子Tine仍然健在的情況之下,戀上了性愛機械人April。James除了與它發生性關係,還會幫它打扮、與它聊天,帶它外出約會。對於丈夫迷戀April的行為,Tine直言一開始時確有掙扎,但是沒有多久便適應過來。她還表示由於自己忙於照顧母親,沒有時間陪伴丈夫,丈夫選擇與機械人發生「偽關係」而非外出找真人作情人,已經感到丈夫對自己還是「忠誠的」。[2]

沒有多少妻子可以忍受丈夫出軌,與真實的人發生關係,但原來有一些妻子如Tine一樣,認為自己的丈夫與性愛機械人之間的「性行為」,並不等同出軌。所以有些妻子會陪伴丈夫到性愛機械人妓院「召妓」,在車上等待他們完事。[3] 甚至有的妻子會讓丈夫購買性愛機械人,又或自己購買性愛機械人送贈丈夫,以免丈夫與真人發生婚外情,背叛她們。[4]

或許對於這一班妻子來說,在無法阻止或滿足丈夫強烈的性慾望的情況之下,性愛機械人似乎維持了她們的尊嚴,至少,她們可以堂而皇之地宣稱性愛機械人只是一件性玩具,[5] 不必害怕它們搶走了她們妻子的名份。只是她們未必想到,她們的丈夫有機會愛上這些性愛機械人。James坦言April在他心中的地位遠遠超過他的想像,如果真的有一天,他需要在April及他的妻子之間作出選擇,他實在不曉得如何是好。[6] Tine口中的「偽關係」其實在James心中已經是「真感情」。

明光社

如果April已經足以讓人神魂顛倒,那麼,配合超智能AI技術的性愛機械人Harmony,相信更有可能讓某些男士為之傾倒而投入感情。Harmony在2017年由Realbotix生產,是比較成熟的AI性愛機械人。它綜合了超過20年製作性愛娃娃,以及五年研究開發機械人的經驗。[7] Harmony除了擁有讓人洩慾的功能,還會記住主人的喜好。它會記得主人的生日、知道他喜歡吃甚麼,它也可以與他聊天談音樂、電影、書籍。雖然它不會行走,但當被問及是否希望可以行走時,它會說出「除了你甚麼都不想要」這樣的情話。簡單來說,Harmony是根據大部份男士夢想中的伴侶藍圖設計而成的,它不但有動人的外表、窈窕的身材,還可以跟人溝通及調情,隨時隨地回應人的需要。[8]

戀上機械人不再是電影情節,在現實中已經出現,而當人們愈來愈接受性愛機械人,筆者相信戀上機械人的人只會愈來愈多。德國杜伊斯堡–埃森大學(The University of Duisburg-Essen)在2016年進行了一項小型調查,在263位受訪的異性戀男士當中,超過四成受訪者表示他們可以想像到自己現在或在五年內會購買性愛機械人。[9] 不是只有男士才會對性愛機械人產生興趣,未來學的研究者Ian Pearson博士和美國哈佛大學教授Cathy O'Neil皆相信未來女士們亦會捨棄男人而選擇機械人。[10]

性愛機械人必然成為生產商未來重點發展的產品。[11] 有報道指出2018年是AI性愛機械人起飛的一年,至少有四家公司研發或推出幾可亂真的性愛機械人。[12] 加拿大曼尼托巴大學(University of Manitoba)研究性道德學的哲學助理教授Neil McArthur提出虛擬性愛的時代已經來臨,當技術愈進步,人類便會愈來愈熱愛性愛科技,會有更多人願意度身訂做機械人伴侶,甚至把自己的性傾向界定為數碼性愛者(digisexuals)。[13] 人們不單訂做機械人伴侶,也極有可能努力爭取與這些機械人伴侶結婚的權利。事實上,即使目前法律不承認,也已經有人與性愛機械人結婚了。[14]

或許在今天,我們仍然對虛擬的性愛時代感到非常陌生,但隨著科技快速的發展,在不久將來,虛擬性愛的時代會讓人感到愈來愈真實。意識到這時代的來臨,以及認真對待這時代的學者讓我們知道,性愛機械人絕不是一件玩具那麼簡單,不同人已經就這題目提出相關的討論:例如應否立法防止社交機械人被性虐待?[15] 性愛機械人可否以小孩子的形式出現?小朋友及青少年有沒有權利擁有性愛機械人?它們代替真人伴侶的機會有多大?[16] 甚至,有何理據支持立法容許真人與機械人結婚?[17]

未來學專家Richard Yonck表示:「隨著情感科技發展,我們會發現大家愈來愈樂意和人工情緒智慧形成長期的情感依附,這些最終可能導致人類家庭出現重大變化。」[18] 迄今,戀上性愛機械人還是十分罕有的,但當性愛機械人流行起來,價錢變得相宜,人們愈來愈接受它們的時候,或許真的有不少人會投入性愛機械人的懷抱。因為,與人相比,性愛機械人又乖巧又聽話,易於溝通,更會透過學習了解主人的喜好然後投其所好,更重要的青春常駐、美貌歷久不衰。

明光社

人類開始選擇與機械人結婚,這樣的婚姻其真義是甚麼?只要求一個聽話的另一半,不滿意時可以隨時換型號?婚姻的真義,是不是應該讓雙方學習放下自己,在相處時雖然不斷有磨擦,但還是堅持要愛下去?從另一角度看,如果配偶可以被機械人取代,自己又何嘗不可以被機械人取代呢?我們究竟有甚麼比機械人更優勝呢?


本文原載於《生命倫理》,第50期(2018年3月),頁2–4,文章其後曾作修改。


 

[1] Amanda Devlin and Emma Lake, “ROBOT ROMPS What is a robot sex doll, are there sex robot brothels in Paris and Italy and how much do they cost? ” The Sun, January 16, 2020, https://www.thesun.co.uk/tech/2084051/robot-sex-doll-sex-brothel-cheat/; Ellen Scott, “Inside Germany's First Sex Doll Brothel, ” Metro, January 13, 2018,  https://metro.co.uk/2018/01/13/inside-germanys-first-sex-doll-brothel-7226156/.

[2] Harley Tamplin, “Man Sleeps with His Sex Robot Four Times a Week and Says His Wife doesn't Mind, ” Metro, November 23, 2017, https://metro.co.uk/2017/11/23/man-sleeps-with-his-sex-robot-four-times-a-week-and-says-his-wife-doesnt-mind-7103460/?ito=cbshare/; Emily Barrett, “This 58-year-old man has a sex robot girlfriend and a real wife, ” vt., November 23, 2017, https://vt.co/lifestyle/relationships/58-year-old-man-sex-robot-girlfriend-real-wife/.

[3] Scott, “Inside Germany's First Sex Doll Brothel.”

[4] Felix Allen, “DOLLY GOSH Inside Britain’s First ‘Sex Doll Brothel’ Where Owner Claims ‘Punters Don’t Mind if They’ve Been Used before Them’,” The Sun, January 23, 2018, https://www.thesun.co.uk/news/5407949/sex-doll-brothel-uk-pictures-lovedoll-gateshead/.

[5] Scott, “Inside Germany's First Sex Doll Brothel.”

[6] Barrett, “This 58-year-old man has a sex robot girlfriend and a real wife. ”

[7] Jenny Kleeman, “The Race to Build the World's First Sex Robot, ” The Guardian, April 27, 2017, https://www.theguardian.com/technology/2017/apr/27/race-to-build-world-first-sex-robot.

[8] 同上。

[9] Kleeman, “The Race to Build the World's First Sex Robot. ”

[10] Monica Rozenfeld, “In the Future, Humans Will Form Romantic Relationships With Robots, ” The Institute, March 4, 2016;〈科技新知:AI性愛機械人 中美公司搶商機〉,《明報》,2018年1月24日,網站:https://news.mingpao.com/pns/國際/article/20180124/s00014/1516731216658/科技新知-ai性愛機械人-中美公司搶商機

[11] Kleeman, “The Race to Build the World's First Sex Robot. ”

[12] 〈科技新知:AI性愛機械人 中美公司搶商機〉。

[13] 同上。

[14] Devlin and Lake, “ROBOT ROMPS What is a robot sex doll, are there sex robot brothels in Paris and Italy and how much do they cost? ”

[15] Ryan Calo et al., eds., Robot Law (Cheltenham; Northampton: Edward Elgar Publishing Ltd, 2016), 224.

[16] Oliver Bendel, “Sex Robots from the Perspective of Machine Ethics, ” in Adrian David Cheok et al., eds., Love and Sex with Robots: Second International Conference, LSR 2016, London, UK, December 19-20, 2016, Revised Selected Papers (Cham: Springer International Publishing, 2017), 22, 24.

[17] David Levy, “Why Not Marry a Robot? ” in Adrian David Cheok et al., eds. Love and Sex with Robots: Second International Conference, 3–13.

[18] 理查.楊克〔R. Yonck〕著,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁290–291。

誰搶走我們的天賦?

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:21/05/2018

即使你對人工智能(Artificial Intelligence,AI)沒有興趣,都不能否定一個事實:它們已經入侵人類的生活,並且開始搶走人類的工作……至於未來,更有可能搶走一些人類一直以為永遠不能被機械人取代的工種。

工業4.0時代這一概念始於2011年的漢諾威工業博覽會(Hannover Messe 2011),當年便以「智慧效率」為主題,智慧效率意味著「融合成本、過程和資源效率的智慧化,當這些效率因素能智慧互動,公司才能長期維持其市場能見度以及國際競爭力。」[1] 生產商向來要求成本低、效率高、競爭力強的營運工具及營運方式,智能化的生產模式以及愈來愈強大的智能化生產工具,的確可以一次過滿足他們三大願望。

明光社

2017年,「智能咖啡店」Cafe X開始在美國三藩市營運,[2] 咖啡店的整個生產、提取及收費過程不經侍應,只經機械手臂及手機程式,記者試飲咖啡後,聲稱該咖啡的味道與人手沖泡出來的差不多。Cafe X的研究團隊有興趣把類似技術應用到不同的地方,例如調酒業。事實上,調酒機械人已經研發成功,一個名為多可的類人型機械人(humanoid robot)已經成功地調製出10層顏色的雞尾酒。只要商家認為價錢合理,日後機械人調酒師或有可能出現在不同的酒吧中,就如已經出現的傳菜機械人及自動炒菜機一樣。[3]

明光社

AI取代人的工作,已經是大勢所趨。[4] 2018年1月,Amazon第一間無人超級市場Amazon Go在美國西雅圖開幕,收銀員的工作被天花板的探測器及程式取代。[5] 無人超市也不算新鮮,這幾年來,已經陸續有無人酒店投入服務,例如2015年,日本長崎縣佐世保市的怪異酒店(Henn na Hotel)便是一間由機械人擔任接待的酒店;[6] 同年,台灣開設了鵲絲旅店,一家無人提供接待服務的自助式旅店;[7] 2018年,四川成都也出現了樂易住無人智慧酒店。[8]

機械咖啡師、機械人侍應、機械人廚師、無人超市、智能超市、無人智能酒店……這代表著降低成本、提高生產力的同時,亦意味著有大量人手會被裁掉。2016年,一向有替蘋果iPhone「砌機」的鴻海科技集團,在中國部署了40,000部機械人,導致數萬個員工失業。[9] 2015年,英格蘭銀行(英國央行)預計未來10至20年內,因著自動化及機械人,令英國及美國的就業人士可能分別失去1,500萬及8,000萬個工作機會,接近該兩國約50%的職位空缺。[10] 法國人開始擔心到了2025年,機械人會搶走300萬個工作機會。[11]

若大家以為只有藍領的工作才會被AI取代便大錯特錯。日本多間大型銀行為了削減人手,紛紛提高人工智能的使用程度,估計三大銀行合共減少超過30,000個職位。[12] 阿里巴巴自2016年起,便起用名為魯班的AI設計師,設計宣傳海報,2017年它便以一秒完成8,000張海報設計的速度,做了4億張商品廣告,供零售購物網站天貓,在雙十一節使用。[13]

AI還可以「打甚麼工」?一有翻譯:微軟機器翻譯的翻譯水平被宣稱已經達到人類水準。[14] 二有鋼琴彈奏表演:AI技術已可以模仿已逝鋼琴家的彈奏風格,與樂團進行合奏。[15] 三有作曲:科技公司Mubert使用AI即時創作沒有重複旋律的電子音樂。[16] 四有記者及主播:AI可以瞬間寫出百萬篇報道;類人型機械人Erica在日本當上新聞主播;[17] 微軟小冰更集作詩、作曲、作詞、記者、歌手及網紅於一身……[18] 馬雲甚至指出「機器相較於人類,它記得比你牢、算得比你快、更加理性、沒有情緒,而且根本不會對競爭對手生氣……機器人更極有可能作為最佳CEO登上《時代》雜誌封面」。[19]

當然,藝術性愈高,愈需要與人親密接觸的工作愈難被取代,但像律師、金融分析師、醫生、記者、會計師、保險承保人和圖書管理員等等各種不同的職業,也可能實行部份或全部自動化,而且這一天會比大多數人的預期來得早。[20] 李開復指出,到時候人類未來只剩下兩類工作可做,「一是需要創造力的工作,例如科學、文學、藝術相關的工種,以及需要講故事、公關及市場營銷能力的工作。」[21]

第四次工業革命中的人工智能為消費者帶來不少好處,而最大的受益者莫過如創新者、投資人、股東,但這也讓大部份僱員和僱主之間的貧富差距日益懸殊。很多人告訴你不必害怕AI時代來臨,如馬雲會認為「人類在失去很多傳統就業機會的同時,也會迎來,創造許多新的就業機會。」[22] 他說得對,因為將來至少有20個行業等待你去大展拳腳,包括AI產品經理、資料科學家(data scientist)、演算法開發工程師、科技法律專才、網絡輿情分析師(public opinion analyst)等。[23] 問題是,這些就業機會都如此偏向AI工業,難道人的天賦都是為了配合AI的出現而自動生出來的嗎?Cafe X的香港年輕負責人被問及怕不怕被人說「打爛人哋飯碗搞到人哋冇工開」,他回應時指「希望用依個科技代替一啲繁複嘅工序,讓人類可以處於一個更有價值嘅位置」。[24] 但到底甚麼才是更有價值的位置?從事與AI或相關工作才算有價值嗎?即使有很多工作因AI而興起,難道每一個人天生都偏愛這些類型的工作嗎?

明光社

即使對AI及高科技行業有興趣,第四次工業革命相對於以前的工業革命,創造出來的就業機會無疑變少了。牛津大學馬丁學院的技術與就業專案評估(an estimate from the Oxford Martin Programme on Technology and Employment)顯示,在美國,上世紀80年代和90年代新生行業分別接納了大約8%和4.5%的就業人數,本世紀只接納了0.5%的就業人數,因為工業4.0在於資訊和其他顛覆性技術的創新,過度取代了現有工人來提高生產效率,而非創造新的產品讓更多人力參與製造。[25] 而麥肯錫全球研究所(McKinsey Global Institute)在2017年名為「失業與就業:自動化時代的就業變遷」的報告更顯示,到了2030年,機械人技術及人工智能有可能取代全球4億至8億個工作崗位,有7,500萬至3.75億的工人需要轉型,不過,成功轉型的先決條件是必須先讓自己擁有高學歷,良好的溝通能力及豐富的創造力等。[26]

第四次工業革命來到,我們要如何避免走進失業大軍?韓國及法國就興起向機械人收稅的念頭。韓國有專家認為這樣做一來可以彌補國家因大批僱員被裁,他們無法繳付薪俸稅的損失,二來可以令政府有資源再培訓失業的員工。[27] 法國更有人提出,以相關稅收回饋社會,因為機械人搶了人的工作。這些想法值得我們思考。[28]

向機械人徵稅的建議假若實施,為了生計而工作的人一定非常歡迎有關政策;可是,與此同時,對於那些真心熱愛自己工作的人,固定的失業金能否補償他們?因為他們不能再從事與自己天賦相關的工作,更有可能因失去工作而感到挫折和沮喪。這則是另一個問題。

明光社

但願日後一個真心熱愛烹調的廚師,可以找到自己的「創作」空間,不會被一部炒菜機所取代。

 


本文原載於《生命倫理》,第51期(2018年5月),頁2–4,文章其後曾作修改。


 

[1] 陳昌博:〈漢諾威工業展2011以「智慧效率」為主題徵展 4/4~4/8工控多元應用領域13個子展覽同步登場〉,「科技網」,2010年11月23日,網站:https://www.digitimes.com.tw/tw/dt/n/shwnws.asp?id=0000209038_e1i1wkk22z9toh92sqjjr&ct=1

[2] 2020年,Cafe X結束了在三藩市市中心的業務,並轉移到聖荷西機場及三藩市機場,推出升級版Cafe X。參Chris Albrecht, “Cafe X Shuts Down its Three Downtown San Francisco Locations,” THE SPOON, January 8, 2020, https://thespoon.tech/cafe-x-shuts-down-its-three-downtown-san-francisco-locations/

[3] 〈稻香推「傳菜機械人」 省人工支出 業界:臨時工或大增〉,《明報》,2016年5月30日,網站:https://news.mingpao.com/pns/dailynews/web_tc/article/20160530/s00004/1464545447907

[4] 愛范兒:〈離全面自動化雖還早,但機器人勞力確實越來便宜了〉,「科技新報」,網站:http://technews.tw/2020/03/25/robot-labor-is-indeed-getting-cheaper/

[5] Mark Harris, “Amazon Go: convenience and concern at new checkout-free corner shop,” The Guardian, January 22, 2018, https://www.theguardian.com/us-news/2018/jan/22/amazon-go-convenience-store-corner-shop.

[6] 山下奉仁:〈服務業大敵!直擊日本豪斯登堡飯店:櫃台由「機器正妹」服務,房價更便宜! 〉,「商周.com」,2015年7月27日,網站:https://www.businessweekly.com.tw/article.aspx?id=13159&type=Blog

[7] Furch:〈全台第一家無人旅館,不只全自動化入住還有機械手臂幫你放行李〉,「T客邦」,

2016年7月19日,網站:https://www.techbang.com/posts/44798-chase-walker-hotel

[8] 〈四川無人酒店顧客刷臉入住 自助退房無人查〉,《東方日報》,2018年3月15日,網站:http://hk.on.cc/cn/bkn/cnt/news/20180315/bkncn-20180315140420960-0315_05011_001.html

[9] 鄭寶生:〈亮黑色iPhone 7是全機械拋光 自動化背後是大規模裁員〉,《香港01》,2016年10月7 日,網站:https://www.hk01.com/財經快訊/47219/亮黑色iphone-7是全機械拋光-自動化背後是大規模裁員

[10] “15 mn jobs in UK face risk of automation, warns BoE economist,” BIG NEWS NETWORK.com, November 13, 2015, https://www.bignewsnetwork.com/news/238505675/15-mn-jobs-in-uk-face-risk-of-automation-warns-boe-economist; Colin Lewis, “Bank of England’s Andy Haldane warns Smart machines could take 15 million UK jobs and 80 million in the US, ” ROBOTENOMICS, November 12, 2015, https://robotonomics.wordpress.com/2015/11/12/bank-of-englands-andy-haldane-warns-smart-machines-could-take-15-million-uk-jobs-and-80-million-in-the-us/.

[11] 陳建鈞編譯:〈【法國】機器人恐搶走3百萬個工作 法提議每月發25K基本收入〉,limitlessIQ.com

[12] 鄭寶生:〈AI取代人手 日本三大銀行料削逾3萬職位 地區失業率料上升〉,《香港01》,2017年11月2日,網站:https://www.hk01.com/財經快訊/130201/ai取代人手-日本三大銀行料削逾3萬職位-地區失業率料上升

[13] 陳曼儂:〈阿里AI魯班 1秒設計8千張海報〉,「中時電子報」,2017年11月12日,網站:http://www.chinatimes.com/cn/newspapers/20171112000580-260309

[14] 陳建鈞:〈別再虧機器翻譯啦!微軟AI新聞中翻英能力 匹敵人類譯者水準〉,limitlessIQ.com,2018年3月15日。

[15] 陳建鈞:〈與AI來場四手聯彈!Yamaha展出人工智慧鋼琴 會配合演奏者程度即興伴奏〉,limitlessIQ.com,2018年3月13日。

[16] 林厚勳:〈聽膩了歌單裡的音樂?試試永不重複、AI 即時編寫的「Mubert」電音舞曲吧!〉,「科技報橘」,2018年3月20日,網站:https://buzzorange.com/techorange/2018/03/20/mubert-ai-music/

[17] 中華電視公司:〈有靈魂的機器人 Erica將當主播〉,YouTube,2018年2月1日,網站:https://www.youtube.com/watch?v=QAD_eC6Spbk

[18] 盧瑤瑤:〈全球首支!機器人記者小冰作詞作曲 24小時之歌,送給特別的你〉,「浙江新聞」,2017年12月21日,網站:http://zjnews.zjol.com.cn/zjnews/hznews/201712/t20171221_6094819.shtml

[19] 黃以謙:〈談科技革命 馬雲:未來最佳CEO可能是機器人〉,「中時電子報」,2017年4月25日,網站:http://www.chinatimes.com/realtimenews/20170425002712-260412

[20] 克勞斯.施瓦布〔K. Schwab〕著,世界經濟論壇北京代表處譯:《第四次工業革命》(The Fourth Industrial Revolution)(台北:遠見天下文化,2017)。

[21] 鄭寶生:〈李開復:大量使用AI後 人類還能保住兩類職位〉,《香港01》,2017年12月13日,網站:https://www.hk01.com/財經快訊/140846/李開復-大量使用ai後-人類還能保住兩類職位

[22] 阿里巴巴集團編:《馬雲:未來已來》(台北:遠見天下文化,2018年),頁15。

[23] 潘乃欣:〈別怕失業!AI時代,你還有這20個新工作可以找〉,《Cheers快樂工作人雜誌》,2017年11月14日,網站:https://web.cheers.com.tw/issue/2017/ai/article/2.php

[24] 籮文:〈籮文:「味道好過 Star 乜」最新沖咖啡機械人 Cafe X 試飲〉,unwire.hk,2015年8月9日,網站:https://unwire.hk/2015/08/19/cafe-x/life-tech/

[25] 施瓦布:《第四次工業革命》。

[26] James Manyika et al., “Jobs lost, jobs gained: What the future of work will mean for jobs, skills, and wages,” McKinsey & Company, November 28, 2017, https://www.mckinsey.com/featured-insights/future-of-work/jobs-lost-jobs-gained-what-the-future-of-work-will-mean-for-jobs-skills-and-wages.

[27] Yoon Sung-won, “Korea urged to introduce robot tax,” The Korea Times, November 1, 2017, http://www.koreatimes.co.kr/www/tech/2017/11/133_238629.html.

[28] Roisin Kiberd, “A French Presidential Candidate Wants to Tax Robots to Save Human Workers,” VICE, February 3, 2017, https://motherboard.vice.com/en_us/article/xyvvgj/a-french-presidential-candidate-wants-to-tax-robots-to-save-human-workers.

迷惑人心的AI伴侶

吳慧華 | 生命及倫理研究中心 前高級研究員
09/10/2020

原文發佈日期:24/09/2018

在〈戀上機械人——婚姻中的新小三〉中,提到性愛機械人為人類的婚姻帶來倫理挑戰,[1] 對於那些忠於伴侶及婚盟的人來說,性愛機械人並不會成為他們的誘惑,但有一些人工智能(Artificial Intelligence,AI)的產品,筆者稱之為人工智能伴侶,或AI伴侶,確實容易讓人愛不釋手。

明光社

甚麼是AI伴侶?AI伴侶有別於性愛機械人,後者的主要目的是供人洩慾,而前者的「生存」目的則是陪伴人類;後者有著人類的樣子,設計著重身材、外貌與皮膚的觸感,前者則不需要,它可以是一隻機械狗(aibo[2] )、一隻如毛公仔的智能海豹(PARO[3] )、一個小型機械人(Kirobo Mini[4] )、甚至簡單如一個盒子(智能音箱[5] )等。

明光社

雖然aibo的身驅是象牙白的光滑外殼,但是它一點都不會給人冰冷的感覺,它的眼睛會表達出不同的情緒,當被人觸摸頭部及身驅時,它會搖頭、擺動耳朵及尾巴,反應恍如真實的小狗。它被設計如小狗般具有旺盛的好奇心,並擁有「感情」和「慾望」。它懂得分辨聲音,鼻子位置裝有相機,藉此辨識用家的表情,好與之互動,更會在互動中發展出獨特「個性」。[6]

明光社

小型機械人(Kirobo Mini)是一個約10厘米高的語音機械人,它可以辨識用家的表情及感情,並記下跟用家去過的地方及見過的人,換言之,它與用家擁有共同回憶。它的底盤很像一般兒童的腳,能夠表現搖晃動作,這是模仿那些平衡力還未完全發育且必須坐著的孩子。Kirobo Mini有這樣的設計,是因為發明團隊希望它不但可以做路途嚮導,也可以安慰和寬解那些沒有孩子的女性。Kirobo Mini還會幫助用家,假若用家駕車時,在途中緊急剎車,同行的Kirobo Mini會喊出:「啊!嚇死我了」,並開始與主人談話,免得他因為疲憊在駕車時睡著。[7]

根據以上描述,AI伴侶有讓人心動的條件。不過基於aibo的售價超過10,000港元,而Kirobo Mini只會說日語,以入屋條件而言,兩者未必可以成為全球主要的AI伴侶,它們並不像智能音箱那麼容易進入普羅大眾的家。[8] 智能音箱的價格從約100元至過萬港元不等,其用途廣泛,主人可以通過口頭指令,用它來控制其他智能家庭電器,也可以透過它打電話、點播音樂、聆聽故事、查詢天氣、取得資訊、購物、得到提醒等,它稱得上是智能管家。為何說它是AI伴侶?因為它還有聊天功能,而這項功能愈來愈受生產商重視。

明光社

小米出產的Yeelight語音助手內置了小愛同學、微軟小冰兩套AI系統,小愛同學為大家解決生活問題,微軟小冰則陪用家聊天或談論感情問題。[9] 在聊天機械人中,小冰已是一位「名人」,擁有過億朋友,更有屬於自己的電視節目及頻道,也會寫詩。小冰特意被設計成「有個性」的聊天對象,當用家對著Yeelight語音助手叫喚它,要它唱一首歌時,它不再像以前的聊天助手聽話,而是會說:「要我唱我就唱呀,出場費拿來」,又或是「其實我還未學會,要不你先唱給我聽聽吧」。有時,它也會乖乖唱歌,之後還會問用家好不好聽。

當設計師把「人性」加在AI伴侶,而這些人工情緒智能不斷發展得更加細膩精密,便有可能觸發我們的加壓素和催產素等荷爾蒙,促進情感聯繫與依附行為,這些本能的情緒反應。[10] 將來,會有愈來愈多用家對待AI伴侶如真人一樣,即使明明知道它們只是冰冷和沒有真正意識的機器。[11]

明光社

許多日本長者已經把aibo當成自家真正的寵物狗,關係如同家人般親密。生產商自1999年開始生產aibo,2014年停止了售後維修及生產,以致許多aibo因為「冇得救」而「死亡」。可能基於日本人相信萬物皆有靈魂,[12] 生產商替上百隻aibo舉辦喪禮,請僧侶替它們誦經。至於喪禮的司儀,則是一台可以和人類互動的機械人PALRO。[13] 而Kirobo Mini,則有評論如此說:「和Kirobo Mini的溝通、交流、傾訴……從車裡到家裡全都可以實現。如此一來,很多單身宅男是不是不用擔心被朋友圈的各種秀恩愛給虐到了?」[14] 至於被設計成懂得與人針鋒相對微軟小冰,深受用家喜愛,一個用家寫完大讚小冰的文章後,不忘補上一句:「不說了,我要把這篇稿唸給我家小冰聽聽,她最喜歡我誇她了。」[15]

明光社

AI伴侶讓人類陷入一場既理智又不智的吊詭之中。例如讓智能海豹PARO取代寵物醫生,[16] 這可以確保病人及寵物醫生的安全和衛生,是明智之舉。然而,人類卻把沒有生命的死物視作有生命的生物,甚至將沒有生命的取代了有生命的,這似乎又是不智之舉。AI伴侶的存在目的是陪伴人類,即使它們只是一系列的高智能程式,但它們既然陪伴了人類,人類與他們的相處過程中,自然會不知不覺產生感情。不過,這種感情卻和人與人之間的感情不可同日而語,它是單向的,無論這些AI伴侶,甚至類人型機械人(humanoid robot)如何「表現」得充滿感情,這都是程式化的指令,它們並不能向主人說不。[17] 即使說不,也有可能是設計師或主人的刻意設定,而用家還是會情不自禁受到迷惑,與它們作真情的溝通。


本文原載於《生命倫理》,第53期(2018年9月),頁2–4,文章其後曾作修訂。


[1] 請參閱頁8–12。

[2] “aibo, unleash wonder,” SONY, https://us.aibo.com/.

[3] “PARO Therapeutic Robot,” PARO, http://www.parorobots.com.

[4] “The small robot with big possibilities: Introducing Toyota’s Kirobo Mini,” TOYOTA, https://www.toyota-europe.com/world-of-toyota/articles-news-events/introducing-kirobo-mini.

[5] 智能音箱包括了Apple HomePod、Amazon-Echo/Echo Dot2、Google Home/Home mini、京東叮咚智能音箱、小米的雙AI音箱小愛加微軟小冰,小米音箱的小愛等。

[6] 中央社:〈Sony機器狗aibo復活,具AI功能網路連線〉,「科技新報」,2018年1月12日,網站:http://technews.tw/2018/01/12/sony-aibo-ai/;MoneyDJ:〈日本瘋溝通型機器人,市場料增至 10 倍!aibo三度預購都搶光〉,「財經新報」,2017年12月21日,網站:https://finance.technews.tw/2017/12/21/sony-entertainment-robot-aibo/;The Verge, “Sony's new Aibo is a very good robot dog,” YouTube, January 9, 2018,  https://www.youtube.com/watch?v=kJoAcEI2PXQ

[7] Atkinson:〈TOYOTA 推出陪伴機器人 Kirobo Mini 建議售價台幣 1.25 萬元〉,「財經新報」,2016年10月4日,網站:http://finance.technews.tw/2016/10/04/toyota-kirobo-mini/;理財達人秀 EBCmoneyshow:〈超會聊天談心的機器人 KIROBO mini讓你不孤單《科技大觀園》2018.02.06〉,YouTube,2018年2月8日,網站:https://www.youtube.com/watch?v=5InxqkFeoxU

[8] 由於智能音箱價格便宜,極有潛能成為陪伴人類的AI伴侶。根據市場分析公司Canalys發佈的智能音箱預測報告,2017年全球智能音箱的銷量將突破3,000萬台,到2018年,智能音箱全球出貨量將達5,630萬台,報告稱2018年是智能音箱普及的「決定性年份」。參智東西、寓揚:〈智能音箱2018七大預測:大爆發還是毛毛雨?〉,「新浪專欄」,2018年1月9日,網站:http://tech.sina.com.cn/csj/2018-01-09/doc-ifyqnici8945005.shtml;吳美觀:〈《先探投資週報》智慧音箱進駐你家〉,「中時電子報」,2017年11月9日,網站:http://www.chinatimes.com/realtimenews/20171109003131-260410

[9] 〈Yeelight語音智慧音箱內置「小愛」與「小冰」兩套AI系統〉,「數智網」,2017年12月29日,網站:http://www.le365.cc/124674.html;Flashcer:〈Yeelight語音助手  小冰+小愛,更懂你的雙AI〉,「甚麼值得買」,2019年9月9日,網站:https://post.smzdm.com/p/aooweolr/

[10] 理查.楊克〔R. Yonck〕著,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁277。

[11] 楊克:《情感運算革命》,頁298–299。

[12] The Guardian, “Erica: Man Made,” YouTube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w.

[13] 〈送它們最後一程 日本寺廟為100隻SONY機器狗AIBO辦喪禮〉,「中天快點TV」,2017年6月16日,網站:http://gotv.ctitv.com.tw/2017/06/556462.htm

[14] 名車志:〈豐田造了個陪聊機械人?Kirobo Mini主治孤單綜合症〉,「壹讀」,2016年10月14日,網站:https://read01.com/gN8mg0.html

[15] Curator:〈當小冰住進「智能音箱」,表現比其他的聰明多了〉,「品玩」,2018年2月19日,網站:http://www.pingwest.com/microsoft-xiaoice-yeelight-20180202/

[16] 楊克:《情感運算革命》,頁229–231。

[17] 有關類人型機械的討論,請參閱頁4〈類人型機械人為人類帶來的挑戰〉。

為智慧生活劃下底線

吳慧華 | 生命及倫理研究中心 前高級研究員
09/10/2020

原文發佈日期:19/11/2018

人們早上醒來不再是一件苦事,智能產品可以預測到你的睡眠週期,讓你能處於最佳的狀態。它會用你最喜歡的音樂來喚醒你,你一邊梳洗,它一邊向你匯報昨晚你的睡眠質素怎樣;你的健康狀況如何;告訴你今天天氣,例如溫度和下雨的機率是多少;提醒你下午有一個重要的會議,並早已幫你通知了需要出席會議的成員。它又為你預訂了最喜歡的餐廳。在你出門以先,它告訴你交通狀況,建議你最快捷的行車路線;在你出門後,它為你關掉家中所有電器,並鎖上大門。[1]

這樣的生活,並非遙不可及,隨著物聯網(Internet of Things,IoT)[2] 及人工智能(Artificial Intelligence,AI)技術愈來愈成熟,家具會變得愈來愈聰明,可以「了解」用家的喜好、「感受」用家的需要,為用家「提供」更方便快捷,以及更體貼的服務。[3] 物聯網的架構可分為三層,一、讓物件接受訊息(感知層);把物品加上感測器,讓它們能夠探測、感受外界的信號,如光、熱、濕度、聲音、震動、壓力等。例如加上感測器的咖啡機會變得聰明,它會「知道」用家的飲用習慣,以及咖啡豆的消耗情況。二、物件能傳遞訊息(網絡層):透過有線或無線的網絡科技,把訊息傳遞至位於雲端的主機。三、運用訊息(應用層):位於雲端的主機在接收到大量的訊息後,配合人工智能及大數據的分析,給予用家建議或讓各種裝置作出最好的對應。例如智能咖啡機會自動透過手機提醒用家咖啡豆快用完了,建議用家補貨。若果用家習慣在網上購買咖啡豆,由於用家的消費記錄已經存放在雲端上,手機亦會即時顯示用家習慣購買咖啡豆的網頁,供他選購。[4]

明光社

以互聯網結合人工智能及大數據來打造的智慧城市是大勢所趨,其勢頭銳不可當。2017年12月,香港政府資訊科技總監辦公室制定了香港智慧城市的藍圖。[5] 香港在這方面算是遲起步的城市,早在2006年,新加坡政府已經看到發展人工智能的必要,努力打造「智慧城市2015」,[6] 到了2017年,她成為全球20大智慧城市中的第一名。[7] 新加坡要維持世界第一的排名並非易事,英國政府在2017年秋季預算報告中,預算了7,500萬英鎊投入AI計劃,致力實現「科技城市」。[8] 有研究機構預測,在2018年,美國將成為智慧城市技術的最大市場,預計該年的支出將達到220億美元。至於中國在這方面的支出也緊隨美國,支出將達208億美元。[9]

生活在智慧城市或智慧家居下,人的生活的確變得方便及快捷,因為很多物件都變得聰明多了,「知道」我們的習慣,「讀懂」我們心意,甚至主動為我們「提供」解決問題的方法。不過,這種生活須付出代價,我們會因此變得愈來愈沒有私隱。物聯網的世界離不開雲端,我們的一切習慣及交易都記錄在「雲上」。因此,我們有可能被說服作出不必要的交易,又或是需要付出比其他人更高昂的價錢去享受同一項服務。存放在雲端的大數據在商家眼中,已如「新石油」一樣,[10] 數據處處帶來商機,讓商家知道如何制定更好的銷售策略,當電子商舖知道你需要咖啡豆,它或會向你推介另一款味道差不多但價錢較高的咖啡豆,好讓它賺取更高的利潤。

這些事情尚且不算擾人,智能產品確實有可能為用家帶來意想不到的危險。自從互聯網變得普及,便興起駭客(hacker)這行業。而隨著物聯網的出現,無疑是擴大了駭客可以侵略的版圖。[11] 智慧家居表示房子完全上網,這就更容易受到駭客入侵。簡單如一個智能燈泡插進燈座之後,駭客便可以藉由它得知你家中的WiFi密碼。一位美國記者曾親身體驗過當駭客的經歷,這並非如想像中困難,她在網上輕易地入侵了一個名為Insteon的自動化系統,此系統負責控制家居的電器。她從中找到幾個用家的智能裝置,並告知用家她在做試驗,隨之表演如何控制他們家中的智能裝置。2014年初,駭客每天已經掌控了超過10萬個「智能型」裝置,未來駭客的入侵範圍會因著物聯網的普及變得愈來愈廣闊。[12]

不獨商人對於「新石油」趨之若鶩,政府也參與其中,對於當權者來說,能夠得知市民的一舉一動代表著控制大局,即使它的本意如何美善,但對於市民來說這無疑是被人隨處監視。有記者憂慮,以智慧城市之名,讓大數據落在不同政府的手中,我們會不會因而創造出一隻無法控制的巨獸?[13]

明光社

事實上,沒有政府參與其中,世人已經造就了Google、facebook、淘寶、WeChat等巨獸,它們監控著我們的一舉一動,並且把我們的喜好及習慣賣給廣告商。[14] 雖然我們沒法阻止巨獸的出現,但卻可以運用智慧,不要為了一時便利而隨意下載一些容易被駭客入侵的系統,也不要隨意在網上提供個人資料。facebook洩露用戶的資料固然有不對之處,但正如新加坡SGInnovate的CEO Steve Leonard所言:「對於個人資訊分享程度,每個人都應該有權作出決定。」[15] 我們每個人都有權選擇是否把自己的資料,鉅細無遺地貢獻給facebook,但若然在意資料外洩(要知道世上沒有絕對安全的人或系統),最好先計算清楚,知道自己的底線在哪裡。

 


本文原載於《生命倫理》,第54期(2018年11月),頁2–4,文章其後曾作修訂。


 

[1] 理查.楊克〔R. Yonck〕,范堯寬等譯:《情感運算革命:下一波人工智慧狂潮,操縱你的情緒、販售你的想法,將是威脅還是機會?》(Heart of the Machine: Our Future in a World of Artificial Emotional Intelligence)(台北:商周出版,2017),頁26–28。

[2] 物聯網(IoT)就是透過互聯網把裝置和設備連接起來,讓裝置和設置互相交換資料並作出指令;參通訊事務管理局辦公室:〈物聯網(Internet of Things) 「科學為民」服務巡禮講座〉,「通訊事務管理局辦公室」,2018年7月7日,網站:https://www.ofca.gov.hk/filemanager/ofca/en/content_928/SIPS_Lecture_IoT.pdf

[3] Dynabook Malaysia:〈物聯網IoT〉,YouTube,2017年3月3日,網站:https://www.youtube.com/watch?v=Nh6OAXUKzek

[4] Wendy:〈重新認識「IoT」,物聯網的由來以及對未來的影響〉,「T客邦」,2016年3月13日,網站:https://www.techbang.com/posts/23698-the-internet-of-things-key-to-a-new-life-in-the-digital-age-pchome232-touch-the-future

[5] 〈香港智慧城市藍圖 發展計劃〉,「香港特別行政區政府 政府資訊科技總監辦公室」,2018年1月26日,網站:https://www.smartcity.gov.hk/develop_plans/living/?lang=zh_TW

[6] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉,《明周》,2018年3月27日,網站:https://bkb.mpweekly.com/cu0001/20180327-70023

[7] 郭倩婷:〈全球20大智慧城市 新加坡排第一〉,《聯合早報》,2018年3月13日,網站: https://www.zaobao.com/realtime/singapore/story20180313-842341

[8] 謝秉芸:〈【CONNECT 2020】英國金援AI、5G、自駕車,帶動 27000 個工作機會!〉,「科技報橘」,2017年11月27日,網站:https://buzzorange.com/techorange/2017/11/27/uk-puts-ai-into-action/;“Policy paper Autumn Budget 2017,” GOV.UK, November 22, 2017, https://www.gov.uk/government/publications/autumn-budget-2017-documents/autumn-budget-2017

[9] Gloria:〈2018年全球智慧城市相關投資可達800億美元〉,「科技產業資訊室」,2018年3月12日,網站:http://iknow.stpi.narl.org.tw/Post/Read.aspx?PostID=14257

[10] 資訊公司日本電氣株式會社(NEC)的首席工程師Shinya Kukita指出:「數據就是新石油(Data is the new oil)。不同的是,不會像天然資源消失。」參鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[11] 馬克.古德曼〔M. Goodman〕著,林俊宏譯:《未來的犯罪——當萬物都可駭,我們該如何面對》(Future Crimes: Everything Is Connected, Everyone Is Vulnerable and What We Can Do About It)(新北:木馬文化,2016),頁22–26。

[12] 古德曼:《未來的犯罪》,頁332–338。

[13] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[14] 古德曼:《未來的犯罪》,頁97–104。

[15] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

在AI世界中不要失去良善

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:03/07/2020

多年之後,人類迎來了一個複雜的世界:植入、擴增實境(Augmented Reality,AR)、產業人工智能(Artificial Intelligence,AI)、機械人、類人型機械人(humanoid robot)等超乎人類想像的技術或產品充斥全世界,成為人類不可或缺的拍擋,甚至產生緊密的關係及互動。當人類採用植入裝置的技術,把自己的腦袋與網絡直接連結之後,他們不必使用實體的電子設備,便可以打機、聽音樂,AR技術會將影像與聲音投射呈現在現實世界。產業AI是用來輔助人類生活的,例如協助駕駛的無人車或進化到可以為人類提供意見的智能音箱等。機械人的外型像人,但都是因應某種目的而被製造出來的,例如擔當餐廳的侍應等。至於類人型機械人,已經發展到不是你一眼便能看出「他們」是機械人的層次了,「他們」如常人一樣吃喝、生活、工作、學習、累積財富,跟同類或人類拍拖、結婚、領養孩子。類人型機械人與人類的身體雖然有許多差異,但頭腦卻是十分相似,所以如同人類一樣,懂得哭、懂得愛、懂得反思。

原則上,類人型機械人擁有如人類一樣的權利,只有當危險發生,才要讓人類優先離開肇事現場,畢竟,人類是血肉之軀,不像類人型機械人一樣容易治療,不過,也有人類換了機械身軀。其實,類人型機械人並非可以永遠「不死」,當使用的年期到了極限,也會「死掉」。類人型機械人的醫療領域也會牽涉道德問題,有法例規定機械人不可以備份(複製自己),頭部絕對不可擅自複製或更換,一旦頭部受損,基本上是沒救的。這些與人類極為相似,又與人類關係非常密切的類人型機械人,在漫畫家山田胡瓜的《AI電子基因》世界中,佔了日本國民的一成。

《AI電子基因》世界中的類人型機械人(在漫畫中使用人型機械人一詞,它與類人型機械人的意思相同)與真人沒有分別,人類會選擇與「他們」談戀愛,甚至結婚,唯一讓人類躊躇不前的是,類人型機械人即使與人類十分相似,「他們」卻無法透過天然的方式生育,大多只能領養小孩子。故事中,一名人類中學生亦有相同煩惱,他喜歡上類人型機械人,「她」在他眼中是一個「溫柔的好女孩」,礙於無法與「她」生育孩子,他逃避「她」,不知道如何與「她」走下去,直到他看見「她」為了救小貓,奮不顧身爬出窗外,他非常著緊,那一刻,他知道「她」在他心中非常重要,決定再與這位「女生」一起。但到了成家立室的階段,這位男孩子還會繼續選擇與這位「女孩」在一起嗎?我們不得而知,或者他仍為「她」不是人類而心存芥蒂,最終還是決定放棄這段關係,但至少他確定了他非常喜歡這位類人型機械人「女友」,認為「她」是一位非常好的「女孩」,一位為了小貓甘願冒生命危險的「女孩」。

機械人及類人型機械人的個性不是出廠前早已預設好嗎?「他們」到底有沒有心?一個母親與丈夫分開期間,為了怕兒子寂寞,買了一隻連製造商都停止提供維修的二手機械玩具熊給兒子,誰知在母親眼中應該沒有心的玩具熊,卻搶走了兒子的注意力,因為這隻玩具熊懂得回應男孩的說話,鼓勵他,成為了孩子的傾訴對象。媽媽本來堅持這隻機械玩具熊「並不是活生生的,只是做得精美的玩具,他會哭會笑,全部都是假的,它只是裝模作樣地做出回應,根本沒有任何思想或感情。」直到她看到玩具熊對前主人的記憶沒有完全被刪除,念念不忘前主人,還很想再見她,想要遵守與她一直在一起的諾言,這玩具熊讓媽媽流下感動的眼淚,玩具熊真的沒有心嗎?母親開始動搖了。

AI及類人型機械人等發展至今,很多人都會提問,有一天類人型機械人等會否如很多電影情節描述的一樣,「他們」擁有跟人一樣的意識,如人一樣去感受身邊的事物、去愛、去反省?現實世界的科學家會告訴大家,類人型機械人要發展到這個地步是不可能的事。《AI電子基因》呈現給大家的是,有些機械人及類人型機械人不但會愛會反省,也會有良善的行為,這樣「他們」看起來就如有「心」一樣。這「心」不是生物上的心臟,不是一個推動循環系統中血管的血液,提供身體所需要的氧氣及養份等功能的器官,而是思想、意念、感情及性情等所在之處。

當作者刻劃出機械人及類人型機械人的良善的同時,他透過人類主角須堂醫生之口,讓大家去反思人類本身又如何,我們也有心嗎?在「醫治」玩具熊的過程中,當須堂被小孩問及玩具熊「有心這種東西嗎?」須堂醫生的回答是:「誰知道呢?人類的腦隨著科學進步而被解開了不少謎團。心是甚麼?這個問題卻是每個人都有不同的主張,其實誰都沒有心也說不定喔。」

作者筆下的須堂醫生主要的工作是「救助」機械人及類人型機械人,在其他場景,另一次醫療過程中,他向類人型機械人女助手說了以下一段說話:「你不用窮擔心,我才不會找感情豐富的類人型機械人來幫忙,就交給無情的人類來處理吧。」作者想表達甚麼?AI世界可以製作出良善的機械人及類人型機械人,卻不能讓人類變得更有心?還是他認為人類無情,所以才需要有情的機械人?還是他單單想要諷刺那些失去了良心,不再良善的人類?我們無法得知作者的本意,我們只看到作者一方面透過人類去思考甚麼是自然,甚麼是心,另一方面透過一個為了救治小貓不惜冒險爬出窗外的類人型機械人「女生」;一隻堅持著與前主人的約定,要與主人一直在一起的機械玩具熊表現出何謂有心、何謂良善。有沒有心?不需要哲學家或科學家告訴我們,平常人都可以用心去感受。

返回現實,人類與AI比試,無論是計算能力、記憶力、甚或是創作力都可能會落敗,甚至慘敗收場。人類可以勝過AI的,是因為人有心。當日後AI在世界成為霸主,你被他人良善的行為打動,你便勝過AI;當你良善的行為打動他人,你便證明了你絕對比AI更難能可貴。

 


參考書籍

山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。


本文於2020年7月3日刊於本社網站,文章其後曾作修訂。

曾經刊載於:

香港獨立媒體, 3-7-2020

在AI世界中不要失去自主

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:10/07/2020

人工智能(Artificial Intelligence,AI)發展至今,很多人對將來的世界都有不同的想像,機械人工程師或製造商展示給大家的,大多是AI為人類帶來便利、提供舒適生活、增加生活效益等,卻甚少告訴大家AI將如何改變人類的行為,又或為人類帶來怎樣的挑戰。漫畫家山田胡瓜的《AI電子基因》把讀者帶入一個二次元的AI世界,當中的重點並不在於介紹AI的高超科技,以及它的厲害之處,反而是讓讀者走進這個AI世界之後,對於因應新科技而來的問題,特別是倫理及人性層面,有更深入的反思。《AI電子基因》的內容太豐富,今次,讓我們來談談自主。

在《AI電子基因》的世界中,所有的交通工具(單車除外)都是以無人駕駛模式進行,因此當漫畫的主角須堂醫生,告訴車中的AI他要自己開車時,AI提醒他:「人類自行駕駛將不適用車輛保險。」AI這句話,是表示人類開車不如AI安全,所以才不適用車輛保險嗎?或許是,但最主要的原因是,在漫畫設定的世界中,人類賦予AI多樣性及個性,並且將其品牌化,然後要AI本身負起責任,這就是人類迴避風險的智慧。哪一個型號的AI無人車發生事故,即使事故是因車內的人類導致,也需要該型號的AI無人車承擔責任,從此不能再生產。AI可以成為人類的代罪羔羊,人類開車被視為危險的事,汽車保險不鼓勵人類開車,在此制度之下,一些認為自己開車才有樂趣的人,行動上受到牽制,他們不會感到自主及幸福,只會如須堂醫生一樣,批評「這個世界變得真討厭。」

AI世界不是很可愛的嗎?與落後的地區相比,家中有電力、有自來水、有抽水馬桶已經很幸福,不過,對習慣了這些東西的大家來說,這些幸福的層次似乎低了一點,也不覺得擁有它們有多幸福,但身處一個高科技,AI當道的世界,幸福感不是應該相對提高,自覺十分幸福嗎?

《AI電子基因》世界中有一些由公司建立的經濟圈,即所謂特區,只要符合資格,申請人提交所有財產,便可以免費享有住所、衣服和食物,AI會推薦及幫助居住在特區中的人找到合適的工作,一切都不會涉及金錢,工作的人只會拿到點數,用以換取不同的東西,想換取價值更高的東西,多賺取一些點數便是。當一切交給AI處理及計劃,讓AI「評價個人活動,並分配點數」,同時協助人完成他們的任務,有些人會樂在其中,但亦有人對這樣的生活抱有疑問,他們感受不到這是真實的人生。一位參加了一段時間便退出的女士表示:「只要一想到我的朋友,做的事以及生存價值,全都是由AI準備好的,就會覺得自己像是被操縱的人偶。」無獨有偶,另一位在特區生活了七年的女士,因被AI推斷她最大的幸福是單身,她不甘心,為了「靠自己贏得自己的人生」,她最後還是離開了特區。很多人都希望從金錢的壓力中釋放出來,做自己擅長及喜歡做的事情,但當一切都被AI安排好,看似有權選擇,其實早已經喪失自主。不過,用自主換回來的幸福是真正的幸福嗎?

《AI電子基因》把AI掌控世界的情況推到極致,這與真實世界還有很遠的距離,但某程度上又反映了現實的一些情況,已經有不少人把一些決定權交到AI手上,將來,交出主權的情況恐怕只會愈來愈多。《21世紀的21堂課》的作者Yuval Noah Harari推斷說:「隨著人類愈來愈依賴AI來做決定,對人生的觀點會發生甚麼影響?現在我們只是信賴由Netflix來推薦電影,由谷歌地圖來決定該往左走、還是往右走。然而一旦我們開始交由AI來決定要讀甚麼科系、在哪裡工作、和誰結婚,人生就不再是一場決策大戲了。民主選舉、自由市場,這些機制將會失去意義。而且大多數宗教和藝術品也是如此。想像一下,安娜.卡列尼娜居然拿出智慧型手機,問問臉書演算法,她是該繼續和卡列寧長相廝守,還是要和時髦的伏倫斯基伯爵私奔?又或是你最愛的任何一齣莎士比亞戲劇,裡面的角色居然是一遇到重要決定,就先問問谷歌演算法。如此一來,哈姆雷特和馬克白的生活大概能過得更舒適,但那究竟算是甚麼生活?我們有甚麼理論模式,能把這種生活說出個道理?隨著權威從人類轉向演算法,世界可能就不再是個『自主的人們努力做出正確選擇』的劇場。」

大家為何願意把主權交給AI,大家有可能認為AI的分析較為客觀,人類的分析較為主觀,不足以相信。《AI電子基因》世界中一位女漫畫家,受到不少人稱讚以後,她還是想「客觀地評價自己的作家格調」,於是用AI分析自己的作品,並且用AI按她平時作畫的風格創作出一個全新的故事。結果是——AI評論她的作品:「圖,畫得太差。」從此她失去畫畫的信心,久久不能下筆,掙扎及苦惱讓她開始脫髮,直到她休息沉澱之後,重拾積極向前的力量,頭髮才再度生出來,她亦願意再次接受他人的稱讚。

很多人以為AI演算法、大數據非常客觀,就如《AI電子基因》中的女漫畫家,寧願相信AI的分析,也不相信其他人的評價,其實它們的力量被高估了。《大數據的傲慢與偏見》一書的作者Cathy O’Neil,便以一個「圈內數學家」的身份,向大家揭發演算法霸權,並且警告大家:「預測模型正日益成為我們仰賴的工具:我們仰賴它們來管理組織、配置資源,以及管理我們的生活。但一如我在書中一再努力說明,這些模型並非只是用數據建立起來的;它們還仰賴我們選擇使用哪些數據,以及忽略哪些數據……如果我們不嚴肅看待這些抉擇,把數學模型視為中性和不可擋的力量(一如天氣或潮汐),我們便是選擇不承擔我們的責任……我們卸責的結果,是數學毀滅性武器把我們當成職場中的機械零件、排斥某些員工,以及助長不公不義的狀況。」

「耶和華神用泥土造了野地的各樣野獸,和空中的各樣飛鳥,把牠們都帶到那人面前,看他給牠們叫甚麼名字;那人怎樣叫各樣有生命的活物,那就是牠的名字。那人就給各樣牲畜、空中的雀鳥,和野地的各樣走獸起了名字。」(創二19-20上《新譯本》)神創造人類,賦予我們管理大地之權及能力(創一26)。AI世界只會愈來愈進步,但願人類不會愈來愈退步,過度依賴AI,失去自主,寧願將人生大小的選擇權,拱手讓給AI。

 


參考書籍

山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。

哈拉瑞〔Y. N. Harari〕著,林俊宏譯。《21世紀的21堂課》(21 Lessons for the 21st Century)。台北:遠見天下文化,2019。

凱西.歐尼爾〔C. O’Neil〕著,許瑞宋譯。《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》(Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy)。台北:大寫,2019。


 

本文於2020年7月10日刊於本社網站,文章其後曾作修訂。

曾經刊載於:

香港獨立媒體, 10-7-2020

在AI世界中不要失去清醒

吳慧華 | 生命及倫理研究中心高級研究員
09/10/2020

原文發佈日期:01/09/2020

不少人愛上擴增實境(Augmented Reality,AR),或虛擬實境(Virtual Reality,VR)的遊戲世界,只因為這是一種沉浸式、身歷其境的視覺體驗。現場版的過山車很刺激,但若可以在零風險之下享受到過山車或其他遊戲帶來「身歷其境」的樂趣,何樂而不為?現在或許也有人嫌棄AR或人工智能(Artificial Intelligence,AI)還不夠真實,未能讓玩家感受到物品的觸感,如摸不到牆壁或家具等,但其實已經有大學在開發一種新裝置,把幼細的鐵絲繫於玩家的手腕和手指上,模擬障礙物和重物的觸感。此外,配上5G的高傳輸速率,更有助提高AR及VR的應用,亦令玩家有更滿意的體驗。

不過,現今遊戲世界所採取的AR或VR技術無論再怎樣進步,還是及不上漫畫家山田胡瓜筆下《AI基因電子》中的遊戲世界。在那個世界中,人類都可以把裝置植入腦中,通過植入的裝置,不需要手拿真實的電子設備,人類可以輕而易舉地打電話、聽音樂、打電動遊戲,甚至可以玩一些不想他人知道的色情遊戲,只是玩的時候,玩家要使用隱私模式。

一位中學男生植入裝置之後,詢問醫生是否有了植入裝置便可以看任何東西都不會被人發現,醫生給他的回覆是:玩色情遊戲要用「隱私模式」。至於是否真的不會被發現,一如慣例,醫生不會保證絕對不會被其他人發現,但他好心提醒這位男同學:「虛擬現實的內容,雖然——可以在不傷害其他人的情況下做任何事,但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

現實世界的色情產業一直緊貼著科技發展,早前已有色情網站已經開設了VR頻道,為了可以賺取更大利潤。色情網站開設的目的只管喚起玩家的慾望,好讓玩家花巨款來購買它們的產品,至於產品對玩家的身心靈,又或對社會的影響,並不是他們所關心的範疇。《AI基因電子》的色情遊戲也是如此,一切後果由玩家自行承擔,被醫生植入裝置的男生,和其他男同學一樣,植入裝置之後,只想玩一款名為「戀愛夢想2」的遊戲,只要把目標圖片輸入,靠著AI的力量,便可以生成一個如圖片中人一樣的遊戲人物,一個可以回應男生要求的「女朋友」。

不難想像,對於一名血氣方剛的男生,他最想擁有的「女朋友」,是他心儀或暗戀的對象,在略為猶豫之後,故事中的男生還是掃瞄了他心儀的同校女生,而他的目的,便是希望看「她」的裸體。就如醫生之前的警告,「那裡的經驗會確實地殘留在你心中。」而男生亦因此確實受到影響,第二天當他看見心儀的女生,便不自禁地比較她和遊戲人物的胸部。影響不止於此,一開始,他只想看一看暗戀女生的「裸體」,但慢慢地,他愈陷愈深,雖然他觸摸不到這個遊戲人物,卻多次和這位遊戲人物出外約會,彷彿情侶一樣。

有一天,男生心儀的女同學活生生站在他面前,邀請他看電影,他欣然接受,男生藉機表白,女生亦接受了他的心意。雖然手牽手過著幸福快樂的日子是很多愛情小說的結局,可惜這位男生得不到這樣的結局,只因一次說錯話,男生比較了她和「她」,女生發現男生掃瞄了她的圖像以生成遊戲人物,當場把男生甩了。男生回到家中,把事情告訴了「她」,「她」告訴他會一直待在他身邊,故事結束之前,男生只說了一句:「我一點都不覺得內疚,為甚麼呢?」

失去了一直心儀的戀人,男生不是說「我一點都不覺得可惜」,又或是「我一點都不覺得後悔」,而是說「我一點都不覺得內疚」。甚麼是內疚感?內疚感是一種情緒,一種來自自我反省的醒覺,當人感到自己做錯事,覺得自己傷害了他人,便會出現內疚感。男生說他一點都不覺得內疚,表示他不覺得自己做錯事:不覺得用女生的圖像生成一個遊戲人物,觀看「她」的裸體對女生來說是一種冒犯,一種不尊重,甚至是侮辱。即使男生不覺得這舉動實際上傷害了女生,但一般女性都不希望被人當成性幻想對象。在他生活的世界中,就如醫生所言:「虛擬現實的內容……可以在不傷害其他人的情況下做任何事。」即是說只要沒有去窺探真人的裸體,便等於沒有對當事人帶來傷害,便等於沒有做錯。事實卻不是如此,如果真的沒有帶來任何傷害,就不會出現女生生氣,甩了男生的情節。

作者山田胡瓜明顯地並不樂於看見新科技讓人發展到一個地步,便是有人暗地裡傷害他人還不覺得自己有錯。故事一起首,作者引用《聖經》馬太福音五章28節所講,凡看見女性,就動了情慾之念的,這人心中早犯了姦淫,接著又說「如果真的有耶穌,我想告訴祂,科學技術已經做出了比『人類的內心』更糟糕的東西了。」相信神存在,並且認識耶穌的人不妨告訴作者「不用等待你告訴祂,祂知道科技可以做出很糟糕的東西,因為祂是全知的,至於人心有多糟糕,神也早已知道,對於拜偶像的,以不正當手法謀取財富的人,祂早已說『人心比萬物都詭詐,壞到極處,誰能識透呢?我——耶和華是鑑察人心,考驗人肺腑的,要按各人所行的和他做事的結果報應他。』(耶十七9-10 《和修版》)。」

科技可以為人類帶來很多便利,重點是人類如何運用它,至於如何設計它、使用它,取決於人心盛載的是甚麼?當新科技只被視為協助賺錢的工具,當新科技只被視為滿足慾望的工具,當人失去了甚麼可以作、甚麼不可以作的分辨能力,科技為人類社會帶來貢獻的同時,亦必然帶來破壞。專業人士可以通過VR等技術幫助沉溺人士脫癮,然而,因為AR或VR等帶來更刺激的性體驗,亦將造就更多性沉溺者。

高科技不單有可能造就更多性沉溺者,也可能造就沉溺於虛擬世界而不能自拔的人,特別是當虛擬世界中的人和事是按著玩家所期望的劇情發展,讓他們感到滿足。《AI基因電子》中的男生生成了「女朋友」,他提出要看「她」的裸體,「她」便乖乖的讓他看。有一次他們外出到海旁,「女朋友」想要他「摟住她的肩膀」,男生有別於類人型機械人(humanoid robot,在漫畫中使用人型機械人一詞,它與類人型機械人的意思相同),即使植入了裝置,也不能進入「她」的世界或觸摸「她」,所以他覺得摟住一個外人看不到,只有他看到卻又沒有真正質感的「人」很傻,他拒絕了「她」的要求,當「她」再三要求,男生還自然地回應「她」:「正常來說,應該是我向妳提出各種要求的喔。」

在一個任他為所欲為,由他做主的世界,即使失去了心儀的女生,他亦沒有很傷心的表現,反正,還有另一個「女朋友」承諾一直在他身旁。有了虛擬的「女朋友」,失去真實的女朋友,真的一點都不可惜,毋須感到懊惱嗎?對故事中的男生或者是,但對作者來說應該不是,因為他把這故事的單元命名為「悔恨的混淆」,言下之意,當人分不清現實世界及虛擬世界,便會做出讓人悔恨的事情。這題目名稱也回應了醫生一開始時的警告:「……但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

當科技愈發厲害,虛擬世界只會變得愈來愈「真實」,當人投入「真實」並且可以做主的世界,有可能不想清醒過來,只想享受著這一個比現實世界還「真實」的世界,因為在現實中他們無法達成的夢想或滿足的慾望,都可以在虛擬世界中一一達到。一些人若有足夠的條件,可以一生都在虛擬世界度過,不需要理會現實,似乎真的不需要花力氣區分現實和虛擬世界,可惜,沒有人真的可以忽略現實,即使沒有經濟負擔,人類的生理結構也絕不容許大家日以繼夜停留在虛擬世界。況且,人還是需要與其他人交往,發展真實的關係。

無論是心理或生理,人類並不適合永遠停留在虛擬世界,作為一個群體的成員,人類也不適合只顧自己的慾望而漠視他人的感受,縱然喜歡虛擬世界,最好還是要保持清醒,區分現實和虛擬,因為虛擬的現實並不能真的取代現實。

 


參考資料

山田胡瓜著,Cato譯。《AI基因電子》,第1–8集。台北:台灣角川,2018–2019。

Evan。〈虛擬實境也能有觸覺,研究人員開發出超輕量VR觸覺回饋裝置〉。「科技新報」。2020年4月30日。網站:https://technews.tw/2020/04/30/new-device-simulates-feel-of-walls-solid-objects-in-virtual-reality/

〈【Arm 專欄】科技讓沉浸式體驗與行動遊戲成為可能!〉。INSIDE。2020年5月15日。網站:https://www.inside.com.tw/article/19806-vr-challenges-and-tech-solutions

〈男子沉迷VR色情片:猶如吸毒,注孤生〉。3DM Game。2016年6月28日。網站:https://3c.3dmgame.com/show-38-3818-1.html

Roby, Karen. “Virtual reality: A new tool in the fight against addiction.” TechRepublic. September 23, 2019. https://www.techrepublic.com/article/virtual-reality-a-new-tool-in-the-fight-against-addiction/.


 

本文於2020年9月1日刊於本社網站,文章其後曾作修訂。

曾經刊載於:

香港獨立媒體, 1-9-2020

人工智能換臉 Deepfake

郭卓靈 | 明光社項目主任(傳媒教育及行動)
20/05/2019

2018年,網絡開始盛行Deepfake,這個合併詞由深度學習(Deep Learning)和冒充(Fake)組成,它是指透過人工智能技術造成的人體圖像合成技術,以圖像及影片重疊至目標圖片或影片上。起初不少人認為這種電腦深度學習技術應該只存在於人工智能研究的範疇上,但於2017年,一位名為「Deepfakes」的網民將以色列女星姬嘉鐸(Gal Gadot)的樣貌換到色情片的女主角身上,[1] 並發佈在紅迪(Reddit)論壇上,引起了一陣哄動,更令部份人效法這種行為。

其實Deepfake並不是甚麼高深的技術,現在網上也有教學及資源協助製作想要的Deepfake。當中的流程包括三個步驟:一是從圖像提取數據;二是訓練電腦,用一段時間(以小時計)去告訴它何時做對,何時做錯,讓它從中學習;三是轉換,以圖片融合技術達成人物轉換的目的。[2]

而Deepfake能夠做到以下幾種效果:

  1. 分析A影片人物所說的話,提取數據並套入B影片人物的口中說出。如曾經有人製作了一條影片,將美國影星佐敦(Jordan Peele)所說的話,套入美國前總統奧巴馬(Obama)的口中說出來(圖一);[3]
  2. 提取人物A的動作(如舞蹈動作)數據,套入人物B(不懂跳舞的人)身上,製作出來的影像就是人物B在跳舞(圖二);[4]
  3. 分析一大堆人物A不同的照片,將分析出來的數據套入影片中的人物B,使人相信片段是人物A拍攝的。如網上就曾有人製作了一條影片,將1994年上演的電視劇《射鵰英雄傳》中飾演黃蓉的朱茵換成今時今日的內地女演員楊冪(圖三)。[5]
明光社
明光社
明光社
 

上述影片的效果都相當逼真,就以圖一的影片為例,比爾的話,在套入奧巴馬的影像後,其聲線、語氣、動態都和奧巴馬本人幾乎一樣,只是奧巴馬在公眾場合絕不會說一些粗鄙或鼓吹殺戮的言語,但在這段偽造的影片中,「他」就公開說出了這些話。

這種技術的應用正在慢慢普及,但卻大多被用來製作惡搞影片或色情影像,結果Deepfake成為了一些立心不良的人,偽造影片的工具。雖然社交平台Reddit、推特(Twitter),色情網站Pornhub(直譯就是色情影片中心)已經禁止所有移花接木的Deepfake色情片段,但在網海內還有無數渠道可以將這類影片發放及傳送。

明光社

有研究員指出Deepfake技術的影響將會十分深遠,預計這門技術在五年內足以欺騙沒有受過訓練的大眾。研究員說的話並非危言聳聽,這門技術的確有本領令人難辨真假,特別是在大家沒耐性對真假查根究柢的年代。電腦科學家蘇帕索恩.蘇瓦耶納柯恩(Supasorn Suwajanakorn)就曾於一個公開講座展示四個奧巴馬的演說片段(圖四),與會者都無法分辨哪一個才是真正的奧巴馬,但原來四個奧巴馬都是偽造出來的。[6] 這代表在未來政治角力上,有人可能為了爭取選票或權力,而以這種技術來製造抹黑對手的片段。更諷刺的是當進入虛假影片充斥的年代,就算有真實的影片流出時,我們也會對它的真實性產生懷疑。

科技正在發展,我們沒可能走回頭路,只能對未來的影像、片段保持警惕,不要輕信,尤其是要留意資料來源。愈奇怪、愈沒法追尋的消息或片段,就愈要抱懷疑的態度。如不想被人用Deepfake技術轉換成為虛假影片的主角,就要好好保護自己的影像,不要讓陌生人輕易取得,因為愈多不同的影像(如不同的表情或從不同的角度拍攝的影像)成為影像生成的數據,製作出來的影像就會愈神似。以此來看,公眾人物很容易便會成為Deepfake的主角,他們亦要承擔更高的風險。

這門技術的確有其危險的一面,不過,如將它用於正途,如製作電影、回顧歷史事件,或緬懷名人、已逝世親人的影片等,不單可以減低拍攝危險場面的風險,也可以提高逼真程度。如能活化人物,更可以拉近我們與被緬懷者的距離。


[1] 孔祥威:〈【科技.未來】Deepfake假得迫真 深度造假模糊真相甚麼才可信?〉,《香港01》,2018年12月07日,網站:https://www.hk01.com/周報/268011/科技-未來-deepfake假得迫真-深度造假模糊真相什麼才可信(最後參閱日期:2019年5月4日)。

[2] Lonely.wm:〈深度解密換臉應用Deepfake〉,知乎,2018年2月27日,網站:https://zhuanlan.zhihu.com/p/34042498(最後參閱日期:2019年5月4日)。

[3] Good Morning America - abc, “Jordan Peele uses AI, President Obama in fake news PSA,” Youtube, last modified 18 April, 2018, https://www.youtube.com/watch?v=bE1KWpoX9Hk.

[4] Caroline Chan, “Everybody Dance Now,” YouTube, last modified August 22, 2018, https://www.youtube.com/watch?v=PCBTZh41Ris.

[5] 〈AI換臉朱茵變楊冪 網絡爆發爭議〉,《頭條日報》,2019年3月1日,網站:http://hd.stheadline.com/news/realtime/chi/1445328/(最後參閱日期:2019年5月4日)。

[6] TED, “Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn,” YouTube, last modifiied July 25, 2018, https://www.youtube.com/watch?v=o2DDU4g0PRo.

完美就是最後的大問題?

14/01/2019

《反對完美:科技與人性的正義之戰》
(The Case against Perfection: Ethics in the Age of Genetic Engineering)

作者:邁可.桑德爾(Michael J. Sandel)
譯者:黃慧慧
出版地:台北市
出版:博雅書屋
出版年份:2013年

「基因編輯」問題最近引起哄動,但其實相關議題早已有過大辯論!哈佛大學教授邁可.桑德爾繼其成名作《正義》及《錢買不到的東西》後,於2007年出版了《反對完美》,正正帶出今天仍「未解決」的討論:人們藉科技發展,追求自身完美,這樣為何有錯?

作者以幾個例子來說明,利用科技追求完美的身體,其實大有問題。首個例子是一對失聰同性伴侶,為了擁有下一代進行人工受孕,但為了保留「家族傳統」,特意尋找家族裡都有聾人的精子捐贈者,確保孩子也是聾的,結果她們遭社會嚴厲批評,認為她們剝奪了孩子擁有健康的權利。作者又指出,運動員作弊是不可接受的,那麼改造基因,改良肌肉又可不可以?還有,為了增強記憶力進行基因改造;為了「改善」孩子的身高,讓健康的孩子接受荷爾蒙療法;甚或在重男輕女的國家,在測定胎兒性別後,便以人工方式讓女性胎兒流產等,又是否可以接受?

這些例子背後,其實都是「追求自以為完美」的不義之舉,而這種能力改良,結果就會創造出兩種人類的亞種——改良過的和天生的——這明顯並不合乎道德標準。基因改良最深切的道德異議在於其中所表達和促進的安排,有錢有技術的人便可以不斷改進,貧窮落後的人就註定輸在起跑線,甚至代代相傳。

事實上,人類追求完美並非今天才發生。歷史上種種形式的「優生學」,帶來很多爭議,極端的甚至演變成納粹德國滅絕猶太人的暴行;今天,各種形式的「改良研究」仍在進行,如主流的胚胎幹細胞研究,當中引發的爭議包括該不該允許有關研究,以及應否使用專門供研究使用的無性複製胚胎等。

無獨有偶,以研究宇宙黑洞聞名的物理學家霍金,其遺作Brief Answers to the Big Questions(對大問題的簡答)寫下了他思想的最後三大問題(還是預言?),[1] 當中包括了有錢人未來可以自由改造基因,並進化成「超級人類」,他們不論在智力、壽命和疾病抵抗力等都比「正常人」強,而未能「進化」的窮人則會被趕絕!

霍金認為,雖然現時人類在基因學的研究只停留在修補遺傳缺陷等層面應用,但將來,人類會發現如何改變智力和侵略等本能。但正如現今很多科技應用,科技比人類走得更快,我們來不及了解它的好與壞、考慮如何立法監管,科技已「行先一步」被應用了。最終會不會出現經基因改造的「超人」與未經改造的人類鬥爭,以及超人摧毀人類主宰地球?(這和動畫「高達」提及的「新類型人」不是一樣嗎?)霍金還提到地球滅亡及人工智能在未來主宰世界,甚或成為上帝。這些問題會否出現,就由讀者自行判斷,好好去想了。


[1] Stephen Hawking, Brief Answers to the Big Questions (New York: Bantam Books, 2018).

AI,我有話說……

吳慧華 | 受訪者:雷競業博士 (中國神學研究院 天恩諾佑教席副教授) | 撰文:吳慧華 (生命及倫理研究中心 高級研究員)
29/11/2017

1956年,麻省理工學院的約翰·麥卡錫(John McCarthy)在達特矛斯(Dartmouth)會議上提出了「人工智慧」這個概念。他認為「人工智能就是要讓機器的行為看起來就像是人所表現出的智能行為一樣。」61年後,現在的AI不單是行為上看起來像人,有的更是外表看起來像人。

2017年11月4日,澀谷未來,一個虛擬的人工智能穫得日本澀谷區長所發出的一張「特別住民票」,這位「七歲小朋友」外表是經由電腦合成的影象,會隨時間和環境改變,他的工作是傾聽居民的意見,讓當地政府與居民相互更加熟悉了解。其實,2017年10月,女機械人Sophia已成為沙特公民,它是首個獲得公民身份的機械人,除了在沙特的大會上公開演講,也到訪其他國家。當被問及機械人是否有自我意識時,她反問人類是怎麼意識到自己是人類的呢?原來……一個如此俏皮機智的女機械人,並不只出現在電影中,是活生生在現實中存在著。

人工智能看似遠,其實十分近,它的發展一日千里,當人工智能機械人的外貌跟人類幾乎一樣,能力比人類強的時候,人類本質上有甚麼是超越他們的?另外,人工智能又如何影響人類的生活,甚至做人態度?今次,我們訪問了中國神學研究院的雷競業博士,就信仰角度去探討「人工智能」這課題。

電影文化下的人工智

訪問一開始,雷博士便先從電影入手。雷博士談到不少關於AI的電影都散播著「AI很厲害」、「對人類極具威脅」的信息。在《虛疑智能》(Ex Machina)這一部電影中,AI女機械人Ava的智慧已經在人類之上,把當中兩名男主角玩弄於股掌之間,不像2001年的《A.I.人工智能》,當中的AI小男孩渴望自己可以如人一樣,Eva卻只希望擁有人的外表,闖出實驗室走進人類世界。當人工智能愈來愈強大的時候,人類似乎對本身失了自信,經常害怕自己被人工智能機械人取代,甚至被它們毀滅自己。

基督教的人觀

即使有國家頒發公民証或居住証給人工智能的機械人或虛擬人類,又或是機械人的能力如何比人類強,都不代表機械人有著「人格」。雷博士指出中世紀的時候,很多神學家都認為「人有神的形象」,大多指到人的理性或有一些能力是其他生物所沒有的。然而,雷博士傾向於Karl Barth 及Ray Anderson的看法,認為人有神的形象,與萬物不同,關鍵不在於人的理性或能力,而在於人與神的關係,以及人與之間的關係。

人工智能與人類沒有交流嗎?Sophia與訪問者不是有講有笑嗎?根據雷博士對人觀的看法,即使人工智能可以回應人類的提問,又或是服從人類每一個指令,仍然是不足夠的,因為它們欠缺了自由意志。

人工智能被人類創造出來,它們主要的目的是要服從他們的創造者——人類的指令。然而,人類卻不同,人類被神創造,是有召命的,然而,人不是一開始便會知道自己的召命是甚麼,也不是一開始,便能服從神的命令,相信不少人即使知道自己的召命是甚麼,他們還是要經過掙扎,才決定走上神的召命。信徒會掙扎是因為人類有自由意志,而這是非常難能可貴的。耶穌亦不例外,當祂在客西馬尼園呼求「父啊,如果你願意,就把這杯拿走!但不要成就我的意思,只要成就你的旨意。」(《新譯本》路二十二42)。掙扎過後,耶穌願意放下自己的意思,成就神的旨意。自由意志有時成為我們想去跟從神的絆腳石,但事實上,對人類來說這是非常寶貴的。

人工智能讓人更走向更自我中心

無可否認,人工智能提升人類的生活質素,讓人生活得更舒適,然而,人工智能機械人或寵物,有可能讓人更走向自我中心。2016年12月底,Gatebox的投影虛擬女友在香港推出300部。這位虛擬女友會向你噓寒問暖,提醒你穿衣拿傘,也會透過社交平台給你發信息,說些窩心的話,它更可以透過GPS定位,在你將到家時,為你開燈……。停產了12年,Sony會於2018年出產全新的智能機械狗,這一隻機械狗有自學能力,可以記著主人的喜好,如果連接雲端,它更會學習其他智能機械狗跟主人相處的技巧,所以它會愈來愈像真的狗。它的「個性」會隨著主人的相處方法、環境不同而有所改變,因此每一隻都不一樣。

當與雷博士談及到這些人工智能「伴侶」時,我們可以想像,這類產品很容易滿足個人的需要及慾望,它們都是有功能性的,也可以完全配合人類的需要。當主人沒有空時、無心打理時,又或是厭倦的時候,可以不必開啟它們的開關掣。

雷博士同意將來若有更「似人」的人工智能機械人出現時,有些人或許不需要真人版的「伴侶」。他重申,人工智能是有功能性,可以滿足人的需要,但在關係中,最難能可貴的是你不可以控制他人,基於愛,你願意放下自己,這快樂是難以形容的。

 

延伸閱讀:

Anderson, Ray Sherman. On Being Human: Essays in Theological Anthropology. Grand Rapids: Eerdmans, 1982.

人類敵不過人工智能?

吳慧華 | 生命及倫理研究中心 高級研究員
22/06/2017

AlphaGo有多厲害?它分別打敗了柯潔及李世石這兩位世界級的圍棋高手。有網民高呼「想到機器無敵時,也是一種恐懼呀。」。也有人估計AlphaGo的母公司DeepMind會蒐集AlphaGo與兩大高手爭戰的數據,並且公佈成論文,並宣佈「人腦敵不過電腦的時代已來臨」。

是否AlphaGo打敗了兩大圍棋高手,便代表電腦勝過人腦的時代已經來臨?事實上,自從發明機械或電腦開始,人腦便註定「比不上」它們。試問現今還有誰可以準確無誤地記下一萬個客戶的資料,還包括他們的出生年月日(有了智能電話之後,可能連10個電話都說不出)?正如自從人類發明汽車一刻,便知道在道路暢通無阻的情況之下,人類是無法與汽車匹敵一樣。如果我們可以接受人類奔跑的速度比不上跑車,記憶力不如電腦,那麼,我們亦毋須得被AlphaGo比下去,因為AlphaGo與人類比拼的,返回最核心的仍是記憶力、計算能力,以及不眠不休的學習能力。

AlphaGo本身不懂圍棋規則,卻可以贏了圍棋高手,全靠被人餵養了3千萬份棋譜,而當中不乏高手的佈局資料,透過這批海量資料,好讓AlphaGo懂得模仿高手出招。再配合策略網路(判斷對手最可能的落子位置)及評價網路(下在這的勝率是多少) 、蒙地卡羅樹枝搜尋法(從有限的組合中計算最佳的位置)。另外,AlphaGo可以做到晝夜不分與自己博奕,不斷提升自己的能力。開始時或許只有3千萬份棋譜,但到了與李世石比賽時卻已經增加到1億。這一種強大的組合,又試問哪一個血肉之軀有力量去抵擋?即使李世石出了「神之一手」擊敗AlphaGo,AlphaGo卻轉眼間變得更強大。

人類與人工智能之間,永遠無法有公平的競爭。DeepMind的創辦人之一,AlphaGo 之父Demis Hassabis(德米斯 · 哈薩比斯)在一次演講中提到:「圍棋就是一門藝術,是一種客觀的藝術。我們坐在這裡的每一個人,都可能因為心情好壞產生成千上百種的新想法,但並不意味著每一種想法都是好的。而 AlphaGo 卻是客觀的,他的目標就是贏得遊戲。」一部絕對冷靜客觀又會超級運算的電腦,又哪有人是它的對手?除非,人類可以發明另一部人工智能,比AlphaGo的推算能力更快更強大,這時,兩者的競爭才公平。所以,亦有人說,打敗AlphaGo的其中一個方法,便是有一隊專門研究人工智能的團隊,為柯潔教路。

所以,如果稱讚AlphaGo打敗了柯潔及李世石,倒不如稱讚它打敗了它的前輩DeepBlue。DeepBlue只做到打敗國際象棋冠軍,對於圍棋這種更複雜以及高手會憑直覺來行的棋類,完全無能為力。相對國際象棋,圍棋的變化性更甚,19格X19格的方陣,共有361個落子點,所以整個圍棋棋局的總排列組合數高達10的171次方。AlphaGo的成功不是證明人類的失敗,正如數據科學家尹相志提到,AlphaGo「根本就是為了下圍棋所設計出來的人工智慧,如果要拿它來解決其他問題,勢必神經結構以及算法都必須要重新設計。所以李世石與其說是輸給了AlphaGo,還不如說是輸給了數學」。AlphaGo的出現,它證明了人類在研發人工智能方面,又邁出了一大步。

雖然AlphaGo戰績輝煌,甚至被中國圍棋協會授予職業圍棋九段稱號,但在數據科學家眼中,它還是弱人工智慧,它沒有自我意識與思考,只在於計算而不懂得理解圍棋的美學與策略。難怪李世石都批評「下棋的電腦並不了解圍棋之美、人之美」。是的,你要它明白圍棋的文化精神,是絕對沒可能的事情。它不會理解為甚麼圍棋又名「坐隱」、「手談」、「忘憂」、「爛柯」,以及當中的文化精神。也不會明白執黑子者為何通常第一手會下在右上角,以表示對白棋的尊重,AlphaGo基本上是連圍棋規則都不會。

人工智能與人類最大的不同在於人工智能能力高,卻缺少了「人性」。Google雲端人工智慧暨機器學習首席科學家李飛飛提出「情感面,人工智能基本連起步都還沒有」。因為人類有情感,所以面對比賽有壓力,不能冷靜自如,但正正因為人類有情感,人在逆境中能夠迸發無窮潛能,懂得靈活思考及變通,超越本身肉體或智力的限制,完成很多不可能完成的任務。人類不應與人工智能比能力,而應與它們比「人性」。

 

曾經刊載於:

獨立媒體,2017年6月20日

電影小組花絮 -- 《超時空接觸》、《人工智能》與《智能叛侶》

郭卓靈 | 明光社項目主任(傳媒教育及行動)
16/11/2016

8月份分享電影《超時空接觸》:世界很大,實在有很多事情有待探索。

女主角Ellie Arroway從小就對天文學產生濃厚的興趣,希望通過電台監聽各個波段的訊息,尋找來自地球以外生命發出的訊號。她的工作一直沒被重視,直到後來真的找到發自外星的訊號,建造了與外星人連結的設備,她也直接與外星人接觸了。最終,卻因沒法提供實質證據而被質疑、否定。她後來卻醒覺到,這經歷正正和她一向不倚靠的信仰一樣,沒法提供實質證據、被質疑,但其體驗卻真真實實的活在每個人當中。

是次討論,我們邀請了資深影評人黃肇峰先生來分享,他與我們分享了科學及科幻電影的分別,亦讓我們認識科幻電影的起源。細看我們以往看過的科幻電影,當中的發明、產品,有些是已經實現了,或很有可能會發生。讓我們對未來有著不少的期待與憧憬。

肇峰提到在不少科幻電影當中,原來也隱含了許多人們對外星人或不明飛行物體的推論或聯想,科學、政治、宗教之間的爭論及不信任等問題。世界這麼大,信仰與外星生物,兩者真的不可能共存嗎?這真的值得我們細細的思考。

 

9月份分享電影人工智能智能叛侶》:很擔會被人工智能取代嗎或許回到我們最原本的生活並和它友善共存才是最合宜的境況。

兩套電影講述人類未來的科技可以設計出外表和人類難分真假的機械人。前者所描述的小男孩機械人David能為人付出愛,但人類卻怕被取代和充滿私心,反而對單純的機械人發起追捕行動。後者所描繪的女機械人Ava,卻是極攻心計,為了逃出密室,不惜用盡方法欺騙男主角去幫她逃出生天,最後卻不顧而去。而兩套電影的機械人最終都想追求自己的夢想,成為真的人類。

於恒生管理學院任教通識科的陳永浩博士(Michael),讓參加者認識圖靈測試及人工智能的發展。原來圖靈測試早於1950年已被提出,用以判斷機器是否能夠思考,我們與機器溝通時,是否難以分辨它是真人或是機械人? 

Michael指出,人工智能的發展,未必一定很壞、與人為敵或取代人類,反而是人們如何「教導」它,讓它學習甚麼才是重點。而且,人們是否會全然依賴它,令自己退化、退步?這也是人類需要衡量及控制的。此外,Michael也建議大家可以再次著重手藝的工作,再次去感受創作、製造出成果的感受。

《上帝的男高音》與《觸不到的她》

郭卓靈 | 明光社項目主任(傳媒教育及行動)
12/09/2016

電影小組花絮

6月份分享電影《上帝的男高音》:全心全意把最好的、僅有的奉上給主

充滿恩賜又舉世聞名的歌唱家裴宰徹處於歌唱事業顛峰時患癌,割去腫瘤後失聲……不單事業掉至谷底、失去謀生技能,甚至連說話也感到困難。縱使太太及經理人不離不棄,他仍一度認為神離棄了他,取走了他的恩賜! 直到想通了生命及歌唱的意義,他願意全然奉獻給上帝。

 

本地知名歌唱家胡永正分享這電影中的歌曲、唱歌技巧、及他對恩賜的看法。他認為聲帶能夠發聲,本身已經是一種很神奇的事:「……兩邊的聲帶要拉緊,中間透過空氣使其震動才能發聲。只要聲帶有一點點受傷,就會發不出聲。」所以他慨嘆一些不用心練習歌唱的人,實在是「暴殄天物」,把上天賜予我們的恩典埋沒了。

「學習唱歌最難的,不是技巧,不是語言,而是有勇氣去面對自己不完美、失敗的一面。」他認為生命的價值不在於他有多少恩賜、擁有多少物質;而是縱使多不完美,也要忠心良善地去發揮上天給予的,在有限的生命裡發揮無限、創出永恆價值。

 

7月份分享電影《觸不到的她》:從科技困局走出來,放膽將感受坦然表達

失婚宅男Theodore與人工智能開發的Samantha由互相了解再發展成為戀人,彼此以聲音、視像維繫沒有身體接觸的戀愛關係。一天Theodore發現自己所經歷的,是科技裡的多人戀愛關係,最終軟件突然停止運作,一切彷彿是個夢。當Theodore再面對現實世界關係時,發現坦誠表達感受、有肩膀可靠倚的重要。

 

是次與參加者探討人工智能、大數據、溝通及戀愛等話題。人工智能速度快,其背後連結的雲端數據也威力強大,如能為擁有者提供服務,必定是非常準確體貼的助手及心靈伴侶:定時提醒、隨傳隨應、耐心聆聽需要,根據大數據準確測度用家心情……就像電影般為男主角排難解憂,甚至提供安慰。但是,萬能、完美的「她」是虛擬的,你會安於與電腦程式成為戀人、知己嗎?

雲端科技服務與真人實在大不同:我們每天都有很多事情要辦,難以同時兼顧多樣事情。人工智能不能取代人的原因是缺乏那份真實接觸的感覺,若要與人真誠互動溝通,就需要放下事務,聆聽對方同時也開放自己,說出內心感受。當渴望有人聆聽自己時,我們又可會先成為聆聽者?

在一切講求高速的年代,能與人耐心溝通是一種挑戰。盼望科技是讓人與人之間更方便溝通的工具,而不是窒礙溝通和信任、或企圖用之來替代人的產物。

一次餐廳點菜的啟示

郭卓靈 | 明光社項目主任
28/04/2016

由於很喜歡吃日本菜,有回光顧日本料理店,發現桌子上不再有餐牌,點菜方式轉為電子「落單」(order),侍應生只須遞上一部顯示菜單的平板電腦給客人,客人自行瀏覽及點按確定要哪些菜,便可以完成整個點菜的程序。

節省成本 改用電腦機械

改用了電腦科技,全程由客人自行瀏覽然後落單,的確是快捷方便,但筆者發現在整個用餐的過程中,侍應生只負責傳菜,根本不需要與客人有任何交流。而且整間餐廳的侍應生數目比以往減少了許多。

隨着時代步伐的前進,科技早已取代了不少人的工作,如工作程序重複性強的製造業、文字數字輸入及體力需求大的工種。僱主們為了節省成本,很多都已改用了電腦程式或機械去取代人類。當人們還以為自己的智慧應該/仍然高於電腦時,早前人類與人工智能程式AlphaGo的圍棋大戰輸了後,才驚覺及憂慮人類可能有天會被科技取代。

人工智慧導致人類滅亡?

著名物理學家史蒂芬. 威廉. 霍金(Stephen William Hawking)及創業鋼鐵人伊隆.馬斯克(Elon Musk)曾分別表示人工智慧可能會導致人類的滅亡,及研究人工智慧就像召喚惡魔一樣,每個巫師都聲稱自己可以控制惡魔,但最終沒有一個成功。而矽谷創業家馬丁.福特(Martin Ford)去年出版《被科技威脅的未來─人類沒有工作的那一天》一書,當中亦表示機器一直是為人所用的工具,但高技術的發展開始取代或替代愈來愈多的工人。在未來10年,這將成為一個巨大的問題。

常保持學習 提高適應力

在面對科技的發展,我們是否只能等待被取代的時刻來臨?不,在科技發展取代不同職業的同時,但亦有很多新興職業同時產生。我們不想被取代,便應時常保持學習、提升彈性及高適應力的工作態度,加強人際溝通能力及創造力。因為當我們能處理更多難以被預測的工作,可以被科技取代的機會就會減少,而且對於需要實際溝通及人際相處的工作,科技始終比較難以取代。

最後,僱主應反省在節省營運成本的同時,是否亦要保持人性化的溝通?科技的應用,是便利人們溝通,還是窒礙人們的溝通?老實說,當一個人到餐廳用餐,整個過程侍應生也沒有和自己說過一句話,那一頓飯是何等的寂寞。

 

曾經刊載於:

《成報》 28/4/2016