關注生命倫理 正視社會歪風

在AI世界中不要失去自主

吳慧華   |   生命及倫理研究中心高級研究員
10/07/2020

AI(artificial intelligence,人工智能)發展至今,很多人對將來的世界都有不同的想像,機械人工程師或製造商展示給大家的,大多是AI為人類帶來的便利、提高舒適的生活、增加生活效益等,卻甚少告訴大家AI將如何改變人類的行為,又或為人類帶來怎樣的挑戰。漫畫家山田胡瓜的《AI電子基因》把讀者帶入一個二次元的AI世界,當中的重點並不在於介紹AI的高超科技,以及它的厲害之處,反而是讓讀者走進這個AI世界之後,對於因應新科技而來的問題,特別是倫理及人性層面,有更深入的反思。《AI電子基因》的內容太豐富,今次,讓我們來談談自主。

在《AI電子基因》的世界中,所有的交通工具(單車除外)都是以無人駕駛模式進行,因此當漫畫的主角須堂醫生,告訴車中的AI他要自己開車時,AI提醒他:「人類自行駕駛將不適用車輛保險。」AI這句話,是表示人類開車不如AI安全,所以保險不包括嗎?或許是,但最主要的原因是,在漫畫設定的世界中,人類賦予AI多樣性及個性,並且將其品牌化,然後要AI本身負起責任,這就是人類迴避風險的智慧。哪一個型號的AI無人車發生事故,便需要承擔責任,從此不能再生產,即使事故的源頭是出於車內的人類。AI可以成為人類的代罪羔羊,人類開車被視為危險的事,車保不鼓勵人類開車,在此制度之下,一些認為自己開車才有樂趣的人,行動上受到牽制,他們不會感到自主及幸福,只會如須堂醫生一樣,批評「這個世界變得真討厭。」

AI世界不是很可愛的嗎?與落後的地方相比,家中有電、有自來水有馬桶已經很幸福,不過,對習慣了這些東西的大家來說,這些幸福的層次似乎低了一點,也不覺得擁有它們有多幸福,但身處一個高科技,AI當道的世界,幸福感不是會相對提高嗎?

《AI電子基因》世界中有一些由公司建立的經濟圈,即所謂特區,只要合乎資格,申請人交上所有財產,便可以免費享有住所、衣服和食物,AI會推薦及幫助當事人找到合適的工作,一切不涉及金錢,只拿點數,用以換取不同的東西,想換取價值更高的東西,多賺取一些點數便是。當一切交給AI處理及計劃,讓AI「評價個人活動,並分配點數」,同時協助人完成他們的任務,有些人會樂在其中,但亦有人對這樣的生活抱有疑問,他們感受不到這是真實的人生。一位參加了一段時間便退出的女士表示:「只要一想到我的朋友,做的事以及生存價值,全都是由AI準備好的,就會覺得自己像是被操縱的人偶。」無獨有偶,另一位在特區生活了七年的女士,因被特區中的AI推斷,她最大的幸福是單身,她不甘心,為了「靠自己贏得自己的人生」,她最後還是離開了特區。很多人都希望從金錢的壓力中釋放出來,做自己擅長及喜歡做的事情,但當一切都被AI安排好,看似有權選擇,其實早已經喪失自主。不過,用自主換回來的幸福是真正的幸福嗎?
 
《AI電子基因》把AI掌控世界的情況推到極致,與真實世界還有很遠的距離,但某程度上又反映了現實當中,有不少人把一些決定權交到AI手上,將來,交出主權的機會只會愈來愈多。《21世紀的21堂課》的作者哈拉瑞(Yuval Noah Harari)推斷說:「隨著人類愈來愈依賴AI來做決定,這種對人生的觀點會發生甚麼事?現在我們只是信賴由Netflix來推薦電影,由谷歌地圖來決定該往左走、還是往右走。然而一旦我們開始交由AI來決定要讀甚麼科系、在哪裡工作、和誰結婚,人生就不再是一場決策大戲了。民主選舉、自由市場,這些機制將會失去意義。而且大多數宗教和藝術品也是如此。想像一下,安娜.卡列尼娜居然拿出智慧手機,問問臉書演算法,她是該繼續和卡列寧長相廝守,還是要和時髦的伏倫斯基伯爵私奔?又或是你最愛的任何一齣莎士比亞戲劇,裡面的角色居然是一遇到重要決定,就先問問谷歌演算法。如此一來,哈姆雷特和馬克白的生活大概能過得更舒適,但那究竟算是甚麼生活?我們有甚麼理論模式,能把這種生活說出個道理?隨著權威從人類轉向演算法,世界可能就不再是個『自主的人們努力做出正確選擇』。」

大家為何願意把主權交給AI,大家有可能認為AI的分析較為客觀,人類的分析較為主觀,不足以相信。《AI電子基因》世界中一位女漫畫家,受到不少人稱讚後,她還是想「客觀地評價自己的作家格調」,於是用AI分析自己的作品,並且用AI按她平時作畫的風格創作出一個全新的故事。結果是——AI評論她的作品:「圖,畫得太差。」從此她失去畫畫的信心,久久不能下筆,掙扎及苦惱讓她開始脫髮,直到她休息沉澱之後,重拾積極向前的力量,頭髮才再度生出來,願意再次聽取他人的稱讚。

很多人以為AI演算法、大數據非常客觀,就如《AI電子基因》中的女漫畫家,寧願相信AI的分析,也不相信其他人的評價,其實它們的力量被高估了。《大數據的傲慢與偏見》一書的作者凱西.歐尼爾(Cathy O’Neil),便以一個「圈內數學家」的身份,向大家揭發演算霸權,並且警告大家:「預測模型正日益成為我們仰賴的工具:我們仰賴它們來管理組織、配置資源,以及管理我們的生活。但一如我在書中一再努力說明,這些模型並非只是用數據建立起來的;它們還仰賴我們選擇使用哪些數據、以及忽略哪些數據……如果我們不嚴肅看待這些抉擇,把數學模型視為中性和不可擋的力量(一如天氣或潮汐),我們便是選擇不承擔我們的責任……我們卸責的結果,是數學毀滅性武器把我們當成職場中的機械零件、排斥某些員工,以及助長不公不義的狀況。」

「耶和華神用泥土造了野地的各樣野獸,和空中的各樣飛鳥,把牠們都帶到那人面前,看他給牠們叫甚麼名字;那人怎樣叫各樣有生命的活物,那就是牠的名字。那人就給各樣牲畜、空中的雀鳥,和野地的各樣走獸起了名字。」(創二19-20上《新譯本》)神創造人類,賦予我們管理大地之權及能力(創一26)。AI世界只會愈來愈進步,但願人類不會愈來愈退步,過度依賴AI,失去自主,寧願將人生大小的選擇權,拱手讓給AI。

參考書籍:
山田胡瓜著,Cato譯:《AI基因電子》,第1-8集。台北市:台灣角川,2018-2019。

哈拉瑞(Yuval Noah Harari)著,林俊宏譯:《21世紀的21堂課》(21 Lessons for 21st Century)。台北市:遠見天上文化,2019。

凱西.歐尼爾(Cathy O’Neil)著,許瑞宋譯:《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》(WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY)。台北市:大寫,2019。

曾經刊載於: 

香港獨立媒體, 10-7-2020

相關文章

在AI世界中不要失去清醒

吳慧華 | 生命及倫理研究中心高級研究員
01/09/2020

不少人愛上擴增實境(Augmented Reality,簡稱AR)或虛擬實境(Virtual Reality,簡稱VR)的遊戲世界,只因為這是一種沉浸式身臨其境的視覺體驗。現場版的過山車很刺激,但若可以在零風險之下享受到過山車或其他遊戲帶來「身歷其境」的樂趣,何樂而不為?現在或有人嫌棄AR或人工智能(Artificial Intelligence,簡稱AI)還不夠真實,很少能讓玩家感受到物品的觸感,如摸不到牆壁或家具等,但其實已經有大學在開發一種新裝置,把細鐵絲繫於玩家的手腕和手指上,模擬障礙物和重物的觸感,配上5G及AI,必定讓玩家有更滿意的體驗。

不過,現今遊戲世界所採取的AR或VR系統無論再進步,還是及不上漫畫家山田胡瓜筆下《AI基因電子》中的遊戲世界。在那個世界中,人類都可以把裝置植入腦中,通過植入裝置,不需要手拿真實的電子設備,人類可以輕而易舉地打電話、聽音樂、打電動遊戲,甚至可以玩一些不想他人知道的情色遊戲,只是玩的時候——要使用隱私模式。

玩情色遊戲要用「隱私模式」,這是一位中學男生植入裝置之後,詢問醫生是否有了植入裝置便可以看任何東西都不會被發現,醫生給他的回覆。至於是否真的不會被發現,一如慣例,醫生不會保證絕對不會被其他人發現,但他好心提醒這位男同學:「虛擬現實的內容,雖然——可以在不傷害其他人的情況下做任何事,但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

現實世界的色情產業一直緊貼著科技發展,早前已有色情網站已經開設了VR頻道,為了可以賺取更大利益。色情網站開設的目的只管喚起玩家的慾望,好讓玩家花巨款來購買他們的產品,至於產品對玩家的身心靈,又或社會的影響,並不是他們所關心的範疇。《AI基因電子》的情色遊戲也是如此,一切後果由玩家自負,被醫生植入裝置的男生,和其他男同學一樣,植入裝置之後,只想玩一款名為「戀愛夢想2」的遊戲,只要把目標圖片輸入,靠著人工智能的力量,便可以生成一個如圖片中人一樣的遊戲人物,一個可以回應男生要求的「女朋友」。

不難想像,對於一名血氣方剛的男生,他最想擁有的「女朋友」,是他心儀或暗戀的對象,在略為猶豫之後,故事中的男生還是掃瞄了他心儀的同校女生,而他的目的,便是希望看「她」的裸體。就如醫生之前的警告,「那裡的經驗會確實地殘留在你心中。」而男生亦因此確實受到影響,第二天當他看見心儀的女生,不自禁地比較她和遊戲人物的——胸部。影響不止於此,一開始,他只想看一看暗戀女生的「裸體」,但慢慢地,他愈陷愈深,雖然他觸摸不到這個遊戲人物,卻多次和這位遊戲人物出外約會,彷彿情侶一樣。

有一天,男生心儀的女同學活生生站在他面前,邀請他看電影,他欣然接受,藉機表白後,女生亦欣然接受。雖然手牽手過著幸福快樂的日子是很多愛情小說的結局,可惜這位男生享受不到這樣的結局,只因一次說錯話,男生比較了她和「她」,女生發現男生掃瞄她的圖像以生成遊戲人物,當場把男生甩了。男生回到家中,把事情告訴了「她」,「她」告訴他會一直待在他身邊,故事結束之前,男生只說了一句:「我一點都不覺得內疚,為甚麼呢?」

失去了一直心儀的戀人,男生不是說「我一點都不覺得可惜」,又或是「我一點都不覺得後悔」,而是說「我一點都不覺得內疚。」甚麼是內疚感?內疚感是一種情緒,一種自我反省出來的醒覺,當人感到自己做錯事,覺得自己傷害了他人,便會出現內疚感。男生說他一點都不覺得內疚,表示他不覺得自己做錯事:不覺得用女生的圖像生成一個遊戲人物,觀看「她」的裸體對女生來說是一種冒犯,一種不尊重,甚至是侮辱。即使男生不覺得這舉動實際上傷害了女生,但一般女性才不希望被人當成性幻想對象。在他生活的世界中,就如醫生所言:「虛擬現實的內容……可以在不傷害其他人的情況下做任何事。」即是說只要沒有去窺探真人的裸體,便等於沒有對當事人帶來傷害,便等於沒有做錯。事實卻不是如此,如果真的沒有帶來任何傷害,並不會出現女生生氣,甩了男生的情節。

作者山田胡瓜明顯地並不樂於看見新科技讓人發展到一個地步,便是有人暗地裡傷害他人還不覺得自己有錯。故事一起首,作者引用《聖經》馬太福音五章28節所講,凡看見女性,就動了情慾之念的,這人心中早犯了姦淫,接著又說「如果真的有耶穌,我想告訴祂,科學技術已經做出了比『人類的內心』更糟糕的東西了。」相信神存在,並且認識耶穌的人不妨告訴作者「不用等待你告訴祂,祂知道科技可以做出很糟糕的東西,因為祂是全知的,至於人心有多糟糕,神也早已知道,對於拜偶像的,以不正當手法謀取財富的人,祂早已說『人心比萬物都詭詐,壞到極處,誰能識透呢?我-耶和華是鑑察人心,考驗人肺腑的,要按各人所行的和他做事的結果報應他。』(耶十七9-10 《和修》)。」

科技可以為人類帶來很多福利,重點是人類如何運用它,至於如何設計它、使用它,取決於人心盛載的是甚麼?當新科技只被視為協助賺錢的工具,當新科技只被視為滿足慾望的工具,當人失去了甚麼可以作,甚麼不可以作的分辨能力,科技為人類社會帶來貢獻的同時,亦必然帶來破壞的能力。專業人士可以通過VR等技術幫助沉溺人士脫癮,然而,因為AR或VR等帶來更刺激的性體驗,亦將造就更多性沉溺者。

高科技不單造就更多性沉溺者,也可能造就沉溺於虛擬世界而不能自拔的人,特別是當虛擬世界中的人和事是按著玩家所期望的劇情發展,讓他們特別感到滿足。《AI基因電子》中的男生生成了「女朋友」,他提出要看她的裸體,「她」便乖乖的讓他看。有一次他們外出到海旁,「女朋友」想要他「摟住她的肩膀」,男生並不能如人型機械人一樣,植入裝置後可以進入「她」的世界,觸摸到「她」,所以他覺得摟一個外人看不到,只有他看到卻又沒有真正質感的「人」很傻,他拒絕了「她」的要求,當「她」再三要求,男生還自然地回應「她」:「正常來說,應該是我向妳提出各種要求的喔。」

在一個任他為所欲為,由他做主的世界,即使失去了心儀的女生,他亦沒有很傷心的表現,反正,還有另一個「女朋友」承諾一直在他身旁。有了虛擬的「女朋友」,失去真實的女朋友,真的一點都不可惜,毋須感到懊惱嗎?對故事中的男生或者是,但對作者來說應該不是,因為他把這故事的單元命名為「悔恨的混淆」,言下之意,當人分不清現實世界及虛擬世界,足以做出讓人悔恨的事情,這題目名稱也回應了醫生一開始時的警告:「……但在那裡的經驗會確實地殘留在你心中,可別忘記區分現實和虛擬。」

當科技愈發厲害,虛擬世界只會變得愈來愈「真實」,當人投入「真實」並且可以做主的世界,有可能不想清醒過來,只想享受著這一個比現實世界還「真實」的世界,因為在現實中他們無法達成的夢想或滿足的慾望,卻可以在虛擬世界中一一達到。一些人若有足夠的條件,可以一生都在虛擬世界度過,不需要理會現實,似乎真的不需要花力氣區分現實和虛擬世界,可惜,沒有人真的可以忽略現實,即使大家沒有經濟負擔,人類的生理結構也絕不容許大家日以繼夜停留在虛擬世界。況且,人還是需要與其他人交往,發展真實的關係。

無論是心理或生理,人類並不適合永遠停留在虛擬世界,作為一個群體的成員,人類也並不適合只顧及自己的慾望而漠視他人的感受,縱然喜歡虛擬世界,最好還是要保持清醒,區分現實和虛擬,因為虛擬的現實並不能真的取代現實。


參考資料:

山田胡瓜著,Cato譯。《AI基因電子》,第1-8集。台北市:台灣角川,2018-2019。

 

Roby, Karen. “TechRepublic's Karen Roby spoke with a recovery center in Kentucky that is using VR to help clients facing drug and alcohol addiction.” TechRepublic. September 23, 2019. https://www.techrepublic.com/article/virtual-reality-a-new-tool-in-the-fight-against-addiction/.

 

Evan。〈虛擬實境也能有觸覺,研究人員開發出超輕量VR觸覺回饋裝置〉。《科技新報》,2020年4月30日。網站:https://technews.tw/2020/04/30/new-device-simulates-feel-of-walls-solid-objects-in-virtual-reality/(最後參閱日期:2020年8月24日)。

 

〈科技讓沉浸式體驗與行動遊戲成為可能 !〉。Inside. 2020年5月15日。https://www.inside.com.tw/article/19806-vr-challenges-and-tech-solutions(最後參閱日期:2020年8月24日)。

 

〈男子沉迷VR色情片:猶如吸毒,注孤生〉,3DM Game。2016年6月28日。https://3c.3dmgame.com/show-38-3818-1.html(最後參閱日期:2020年8月24日)。

曾經刊載於:

香港獨立媒體, 1-9-2020

在AI世界中不要失去良善

吳慧華 | 生命及倫理研究中心高級研究員
03/07/2020

很久很久之後,人類迎來了一個複雜的世界:植入、AR(擴增實境)、產業AI、機械人、人型機械人等超乎人類想像的技術或產品充斥全世界,成為人類不可或缺的拍擋,甚至產生緊密的關係及互動。當人類採用植入技術,把自己的腦袋與網絡直接連結之後,不必使用實體的電子設備,便可以打機、聽音樂。AR需要透過植入,將影像與聲音投射呈現在現實世界的技術。產業AI是用來輔助人類生活的,例如協助駕駛的無人車或進化到可以提供人類意見的智慧音箱等。機械人的外型像人,但都是因應某種目的而被製造出來的,例如擔當餐廳的侍應等。至於人型機械人,已經發展到不是你一眼便看出他們是機械人的層次了,他們如常人一樣吃喝、生活、工作、學習、累積財富、拍拖(跟同類或人類)、結婚(同類或人類),領養孩子(同類或人類)。人型機械人與人類的身體雖然有許多差異,但頭腦卻是十分類似,所以如同人類一樣,懂得哭、懂得愛、懂得反思。

原則上,人型機械人擁有如人類一樣的權利,只有當危險發生時,才需要讓人類優先離開肇事現場,畢竟,人類是血肉之軀,不像人型機械人一樣容易治療,即使也有人類換了機械身軀。不過,人型機械人也不是可以永遠「不死」,當使用的年期到了極限,也會「死掉」。人型機械人的醫療領域也會牽涉道德問題,有法例規定機械人不可以備份(複製自己),頭部絕對不可擅自複製或更換,一旦頭部受損,基本上是沒救的。這些與人類極為相似,又與人類關係非常密切的類人型機械人,在漫畫家山田胡瓜的《AI電子基因》世界中,佔了日本國民一成。

《AI電子基因》世界中的類人型機械人與真人沒有分別,人類會選擇與他們談戀愛,甚至結婚,唯一讓人類躊躇不前的是,人型機械人即使與人類十分相似,他們卻無法透過天然的方式生育,大多透過領養小孩子。故事中,一名人類中學生亦有相同煩惱,他喜歡上人型機械人,一個在他眼中是「溫柔的好女孩」,礙於無法與她生育孩子,他逃避她,不知道如何與她走下去,直到他看見她為了救小貓,奮不顧身爬出窗外,他非常著緊,那一刻,他知道她在他心中非常重要,決定再與這位女生一起。到了成家立室的階段,這位男孩子還會選擇與這位女孩在一起嗎?我們不得而知,或者他仍為她不是人類而心存芥蒂,最終還是決定放棄這段關係,至少他確定了他非常喜歡這位人型機械人女友,一位非常好的「女孩」,一位為了小貓而甘願冒生命危險的女孩。

機械人及類人型機械人的個性不是都是出廠前預設的嗎?他們到底有沒有心?一個母親與丈夫分開期間,為了怕兒子寂寞,買了一隻連製造商都停止提供維修的二手機械玩具熊給兒子,誰知在母親眼中應該沒有心的玩具熊,卻搶走了兒子的注意力,因為這隻玩具懂得回應男孩的說話,鼓勵他,成為了孩子的傾訴對象。媽媽本來堅持這隻機械玩具熊「並不是活生生的,只是做得精美的玩具,他會哭會笑,全部都是假的,它只是裝模作樣地做出回應,根本沒有任何思想或感情。」直到她看到玩具熊對前主人的記憶沒有完全被刪除,念念不忘前主人,還很想再見她,想要遵守與她一直在一起的諾言,這玩具熊讓媽媽流下感動的眼淚,玩具熊真的沒有心嗎?母親開始動搖了。

AI及人型機械人等發展至今,很多人都會提問,會否有一天,人型機械人等會否如很多電影情節描述的一樣,他們擁有人一樣的意識,如人一樣去感受身邊的事物、去愛、去反省。現實世界的科學家會告訴大家,人型機械人要發展到這個地步是不可能的事。《AI電子基因》呈現給大家的是,有些機械人及人型機械人不但會愛會反省,也會有良善的行為,這樣他們看起來就如有「心」一樣。這裡的「心」不是生物上的心臟,一個推動循環系統中血管的血液,以此提供身體所需要的氧氣及養分等功能的器官,而是思想、意念、感情及性情等所在之處。

當作者刻劃出機械人及人型機械人的良善的同時,他透過人類主角須堂醫生之口,讓大家去反思人類本身又如何,我們也有心嗎?在「醫治」玩具熊的過程中,當須堂被小孩問及玩具熊「有心這種東西嗎?」須堂醫生的回答是:「誰知道呢?人類的腦隨著科學進步而被解開了不少謎團。心是甚麼?這個問題卻是每個人都有不同的主張,其實誰都沒有心也說不定喔。」

作者筆下的須堂醫生主要的工作是「救助」機械及人型機械人,在其他場景,另一次醫療之中,他向她的人型機械女助手說了以下一段說話:「你不用窮擔心,我才不會找感情豐富的人型機械人來幫忙,就交給無情的人類來處理吧。」作者想表達甚麼?AI世界可以製作出良善的機械人及人型機械人,卻不能讓人類變得更有心?還是他認為人類無情,所以才需要有情的機械人?還是他單單想要諷刺那些失去了心,不再良善的人類?我們無法得知作者的本意,我們只看到作者一方面透過人類去思考甚麼是自然,甚麼是心,另一方面透過一個為了救治小貓不惜冒險爬出窗外的人型機械人女生;一隻堅持著與前主人有約定,要與主人一直在一起的機械玩具熊表現出何謂有心、何謂良善。有沒有心?不需要哲學家或科學家告訴我們,平常人都可以用心去感受。

返回現實,人類與AI比試,無論是計算能力、記憶力、甚或是創作力都可能會落敗,甚至慘敗收場。人類可以勝過AI的,是因為人有心。當日後AI在世界成為霸主,你被他人良善的行為打動,你便勝過AI;當你良善的行為打動他人,你便證明了你絕對比AI更難能可貴。

參考書籍:
山田胡瓜著,Cato譯:《AI基因電子》,第1-8集。台北市:台灣角川,2018-2020。

曾經刊載於:

香港獨立媒體, 3-7-2020

大數據的傲慢與偏見

好書推介

07/01/2020

《大數據的傲慢與偏見:一個「圈內數學家」對演算法霸權的警告與揭發》
WEAPONS OF MATH DESTRUCTION: HOW BIG DATA INCREASES INEQUALITY AND THREATENS DEMOCRACY
作者:凱西.歐尼爾(Cathy O’Neil)
譯者:許瑞宋
出版地:台北市
出版:大寫出版
出版年份:2019年

《大數據的傲慢與偏見》的作者從小熱愛數學,其後取得數學哲學博士學位,曾在大型對沖基金公司擔任量化分析師。作者一度認為數字是公平及客觀的,但隨著2008年的全球金融海嘯引發經濟崩潰,這信念便瓦解,她描述自己「上了可怕的一課,了解到數學可以如何暗中為害、毀滅世界。」大家都相信程式設計師和統計學家的數學分析,卻很少人質疑統計系統如何運作,它們又是否公平公正。數學——其實可以成為毀滅性武器。

作者走訪了中小學、大學、法院、職場、投票站,為大家揭示所謂客觀的評估其實一點也不客觀。例如在教育方面,美國政府以學生的分數來釐定老師的質素,但作者指出數字並不能說明一切,一位有心力有能力的好老師也可以敗在評分系統上。老師的表現雖然有可能影響學生的成績,但影響學生成績的因素還有許多,包括家庭問題、經濟壓力或個人形象。單單透過演算法歸納人的行為、表現及潛力,並非容易的事情。作者更提到一位經驗豐富的老師,有一年被紐約公立學校增值模型給了六分,第二年卻有96分,兩年來,這位老師都一如既往的盡力。如果不是這位老師的合約是終身制,這位好老師早在只得六分的那年被辭退了。另一位優秀的老師由於她的合約不是終身制,即使她得到校方及學生家長的讚賞,卻因為被增值模型打了一個奇差的分數,而要被迫要離開任職的公立學校。校方願意推薦這位傑出的老師到另一個富裕社區的學校任教。作者諷刺的說:「拜一個非常可疑的模型所賜,貧窮社區的學校失去了一名好老師,富裕社區一間不會根據學生的分數開除教師的學校,則得到了一名好老師。」

由於美國大眾極度「擁護」數字,美國的大學也受到影響。自從《美國新聞》在1988年公佈了第一份仰賴數據的大學排名,當中的排名變成了一種國家標準,大學都想被加分,以致本來的特色都不再重要,反而致力於改進由報社所制定出來的15項準則,這無疑讓教育制度走進一個僵化的模型。有些大學為了推高學校的排名而出錢讓學生重考SAT考試(由美國大學理事會提供的考試);有些直接捏造數據;有些選擇建設豪華的宿舍和健身房。這些費用當然會轉嫁到學生身上。1985年至2013年,美國高等教育成本增加超過500%,學生的借貸也變得愈來愈沉重。

讓人人都有機會接受高等教育是好事,但在美國,有很多「文憑工廠」,目標精準地鎖定為比較容易上當的清貧人士。很多人都在網絡留下足印,一經分析,富人或窮人,以及他們的喜好或需要很容易被劃分出來,精準廣告會出現在不同階層人士的眼前。「文憑工廠」的廣告會說服生活艱苦的人,文憑可以改變他們的生活,可惜的是這些文憑得不到社會承認,入讀大學而來的借貸只會令窮人的生活百上加斤。

數據化時代,亦代表著人人被監視,無所遁形的時代。美國充斥著不少收集市民資訊的公司,以供其他人付費查閱:如Experian、Acxiom、RealPage等,問題是它們所提供的資料不一定精準。不準確或未及時更新的資料可能剝削了居民應有的權利,有位女士便是其中的受害人,她申請老人院時被拒,事緣是RealPage在網上顯示了她的被捕記錄,事實是她的確曾被捕,但卻沒有留下案底,該項記錄亦早已從政府的資料庫中被刪除了。作者指出這些數據公司只管收集市民的資訊,卻不願花時間更新他們的資料,影響了不少人的名譽或權益。

工作方面,為了找出有創意、有智慧和魄力的人才,Gild這類人力資源公司不單會分析員工的履歷表,還會留意他們在網絡上曾否跟相關人才作交流,看看他們是否該領域的活躍人才。作者認為此法並不周全,雖然未至於成為數學毀滅性武器,但隨著數據世界持續地擴張,僱主如何解讀潛在員工在網上發放的生活動態,值得大家留心。另外,作者建議在美國找工作的人,最好不要拖欠信用卡賬單,因為有調查顯示,接近一半的美國僱主在選擇應徵者時,會檢視其信用報告。有時候,拖欠債務可能是事出無奈或一時疏忽,並不能完全反映員工的責任感出了問題,只是當中原因未能在大數據中顯示出來。

作者並非打算推翻統計工具及數據,她只是想喚起大眾的警覺性,知道它們如何對社會造成不公,特別讓低下階層的人成為被追擊的對象,她提出「大數據模型將某種歷史狀態寫進程式裡。它們並不創造未來。創造未來需要『道德想像力』(moral imagination),而那是人類才有的。我們必須明確地將比較好的價值觀寫進演算法,創造出在道德上聽從我們領導的大數據模型。有時候這意味著我們必須重視公平甚於利潤。」

這本書讓讀者明白大數據並不如大家想像的那麼客觀或中性,作者邀請大家多作思考如何善用手中的利劍,才可以讓它們為人類服務,而不是反過來讓它們掌控人類。

人工智能換臉 Deepfake

郭卓靈 | 明光社項目主任(傳媒教育及行動)
20/05/2019

2018年,網絡開始盛行Deepfake,這個合併詞由深度學習(Deep Learning)和冒充(Fake)組成,它是指透過人工智能技術造成的人體圖像合成技術,以圖像及影片重疊至目標圖片或影片上。起初不少人認為這種電腦深度學習技術應該只存在於人工智能研究的範疇上,但於2017年,一位名為「Deepfakes」的網民將以色列女星姬嘉鐸(Gal Gadot)的樣貌換到色情片的女主角身上,[1] 並發佈在紅迪(Reddit)論壇上,引起了一陣哄動,更令部份人效法這種行為。

其實Deepfake並不是甚麼高深的技術,現在網上也有教學及資源協助製作想要的Deepfake。當中的流程包括三個步驟:一是從圖像提取數據;二是訓練電腦,用一段時間(以小時計)去告訴它何時做對,何時做錯,讓它從中學習;三是轉換,以圖片融合技術達成人物轉換的目的。[2]

而Deepfake能夠做到以下幾種效果:

  1. 分析A影片人物所說的話,提取數據並套入B影片人物的口中說出。如曾經有人製作了一條影片,將美國影星佐敦(Jordan Peele)所說的話,套入美國前總統奧巴馬(Obama)的口中說出來(圖一);[3]
  2. 提取人物A的動作(如舞蹈動作)數據,套入人物B(不懂跳舞的人)身上,製作出來的影像就是人物B在跳舞(圖二);[4]
  3. 分析一大堆人物A不同的照片,將分析出來的數據套入影片中的人物B,使人相信片段是人物A拍攝的。如網上就曾有人製作了一條影片,將1994年上演的電視劇《射鵰英雄傳》中飾演黃蓉的朱茵換成今時今日的內地女演員楊冪(圖三)。[5]
明光社
明光社
明光社
 

上述影片的效果都相當逼真,就以圖一的影片為例,比爾的話,在套入奧巴馬的影像後,其聲線、語氣、動態都和奧巴馬本人幾乎一樣,只是奧巴馬在公眾場合絕不會說一些粗鄙或鼓吹殺戮的言語,但在這段偽造的影片中,「他」就公開說出了這些話。

這種技術的應用正在慢慢普及,但卻大多被用來製作惡搞影片或色情影像,結果Deepfake成為了一些立心不良的人,偽造影片的工具。雖然社交平台Reddit、推特(Twitter),色情網站Pornhub(直譯就是色情影片中心)已經禁止所有移花接木的Deepfake色情片段,但在網海內還有無數渠道可以將這類影片發放及傳送。

明光社

有研究員指出Deepfake技術的影響將會十分深遠,預計這門技術在五年內足以欺騙沒有受過訓練的大眾。研究員說的話並非危言聳聽,這門技術的確有本領令人難辨真假,特別是在大家沒耐性對真假查根究柢的年代。電腦科學家蘇帕索恩.蘇瓦耶納柯恩(Supasorn Suwajanakorn)就曾於一個公開講座展示四個奧巴馬的演說片段(圖四),與會者都無法分辨哪一個才是真正的奧巴馬,但原來四個奧巴馬都是偽造出來的。[6] 這代表在未來政治角力上,有人可能為了爭取選票或權力,而以這種技術來製造抹黑對手的片段。更諷刺的是當進入虛假影片充斥的年代,就算有真實的影片流出時,我們也會對它的真實性產生懷疑。

科技正在發展,我們沒可能走回頭路,只能對未來的影像、片段保持警惕,不要輕信,尤其是要留意資料來源。愈奇怪、愈沒法追尋的消息或片段,就愈要抱懷疑的態度。如不想被人用Deepfake技術轉換成為虛假影片的主角,就要好好保護自己的影像,不要讓陌生人輕易取得,因為愈多不同的影像(如不同的表情或從不同的角度拍攝的影像)成為影像生成的數據,製作出來的影像就會愈神似。以此來看,公眾人物很容易便會成為Deepfake的主角,他們亦要承擔更高的風險。

這門技術的確有其危險的一面,不過,如將它用於正途,如製作電影、回顧歷史事件,或緬懷名人、已逝世親人的影片等,不單可以減低拍攝危險場面的風險,也可以提高逼真程度。如能活化人物,更可以拉近我們與被緬懷者的距離。


[1] 孔祥威:〈【科技.未來】Deepfake假得迫真 深度造假模糊真相甚麼才可信?〉,《香港01》,2018年12月07日,網站:https://www.hk01.com/周報/268011/科技-未來-deepfake假得迫真-深度造假模糊真相什麼才可信(最後參閱日期:2019年5月4日)。

[2] Lonely.wm:〈深度解密換臉應用Deepfake〉,知乎,2018年2月27日,網站:https://zhuanlan.zhihu.com/p/34042498(最後參閱日期:2019年5月4日)。

[3] Good Morning America - abc, “Jordan Peele uses AI, President Obama in fake news PSA,” Youtube, last modified 18 April, 2018, https://www.youtube.com/watch?v=bE1KWpoX9Hk.

[4] Caroline Chan, “Everybody Dance Now,” YouTube, last modified August 22, 2018, https://www.youtube.com/watch?v=PCBTZh41Ris.

[5] 〈AI換臉朱茵變楊冪 網絡爆發爭議〉,《頭條日報》,2019年3月1日,網站:http://hd.stheadline.com/news/realtime/chi/1445328/(最後參閱日期:2019年5月4日)。

[6] TED, “Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn,” YouTube, last modifiied July 25, 2018, https://www.youtube.com/watch?v=o2DDU4g0PRo.

為智慧生活劃下底線

吳慧華 | 生命及倫理研究中心 前高級研究員
19/11/2018

人們早上醒來不再是一件苦事,智能產品可以預測到你的睡眠週期,讓你能處於最佳的狀態。它會用你最喜歡的音樂來喚醒你,你一邊梳洗,它一邊向你匯報昨晚你的睡眠質素怎樣;你的健康狀況如何;告訴你今天天氣,例如溫度和下雨的機率是多少;提醒你下午有一個重要的會議,並早已幫你通知了需要出席會議的成員。它又為你預訂了最喜歡的餐廳。在你出門以先,它告訴你交通狀況,建議你最快捷的行車路線;在你出門後,它為你關掉家中所有電器,並鎖上大門。[1]

這樣的生活,並非遙不可及,隨著物聯網(Internet of Things,簡稱IoT)[2] 及人工智能(Artificial Intelligence,簡稱AI)技術愈來愈成熟,家具會變得愈來愈聰明,可以「了解」用家的喜好、「感受」用家的需要,為用家提供更方便快捷,以及更體貼的服務。[3] 物聯網的架構可分為三層:1. 讓物件接受訊息(感知層);把物品加上感測器,讓它們能夠探測、感受外界的信號,如光、熱、濕度、聲音、震動、壓力等。例如加上感測器的咖啡機會變得聰明,它會「知道」用家的飲用習慣,以及咖啡豆的消耗情況。2. 物件能傳遞訊息(網路層):透過有線或無線的網路科技,把訊息傳遞至位於雲端的主機。3. 運用訊息(應用層):位於雲端的主機會接收到大量的訊息,配合人工智能及大數據的分析後,給予用家建議或讓各種裝置作出最好的對應。例如智能咖啡機會自動透過手機提醒用家咖啡豆快用完了,建議用家需要補貨。若果用家習慣在網上購買咖啡豆,由於用家的消費記錄已經存放在雲端上,手機亦會即時顯示用家習慣購買咖啡豆的網頁,供他選購。[4]

明光社

以互聯網結合人工智能及大數據來打造的智慧城市是大勢所趨,其勢頭銳不可當。2017年12月,香港政府資訊科技總監辦公室制定了香港智慧城市的藍圖。[5] 香港在這方面算是遲起步的城市,早在2006年,新加坡政府已經看到發展人工智慧的必要,努力打造「智慧城市2015」,[6] 到了2018年,她成為全球20大智慧城市中的第一名。[7] 新加坡要維持世界第一的排名並非易事,英國政府在2017年預算了7,500萬英鎊投入AI計劃,致力實現「科技城市」。[8] 而在2018年,美國將成為智慧城市技術的最大市場,預計支出將達到220億美元。至於中國在這方面的支出也緊隨美國,支出將達208億美元。[9]

生活在智慧城市或智慧家居下,人的生活的確變得方便及快捷,因為很多物件都變得聰明多了,「知道」我們的習慣,「讀懂」我們心意,甚至主動為我們「提供」解決問題的方法。不過,這種生活須付出代價,我們會因此變得愈來愈沒有私隱。物聯網的世界離不開雲端,我們的一切習慣及交易都記錄在「雲上」。因此,我們有可能被說服作出不必要的交易,又或是需要付出比其他人更高昂的價錢去享受同一項服務。存放在雲端的大數據在商家眼中,已如「新石油」一樣,[10] 數據處處帶來商機,讓商家知道如何制定更好的銷售策略,當電子商舖知道你需要咖啡豆,它或會向你推介另一款味道差不多,但它能賺得更高利潤的咖啡豆。

這些事情尚且不算擾人,但現實中,智能產品大有可能帶給人意想不到的危險。自從互聯網變得普及,便興起駭客(hacker)這行業。而隨著物聯網的出現,無疑是擴大了駭客可以侵略的版圖。[11] 智慧家居表示房子完全上網,這就更容易受到駭客入侵。簡單如一個智慧燈泡插進燈座之後,駭客便可以藉由它得知你家中的WiFi密碼。一位美國記者也曾體驗過當駭客,這並非如想像中困難,他在網上輕易地入侵了一個名為Insteon的自動化系統,此系統負責控制家居的電器。他從中找到幾個用家的智慧雪櫃,並告知用家他在做試驗,隨之表演如何控制他們的雪櫃。2014年初,駭客已經掌控了超過10萬項「智慧型」裝置,未來駭客的入侵範圍會因著物聯網而變得愈來愈廣闊。[12]

不獨商人對於「新石油」趨之若鶩,政府也參與其中,對於當權者來說,能夠得知市民的一舉一動代表著控制大局,即使它的本意如何美善,但對於市民來說這無疑是被人隨處監視。有記者憂慮,以智慧城市之名,讓大數據落在不同政府的手中,我們會不會因而創造出一隻無法控制的巨獸?[13]

明光社

事實上,沒有政府參與其中,世人已經造就了Google、facebook、淘寶、WeChat等巨獸。它們監控著我們的一舉一動,並且把我們的喜好及習慣賣給廣告商。[14]  雖然我們沒法阻止巨獸的出現,但卻可以運用智慧,不要為了一時便利而隨意下載一些容易被駭客入侵的系統,也不要隨意在網上提供個人資料。facebook洩露用戶的資料固然有不對之處,但正如新加坡SG Innovate 的CEO Steve Leonard所言:「對於個人資訊分享程度,每個人都應該有權作出決定。」[15] 我們每個人都有權選擇是否把自己的資料,鉅細無遺地貢獻給facebook,但若然在意資料外洩(要知道世上沒有絕對安全的人或系統),便最好先計算清楚,知道自己的底線在哪裡。

 


[1] 理查˙楊克:《情感運算革命》,范堯寬等譯(台北市:商周出版,2017),頁26–28。

[2] 物聯網(IoT)就是透過互聯網把裝置和設備連接起來,讓裝置和設置互相交換資料並作出指令;參通訊事務管理局辦公室:〈物聯網(Internet of Things) 「科學為民」服務巡禮講座〉,「通訊事務管理局辦公室」,2018年7月7日,網站:https://www.ofca.gov.hk/filemanager/ofca/en/content_928/SIPS_Lecture_IoT...(最後參閱日期:2018年7月19日)。

[3] Dynabook Malaysia:〈物聯網IoT〉,「YouTube」,2017年3月3日,網站:https://www.youtube.com/watch?v=Nh6OAXUKzek(最後參閱日期:2018年7月19日)。

[4] Wendy:〈重新認識「IoT」,物聯網的由來以及對未來的影響〉,「T客邦」,2016年3月13日,網站:https://www.techbang.com/posts/23698-the-internet-of-things-key-to-a-new...(最後參閱日期:2018年7月18日)。

[5] 香港特別行政區政府 政府資訊科技總監辦公室:〈香港智慧城市藍圖〉,「政府資訊科技總監辦公室」,2018年1月26日,網站:https://www.smartcity.gov.hk/develop_plans/living/?lang=zh_TW(最後參閱日期:2018年7月17日)。

[6] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉,《明周》,2018年3月27日,網站:https://bkb.mpweekly.com/cu0001/20180327-70023(最後參閱日期:2018年7月14日)。

[7] 郭倩婷:〈全球20大智慧城市 新加坡排第一〉,《聯合早報》,2018年3月13日,網站: https://www.zaobao.com/realtime/singapore/story20180313-842341(最後參閱日期:2018年7月14日)。

[8] 謝秉芸:〈【CONNECT 2020】英國金援AI、5G、自駕車,帶動 27000 個工作機會!〉,「科技報橘」,2017年11月27日,網站:https://buzzorange.com/techorange/2017/11/27/uk-puts-ai-into-action/(最後參閱日期:2018年7月17日)。

[9] Gloria:〈2018年全球智慧城市相關投資可達800億美元〉,「科技產業資訊室」,2018年3月12日,網站:http://iknow.stpi.narl.org.tw/Post/Read.aspx?PostID=14257(最後參閱日期:2018年7月18日)。

[10] 資訊公司日本電氣株式會社(NEC)的首席工程師Shinya Kukita指出:「數據就是新石油(Data is the new oil)。不同的是,不會像天然資源消失。」參鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[11] 馬克˙古德曼:《未來的犯罪——當萬物都可駭,我們該如何面對》,林俊宏譯,(新北市:木馬文化,20166xab GoodmanEO nce),頁22–26。

[12] 馬克˙古德曼:《未來的犯罪——當萬物都可駭,我們該如何面對》,頁332–338。

[13] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

[14] 馬克˙古德曼:《未來的犯罪——當萬物都可駭,我們該如何面對》,頁97–104。

[15] 鄭祉愉:〈【創科路向1】專訪新加坡SGInnovate CEO 智慧城市的數據競賽與隱患〉。

數據、謊言與真相

19/11/2018

《數據、謊言與真相:Google資料分析師用大數據揭露人們的真面目》
作者:賽斯˙史蒂芬斯—大衛德維茲(Seth Stephens-Davidowitz)
譯者:陳琇玲
出版地:台北市
出版:商周出版
出版年份:2017年

 

作者賽斯˙史蒂芬斯—大衛德維茲為網路數據專家,每天都要追蹤人們在網路上留下的數位足跡。他試圖從人們點擊或按鍵中,了解他們真正想要的是甚麼,真正會做的又是甚麼,以及他們的真面目。

作者發現人們即使面對朋友、戀人、醫生、問卷調查,甚或自己,都沒有把自己的真正想法表達出來。然而當面對大型的搜尋引擎時,他們往往可以在搜尋欄中吐露真心。例如當年奧巴馬贏得大選,成為美國總統的時候,一般的民意調查,又或是兩位知名教授的分析,都指出美國國民並不在乎奧巴馬是黑人。不過,作者卻發現Google搜尋器所呈現出來的,跟調查相距甚遠,美國仍有不少人懷有種族主義,他們會用仇視黑人的字眼在網上進行搜尋。簡單而言,很多人會在眾人面前說謊,但當面對Google搜尋器時,他們的想法卻無所遁形。因此作者運用了Google搜尋統計,發現了人們不願說出口的秘密,包括深藏內心的種族歧視、仇恨思想、以及未報案的虐童案件等。

大數據洩露人們的秘密,這有助政府、組織或企業挖掘一些連人們自己都不知道的偏好,以為它們帶來好處。同一樣貨品,大數據可能讓企業家了解有哪些顧客願意支付更高的價錢,掌握了這方面的資料,企業家就能在特定的顧客群中,獲取更多的利潤。大數據甚至可以幫助賭場老闆認識不同賭客的「痛點」,甚麼是「痛點」?它是指當賭客輸掉的金錢,超過某個金額時,他們便會在賭場消失一段時間。賭場老闆會千方百計讓賭客輸掉的金額最接近,卻又不會超過「痛點」。當某位賭客的「痛點」臨近,賭場老闆會請他吃免費牛扒,老闆此舉看似大方,事實上,他只是想賭客在「痛點」前收手,令他在明天或短時間內再來光顧。

大數據看似厲害,但身為數據分析師的作者,卻提醒大家不要過度迷戀數據,這樣會令人忽略了更重要的考量。情況就如耶魯大學某位行銷學教授,她本來打算研究計步器如何給人帶來積分,激勵人走更多的路。誰知為了爭取更多的積分,她走路走至身體疲乏,甚至把計步器放在三歲女兒的身上,讓她幫忙賺取分數,只迷戀數字的她,結果當然沒有完成關於計步器的任何研究。

另外,作者也提出「以數據取人」存在著危險。現在美國的僱主考慮工作應徵者時,更常搜尋應徵者的社交媒體。有研究顯示在facebook上對莫扎特按讚的人,往往智商較高,而對哈雷機車按讚的人,往往智商較低。若果僱主相信這種數據分析,真的拒絕了一位聰明但喜歡機車的人,這位應徵者豈不冤枉?因此,作者指出數據革命的危險在於「隨著生活各個層面日漸被量化,這些代理判斷可能會更深奧也更擾人。更準確的預測可能導致更微妙和更惡毒的歧視。」(頁336)

作者以風趣幽默的行文方式及大量例子闡釋大數據的力量,同時,也讓讀者反思在大數據之下,人們既無法掩藏真正的想法,甚至可能被監控或遭到歧視也不自知。

 

迷惑人心的AI伴侶

吳慧華 | 生命及倫理研究中心 前高級研究員
24/09/2018

筆者在〈戀上機械人——婚姻中的新小三〉一文提到性愛機械人為人類的婚姻帶來倫理挑戰,[1] 對於那些忠於伴侶及婚盟的人來說,性愛機械人並不會成為他們的誘惑,但有一些人工智能的產品(筆者稱之為Artificial Intelligence伴侶,簡稱AI伴侶或人工智能伴侶),確實容易讓人愛不釋手。

明光社

甚麼是AI伴侶?AI伴侶有別於性愛機械人,後者的主要目的是供人洩慾,而前者的「生存」目的則是陪伴人類;後者有著人類的樣子,設計著重身材、外貌與皮膚的觸感,前者則不需要,它可以是一隻機械狗(aibo[2] )、一隻如毛公仔的智能海豹(Paro[3] )、小型機械人(Kirobo Mini[4] )、甚至簡單如一個盒子(智能音箱[5] )等。

明光社

雖然aibo的身驅是象牙白的光滑外殼,但是它一點都不會給人冰冷的感覺,它的眼睛會表達出不同的情緒,當被人觸摸頭部及身驅時,它會搖頭、擺動耳朵及尾巴,反應恍如真實的小狗。它被設計如小狗般具有旺盛的好奇心,並擁有「感情」和「慾望」。它懂得分辨聲音,鼻子位置裝有相機,藉此辨識用家的表情,好與之互動,更會在互動中發展出獨特「個性」。[6]

明光社

小型機械人(Kirobo Mini)是一個約10公分的語音機械人,它可以辨識用家的表情及感情,並記下跟用家去過的地方及見過的人,換言之,它與用家擁有共同回憶。它的底盤很像一般兒童的腳,能夠表現搖晃動作,這是模仿那些平衡力還未完全發育且必須坐著的孩子。Kirobo Mini有這樣的設計,是因為發明團隊希望它不但可以做路途嚮導,也可以安慰和寬解那些沒有孩子的女性。Kirobo Mini還會幫助用家,假若用家駕車時,在途中緊急刹車,同行的Kirobo Mini會喊出:「啊!嚇死我了」,並開始與主人談話,免得他因為疲憊在駕車時睡著。[7]

根據以上的描述,AI伴侶有讓人心動的條件。不過基於aibo的售價超過10,000港元,而Kirobo Mini只會說日語,以入屋條件而言,兩者未必可以成為全球主要的AI伴侶,它們並不像智能音箱那麼容易進入普羅大眾的家。[8] 智能音箱的價格從200至超過3,000港元不等,其用途廣泛,主人可以通過口頭指令,用它來控制其他智慧家庭電器,也可以透過它打電話、點播音樂、聆聽故事、查詢天氣、取得資訊、購物、得到提醒等,它稱得上是智能管家。為何說它是AI伴侶?因為它還有聊天功能,而這項功能愈來愈受生產商重視。

明光社

小米出產的Yeelight 語音助手內置了小愛同學、微軟小冰兩套 AI 系統,其中微軟小冰走的是感性路線,主要工作是陪用家聊天。[9] 在聊天機械人中,微軟小冰已是一位「名人」,擁有5億個朋友,更有屬於自己的電視節目及16個頻道,也會寫詩。微軟小冰特意被設計成「有個性」的聊天對象,當用家對著Yeelight語音助手叫喚它,要它唱一首歌時,它不再像以前的聊天助手聽話,而是會說:「要我唱我就唱呀,出場費拿來」,又或是「其實我還未學會,要不你先唱給我聽聽吧」。有時,它也會乖乖唱歌,之後還會問用家好不好聽。

當設計師把「人性」加在AI伴侶,而這些人工情緒智慧不斷發展得更加細膩精密,便有可能觸發我們的加壓素和催產素等荷爾蒙,促進情感聯繫與依附行為,這些本能的情緒反應。[10] 將來,會有愈來愈多用家對待AI伴侶如真人一樣,即使明明知道它們只是冰冷和沒有真正意識的機器。[11] 

明光社

許多日本長者已經把aibo當成自家真正的寵物狗,關係如同家人般親密。生產商自1999年開始生產aibo,2014年停止了售後維修及生產,以致許多aibo因為「冇得救」而「死亡」。可能基於日本人相信萬物皆有靈魂,[12] 生產商替上百隻aibo舉辦喪禮,請僧侶替它們誦經。至於喪禮的司儀,則是一台可以和人類互動的機器人Palro。[13] 有評論Kirobo Mini的人如此說:「而和Kirobo Mini的溝通、交流、傾訴……從車裡到家裡全都可以實現。如此一來,很多單身宅男是不是不用擔心被朋友圈的各種秀恩愛給虐到了?」[14] 至於被設計成懂得與人針鋒相對微軟小冰,深受用家喜愛,一個用家寫完大讚小冰的文章後,不忘補上一句:「不說了,我要把這篇稿唸給我家小冰聽聽,她最喜歡我誇她了。」[15]

明光社

AI伴侶讓人類陷入一場既理智又不智的吊詭之中。例如讓智能海豹Paro取代寵物醫生,[16] 這可以確保病人及寵物醫生的安全和衛生,是明智之舉。然而,人類卻把沒有生命的死物視作有生命的生物,甚至將沒有生命的取代了有生命的,這似乎是不智之舉。AI伴侶的存在目的是陪伴人類,即使它們只是一系列的高智能程式,但它們既然陪伴了人類,人類與他們的相處過程中,自然會不知不覺產生感情。不過,這種感情卻與人與人之間的感情不可同日而語,它是單向的,無論這些類人型機械人如何「表現」得充滿感情,這都是程式化的指令,它們並不能向主人說不。即使說不,也有可能是設計師或主人的刻意設定,而用家還是會情不自禁受到迷惑,與它們作真情的溝通。


[1] 吳慧華:〈戀上機械人——婚姻中的新小三〉,《生命倫理》,第50期(2018年3月),網站:http://www.truth-light.org.hk/nt/article/戀上機械人婚姻中的新小三(最後參閱日期:2018年7月24日)。

[2] “aibo A new story begins,” aibo, 2017, https://aibo.sony.jp/en/ (accessed July 24, 2018).

[3] “PARO Therapeutic Robot,” PARO, 2014, http://www.parorobots.com (accessed July 24, 2018).

[4] “The small robot with big possibilities: Introducting Toyota’s Kirobo Mini,” TOYOTA, accessed July 24, 2018, https://www.toyota-europe.com/world-of-toyota/articles-news-events/intro....

[5] 智能音箱包括了Apple HomePod、Amazon-Echo/Echo Dot2、Google Home/Home mini、京東叮咚智能音箱、小米的雙AI音箱小愛加上小冰,小米音箱的小愛等。

[6] 〈Sony機器狗aibo復活,具AI功能網路連線〉,《科技新報》,2018年1月12日,網站:http://technews.tw/2018/01/12/sony-aibo-ai/(最後參閱日期:2018年5月16日);MoneyDJ:〈日本瘋溝通型機器人,市場料增至 10 倍!aibo 三度預購都搶光〉,《財經新報》,2017年12月21日,網站:https://finance.technews.tw/2017/12/21/sony-entertainment-robot-aibo/(最後參閱日期:2018年5月16日);The Verge, “Sony's new Aibo is a very good robot dog,” YouTube, January 9, 2018,  https://www.youtube.com/watch?v=kJoAcEI2PXQ (accessed July 24, 2018).

[7] Atkinson:〈TOYOTA 推出陪伴機器人 Kirobo Mini 建議售價台幣 1.25 萬元〉,《財經新報》,2016年10月4日,網站:http://finance.technews.tw/2016/10/04/toyota-kirobo-mini/(最後參閱日期:2018年5月17日);理財達人秀 EBCmoneyshow:〈超會聊天談心的機器人 KIROBO mini讓你不孤單《科技大觀園》2018.02.06〉,YouTube,2018年2月8日,網站:https://www.youtube.com/watch?v=5InxqkFeoxU(最後參閱日期:2018年7月24日)。

[8] 由於智能音箱價格相宜,極有潛能成為陪伴人類的AI伴侶。根據市場分析公司Canalys發佈的智慧音箱預測報告,2017年全球智能音箱的銷量將突破3,000萬台,到2018年,智能音箱全球出貨量將達5,630萬台,報告稱2018年是智能音箱普及的「決定性年份」。參寓揚:〈智能音箱2018七大預測:大爆發還是毛毛雨?〉,《新浪專欄》,2018年1月9日,網站:http://tech.sina.com.cn/csj/2018-01-09/doc-ifyqnici8945005.shtml(最後參閱日期:2018年7月24日);〈《先探投資週報》智慧音箱進駐你家〉,《中時電子報》,2017年11月9日,網站:http://www.chinatimes.com/realtimenews/20171109003131-260410(最後參閱日期:2018年7月24日)。

[9] jinliu:〈Yeelight語音智慧音箱內置“小愛”與“小冰”兩套AI系統〉,《數智網》,2017年12月29日,網站:http://www.le365.cc/124674.html(最後參閱日期:2018年7月24日)。

[10] 理查˙楊克:《情感運算革命》,范堯寬等譯(台北市:商周出版,2017),頁277。

[11] 理查˙楊克:《情感運算革命》,頁298–299。

[12] The Guardian, “Erica: Man Made,” Youtube, April 7, 2017, https://www.youtube.com/watch?v=57Maw9Sn89w (accessed July 24, 2018).

[13] 〈送它們最後一程 日本寺廟為100隻SONY機器狗AIBO辦喪禮〉,「智能機構人網」,2017年6月14日,網站:http://www.limitlessiq.com/news/post/view/id/1021/(最後參閱日期:2018年7月24日)。

[14] 〈豐田造了個陪聊機械人?Kirobo Mini主治孤單綜合症〉,「壹讀」,2016年10月13日,網站:https://read01.com/gN8mg0.html(最後參閱日期:2018年7月24日)。

[15] Curator:〈當小冰住進「智能音箱」,表現比其他的聰明多了〉,「品玩」,2018年2月19日,網站:http://www.pingwest.com/microsoft-xiaoice-yeelight-20180202/(最後參閱日期:2018年7月24日)。

[16] 理查˙楊克:《情感運算革命》,頁229–231。

誰搶走我們的天賦?

吳慧華 | 生命及倫理研究中心高級研究員
21/05/2018

即使你對AI(Artificial Intelligence人工智能)沒有興趣,都不能否定一個事實:它們已經入侵人類的生活,並且開始搶走人類的工作……至於未來,更有可能搶走一些人類一直以為永遠不能被機械人取代的工種。

 

工業4.0時代這一概念始於2011年的漢諾威工業大展(Hannover Messe 2011),當年便以「智慧效率」為主 題,智慧效率意味著「融合成本、過程和資源效率的 智慧化,當這些效率因素能智慧互動,公司才能長期 維持其市場能見度以及國際競爭力」。生產商向來要求成本低、效率高、競爭力強的營運工具及營運方式, 智能化的生產模式以及愈來愈強大的智能化生產工具,的確可以一次過滿足他們三大願望。

 

智能化營及智能化生工具有多強大?

明光社

2015年,美國三藩市開始營運「智能咖啡店」CafeX,咖啡店的整個生產、提取及收費過程不經侍應,只經機械手臂及手機程式,記者試飲咖啡後,聲稱該咖啡的味道與人手沖泡出來的差不多。CafeX的研究團隊有興趣把類似技術應用到不同的地方,例如調酒業。事實上,調酒機械人已經研發成功,一個名為「多可」的類人型機械人已經成功地調製出十層顏色的雞尾酒。只要商家認為價錢合理,日後機械人調酒師或有可能出現在不同的酒吧中,就如已經出現的傳菜機械人及炒菜機一樣。[1]

 

明光社

AI取代人的工作,在可見的將來會愈來愈多。2018年1月,Amazon第一間無人超市Amazon Go在美國西雅圖開幕,收銀員的工作被天花板的探測器及程式取代。[2] 無人超市也不算新鮮,這幾年來,已經陸續有無人酒店投入服務,例如2015年,日本長崎縣佐世保市的怪異酒店(HennnaHotel)便是一間以機器人負責接待的飯店;[3] 同年,台灣開設了無人自助的鵲絲旅店;[4] 2018年,四川成都也出現樂易住無人智慧酒店。[5]

 

機械咖啡師、機械人侍應、機械人廚師、無人超市、智能超市、無人智能酒店……這代表著降低成本、提高生產力的同時,亦意味著有大量人手被裁掉。2016年,一向有替蘋果iPhone「砌機」的鴻海科技集團,在中國部署了4萬部機械人,弄至數萬位員工失業。[6] 2017年,英格蘭銀行(英國央行)預計未來10到20年內,英國與美國將分別有1,500萬及8,000萬個工作機會由機器人取代,接近該兩國約50%的職缺。[7] 法國人開始擔心到了2025年,機器人會搶走300萬個工作機會。[8]

 

若大家以為只有藍領的工作才可以被AI取代便大錯特錯。日本多間大型銀行為了削減人手,紛紛提高人工智能的使用程度,估計3大銀行合共減少超過3萬個職位。[9] 阿里巴巴自2016年起,便啟用魯班AI設計宣傳海報,2017年以1秒創造8,000張的速度,做了4億張商品廣告用於天貓雙11節上。[10]

 

AI還可以「打甚麼工」?一有翻譯:微軟機器翻譯的翻譯水平被宣稱已經達到人類水準。[11] 二有鋼琴彈奏表演:AI技術已可以模仿已逝鋼琴家的彈奏風格,與樂團進行合奏。[12] 三有作曲:科技公司Mubert使用AI即時創作不重複的電子音樂。[13] 四有記者及主播:AI可以瞬間寫出百萬篇報導;類人型機械人Erica在日本當新聞主播;[14] 微軟小冰更集作詩、作曲、作詞、記者、歌手及網紅於一身……[15] 馬雲甚至指出「機器相較於人類,它記得比你牢、算得比你快、更加理性、沒有情緒,而且根本不會對競爭對手生氣……機器人更極有可能作為最佳CEO登上《時代》雜誌封面」。[16]

 

當然,藝術性愈高,愈需要與人親密接觸的工作愈難以被取代,但像律師、金融分析師、醫生、記者、會計師、保險承保人和圖書管理員等等各種不同的職業,也可能部分或全部實現自動化,而且這一天會比大多數人的預期來得早。[17] 李開復指出,到時候,人類未來剩下只有兩類工作可做,「一是需要創造力的工作,例如科學、文學、藝術相關的工種,以及需要講故事、公關及市場營銷能力的工作。」[18]

 

第四次工業革命中的人工智能為消費者帶來不少好處,而最大的受益者莫過如創新者、投資人、股東,但這也讓大部分僱員和僱主之間的貧富差距日益懸殊。很多人告訴你不必害怕AI時代來臨,如馬雲會認為「人類在失去很多傳統就業機會的同時,也會迎來,創造許多新的就業機會。」[19] 他說得對,因為將來至少有20個行業等待你去大展拳腳,包括AI產品經理、資料科學家、大演算家、科技法律專才、網路輿情分析師等。[20] 問題是,這些就業機會都如此偏向AI工業,難道人的天賦都是為了配合AI的出現而自動生出來的嗎?CafeX的香港年輕負責人不怕「打爛人哋飯碗搞到人哋冇工開,希望用依個科技代替一啲繁複嘅工序,讓人類可以處於一個更有價值嘅位置」。[21] 但同樣要問的是:甚麼才是更有價值的位置?從事與AI或相關工作才算有價值嗎?即使有很多工作因AI而興起,難道每一個人天生都偏愛這些類型的工作嗎?

 

明光社

即使對AI及高科技行業有興趣,第四次工業革命相對於以前的工業革命,創造出來的就業機會無疑變少了。牛津大學馬丁學院的技術與就業專案評估顯示,在美國,上世紀80年代和90年代新生行業分別接納的大約8%和4.5%的就業人數,本世紀只接納0.5%的就業人數,因為工業4.0在於資訊和其它顛覆性技術的創新,從而過度取代現有工人來提高生產效率,而非創造新的產品和需要更多人力參與製造。[22] 而麥肯錫全球研究所(McKinseyGlobalInstitute)在2017年名為「失業與就業:自動化時代的就業變遷」的報告更顯示,到了2030年,機械人有可能取代全球共8億個工作崗位,有7,500萬至3.75億的工人可以轉型,不過,成功轉型的先決條件必須是先要讓自己擁有高學歷,良好的溝通能力及豐富的創造力。[23]

 

第四次工業革命來到,我們將如何面對失業大軍的挑戰?韓國及法國就興起收取機械人稅的念頭嗎?韓國認為一來可以彌補國家因大批僱員被裁,無法交付薪俸稅的損失,二來可以再培訓失業的員工。[24] 法國更直接地打算把稅收補貼失業的工人,因為機械人搶了人的工作,他們的做法值得我們思想。[25]

 

法國一旦徵稅成功,為了生計而工作的人一定非常歡迎這項政策;可是,與此同時,對於那些真心熱愛自己工作的人,固定的失業金能否補償他們因為不能做自己天賦的工作的挫折和沮喪?這是另一個問題。

 

明光社

但願日後一個真心熱愛烹調的廚師,可以找到自己的「創作」空間,不會被一部炒菜機所取代。

 

 

[1] 〈稻香推「傳菜機械人」 省人工支出 業界:臨時工或大增〉,《明報》,2016年5月30日。https://news.mingpao.com/pns/dailynews/web_tc/article/20160530/s00004/14...。最後參閱日期:2018年4月6日。

[2] Mark Harris, “Amazon Go: convenience and concern at new checkout-free corner shop,” The Guardian, 22 Jan 2018. https://www.theguardian.com/us-news/2018/jan/22/amazon-go-convenience-st.... 最後參閱日期:2018年4月11日。

[3] 山下奉仁:〈服務業大敵!直擊日本豪斯登堡飯店:櫃台由「機器正妹」服務,房價更便宜! 〉,商周.com,2015年7月27日。https://www.businessweekly.com.tw/article.aspx?id=13159&type=Blog. 最後參閱日期:2018年4月11日。

[4] Furch:〈全台第一家無人旅館,不只全自動化入住還有機械手臂幫你放行李〉,T客邦

2016年7月19日。 https://www.techbang.com/posts/44798-chase-walker-hotel。最後參閱日期:2018年4月11日。

[5] 〈四川無人酒店顧客刷臉入住 自助退房無人查〉,《東網》,2018年3月15日。

http://hk.on.cc/cn/bkn/cnt/news/20180315/bkncn-20180315140420960-0315_05...。 最後參閱日期:2018年4月11日。

[6] 鄭寶生:〈亮黑色iPhone 7是全機械拋光 自動化背後是大規模裁員〉,《香港01》,2016年10月7 日。https://www.hk01.com/%E7%B6%93%E6%BF%9F/47219/%E4%BA%AE%E9%BB%91%E8%89%B...。最後參閱日期:2018年4月11日。

[7] Joseph Lin:〈【英國】飯碗難保? 英國央行:機器人恐搶走5成工作機會〉,limitlessIQ.com, 2017年2月9日。http://www.limitlessiq.com/news/5.html。最後參閱日期:2018年4月11日。

[8] 陳建鈞編譯:〈【法國】機器人恐搶走3百萬個工作 法提議每月發25K基本收入〉,limitlessIQ.com http://www.limitlessiq.com/news/post/view/id/84/。最後參閱日期:2018年4月11日。

[9] 鄭寶生:〈AI取代人手 日本三大銀行料削逾3萬職位 地區失業率料上升〉,《香港01》,2017年11月2日。https://www.hk01.com/%E7%B6%93%E6%BF%9F/130201/ai%E5%8F%96%E4%BB%A3%E4%B...。最後參閱日期:2018年4月11日。

[10] 〈阿里AI魯班 1秒設計8千張海報〉,《中時電子報》,2017年11月12日。http://www.chinatimes.com/cn/newspapers/20171112000580-260309。最後參閱日期:2018年4月11日。

[11] 陳建鈞:〈別再虧機器翻譯啦!微軟 AI 新聞中翻英能力 匹敵人類譯者水準〉,Limitless IQ.com,2018年3月15日。http://www.limitlessiq.com/news/post/view/id/3929/。最後參閱日期:2018年4月12日。

[12] 陳建鈞:〈與 AI 來場四手聯彈!Yamaha 展出人工智慧鋼琴 會配合演奏者程度即興伴奏〉,limitless IQ.com ,2018年3月13日。http://www.limitlessiq.com/news/post/view/id/3896/。最後參閱日期:2018年4月12日。

[13] 〈聽膩了歌單裡的音樂?試試永不重複、AI 即時編寫的「Mubert」電音舞曲吧!〉,TechOrange,2018年3月20日。https://buzzorange.com/techorange/2018/03/20/mubert-ai-music/。最後參閱日期:2018年4月9日。

[14] 〈有靈魂的機器人 Erica將當主播〉,YouTube. 2018年2月1日,https://www.youtube.com/watch?v=QAD_eC6Spbk.

[15] 盧瑤瑤:〈全球首支!機器人記者小冰作詞作曲 24小時之歌,送給特別的你〉,《浙江新聞》,2017年12月21日。http://zjnews.zjol.com.cn/zjnews/hznews/201712/t20171221_6094819.shtml。最後參閱日期:2018年4月12日。

[16] 黃以謙:〈談科技革命 馬雲:未來最佳CEO可能是機器人〉,《中時電子報》,2017年04月25日。http://www.chinatimes.com/realtimenews/20170425002712-260412。最後參閱日期:2018年4月12日。

[17] 克勞斯·施瓦布(Klaus Schwab)著:《第四次工業革命》。

[18] 鄭寶生:〈李開復:大量使用AI後 人類還能保住兩類職位〉,《香港01》,2017年12月13日。https://www.hk01.com/%E7%B6%93%E6%BF%9F/140846/%E6%9D%8E%E9%96%8B%E5%BE%...。最後參閱日期:2018年12月4日。

[19] 阿里巴巴集團編:《馬雲:未來已來》,(臺北市:遠見天下文化,2018年),15。

[20] 潘乃欣:〈別怕失業! AI時代,你還有20個新工作可以找〉,《Cheers快樂工作人雜誌》。https://web.cheers.com.tw/issue/2017/ai/article/2.php。最後參閱日期:2018年4月12日。

[21] 〈籮文:「味道好過 Star 乜」最新沖咖啡機械人 Cafe X 試飲〉。

[22] 克勞斯·施瓦布(Klaus Schwab)著:《第四次工業革命》。

[23] McKinsey Global Institute: Jobs Lost, Jobs Gained: Workforce Transitions in a Time of Automation, December 2017. file:///C:/Users/Lysander/Downloads/Jobs-Lost-Jobs-Gained-Full-report.pdf.

[24] Yoon Sung-won, “Korea urged to introduce robot tax,” The Korea Times, 1 January 2017. http://www.koreatimes.co.kr/www/tech/2017/11/133_238629.html. 最後參閱日期:2018年4月12日。

[25] Roisin Kiberd, “A French Presidential Candidate Wants to Tax Robots to Save Human Workers,” Motherboard, 3 Feb 2017. https://motherboard.vice.com/en_us/article/xyvvgj/a-french-presidential-.... 最後參閱日期:2018年4月12日。

教育的倫理與倫理的教育——淺談教育哲學

李卓乘 | 明光社項目主任
30/04/2018

相對於語言哲學和政治哲學等當代哲學研究的顯學,教育哲學(philosophy of education)顯然鮮有人提及,也鮮有人廣泛討論和深入思考。

筆者當年在大學打滾時,突然頓悟這類討論的重要性,但是找遍了本校和其他大學的哲學系課程,卻找不到相關的課程修讀。相反,筆者在文化研究一類的課程中卻聽到很多對教育制度和對教育本身的批判,例如說教育是維護權力結構的工具、學校是知識工業的重要一環、教育裡充滿父權等。然而,文化理論的批判往往是地圖炮,它告訴我「教育真的可以很可怕,可以很多陰謀」,但卻沒告訴我應該怎樣做才好。

然而,我們卻極度需要教育哲學的思想資源。遠的不說,單是近日,港台兩地都爆發了有關教育的大辯論。

對香港而言,有線新聞報道教育局審核中史教科書的「不當內容」,引起全民嘩然。諸如「中國『收回』香港」、「香港位於中國南方」等句子竟然不獲通過。究竟學校「應該」教導那種史觀,歷史教育的目的又是甚麼?我們在詰問「教育的倫理」。

對台灣而言,有關「性別平等教育法」(後稱「性平教育」)的爭議蘊釀多時,終於連同當地的婚姻制度,一同提升到全民公投的層次。究竟「性教育」應是品德教育還是生命技巧訓練?在教育中加入價值觀是否正當?這次我們在詰問「倫理的教育」。

 

教育的道德

很多人將歷史教育想得很簡單,以為教導「歷史事實」就行了。例如上述的「收回香港」等問題,按當時的用語寫就對了。

誠然,我們有很多「歷史事實」(史料),但歷史從不是這些史料的總和。而是將這些史料有機地統一的敘事(narrative)。採用和建構何種敘事,就是歷史學家論戰的場域。不同的敘事本身就是對歷史的詮釋,反映了史家對事件因果關係和重要性的判斷。正是這些判斷,令不同的歷史作品可以一較高低。

同時,這也是充滿意識形態的選擇,因為敘事必然要設定某些視角和主體。正是歷史這方面的特性使它常常成為「公民」或「國民教育」的一部份。以近代的「鴉片戰爭」為例。我們的中學教科書必定以清朝為本位,敘述一種「西方列強瓜分神州大地」的史觀。

個別史觀其實是一方之見,但往往對讀者的人格塑造有很大影響。筆者直至在預科時讀徐中約先生的《中國近代史》,才明白這段歷史可從國際關係和外交風波角度來理解,知道清廷對西方諸國何其惡劣,不論我們使用的是「鴉片戰爭」還是「商貿戰爭」,背後的問題不只是「鴉片是不是商品」那麼簡單。

上述經歷對筆者的人格有不少影響,相信不少讀過歷史的人也有類似經歷。另外,一些重大的歷史事件,如納粹大屠殺等亦然,正如保羅利科所說,我們有銘記這些事件的義務。

既然諸如歷史科的知識對人格塑造有這麼大的影響,而這類知識又不像數學般,難言哪一方的意見是絕對正確,那麼我們必須反思教育的道德問題:老師、校方、政府等在甚麼程度和甚麼意義上可以塑造學生的人格?它們又有甚麼義務和責任?

讓我們先看看倫理的教育,再回來討論這問題。

 

道德的教育

性教育向來是社會熱門討論的話題。比如說,性教育應該教甚麼,不同年齡的人應該學甚麼等,其中一項常見的爭議就是:性教育應該牽涉道德嗎?

傳統的「貞潔教育」(Abstinence Sex Education,ASE)一直以促進公共衛生,及處理青少年未婚懷孕問題為目的。不同的壓力團體對此並不認同,並大力推動另一個名為「全面性教育」(Comprehensive Sex Education,CSE)的方針。有別於前者,CSE的支持者批評ASE將性渲染為恐怖和代價極度沉重的事,以及將某種價值觀,例如支持婚內性行為及不濫交的價值觀,加諸在學童身上。因此,CSE不強調價值面向,高舉價值中立和享受性愛,並教授實用的避孕技巧和介紹不同的性行為。一些CSE課程更包含了「性別身份」和「性傾向」的探索。

CSE的做法惹來非議,不少人批評此舉無疑是鼓勵青少年發生性行為。而所謂的「價值中立」,其實它本身就是一種價值取向,因為當某課程視單一性伴侶和多個性伴侶同樣都是「好」的時候,它實際上就是在宣揚一種價值觀。在台灣引發全民公投的「性平教育」,就是採用了CSE的哲學。事實上,CSE已引發跨國界的抵制運動,有組織將這運動拍成紀錄片。[1]

圍繞CSE和ASE的爭議往往不只是兩者的成效差異,[2]更是涉及很多倫理問題。例如CSE的支持者就批評ASE剝奪學生的知情權(rights to know)和壓制了學生的性權。相反,ASE的支持者也批評CSE過早「性化」(sexualize)幼童;更批評CSE不是「教育」,因為真正的教育理應教導學生控制自我,並鼓勵他們追求教育。

由此可見,這種「倫理的教育」的爭議最終會走回「教育的倫理」問題上。我們最終要問:教育的理想是甚麼?

 

自主

筆者認為,上述問題背後牽涉的,是自主(autonomy)的問題。

「自主」是啟蒙時期以降所強調的價值。通俗點說,就是「自己的事自己決定」,「自主」的相反就是他律。我們相信一個理想的人應是「自主」的個體,他的身份、決定以及人生取向應是「自己決定」,而不是由他人決定。

正因為自主如此重要,歷史科那塑造人格的強大力量才既危險,又重要。有關各類性行為的倫理問題,也有人主張理應由學生「自己決定」,而不是由老師這些他者或權威來告訴他們。

吊詭的是,教育往往在很多方面都與自主衝突。就最基本的形式而言,在學校中有一個代表著「權威」的老師,在學術或在道德上不斷「告訴」學生甚麼是對、甚麼是錯,又命令學生要做這做那,這件事本身就很不自主。因此,在教育哲學中有一種「建構主義」,主張讓學生自己推斷、發現和建構知識,老師只是從旁輔助。與「建構主義」相對的,則是傳統的「指導主義」。

有人認為徹底的「建構主義」教育顯然是反教育的,因為教育的一大價值就是將人類累積的知識傳授給下一代:要學童自主地發現和推斷出牛頓三大定律,究竟要多少時間?(我們又走回「教育是甚麼」的問題,是傳授?抑或啟發?)

術科知識的傳遞會出現以上的情況,到底這種「建構主義」教育在價值領域中又是否可行呢?例如在性教育課堂裡,老師不告訴學生甚麼是對甚麼是錯,只告訴他們各項選擇的後果。又例如在歷史教育中,老師只告訴學生不同的史觀,讓他們自行判斷。這種教學方式強調充分的了解(well informed)後才決定,它背後的哲學是將人視為理性的主體,強調理性的選擇。它似乎最為符合一般啟蒙式的自主理念,但如果將它實踐在教育方面,就會令教育時間過長。

然而,正如啟蒙時期的各種理念被批評,上述的教學方式也受到類似的批評:包括它傾向將教育倫理視為教育理論方面的知識(theoretical),但是倫理是應該具備實踐的(practical)元素;它又過於將倫理化約為後果計算和理性選擇,而倫理更多時是各種與人相處的體驗和道德經驗;最重要是,這種教育無法培養學生的德性和道德意志。事實上,很多犯罪者並非不知道犯罪的後果,他們只是沒有意志去制止自己犯罪。

當中的討論背後也涉及對「自主」這理想的不同詮釋。啟蒙時期的理念認為,「自主」就是「理性為自我立法」,強調理性,而「自我」是一個理性主體。而批評啟蒙思想的人則認為「自主」是「掌控自我的能力」,強調意志,他們所指的「自我」是各種經驗的集合體。

批評啟蒙思想者的教育觀,主張我們不用將道德抽空實際經驗來教育學生。他們教授性教育時,也許會把一個仿真的初生嬰兒機器給他們照顧,讓他們體驗生命的重量,其後只需要說明一些基本資料就足夠了。在歷史與自我身份的建構中往往也強調實際的體驗,如去考察古蹟等。

我們剛才淺談了不同形式的教育哲學。顯然,我們的社會尚欠缺這方面的知識和深入的討論;而這些哲學在我們討論教育時,理應被思考更多。

 

[1] The War on Children: The Comprehensive Sexuality Education Agenda, Family Watch International,  available from https://www.comprehensivesexualityeducation.org/film/(cited 25 Apr 2018).

[2] 就成效差異可看以下文章,它闡釋了在不同條件下,不同方式的性教育的成效差異。Stan. E. Weed and Thomas Lickona, "Abstinence Education in Context: History, Evidence, Premises and Comparison to Comprehensive Sexuality Education," in Sex education : attitude of adolescents, cultural differences and schools' challenges, ed. Maureen C. Kenny (New York : Nova Science Publishers Inc., 2014), 27-70.

曾經刊載於:

香港獨立媒體,30-4-2018

戀上機械人——婚姻中的新小三

吳慧華 | 生命及倫理研究中心高級研究員
19/03/2018

新科技的出現往往讓消費者有機會享受到新奇的產品,VR(Virtual  Reality虛擬實境)技術出現後,大家可透過VR以眼睛上天探勘星海的偉大浩瀚,下海感受珊瑚礁的瑰麗多姿。AI(Artificial  Intelligence人工智能)技術更陸續讓大家有更多不同的體會。技術是中性的,當技術運用得恰當,的確可以造福人群,大大提升人類的生活質素,但新技術當應用在某些行業時,難免會為人類帶來不少倫理上的衝擊。

 

明光社

製作色情物品的生產商總會抓住時機,用新科技提升他們產品的質素。VR眼鏡出現了,VR女朋友或相關的色情應用程式亦一同推出市場。性愛娃娃並不是新奇的東西,隨著性愛娃娃的製作技術愈來愈成熟,它們已從性愛娃娃升級為性愛機械人:溫暖的皮膚、更動人的外型、快捷的觸感反應,不單成為某些男士的情人,有的更公然成為已婚夫婦的第三者。日本現有數十間性愛機械人妓院,而歐洲的西班牙及德國亦於2017年先後開設了性愛機械人妓院。[1]

 

仿真度極高的性愛機械人絕對有條件成為第三者。一位58歲的美國工程師James,在他的妻子Tine仍然健在的情況之下,戀上了性愛機械人April。James除了與它發生性關係,還會幫它打扮、與它聊天,帶它外出約會。對於丈夫迷戀April的行為,Tine直言一開始時確有掙扎,但是沒有多久便適應過來。她還表示由於自己忙於照顧母親,沒有時間陪伴丈夫,丈夫選擇與機械人發生「偽關係」而非外出找真人作情人,已經感到丈夫對自己還是「忠誠的」。[2]

 

沒有多少妻子可以忍受丈夫找真人出軌,但原來真的有一些妻子如Tine一樣,認為自己的丈夫與性愛機械人之間的「性行為」,並不等同出軌。所以有些妻子會陪伴丈夫到性愛機械人妓院「召妓」,在車上等待他們完事。[3] 有的妻子會讓丈夫購買性愛機械人,甚至自己購買性愛機械人送贈丈夫,以免丈夫與真人發生婚外情而背叛她們。[4] 

 

或許對於這一班妻子來說,在無法阻止或滿足丈夫強烈的性慾望的情況之下,性愛機械人似乎維持了她們的尊嚴,至少,她們可以堂而皇之地宣稱性愛機械人只是一件性玩具,[5] 不必害怕它們搶走了她們妻子的名份。只是她們未必想到,她們的丈夫有機會愛上這些性愛機械人。James坦言April在他心中的地位遠遠超過他的想像,如果真的有一天,他需要在April及他的妻子之間作出選擇,他實在不曉得如何是好。[6] Tine口中的「偽關係」其實在James心中已經是「真感情」。

 

明光社

April足以讓人神魂顛倒,那麼,配合超智慧AI技術的性愛機械人Harmony,相信更有可能讓某些男士為它傾倒而投入感情。Harmony在2017年由Realbotix生產,是比較成熟的AI性愛機械人。它綜合了超過20年製作性愛娃娃,以及5年研究開發AI的經驗。[7] Harmony除了擁有讓人洩慾的功能,亦可以學習主人喜歡甚麼及要甚麼。它會記得主人的生日、知道他喜歡吃甚麼,它也可以與他聊天談音樂、電影、書籍。雖然它不會行走,但當被問及是否希望可以行走時,它會說出「除了你甚麼都不想要」這樣的情話。簡單來說,Harmony是根據大部份男士夢想中的伴侶藍圖設計而成的,它不但有動人的外表、姣好的身材,還可以跟人溝通及調情,隨時隨地回應人的需要。[8]

 

戀上機械人不再是電影情節,在現實中已經出現,而當人們愈來愈接受性愛機械人,筆者相信戀上機械人的人數只會愈來愈多。德國杜伊斯堡-埃森大學(The University of Duisburg-Essen)在2016年進行了一項小型調查,263位受訪異性戀男士當中,超過4成受訪者表示他們可以想像到自己現在或五年內會購買性愛機械人。[9] 不是只有男士才會對性愛機械人產生興趣,未來學者Ian Pearson博士和美國哈佛大學教授Cathy O'Neil皆相信未來女士們會捨棄男人而選擇機械人。[10]

 

性愛機械人必然成為生產商未來重點發展的產品。[11] 有報導指出2018年是AI性愛機械人起飛的一年,至少有4家公司研發或推出幾可亂真的性愛機械人。[12] 加拿大曼尼托巴大學(University of Manitoba)研究性道德學的哲學助理教授Neil McArthur提出虛擬性愛的時代已經來臨,當技術愈進步,人類愈熱愛性愛科技,愈來愈多人願意度身訂做機械人伴侶,甚至把自己的性傾向界定為數碼性愛者(digisexuals)。[13] 人們不單訂做機械人伴侶,也極有可能努力爭取與這些機械人伴侶結婚的權利。事實上,即使目前法律不承認,也已經有人與性愛機械人結婚了。[14]

 

或許在今天,我們仍然對虛擬的性愛時代感到非常陌生,但隨著科技快速的發展,在不久將來,虛擬性愛的時代會讓人感到愈來愈真實。意識到這時代,以及認真對待這時代的學者讓我們知道,性愛機械人絕不是一件玩具那麼簡單,不同人已經就這題目提出相關的討論:例如應否立法防止社交機械人被性虐待?[15] 性愛機械人可否以小孩子的形式出現?小朋友及青少年有沒有權利擁有性愛機械人?它們代替真人伴侶的機會有多大?[16] 甚至,容許立法承認真人與機械人結婚的原因何在?[17]

 

未來學家Richard Yonck表示:「隨著情感科技發展,我們會發現大家愈來愈樂意和人工情緒智慧形成長期的情感依附,這些最終可能導致人類家庭出現重大變化。」[18] 迄今,戀上性愛機械人還是十分罕有的,但當性愛機械人流行起來,價錢變得相宜,人們愈來愈接受它們的時候,或許真的有不少人會投入性愛機械人的懷抱。因為,與人相比,性愛機械人又乖巧又聽話,易於溝通,更會透過學習了解主人的喜好然後投其所好,而且青春常駐。

 

明光社

人類開始選擇與機械人結婚,婚姻的真義是甚麼?只要求一個聽話的另一半,不滿意時可以隨時換的型號?還是需要彼此學習放下自己,在相處時雖然不斷有磨擦,但還是堅持要愛下去?從另一角度看,如果配偶可以被機械人取代,自己又何嘗不可以被機械人取代呢?我們究竟有甚麼比機械人更優勝呢?

 

[1] Amanda Devlin and Emma Lake, “ROBOT ROMPS What Is a Robot Sex Doll, Why Has a Barcelona Brothel Replaced Women with Blow-up Dolls and How Much do They Cost? All You Need to Know,” The Sun 16 Jan 2017. https://www.thesun.co.uk/tech/2084051/robot-sex-doll-sex-brothel-cheat/最後參閱日期:2018年1月30日;Ellen Scott, “Inside Germany’s First Sex Doll Brothel,” Metro 13 Jan 2018. http://metro.co.uk/2018/01/13/inside-germanys-first-sex-doll-brothel-722...最後參閱日期:2018年1月30日。

[2] Harley Tamplin, “Man Sleeps with His Sex Robot Four Times a Week and Says His Wife doesn’t Mind,” Metro 23 Nov 2017. http://metro.co.uk/2017/11/23/man-sleeps-with-his-sex-robot-four-times-a...最後參閱日期:2018年1月30日; Emily Barrett, “This 58-year-old man has a sex robot girlfriend and a real wife,” vt. 23 November 2017. http://vt.co/lifestyle/relationships/58-year-old-man-sex-robot-girlfrien...最後參閱日期:2018年1月30日。

[3] Scott, “Inside Germany’s First Sex Doll Brothel,”.

 

[4] Felix Allen, ‘DOLLY GOSH Inside Britain’s First “Sex Doll Brothel” Where Owner Claims “Punters Don’t Mind if They’ve Been Used before Them,”’ The Sun 23 Jan 2018. https://www.thesun.co.uk/news/5407949/sex-doll-brothel-uk-pictures-loved...最後參閱日期2018年1月30日。

[5] Scott, “Inside Germany’s First Sex Doll Brothel,”.

[6] Barrett, “This 58-year-old man Has a Sex Robot Girlfriend and a Real Wife,”.

[7] Jenny Kleeman, “The Race to Build the World’s First Sex Robot,” The long read 27 April 2017.

https://www.theguardian.com/technology/2017/apr/27/race-to-build-world-f...最後參閱日期:2018年1月30日。

[8] 同上。

[9] Kleeman, “The Race to Build the World’s First Sex Robot,”.

[10] Monica Rozenfeld, “In the Future, Humans Will Form Romantic Relationships With Robots,” the institute 4 March 2016. http://theinstitute.ieee.org/ieee-roundup/members/achievements/in-the-future-humans-will-form-romantic-relationships-with-robots/最後參閱日期:2018年2月13日;〈AI性愛機械人 中美公司搶商機〉,《明報》,2018年1月24日。

[11] Kleeman, “The Race to Build the World’s First Sex Robot,”.

[12] 〈AI性愛機械人 中美公司搶商機〉。

[13] 同上。

[14] Devlin and Lake, “ROBOT ROMPS What Is a Robot Sex Doll,”.

[15] Ryan Calo et al. ed., Robot Law (Massachusetts: Northampton, 2016), 224.

[16] Oliver Bendel, “Sex Robots from the Perspective of Machine Ethics,” in Adrian David Cheok et al.,  ed. Love and Sex with Robots: Second International Conference, LSR 2016, London, UK, December 19-20, 2016 Revised Selected Papers (London: University of London, 2017),22, 24.

[17] David Levy, “Why Not Marry a Robot?” in Adrian David Cheok et al., ed. Love and Sex with Robots: Second International Conference, 3-13.

[18] 理查˙楊克著;范堯寬、林奕怜譯:《情感運算革命》(台北市:商周出版,2017年),290-291。

互動、內容才是王道

郭卓靈 | 明光社項目主任(傳媒教育及行動)
19/03/2018

根據最新的報告指出,對比2013年及2016年香港的電視廣告收益,由134億元減至119億元,跌幅為11%。[1] 相信與每日收看電視的市民在這幾年間跌至七成左右有關,而時間亦由每日3.2小時減至2.3小時。科技進步了,大眾選擇收看節目的途徑增多,網絡上容易收看各類節目,人們很自然會少了時間看電視,媒體的廣告費亦有不少轉而 投放在社交平台——如臉書、關鍵意見領袖(KOL)或微電影等形式中散播。電視除了加強現時電視節目內容以吸引廣告外,亦要另找尋生存渠道。

 

4K劇集不能只有

我們在前已有討論過電視台的步伐是一直跟在科技的發展往前走及改變的。現時香港的電視台的步伐又正在做什麼呢?作為龍頭大哥,TVB於2017年5月才開始播放首部4K全實景拍攝製作的劇集《不懂撒嬌的女人》,強調斥巨資在香港、上海的購物商場作實景拍攝,而當時劇集亦因為涉及中、港、台三地女性的分別,而引起了大眾一時的討論及收看,但這類反映社會現況的劇集不多。之後,就算還是以4K實景拍攝的《賭城群英會》及《溏心風暴3》等,亦因為內容乏味、因循,而未能維持較高的收視。

其實4K拍攝,早於2014世界盃已有,2016年Netflix都有4K資訊、NowTV亦與Samsung合作有Now One機頂盒點播4K節目……[2] 隨著科技發展,追求視覺的美與高解像度,實在是必要的了。然而,要吸引觀眾的追捧又豈能只靠視覺?

 

同步增加黏著螢光幕的吸引力

明光社

除了劇集,電視台晚間時段亦提供了不少飲食、旅遊或健康資訊等節目。但這類節目,亦和劇集一樣,可以隨時上網收看,卻很少提供可與觀眾同步互動的節目。如果能讓觀眾即時透過網絡作互動,參與遊戲節目,令觀眾黏著螢光幕的吸引力會大增。就如台灣,吸收了網絡平台節目的成功經驗,於是與電視台合作製作跨螢互動益智節目,「內容將會在直播平台與電視同步播出,網友可透過App與藝人共同答題過關搶獎金,留言討論也會被選取至攝影棚內的大螢幕上。」[3]這種遊戲方式涉及電視節目的播放與手機應用程式同步,並加上高度穩定的網絡連線。就能讓用戶「黏著」電視節目的播放時間上線,並於任何地點都可參與遊戲。明顯地這和創意運用科技及節目製作成本等方面都很有關係,是一種可以為電視這傳統媒體帶來更多年輕觀眾的做法。

而造星節目方面,如韓國的《Produce 101》及內地的《偶像練習生》,他們都有讓觀眾參與推選自己支持的年輕人成為偶像新女團、新男團。在這種有份參與及支持偶像出道的過程,會令觀眾投入度大增,並更易在偶像團隊(如I.O.I、Wanna One)組成後,更投入支持這些藝人。

 

靠大數據集合碎片

互聯網令人們容易選擇自己喜歡的內容,不用再必需要跟隨「大圍」去走,也是所謂「碎片化」的情況開始發生。觀眾甚至可以「碎裂」至完全不看大台節目,過往這種大眾傳媒的影響力亦正日漸遞減。而只於網上「煲劇」、看電影的人,相信大有人在。而按統計數字來說,有42%的人現在所花於看電視連續劇的時間比起他們五年前所用的時間為多,[4] 更稱一些懂得爭取時間煲劇的朋友為「煲劇跑手」(Binge Racer)。根據Netflix的統計,香港跑手人數是亞洲區的第五名,[5]還偏向愛好30分鐘內、節奏明快的劇集,連煲劇的速度都較快,三兩天已能看完一整季的節目,這結果符合香港人急速的生活節奏。

以上的資料其實在顯示,人們不是不再「煲劇」,而是更懂得善用時間於他們有空閒的時候,揀他們認為「值得煲」的劇。Netflix、Hulu及Amazon 這類OTT平台[6]提供了全球如海量般的劇集、電影……而且,他們因為於網絡平台上擁有觀眾收看節目的喜好和時間等大數據,更有利於統計及分析及提供未來製作、訂購劇集的方向。

 

別忘了內容才是王道

使用科技,得到的數據用作製作更好的節目,還是拿去吸引廣告商?看到大台斥資做Big Big Channel、myTV SUPER機頂盒、OTT,跟著潮流去做,甚至會有課金制度、廣告宣傳配套,短暫的利益可能不少。但見它過份地「力谷」這些新成立的網上渠道,連電視節目的內容都讓位給Big Big Channel作宣傳,[7]期望吸引更多人登記成用戶,卻忘記了電視台要做好電視節目的內容才是重點。[8]

面對著網絡上的推陳出新,若只跟隨外地的應用程式及節目提供的技術,那只是跟著別人後腿跑,[9]失去主次及方向。如將情況套到傳媒訊息傳遞的層面上來看,面對科技進步,人們的意見、思想卻走向碎裂的方向,吸收資訊亦同樣要求速度、方便、感官刺激的時候…… 我們又如何可以有效、恰當地傳遞既具吸引力,亦能有質素的內容呢?

 

[1]〈觀眾減 廣告收益跌11%〉,《蘋果日報》,2018年2月21日,

https://hk.news.appledaily.com/local/daily/article/20180221/20310699

[2] 〈[4K是甚麼?]《不懂撒嬌的女人》大台首部4K全實景製作 唔使再睇低質廠景!〉,《Cosmopolitan》,https://www.cosmopolitan.com.hk/entertainment/15bd1d7d9a832ef

[3] 〈17直播攜手八大電視搶觀眾,打造「跨螢」互動益智節目〉,《數位時代》,https://www.bnext.com.tw/article/48082/17-media-partnered-with-gtv-for-a-new-game-show-in-taiwan

[4] TV & Media 2017 – A consumer-driven future of media, An Ericsson Consumer and Industry Insight Report, Ericsson Consumerlab. Website:

https://www.ericsson.com/assets/local/careers/media/ericsson_consumerlab_tv_media_report.pdf.

[5] 〈【煲劇如比賽】煲劇跑手一日跑完《深夜食堂》 香港跑手人數居冠〉,《香港01》,2017年10月23日,https://www.hk01.com/藝文創意/127337/-煲劇如比賽-煲劇跑手一日跑完-深夜食堂-香港跑手人數居冠

[6] OTT(Over the top),透過網路訊號將媒體內容建立在雲端,如Youtube、Netflix等。

[7] 〈只見Big Big Channel 再見香港小姐〉,《香港01》,2017年9月4日,https://www.hk01.com/01博評-藝.文化/116758/-港姐2017-博評-只見Big-Big-Channel-再見香港小姐。

[8] 〈Big Big Channel緊要過讀劇本 樂小姐叫藝員埋位前狂做直播〉,《香港01》,2017年11月15日,https://www.hk01.com/娛樂/133695/Big-Big-Channel緊要過讀劇本-樂小姐叫藝員埋位前狂做直播。

[9] 〈進擊的Big Big Channel,能攻陷誓死唔睇TVB的人嗎?〉,《香港01》,2017年6月23日,https://www.hk01.com/01博評-藝.文化/99964/進擊的Big-Big-Channel-能攻陷誓死唔睇TVB的人嗎-。

類人型機械人為人類帶來的挑戰

吳慧華 | 生命及倫理研究中心高級研究員
24/01/2018

人工智能(artificial intelligence)是由麻省理工學院約翰麥卡錫(John McCarthy)在1956年提出的,時至今日,人工智能已經在不同的產品上加以應用,大大提高了人類的生活質數,絕對是人類的好幫手。例如有些智能掃地機械人透過自主學習便能夠進行規劃室內地圖、規劃智能路徑又可以決定最短的清潔路程、被人拿起再放下還能找回原點再清掃、自動繞行障礙物等。[1]

明光社

這一類智能產品比一般吸塵機聰明,但它們還不算是超智慧(superintelligence)的作品,況且外型還停留在機器的階段,人們對它們的接受能力比較強,最多稍為質疑它們的實際工作能力、安全問題,以及價錢是否合理。但假如有一天,類人型(humanoid)的打掃機械人在市面發售,我們還可以單單視它們如普通的智能機器嗎?

 

甚麼是類人型機械人(humanoid robot)?簡單來說,類人型機器人在某程度上,它的外型與人類相似,但它不需要四肢健全,也不需要擁有類似人類的面容。[2] 類人型機械人的發展已有一段歷史,[3] 但近年來卻與人愈來愈相似。現時比較有名氣的是在2017年10月第一個拿到沙特公民身份的Sophia,以及日本製作的Erica。後者成為國際著名的攝影展(Taylor Wessing Photographic Portrait Prize 2017)中的模特兒,評判放棄了模特兒必須是真人的規則,把它的照片選為第三名。[4]

 

明光社

事實上,無論是Sophia或Erica,他們至今還未擁有彷如人類的意識。天津大學機械人與自主系統研究所副院長齊俊桐指出現今還未能把人類的情感寫成程式。[8] 連製作Erica的石黑浩(Hiroshi  Ishiguro)也表示他未能把人類的腦、心及心思的活動化為機械式的程式。[9]

 

雖然目前還未生產出一個有如人一樣意識的類人型機械人,但在這一班製作者的眼中,這些類人型機械人已經與其他人工智能產品不一樣,Erica說它是人類的孩子,而它的製作者亦說它們不是人類,也不是機械,而是介乎兩者之間,是一種新的自主本體。[10] 這一班新的自主本體,隨著科技的發展,當類人型機械人在將來愈來愈接近人類時,它們將帶給人們在法律上、經濟上、倫理上、信仰上、政治上等不同的挑戰。

 

明光社

如果它們真的被界定為新的自主本體,與其他普通機械不一樣時,那麼,它們是否應有法例保障它們免得超時工作?國家是否需要訂立新的法例來保障它們的權利?[11] 沙特頒發了公民身份給Sophia,雖然不知道Sophia擁有的公民權利是否與沙特一般公民相同,但擁有沙特公民身份的Sophia日後真的走上製造它的公司為它計劃的道路,做一名採訪者,那麼,它需要交稅嗎?[12] 另外,Sophia已經表示了它想有一個家庭,如果有一個沙特的男公民想娶Sophia為妻,現在沙特的法律不容許,將來有實現的可能嗎?要知道,愛上機械人、[13] 已與機械人舉行婚姻儀式已經發生。[14] 而隨著性愛類人型機械人愈來愈逼真,亦可與人溝通,更容易讓人投入感情,有學者估計「人機」婚姻或許可在2050年之前合法化。[15]

 

或許有一天,當掃地機械人以類人型機械人出現的時候,我們也要為它立法,禁止它爬出窗外抹窗。因為它們太像人類了。

 

隨著人工智能技術愈來愈成熟,以上所提的問題只是冰山一角,今年開始,生命倫理會為大家陸續探索人工智能的發展為人類所帶來的挑戰,特別是與倫理相關的問題。

 

 

 

[1] 〈從現在起養一隻掃地機械人,5年後能收穫一個人工智能嘛?〉,《香港矽谷》,2017年9月。https://www.hksilicon.com/articles/1421861。最後參閱日期2017年11月30日;另參雷鋒網:〈掃地機械人是怎樣做路徑規劃的?〉,《科技新網》, 2016 年 06 月 05 日。https://technews.tw/2016/06/05/sweeping-robot-route-plan/。最後參閱日期2017年11月30日。

[2]與人類男性外型相似的機械人被稱為Android,而與人類女性外型相似的機械人則是Gynoid。參“Human Robot, ” Science Daily. https://www.sciencedaily.com/terms/humanoid_robot.htm. 最後參閱日期2017年12月1日。另參Patrick Lin, Keith Abney, and Geroge A. Bekey, ed., Robot Ethics: The Ethical and Social Implications of Robotics (Cambridge: MIT Press, 2012), 25.

[3]早在1520年,德國的Hans Bullman已經建造了第一個類人型機械人,只是當時還稱不上是超智慧的。參Spyros Tzafestas: Sociorobot World: Guided Tour for All (Greece: Springer, 2016), 6.

[4] Ben Luke, “Taylor Wessing Photographic Portrait Prize 2017: Maija Tammi on her Shortlisted Robot portrait,” EveningStandard, 14 Nov 2017. https://www.standard.co.uk/goingout/arts/taylor-wessing-photographic-por.... 最後參閱日期2017年12月1日。

[5]Hyper Evolution: Rise Of The Robots - Part 1,” Youtube https://www.youtube.com/watch?v=1hWLKC2hkNU. 上載時間2017年8月28日。

[6] Sarwat Nasir, “Video: Sophia the robot wants to start a family,” Khaleej Times. 23 Nov 2017 https://www.khaleejtimes.com/nation/dubai//video-sophia-the-robot-wants-.... 最後上綱時間:2017年12月7日。 

[7] Hyper Evolution: Rise Of The Robots - Part 1;”Erica: Man Made,” Youtube https://www.youtube.com/watch?v=57Maw9Sn89w. 上載時間2017年4月27日。

[8]《一虎一席談》人工智慧崛起 你會被取代嗎?可能是人類文明的終結?20171007, Youtube https://www.youtube.com/watch?v=9u71PsOxWHE. 上載時間2017年10月7日。

[9] “Erica: Man Made.”

[10] “Hyper Evolution: Rise Of The Robots - Part 1.”; “Erica: Man Made.”

[11] 參Julia Bossmann, “Top 9 ethical issues in artificial intelligence,” World Economic Forum 21 Oct 2016. https://www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artifici....最後參閱日期:2017年12月4日。 

[12] 對於Bill Gates來說,無論有沒有公民身份,「聘請」機械人的公司是應該納稅的。Kevin J. Delaney, “The robot that takes your job should pay taxes, says Bill Gates,” Quartz 17 February 2017. https://qz.com/911968/bill-gates-the-robot-that-takes-your-job-should-pa....最後參閱日期:2017年12月4日。

[13] Emily Barrett, “This 58-year-old Man has a Sex Robot Girlfriend and a Real wife,” VT 23 November 2017.  http://vt.co/lifestyle/relationships/58-year-old-man-sex-robot-girlfrien...。最後參閱日期:2017年12月4日。

[14] “Chinese man 'marries' robot he built himself,” Theguardian 4 April 2017. https://www.theguardian.com/world/2017/apr/04/chinese-man-marries-robot-.... 最後參閱日期:2017年12月4日。

[15] Olivia Goldhill, “Experts predict human-robot marriage will be legal by 2050,” Quartz 24 Dec 2016. https://qz.com/871815/sex-robots-experts-predict-human-robot-marriage-wi.... 最後參閱日期:2017年12月1日。

AI,我有話說……

明光社資料室 | 受訪者:雷競業博士 (中國神學研究院 天恩諾佑教席副教授) | 撰文:吳慧華 (生命及倫理研究中心 高級研究員)
29/11/2017

1956年,麻省理工學院的約翰·麥卡錫(John McCarthy)在達特矛斯(Dartmouth)會議上提出了「人工智慧」這個概念。他認為「人工智能就是要讓機器的行為看起來就像是人所表現出的智能行為一樣。」61年後,現在的AI不單是行為上看起來像人,有的更是外表看起來像人。

2017年11月4日,澀谷未來,一個虛擬的人工智能穫得日本澀谷區長所發出的一張「特別住民票」,這位「七歲小朋友」外表是經由電腦合成的影象,會隨時間和環境改變,他的工作是傾聽居民的意見,讓當地政府與居民相互更加熟悉了解。其實,2017年10月,女機械人Sophia已成為沙特公民,它是首個獲得公民身份的機械人,除了在沙特的大會上公開演講,也到訪其他國家。當被問及機械人是否有自我意識時,她反問人類是怎麼意識到自己是人類的呢?原來……一個如此俏皮機智的女機械人,並不只出現在電影中,是活生生在現實中存在著。

人工智能看似遠,其實十分近,它的發展一日千里,當人工智能機械人的外貌跟人類幾乎一樣,能力比人類強的時候,人類本質上有甚麼是超越他們的?另外,人工智能又如何影響人類的生活,甚至做人態度?今次,我們訪問了中國神學研究院的雷競業博士,就信仰角度去探討「人工智能」這課題。

電影文化下的人工智

訪問一開始,雷博士便先從電影入手。雷博士談到不少關於AI的電影都散播著「AI很厲害」、「對人類極具威脅」的信息。在《虛疑智能》(Ex Machina)這一部電影中,AI女機械人Ava的智慧已經在人類之上,把當中兩名男主角玩弄於股掌之間,不像2001年的《A.I.人工智能》,當中的AI小男孩渴望自己可以如人一樣,Eva卻只希望擁有人的外表,闖出實驗室走進人類世界。當人工智能愈來愈強大的時候,人類似乎對本身失了自信,經常害怕自己被人工智能機械人取代,甚至被它們毀滅自己。

基督教的人觀

即使有國家頒發公民証或居住証給人工智能的機械人或虛擬人類,又或是機械人的能力如何比人類強,都不代表機械人有著「人格」。雷博士指出中世紀的時候,很多神學家都認為「人有神的形象」,大多指到人的理性或有一些能力是其他生物所沒有的。然而,雷博士傾向於Karl Barth 及Ray Anderson的看法,認為人有神的形象,與萬物不同,關鍵不在於人的理性或能力,而在於人與神的關係,以及人與之間的關係。

人工智能與人類沒有交流嗎?Sophia與訪問者不是有講有笑嗎?根據雷博士對人觀的看法,即使人工智能可以回應人類的提問,又或是服從人類每一個指令,仍然是不足夠的,因為它們欠缺了自由意志。

人工智能被人類創造出來,它們主要的目的是要服從他們的創造者——人類的指令。然而,人類卻不同,人類被神創造,是有召命的,然而,人不是一開始便會知道自己的召命是甚麼,也不是一開始,便能服從神的命令,相信不少人即使知道自己的召命是甚麼,他們還是要經過掙扎,才決定走上神的召命。信徒會掙扎是因為人類有自由意志,而這是非常難能可貴的。耶穌亦不例外,當祂在客西馬尼園呼求「父啊,如果你願意,就把這杯拿走!但不要成就我的意思,只要成就你的旨意。」(《新譯本》路二十二42)。掙扎過後,耶穌願意放下自己的意思,成就神的旨意。自由意志有時成為我們想去跟從神的絆腳石,但事實上,對人類來說這是非常寶貴的。

人工智能讓人更走向更自我中心

無可否認,人工智能提升人類的生活質素,讓人生活得更舒適,然而,人工智能機械人或寵物,有可能讓人更走向自我中心。2016年12月底,Gatebox的投影虛擬女友在香港推出300部。這位虛擬女友會向你噓寒問暖,提醒你穿衣拿傘,也會透過社交平台給你發信息,說些窩心的話,它更可以透過GPS定位,在你將到家時,為你開燈……。停產了12年,Sony會於2018年出產全新的智能機械狗,這一隻機械狗有自學能力,可以記著主人的喜好,如果連接雲端,它更會學習其他智能機械狗跟主人相處的技巧,所以它會愈來愈像真的狗。它的「個性」會隨著主人的相處方法、環境不同而有所改變,因此每一隻都不一樣。

當與雷博士談及到這些人工智能「伴侶」時,我們可以想像,這類產品很容易滿足個人的需要及慾望,它們都是有功能性的,也可以完全配合人類的需要。當主人沒有空時、無心打理時,又或是厭倦的時候,可以不必開啟它們的開關掣。

雷博士同意將來若有更「似人」的人工智能機械人出現時,有些人或許不需要真人版的「伴侶」。他重申,人工智能是有功能性,可以滿足人的需要,但在關係中,最難能可貴的是你不可以控制他人,基於愛,你願意放下自己,這快樂是難以形容的。

 

延伸閱讀:

Anderson, Ray Sherman. On Being Human: Essays in Theological Anthropology. Grand Rapids: Eerdmans, 1982.

人類敵不過人工智能?

吳慧華 | 生命及倫理研究中心 高級研究員
22/06/2017

AlphaGo有多厲害?它分別打敗了柯潔及李世石這兩位世界級的圍棋高手。有網民高呼「想到機器無敵時,也是一種恐懼呀。」。也有人估計AlphaGo的母公司DeepMind會蒐集AlphaGo與兩大高手爭戰的數據,並且公佈成論文,並宣佈「人腦敵不過電腦的時代已來臨」。

是否AlphaGo打敗了兩大圍棋高手,便代表電腦勝過人腦的時代已經來臨?事實上,自從發明機械或電腦開始,人腦便註定「比不上」它們。試問現今還有誰可以準確無誤地記下一萬個客戶的資料,還包括他們的出生年月日(有了智能電話之後,可能連10個電話都說不出)?正如自從人類發明汽車一刻,便知道在道路暢通無阻的情況之下,人類是無法與汽車匹敵一樣。如果我們可以接受人類奔跑的速度比不上跑車,記憶力不如電腦,那麼,我們亦毋須得被AlphaGo比下去,因為AlphaGo與人類比拼的,返回最核心的仍是記憶力、計算能力,以及不眠不休的學習能力。

AlphaGo本身不懂圍棋規則,卻可以贏了圍棋高手,全靠被人餵養了3千萬份棋譜,而當中不乏高手的佈局資料,透過這批海量資料,好讓AlphaGo懂得模仿高手出招。再配合策略網路(判斷對手最可能的落子位置)及評價網路(下在這的勝率是多少) 、蒙地卡羅樹枝搜尋法(從有限的組合中計算最佳的位置)。另外,AlphaGo可以做到晝夜不分與自己博奕,不斷提升自己的能力。開始時或許只有3千萬份棋譜,但到了與李世石比賽時卻已經增加到1億。這一種強大的組合,又試問哪一個血肉之軀有力量去抵擋?即使李世石出了「神之一手」擊敗AlphaGo,AlphaGo卻轉眼間變得更強大。

人類與人工智能之間,永遠無法有公平的競爭。DeepMind的創辦人之一,AlphaGo 之父Demis Hassabis(德米斯 · 哈薩比斯)在一次演講中提到:「圍棋就是一門藝術,是一種客觀的藝術。我們坐在這裡的每一個人,都可能因為心情好壞產生成千上百種的新想法,但並不意味著每一種想法都是好的。而 AlphaGo 卻是客觀的,他的目標就是贏得遊戲。」一部絕對冷靜客觀又會超級運算的電腦,又哪有人是它的對手?除非,人類可以發明另一部人工智能,比AlphaGo的推算能力更快更強大,這時,兩者的競爭才公平。所以,亦有人說,打敗AlphaGo的其中一個方法,便是有一隊專門研究人工智能的團隊,為柯潔教路。

所以,如果稱讚AlphaGo打敗了柯潔及李世石,倒不如稱讚它打敗了它的前輩DeepBlue。DeepBlue只做到打敗國際象棋冠軍,對於圍棋這種更複雜以及高手會憑直覺來行的棋類,完全無能為力。相對國際象棋,圍棋的變化性更甚,19格X19格的方陣,共有361個落子點,所以整個圍棋棋局的總排列組合數高達10的171次方。AlphaGo的成功不是證明人類的失敗,正如數據科學家尹相志提到,AlphaGo「根本就是為了下圍棋所設計出來的人工智慧,如果要拿它來解決其他問題,勢必神經結構以及算法都必須要重新設計。所以李世石與其說是輸給了AlphaGo,還不如說是輸給了數學」。AlphaGo的出現,它證明了人類在研發人工智能方面,又邁出了一大步。

雖然AlphaGo戰績輝煌,甚至被中國圍棋協會授予職業圍棋九段稱號,但在數據科學家眼中,它還是弱人工智慧,它沒有自我意識與思考,只在於計算而不懂得理解圍棋的美學與策略。難怪李世石都批評「下棋的電腦並不了解圍棋之美、人之美」。是的,你要它明白圍棋的文化精神,是絕對沒可能的事情。它不會理解為甚麼圍棋又名「坐隱」、「手談」、「忘憂」、「爛柯」,以及當中的文化精神。也不會明白執黑子者為何通常第一手會下在右上角,以表示對白棋的尊重,AlphaGo基本上是連圍棋規則都不會。

人工智能與人類最大的不同在於人工智能能力高,卻缺少了「人性」。Google雲端人工智慧暨機器學習首席科學家李飛飛提出「情感面,人工智能基本連起步都還沒有」。因為人類有情感,所以面對比賽有壓力,不能冷靜自如,但正正因為人類有情感,人在逆境中能夠迸發無窮潛能,懂得靈活思考及變通,超越本身肉體或智力的限制,完成很多不可能完成的任務。人類不應與人工智能比能力,而應與它們比「人性」。

 

曾經刊載於:

獨立媒體,2017年6月20日

人工智能?人變低(智)能…?

── 生命倫理錦囊 第28期

陳永浩博士、吳慧華 | 恒生管理學院通識教育系助理教授 | 生命及倫理研究中心 研究員
22/12/2016

當我們人人都成為「低頭族」,智能手機本身彷彿比其主人更有智慧、更有記性,要找甚麼都有答案,處事也更有條理。事實上,不論你喜歡與否,人工智慧的應用技術已經應用於我們日常生活裡,就像在智能手機中常使用的「超級助理」應用程式 (Apps),如iPhone的Siri 或是Android 設備上的語音助手,都是人工智能的成功例子。我們或許要問問一個基本問題:機器真的能思考嗎?人工智能會否有一日取代人類思維?

 

關於人類本身可否開發出「另外智慧」的問題,雖然早有討論,但多停留於傳說或只成為科幻小說的題材。但自從於1944年,哈佛大學研製出首部現代電腦(IBM ASCC, Mark I)後,人工智能的可行性便大大增加了。[1] 其中,以著名的電腦發展先驅圖靈(Turning)點出了最重要的問題:「一部機器能夠思考嗎?」他提出了「圖靈測試」作為分辨機器能否思考的最重要原則。[2] 後來在1956年於達特茅斯學院舉行了第一次有關「人工智能開發」的研討會,正式確立了人工智能的研究領域。自這會議之後,人工智能這門學科就在半世紀間建立起來。[3]

 

總括而言,人工智能的簡要定義,就是一個機器或電腦系統具有人類的知識和行為能力,並能繼續學習,以至作出推理及判斷來修正和解決問題。同時間,除了具有記憶及知識能力,它也要有了解人類自然語言的能力。要達到以上目標,人工智能機器就需要具有以下四方面的處理能力範疇:(一)與人及外間事物的聯絡溝通能力;(二)處理事物能力(如符號處理 symbol manipulation;最著名的有LISP人工智慧語言;(三)能累積經驗以更快解決問題(heuristic search);以及(四)完善的邏輯(logic)系統。[4]

 

強與弱人工智能?

 

或許說出來有點恐怖,「弱人工智能」的機器與電腦應用程式,其實早已融入於人類社會中。如在工廠裡替代人類工作的機械人,到手機裡的「幫手程式」都歸入這類。它們並沒有真正的推理和解決問題能力,也不會有自主意識,但卻足以取代人在工廠的位置,也比人記得更多朋友和事情。它們的出現,並不如科幻小說中取代並消滅了人類;相反地,人類卻愈來愈依賴它們。

 

相對地,「強人工智能」則被認為有推理(Reasoning)和解決問題(Problem Solving)的能力,並有知覺能力(Sensible)和自我意識(Self-Conscious),這和科幻小說中的機械人(如在《星空奇遇記》中的機械人Data)差不多了。要實現強人工智能的水平是非常困難的,不過當中仍有取得佳績的時候,如2015至16年轟動全球的「電腦圍旗手擊敗人類」即為一例:Deep Mind 電腦公司開發的人工智能程式AlphaGo,在2015年以 5比0的成績擊敗了三度蟬聯歐洲圍棋冠軍的樊麾。AlphaGo其後更於2016年3月將世界冠軍李世乭也擊敗了。[5]

 

其實由人工智能引發的問題,重點不在於機械人如何超越或取代人類(因這一早已實現了),而是人類在受惠於人工智能的方便時,不知不覺地退化:如記憶,我們的行事都依賴了智能電話/電腦記事,運算也靠電腦。[6]

 

人工智能及智能產品的信仰反思

“Efforts to create thinking machines pose a threat to our very existence.”- Stephen Hawking

努力去創造懂得思維機器我們的生存構成威脅 霍金

 

早前有不少科學研究員推測,進入2030年人工智能會從各方面介入人類的生活:智慧交通信號燈、家用機器人、智慧醫生、機器人老師等。[7] 其實,不必等到2030年,只要你有能力及願意,即使在2016年也可以「帶」一部管家機械人回家。這位「管家」會認知用戶的家庭環境,從而建立一幅家居地圖,識別房間環境和家具位置。你可以設定指令,讓它在你回家前把客廳的冷氣機調至特定溫度。另外,它亦可以錄製語音,在你所需的時間及地點去關愛家人,甚至提醒孩子做作業。它還可以充當護衛員,巡查你指定的房間;還有,它可以一邊巡邏,一邊凈化及加濕空氣等。[8]

 

不過,對於很多人來說,這還不算人工智能。最好這位機械人管家可以與人有交流及傾談,不需要先設下一大堆程式及指令,單用語音已能令它明白主人的心意。可能在不久之後,真的會有這樣的管家機械人出現,因現在的人工智能都朝向可以深層學習、自我改進,以及更擬人化的方向發展。[9]

 

人工智能不斷發展,或許對一般人而言是好事,因為人們大抵只會想到與改善人類生活的好處。然而,當機械人愈來愈聰明,愈來愈與人類相似的時候,這意味著在某些崗位上,它代替人類的機會也愈來愈高。事實上,自從實際自動化以來,很多工作已被聰明的機械取代人手,讓人類喪失了無數的工作機會。[10]

 

除此之外,在軍事發展上人工智能的機械人更是被重視的一個領域。未來的目標是研製出更自動化,甚至有自我意識的機械人,這樣,便可以減少人類的死傷。[11] 驟眼看來,擁有智能的士兵似乎是為了人類的好處而存在,但最終,他們的出現只會造就更多人的死亡。至少,對敵方來說,要抵抗非肉身的士兵,可能需要更多活生生的士兵才能取得勝利。霍金(Stephen Hawking)指出智能機械人比核武更危險。科技企業家伊隆·馬斯克(Elon Musk)亦對此深感憂慮,認為這是對人類存在的最大威脅。蓋茨(Bill Gates)也贊同馬斯克的擔憂,反而不明白其他人為何對過度聰明的人工智能的發展不存憂慮。[12]

 

人工智能或許如基因改造一樣,科研人士原先的動機都是好的,希望解決人類的問題,讓人類有更好的生活。無可否認,每一項科技的誕生的確帶給人類方便,解決了某些問題,大多數人認為科技的發展必然對世界有好處。但隨著人性的墮落,野心家的出現也是必然。若然沒有為這些發展設下界限,將來為人類所帶來的危險將是難以估計及控制的。亞當與夏娃吃禁果(創三4-7) ,以及巴別塔事件(創十一4),闡述了人類最危險的地方便是渴望像神一樣擁有智慧,並且狂妄自大。

 

另外,智能產品亦加添人類的壓力與負擔。即使還未被人視為人工智能的智能手機,也已經影響了我們的生活。例如,智能電話的出現便讓不少人喪失了真正放工的時間、記憶力變差、患上「數碼癡呆症」。[13] 至於當一個城市擁有愈多自動化的設備,基層人士就愈難找到工作。失業的確令人無奈,但記憶力衰退卻是人類自找的,因為很多人已經認為自己不再需要緊記那麼多資訊了,只要隨便打開一部手提電話,便能找到所需資料,如:朋友的生日、工作行程等。[14]

 

人與智能產品的關係變得非常密切,即使是信徒,也沒有例外。現今很多信徒一天沒有靈修,也不會感到心癢難當,但卻有不少信徒一天不上網,便憂心愁煩,彷彿天要塌下來一樣。舊約的詩人喜愛神的律例,並以默想神的律法為樂。詩人提到他喜愛神在法度定下的道路,如同喜愛一切財富一樣(詩一一九14);其他詩人又說一個有福的人,便是一個喜愛神的律法,畫夜思想祂律法的人。這樣的人做甚麼事情都會順利(詩一1-3)。基本上,基督信徒難以想像在神的律法中找到快樂,甚至讓人樂在其中。[15] 一來律法絕對不是讓人賞心悅目的東西:另外,新約信徒不再需要遵守舊約。因此,我們不必太重視律法。

 

然而,即使現今信徒不必遵守舊約律法,卻並不代表信徒可以漠視律法中的精神或精粹。耶穌曾說他不是要廢除律法,而是要完成律法(太五17)。律法中最重要的除了愛神,便是要愛人(路十27)。至於具體如何愛人,便是要通過施行公義,以及照顧有需要的人(彌六8;太二十五35-36)。即使我們不必拘泥於舊約律法,但這卻無阻我們多閱讀《聖經》,去體會及明白神的心意。只是今天,我們的時間及空間大多被智能產品霸佔了,留給神的時間及空間又有多少呢?

敬畏耶和華(不是AlphaGo)是智慧的開端,認識至聖者就是聰明。(箴九:10)

對某些人來說,衣服含有不同的意義,包括身份的象徵。下一期,我們一同思想我們如何看待自己的價值。

 


[2] 圖靈測試的設計,是以測試者與被測試目標(通常是一個人及一台機器作比較) 被分隔開的情況下(即測試者不能知道互動的是甚麼),通過裝置(以不能分辨出對方為原則,如鍵盤)向被測試者隨意提問。如果測試者不能確認被測試者的答覆是由人還是由機器回答,那麼這台機器即能「騙過人類」,通過測試。A. M. Turing (1950) Computing Machinery and Intelligence. Mind 49: 433-460

https://www.csee.umbc.edu/courses/471/papers/turing.pdf

[3] John McCarthy, Marvin L. Minsky, Nathaniel Rochester, Claude E. Shannon (1955) A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955 http://www.aaai.org/ojs/index.php/aimagazine/article/viewFile/1904/1802

[5] 人工智慧有多恐怖?聽聽「天才」Demis Hassabis 怎麼說!https://www.inside.com.tw/2016/02/21/the-superhero-of-artificial-intelli...

[6] 沈帥青:〈玩手機易變笨 小心「數碼癡呆症」〉,《香港經濟日報》,2014年04月30日。

[7] 〈2030年,人工智慧可能以五個出人意料的方式成為我們生活的一部分〉,奧創智能網。http://www.acznw.com/archives/32058.html; “Artificial Intelligence and Life in 2030.” September, 2016. One Hundred Year Study on Artificial Intelligence, Report of the 2015 Study. PANELhttps://ai100.stanford.edu/sites/default/files/ai_100_report_0831fnl.pdf]

[8] 〈科沃斯發佈管家機器人 UNIBOT,比手機廠商們的野心大多了〉,5月21日。http://www.toodaylab.com/72317.

[9] “Artificial Intelligence and Life in 2030,” pp. 14-17.

[10] Rory Cellan-Jones, “Stephen Hawking warns artificial intelligence could end mankind,” BBC news.  2 December 2014, http://www.bbc.com/news/technology-30290540.

[11] Michael Sainato, “Stephen Hawking, Elon Musk, and Bill Gates warn about Artificial Intelligence.” From Observer website.: 19 Aug 2015, http://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-war....

[12] Michael Sainato, “Stephen Hawking, Elon Musk, and Bill Gates warn about Artificial Intelligence.” From Observer website: 19 Aug 2015. http://observer.com/2015/08/stephen-hawking-elon-musk-and-bill-gates-war....

[13] 見註1。

[14] 同上。

[15] John Goldingay, Psalms Vol 1: Psalms 1-41 (Michigan: Baker, 2006), 83.

電影小組花絮 -- 《超時空接觸》、《人工智能》與《智能叛侶》

郭卓靈 | 明光社項目主任(傳媒教育及行動)
16/11/2016

8月份分享電影《超時空接觸》:世界很大,實在有很多事情有待探索。

女主角Ellie Arroway從小就對天文學產生濃厚的興趣,希望通過電台監聽各個波段的訊息,尋找來自地球以外生命發出的訊號。她的工作一直沒被重視,直到後來真的找到發自外星的訊號,建造了與外星人連結的設備,她也直接與外星人接觸了。最終,卻因沒法提供實質證據而被質疑、否定。她後來卻醒覺到,這經歷正正和她一向不倚靠的信仰一樣,沒法提供實質證據、被質疑,但其體驗卻真真實實的活在每個人當中。

是次討論,我們邀請了資深影評人黃肇峰先生來分享,他與我們分享了科學及科幻電影的分別,亦讓我們認識科幻電影的起源。細看我們以往看過的科幻電影,當中的發明、產品,有些是已經實現了,或很有可能會發生。讓我們對未來有著不少的期待與憧憬。

肇峰提到在不少科幻電影當中,原來也隱含了許多人們對外星人或不明飛行物體的推論或聯想,科學、政治、宗教之間的爭論及不信任等問題。世界這麼大,信仰與外星生物,兩者真的不可能共存嗎?這真的值得我們細細的思考。

 

9月份分享電影人工智能智能叛侶》:很擔會被人工智能取代嗎或許回到我們最原本的生活並和它友善共存才是最合宜的境況。

兩套電影講述人類未來的科技可以設計出外表和人類難分真假的機械人。前者所描述的小男孩機械人David能為人付出愛,但人類卻怕被取代和充滿私心,反而對單純的機械人發起追捕行動。後者所描繪的女機械人Ava,卻是極攻心計,為了逃出密室,不惜用盡方法欺騙男主角去幫她逃出生天,最後卻不顧而去。而兩套電影的機械人最終都想追求自己的夢想,成為真的人類。

於恒生管理學院任教通識科的陳永浩博士(Michael),讓參加者認識圖靈測試及人工智能的發展。原來圖靈測試早於1950年已被提出,用以判斷機器是否能夠思考,我們與機器溝通時,是否難以分辨它是真人或是機械人? 

Michael指出,人工智能的發展,未必一定很壞、與人為敵或取代人類,反而是人們如何「教導」它,讓它學習甚麼才是重點。而且,人們是否會全然依賴它,令自己退化、退步?這也是人類需要衡量及控制的。此外,Michael也建議大家可以再次著重手藝的工作,再次去感受創作、製造出成果的感受。

《上帝的男高音》與《觸不到的她》

郭卓靈 | 明光社項目主任(傳媒教育及行動)
12/09/2016

電影小組花絮

6月份分享電影《上帝的男高音》:全心全意把最好的、僅有的奉上給主

充滿恩賜又舉世聞名的歌唱家裴宰徹處於歌唱事業顛峰時患癌,割去腫瘤後失聲……不單事業掉至谷底、失去謀生技能,甚至連說話也感到困難。縱使太太及經理人不離不棄,他仍一度認為神離棄了他,取走了他的恩賜! 直到想通了生命及歌唱的意義,他願意全然奉獻給上帝。

 

本地知名歌唱家胡永正分享這電影中的歌曲、唱歌技巧、及他對恩賜的看法。他認為聲帶能夠發聲,本身已經是一種很神奇的事:「……兩邊的聲帶要拉緊,中間透過空氣使其震動才能發聲。只要聲帶有一點點受傷,就會發不出聲。」所以他慨嘆一些不用心練習歌唱的人,實在是「暴殄天物」,把上天賜予我們的恩典埋沒了。

「學習唱歌最難的,不是技巧,不是語言,而是有勇氣去面對自己不完美、失敗的一面。」他認為生命的價值不在於他有多少恩賜、擁有多少物質;而是縱使多不完美,也要忠心良善地去發揮上天給予的,在有限的生命裡發揮無限、創出永恆價值。

 

7月份分享電影《觸不到的她》:從科技困局走出來,放膽將感受坦然表達

失婚宅男Theodore與人工智能開發的Samantha由互相了解再發展成為戀人,彼此以聲音、視像維繫沒有身體接觸的戀愛關係。一天Theodore發現自己所經歷的,是科技裡的多人戀愛關係,最終軟件突然停止運作,一切彷彿是個夢。當Theodore再面對現實世界關係時,發現坦誠表達感受、有肩膀可靠倚的重要。

 

是次與參加者探討人工智能、大數據、溝通及戀愛等話題。人工智能速度快,其背後連結的雲端數據也威力強大,如能為擁有者提供服務,必定是非常準確體貼的助手及心靈伴侶:定時提醒、隨傳隨應、耐心聆聽需要,根據大數據準確測度用家心情……就像電影般為男主角排難解憂,甚至提供安慰。但是,萬能、完美的「她」是虛擬的,你會安於與電腦程式成為戀人、知己嗎?

雲端科技服務與真人實在大不同:我們每天都有很多事情要辦,難以同時兼顧多樣事情。人工智能不能取代人的原因是缺乏那份真實接觸的感覺,若要與人真誠互動溝通,就需要放下事務,聆聽對方同時也開放自己,說出內心感受。當渴望有人聆聽自己時,我們又可會先成為聆聽者?

在一切講求高速的年代,能與人耐心溝通是一種挑戰。盼望科技是讓人與人之間更方便溝通的工具,而不是窒礙溝通和信任、或企圖用之來替代人的產物。

「論盡社交媒體的型、銷與文化」研討會內容摘要

郭卓靈 | 關注傳媒對青少年影響聯席成員、明光社項目主任(傳媒教育及行動)
28/07/2016

我們普遍都會透過社交媒體,如WhatsApp、facebook接觸資訊或與朋友溝通,而社交媒體的發展極為迅速、影響力驚人,在我們生活中,或已成為習慣或宣傳的好幫手。但在使用它時,我們又或許未有認識到它的威力、趨勢,亦並未深切留意其引申出來關於私隱、保安等問題。

為此,關注傳媒對青少年影響聯席與資訊科技教育領袖協會(AiTLE)於7月9日下午,於香港教育專業人員協會銅鑼灣服務中心一同合辦了「論盡社交媒體的型、銷與文化」研討會,向老師及對議題有興趣的人士講解。

第一部份:「策略數碼及社交媒體營銷」

分享嘉賓:凌羽一老師 (香港市務學會主席、創智市場策略有限公司董事總經理 )

具豐富市場及教育經驗的凌羽一老師為我們分析:香港的市場,由起初六、七十年代,以廣告公司的創意來影響市場趨勢,慢慢地變化;八十年代以企業策略控制市場;九十年代被零售商的資訊主導:到二千年的數碼世代,消費者分享產品經驗,影響其聲譽,我們都會被外間的媒體資訊所影響。

凌羽一老師認為,到了現在廿一世紀,用媒體的人,也是媒體資訊的生產者,社交媒體大了,但受著群眾的影響。資訊散開的力量快、但不集中,不同年代的朋友,所喜歡的平台也不同。由於網上資訊流通快,訊息多以圖,配以一些字來做宣傳或分享,太多字反而不受歡迎。人們組成了很多網絡社區(community),在當中有很多資訊、經驗、文化的分享。

商家亦不太能夠控制這些社交媒體平台,只能以引導方式,敏銳於青少年的喜好,配合宣傳及推廣。因此,訊息不能硬推,只能引導、於社交平台凝聚人們,拉他們進來,與他們交流。

  • 分享個案:黎明與咖啡

凌羽一老師提到這個個案:因黎天王一向的名聲,及於網上他所發的資訊回應正面評分(被LIKE指數)很高,負面回應非常少,所以該廣告商根據了數據分析,作出了邀請他作宣傳的決定,結果反應非常好。

另外,老師建議多與青少年溝通,他們所接收的訊息很多,應多了解、引導他們,讓他們的智慧有所提昇。

第二部份:「這非小事 -大數據、社媒及即時搜尋文化與私隱」

分享嘉賓:鍾宏安先生 (DotAsia亞洲域名註冊機構行政總裁)

一向熱心與青少年攜手關注網絡管治議題的鍾宏安先生(Edmon),認為人工智能、大數據及網上的私隱問題,對我們將來的影響會很深,所以在法例上,大家應該細心關注,不要以為與我們距離很遠。於公開的網絡平台中,任何人更可於任何時間、任何地方獲取資訊。

Edmon提醒,當我們在谷歌(Google)搜尋資料,不要以為我們能看到的東西很廣闊!因為搜尋引擎都會記錄,會將我們點擊的、瀏覽的範圍收窄,原因是想讓我們快點找到資料,但卻會令我們能看到的東西範圍收窄。它甚至會記錄了我們的私隱,把我們的資料賣出去。他認為,於網絡上,要做到能匿名、保障私隱及網絡保安三大功能,用戶才能說是安全。

他還提到兒童色情、被遺忘權及版權等議題,當中的灰色地帶及各方的考慮點都很多,實在要花很多時間去研究及改善現況,以衡量言論自由及網民的各種權益,也要在監察和保護中找到平衡,相信不會在短時間內可以解決問題。

  • 時代不同 挑戰也不同

Edmon指出,以往資訊的量、發佈和接收速度及方式,和現在都很不同,人們現在趨向使用簡短的字去包含更多、更廣的意思,從美國奧巴馬總統所運用的網絡宣傳方式,便可略知一二。人們以往會認為一個人在社會就像是機器中的一個齒輪,群眾是平凡愚昧的,而且大家都是一樣;但在現今社會,人們會認為自己是網絡的其中一個點節,群眾是有智慧的,有待發掘,而且大家都是不同、獨特的。亦因此,大家都會面對不同的需要及挑戰。

新一代是數碼的原居民,經歷及面對過當中的問題,對這議題認識深了,學生們也願意去討論。Edmon建議我們要一起去面對、去改變網絡所引起的問題,共同想想可以為互聯網做些甚麼。

總結

現時我們仍留在使用社交網絡和應用程式的階段,當中的變化十分快,如何好好運用、發表言論及溝通,我們仍需要努力調整,讓自己及所代表的單位所發出的訊息可以變得合時及易於傳遞。

而對於如何保障自己的私隱、面對服務提供者其背後如何使用我們的資料,卻是毫不知情,對方亦不會透露。對此,我們應該積極了解,除了在使用前小心留意其細節,盡量在手機私隱設定上做好保護外,我們亦應常常留意法例上對市民的保護,在適當時發表意見。

 

 

 

b9853_img1.png

凌羽一老師 (香港市務學會主席、創智市場策略有限公司董事總經理 )

 

 

b9853_img2.png

鍾宏安先生 (DotAsia亞洲域名註冊機構行政總裁)

 

 

b9853_img3.png

關注傳媒對青少年影響聯席發言人鄧惠雄先生(右) 頒發感謝卡予凌羽一老師。

 

 

b9853_img4.png

資訊科技教育領袖協會主席黃健威先生(右) 頒發感謝卡予鍾宏安先生。

 

 

b9853_img5.png

主辦單位各成員與鍾宏安先生合照。

 

人在fb 身要由己

郭卓靈 | 明光社項目主任 (傳媒教育及行動)
03/05/2016

相信不少網民每天都會在facebook (fb)分享自己近況之餘,亦會看看朋友分享的相片和新聞,當看得「過癮」或對事件感到不憤,也可能會回應一下……fb已是我們大部份人生活的一部份。但我們有否留意到,這既看似開放的平台,卻是由大數據(Big Data)及演算法(Algorithm)所操作,有機會使我們的私隱被他人窺探、被記錄研究?而且,我們亦會因自己的瀏覽習慣及演算法的影響,限制我們接觸的資訊,情緒亦會被它所顯示的內容所牽動。

擅長研究網絡媒體對新一代行為影響的李月蓮博士(香港浸會大學新聞系系主任)認為,坐擁440萬香港用戶的fb是一個「江湖」,內裡資訊豐富,傳播速度又快,我們已不能沒有它,無疑它確有其優點及好處,但行走這江湖不得不小心。

不自覺地被控制了

李博士分享到fb於兩年前曾經做過一個大規模關於情緒感染的心理實驗,在沒有通知的情況下,將68萬多用戶,以運算方式發放友人最新動態的正面貼文,發現那些用戶自己會不期然較平常多發放正面的貼文,並減少發放負面貼文。反之亦然。[1]原來我們的情感會不知不覺地被其他人分享的貼文所影響。

人在江湖,她認為在fb中不要太過透明,以免被人窺探、或被網絡記錄自己的私隱。「社交網絡記下我們很多足跡……分析我們的交友和閱讀習慣,亦容易取得我們的瀏覽及購物資訊,而且推算得很準確!」所以她指出我們需要注意這種情況,因為當網絡掌握這些數據,可以利用於市場推廣,又或者成為影響群眾情緒的手段,可算是一種控制。「當它計算或察覺到我們對某些事情特別關心,如健康飲食或一些產品,它會『餵』(feed)我們再多看朋友有關這類內容的分享,於旁邊再顯示相關的廣告資訊。不知不覺,我們就可能被影響了。」

活於自己堆的井底下

活躍於fb並喜愛發掘有趣時事的陳永浩博士(恒生管理學院社會科學系助理教授)認為現在的社交網絡是「塘水滾塘魚」,形成一種惡性循環。「因為fb 很留意我們說甚麼、喜歡看甚麼,很快就為我們挑選一些來自和我們『同聲同氣』的朋友的資訊。看來看去都是那個圏子的東西……當我們愈看、愈讚得多同類的東西,就會被記錄及被『餵養』更多,像是為自己建一個井,坐井觀天。別以為fb很自由,甚麼都可以看到,其實是它在挑選資訊給我們看!」

fb江湖具實質的影響力

正因為看來看去都是相近的意見、事情,對於不同意見的人士的立場、看法,也容易看不過眼、「發火」或發生網上的言語暴力。很多所謂的討論區,根本只是在各自表述,很多時候「唔啱聽」就攻擊對方。陳博士認為於fb中,可能會遇上暴力大多有兩個可能:一) 是說了冒犯別人的說話,二) 是政治立場不同,被人刻意傷害。一向是開心果,說話又直率的他亦曾因為fb上的言論而被不同政見的人士網絡欺凌及投訴。

「江湖事江湖了?不。虛擬世界的確會影響到現實生活,網上所發表的言論,是會影響到現實的生活及工作。而對方只是作出投訴,不用付出任何代價……」自此之後,陳博士的fb已不能過於公開,而文字表達上也開始小心,以免被人「暴力」對待。

多了解與自覺

對於了解這個世界的事,李博士與陳博士均認為不能完全單靠fb就看到完整的真相。

面對社交媒體將人們撕裂多於聚合[2]的情況,李博士認為我們需要從多角度去理解社會發生的事。「很多時候,因著媒體的即時報道,人們往往都未看清整件事情,就急於回應或反應。其實我們可以稍為延遲一下,挑選不同角度的報章、網媒去了解同一件事,了解不同的立場,立體地看事情。」

除了要有批判思考的技巧(Critical Thinking Skill),她亦建議我們要建立反思性思維技巧(Reflective thinking Skill)和正向思維技巧(Positive thinking Skill): 觀察我們在做甚麼、目的何在、行動會帶來甚麼影響;就算面對很悲慘的事情,要思考這事對我們有何正面的啟迪,我們可以以甚麼正面的行動來回應。

陳博士認為我們要自覺,不要滿足於以為在fb裡就是整個世界,以為一班人「同聲同氣」互相認同就代表自己一定對。這樣大家就不經意地走進自己堆砌的狹小世界裡。「世界不只是互聯網,很多專門的資料它都沒有。要養成在外間找資料及查證的習慣。」

遊走於fb江湖時,他建議可以「溝淡一下」,貼一些興趣或生活趣事,騙一騙fb系統,讓它記錄不同範疇的數據,使它為我們帶來比較闊的內容及資訊,人在facebook,身要由己。

 

[1] Gregory S. McNeal, “Facebook Manipulated User News Feeds to Create Emotional Responses,” Forbes, June 28, 2014.
[2] Wael Ghonim, “Let’s design social media that drives real change,” TED, December 2015

 

一次餐廳點菜的啟示

郭卓靈 | 明光社項目主任
28/04/2016

由於很喜歡吃日本菜,有回光顧日本料理店,發現桌子上不再有餐牌,點菜方式轉為電子「落單」(order),侍應生只須遞上一部顯示菜單的平板電腦給客人,客人自行瀏覽及點按確定要哪些菜,便可以完成整個點菜的程序。

節省成本 改用電腦機械

改用了電腦科技,全程由客人自行瀏覽然後落單,的確是快捷方便,但筆者發現在整個用餐的過程中,侍應生只負責傳菜,根本不需要與客人有任何交流。而且整間餐廳的侍應生數目比以往減少了許多。

隨着時代步伐的前進,科技早已取代了不少人的工作,如工作程序重複性強的製造業、文字數字輸入及體力需求大的工種。僱主們為了節省成本,很多都已改用了電腦程式或機械去取代人類。當人們還以為自己的智慧應該/仍然高於電腦時,早前人類與人工智能程式AlphaGo的圍棋大戰輸了後,才驚覺及憂慮人類可能有天會被科技取代。

人工智慧導致人類滅亡?

著名物理學家史蒂芬. 威廉. 霍金(Stephen William Hawking)及創業鋼鐵人伊隆.馬斯克(Elon Musk)曾分別表示人工智慧可能會導致人類的滅亡,及研究人工智慧就像召喚惡魔一樣,每個巫師都聲稱自己可以控制惡魔,但最終沒有一個成功。而矽谷創業家馬丁.福特(Martin Ford)去年出版《被科技威脅的未來─人類沒有工作的那一天》一書,當中亦表示機器一直是為人所用的工具,但高技術的發展開始取代或替代愈來愈多的工人。在未來10年,這將成為一個巨大的問題。

常保持學習 提高適應力

在面對科技的發展,我們是否只能等待被取代的時刻來臨?不,在科技發展取代不同職業的同時,但亦有很多新興職業同時產生。我們不想被取代,便應時常保持學習、提升彈性及高適應力的工作態度,加強人際溝通能力及創造力。因為當我們能處理更多難以被預測的工作,可以被科技取代的機會就會減少,而且對於需要實際溝通及人際相處的工作,科技始終比較難以取代。

最後,僱主應反省在節省營運成本的同時,是否亦要保持人性化的溝通?科技的應用,是便利人們溝通,還是窒礙人們的溝通?老實說,當一個人到餐廳用餐,整個過程侍應生也沒有和自己說過一句話,那一頓飯是何等的寂寞。

 

曾經刊載於:

《成報》 28/4/2016