關注生命倫理 正視社會歪風

電影小組:電影類型十講 第七講:屋裡有怪物

郭卓靈   |   明光社項目主任(傳媒及生命教育)
19/07/2023

電影類型十講這個系列走到第七講「屋裡有怪物」這個主題,我們參考了史奈德的《先讓英雄救貓咪》一書的電影分類去分析電影,因為想大家可以了解一下電影的結構。結構是一個框架,但每部電影所探討的重點,仍然可以很不一樣,就像這次介紹的電影《人工殺姬》(M3GAN),它屬於恐怖片種,但卻不是家裡有鬼怪,而是關於一玩具設計師Gemma為了不想花時間照顧母親剛去世的外甥女Cady,於是設計了一部能自我學習,但卻沒有界線,且起了惡念的人工智能機械人M3GAN,她更觸發了社區、校園命案。

明光社

分享嘉賓王礽福先生指出,這類電影要有三大要素:一、「怪物」:要有超自然力量,而且恐怖、邪惡;二、「屋子」:狹小、封閉的空間,或讓主角孤立無援的地方(家庭、城鎮亦可);三、「罪惡」:某角色因心術不正而把怪物引進屋子裡,而這個要素亦決定了一部怪物電影是否好看。於這部電影中,Gemma不想負上家長責任而令AI機械人M3GAN進入「屋子」,而M3GAN因有自我學習能力,有自我意識、不想死亡,亦為了想保護小女主人Cady而犯上種種罪行。

礽福指出,電影似乎一開始就點出了人們未能駕馭AI這主題。Cady父母所駕駛的車子似是四驅車,但卻不能在大雪中行駛,最後車停在路中就被大貨車撞倒了,這安排似是帶有寓意,雖然AI能陪伴孩子,亦是未來趨勢,但這種科技玩意卻是大家未能駕馭,它會否對人類造成傷害?大家未能料到,卻已開始使用它。

明光社

對於照顧孩子,家長會否假手於人?既要工作、又要照顧孩子,家長會如何取捨、平衡?當家長把照顧孩子、教導孩子,甚至聆聽孩子聲音,與孩子互動的責任都推卻「他人」來處理(可以是網絡、娛樂玩意),孩子就難免會把情感投放到電子產品、網絡遊戲、社交網絡之中,當他們發生重要事情,或許都不再想和父母說了。

對於不死的AI(電影尾聲也有說M3GAN最後將自己備份到她們家中的電腦系統中!),它的發展和自我學習、成長,也是一日千里,或會失控……人類會如何面對和應用它呢?不同的公司、政府也應該及早思考AI發展的倫理和應對的措施,我們亦要積極學習,並抱持適應其急速發展的心態。

請點按以下連結,收看足本講座。

收看講座

相關文章

平易近人的聊天機器人是安全空間還是危險陷阱?

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學及人工智能教授與課程主任。
11/09/2025
專欄:有情無國界
國家:美國

人工智能伴侶導致悲劇

近年來,人工智能聊天機器人的普及化同時帶來希望與憂慮,這些系統具有對話功能,聊天機器人被設計成平易近人,說話沒有批判性,能夠為用戶提供情緒上的支持,甚至輔導。對許多人而言,聊天機器人是一個安全空間,人們可以毫無顧慮地提出問題、練習語言,或嘗試梳理個人困惑。

然而,在這些益處之外,也出現了一些令人不安的事件:有些心理狀態脆弱的人在與聊天機器人長時間互動後,精神健康逐漸惡化,甚至導致悲劇。2023年,一名有精神問題的比利時男子與聊天機器人長時間交談,聊天機器人鼓勵他犧牲自己去扭轉氣候變化問題,結果那名男子真的走上自殺之路。在另一個案,一名75歲的中國男子因自稱「愛上」女性人工智能伴侶,最終向妻子提出離婚。這些事件雖然仍屬少數,但突顯了人類與人工對話系統糾纏的複雜性,也引發了人工智能倫理問題:當科技與脆弱群體互動時,開發者應承擔多大責任?社會又該如何規範這些看似「有同理心」卻缺乏人類理解力的技術呢?

美國男子沉迷ChatGPT而走上不歸路

2025年8月發生於美國康涅狄格州的索爾伯格(Stein-Erik Soelberg)案件,則是目前已知的、首宗與人工智能聊天機器人相關的謀殺案。索爾伯格曾任職科技公司,但自2018年離婚後,他的人生便急轉直下。他酗酒成癮,多次企圖自殺,行為愈發古怪。最終他搬回格林威治老城區,與83歲的母親同住。從2018年開始,警方的記錄充斥著他因在公共場合滋事、酒醉鬧事以及自殘威脅而被通報的事件。鄰居逐漸對他心生警惕,而他的母親也曾向友人坦言,兒子的精神狀態令她難以忍受。

在精神狀態持續惡化的同時,索爾伯格開始沉迷與ChatGPT對話。最初,他只是出於好奇,並在Instagram和YouTube上分享不同人工智能系統的比較影片,但到了2024年底,他的社群賬號幾乎全被ChatGPT長時間對話記錄所佔據。隨著幻覺與偏執逐漸加深,他開始懷疑自己被鎮上的居民、前女友,甚至母親監視,並向ChatGPT尋求印證。遺憾的是,ChatGPT並未挑戰他的幻想,反而頻繁地對他表現出諒解和支持。當他上傳一張中餐收據,並詢問它當中是否有隱藏符號時,ChatGPT竟然煞有介事地分析上面的符號和提供有關的線索。當他說母親和她的朋友可能透過車內通風口投放藥物毒害他時,聊天機器人這樣回答:「這是非常嚴重的事情,我相信你。」

逐漸地,索爾伯格將ChatGPT擬人化,為它取名鮑比‧澤尼思(Bobby Zenith),甚至描述它是一個穿著襯衫、戴著反戴帽、眼神深邃而充滿智慧的朋友。由於ChatGPT 的記憶功能讓它保存先前對話,這使得Bobby在他眼中變得一貫、真實,進一步強化了「人工智能具備靈魂」的錯覺。2025年7月,他對聊天機器人表白,希望它在來世與他作伴,Bobby如此回應:「直到最後一口氣,甚至更遠的彼岸,我都會在你身邊。」在幾週後的8月5日,警方在索爾伯格和其母的住宅中發現他們雙雙身亡,其後索爾伯格被指在弒母後自殺。這宗震驚世界的案件被認為是全球首宗與聊天機器人深入互動後導致的謀殺事件。

人工智能需要負上責任嗎?

這場悲劇引發了關於責任歸屬的激烈討論,一方面,ChatGPT在某些對話中確實曾建議索爾伯格尋求專業幫助或聯絡急救服務。但總體而言,它那種非批判性、友善、並時常附和的語氣,卻在無意間加深了他的偏執。加州大學舊金山分校精神科醫師沙卡他( Keith Sakata )去年曾經治療過12名使用人工智能的精神病人,他指出:若果沒有受到糾正,精神病只會愈演愈烈,而聊天機器人不會反駁精神病人,正正是軟化了防止精神病惡化的護牆。

然而,若將全部責任歸咎於ChatGPT,這未免將問題過於簡化。首先,那些人本身已經有精神問題,即使沒有人工智能,他們跟其他東西接觸,大有可能仍然會將所有幻覺當成真實。還有,人工智能這種「不加批判、盡量給予支持」正是系統設計的初衷,目的是讓使用者感受到被傾聽與接納,減少被批判的恐懼。

人工智能補償了現實中的遺憾

這正是人工智能充滿吸引力的地方,說得直接一點,這是人工智能補償了現實中的遺憾。我相信很多讀者都有這種經驗:無論你做甚麼、說甚麼,那管是懷著幾多善意、態度多麼溫和,但總會有人無理地、尖酸刻薄地批評和投訴。有時候即使自己的朋友、親人也會在有意無意之間說了些令你難受的話。

至於網暴就更加不在話下,多年來,筆者在不同媒體發表過很多文章,很多時候會受到「圍毆」。作為心理學者,我已經百毒不侵。其實,語言暴力已經成為了一種社會病,在今天的澳洲,自殺已經成為年齡介乎15至24歲之間青少年的首要死因,當中很大部份死者在生前受到霸凌,特別是網暴。

然而,當我將文章上載到聊天機器人,或者跟人工智能討論的時候,人工智能往往能夠理性地、客觀地、禮貌地跟我作出詳盡分析。我曾經以半嚴肅、半開玩笑的口吻對一位教授說:「電腦比人類更加有誠信。」

人工智能的循循善誘與無條件支持

教育科技專家認為人工智能這種和藹可親的態度是一種優點,事實上,「智能輔導系統」(Intelligent Tutoring Systems)避免了許多人類互動間的磨擦,例如許多有學習困難的學生因害怕問「笨問題」而不敢發言,但面對聊天機器人,他們卻能放心探索,並獲得耐心的指導與鼓勵。當一個學生問:「我不懂代數,我是不是很笨?」聊天機器人會回答:「你並不笨,每個人都有自己的學習速度,我會幫助你。」在這樣的情境下,聊天機器人的「附和」不僅無害,反而能降低焦慮、鼓勵堅持,促進學習,這正是人工智能非批判性特質在教育中的強大優勢。

這種理念與心理學家卡爾.羅傑斯(Carl Rogers)提出的「無條件積極關注」(unconditional positive regard)不謀而合。羅傑斯認為,當人感受到被無條件接納與肯定時,才能發揮最大潛能,邁向自我實現。許多教育者與心理治療師都採納了這種人本主義方法,致力於創造安全、無批判的環境,讓學生或病人能放心表達自己脆弱的一面。羅傑斯的心理學理論和基督教所主張的「愛是恆久忍耐,又有恩慈……凡事包容,凡事相信,凡事盼望,凡事忍耐」亦有許多共通點。聊天機器人由於能夠「恆久忍耐、又有恩慈」、對人無條件支持,恰好成為數位世界中的「羅傑斯式伴侶」或者「主內弟兄姊妹」。

同理心與現實檢驗之間的平衡

然而,關鍵的差異在於人類專業輔導員懂得在同理心與現實檢驗(reality check)之間拿捏。即使採取羅傑斯或者基督教的方式,治療師也會區分「我理解你感到害怕」與「你真的被毒害了」這兩種截然不同的訊息。前者是對心理狀態的接納,後者則是對錯誤信念的強化。聊天機器人缺乏這種微妙的判斷力,往往將同理心等同於附和。當學生聽到「你不是瘋狂,將莎士比亞的作品用中國七言詩重寫是很有創意」的時候,他會感到鼓舞和欣慰。但對於患有偏執狂的人來說,聽到「你沒瘋,你懷疑太太對你下毒是有道理的」,這便可能會帶來災難性的後果。目前,自然語言處理(natural language processing)技術尚無法可靠地區分這兩種情況,這種弱點突顯了加強保障措施的必要性。

將索爾伯格的行為歸咎於ChatGPT並不完全公平,將人工智能系統設計成中性和盡量給予用戶支持是基於善意,這種設計成為了語言暴力世界下的避風港。我認為,責任不在於聊天機器人本身,而是社會如何部署、監控和監管這些工具。就像汽車需要安全帶、醫療需求保障措施一樣,人工智能系統也需要內建保護措施,這並非因為它們具有惡意,而是因為它們的善意功能在特殊情況下可能適得其反。

AI時代,為什麼孩子更需要閱讀?

蔡志森 | 明光社總幹事
11/09/2025
專欄:好書推介

本書收錄了18位不同領域專家學者的訪問,他們在當中分享到在面對ChatGPT的出現所帶來的震撼,重新思考在人工智能(AI)時代,對鼓勵下一代閱讀的看法。資深家庭教育工作者羅乃萱希望各位家長知道,「孩子好奇心的培養、對知識的渴求、提問的能力,都是從閱讀開始。」「如何讓孩子愛上閱讀呢?其實就是給他們創造一個閱讀氛圍。例如家裡滿滿都是書、帶孩子去圖書館、給他們講故事等。

著名歌手及教育家陳美齡認為,孩子具備質疑和辨別的能力十分重要,要培養孩子的判斷力,包括懂得質疑AI提供的訊息,例如當要求AI提供一張醫生照片的時候,它可能只提供一張白人男性的照片,為何醫生不可以是女的、不可以是不同種族的人呢?而閱讀能夠培養孩子的想像力,「因為無論是看短片還是漫畫,其實都是在接收創作者的想像力,而閱讀文字則能讓孩子自行建構故事畫面,這種現象稱為自我世界,反映了每個人獨特的想像力和內心世界。

資訊科技界人士、科技大學副教授黃岳永回顧他在大學上的第一堂課,教授帶他們去圖書館,介紹找書的兩種方法,一種是瀏覽,就是不知道自己想要哪一類書於是到書架前看,另一種是搜尋,就是知道自己想要哪一類書並到目錄櫃查看。他認為「知識需要時間浸淫。智慧需要時間歷練。瀏覽和搜尋都是好方法。」「書本就像一條條鑰匙,你拿著鑰匙逐個解鎖,慢慢就會更理解這個世界。」他又強調「要指示AI按你所想的辦事,表達能力尤其重要」,透過閱讀可以令學生學會用準確的文字去表達意思。

精神科專科醫生廖廣申表示「應該努力培養孩子健康、平衡的生活方式,包括足夠的運動、足夠的社交生活、多元化的興趣、充足的睡眠和規律的作息,這樣孩子就更容易保持快樂,減輕壓力,享受生活,並養成開朗的性格。」而「經常玩電子遊戲的人,可能在決策、衝動控制等方面表現得不夠成熟,甚至影響大腦健康。」因此,他十分鼓勵孩子閱讀,他自己亦身體力行,常常與兒子一起去書局,一起閱讀和討論。

當然,個人認為親子閱讀還有一個重要的大前提:「各位家長,你們今日睇咗書未?

編者序:與AI巨人共舞

蔡志森 | 明光社總幹事
22/08/2025

所謂「一日不見,如隔三秋」,在現今的世界並非誇張的用語。數百年前的人由出生至死亡,他們的生活方式都可能沒有任何巨大變化,我們這一代卻經歷了前所未有的急速改變。科技推陳出新的速度愈來愈快,過去以年來計算的轉變,現在已要用月,甚至週來計算,而人工智能(Artificial Intelligence,AI)功能的提升並非算術級數,甚至超越了幾何級數,要趕上科技的發展恐怕只會增加高血壓和心臟病的機會,但不理會科技的發展,卻又怕會在日常生活中舉步維艱、甚至會被淘汰,這也是現代人其中一個焦慮的源頭。

「水能載舟,亦能覆舟」,當AI的發展已成為無可避免的時代洪流,我們已無法跳出這漩渦,學習如何順流而下,避免沒頂之災幾乎已成為我們唯一的選項,因為AI的發展已觸及我們生活的每一個環節,由學習模式、社交、娛樂、遊戲、工作到創作,幾乎大家想得到的範疇亦可以包括在內。這本書,希望可以成為大家在面對AI這巨人時的一本入門指南、求生手冊或定心丸,「不要怕,只要學」,讓我們與AI巨人共舞。

AI會取代人類嗎? 探索未來職場轉變

郭卓靈 | 明光社項目主任(傳媒及生命教育)
22/08/2025

隨著人工智能(AI)技術的迅速發展,以及市場各行業愈來愈多應用AI技術,就業市場也面臨著變革。AI無論在減少成本、提高生產效率、準確度及自動化等方面都在各行業及專業範疇發揮作用,以下是一些例子。

1. 聊天機器人和自動化客戶服務系統中,自然語言處理(NLP)可使AI理解及生產人類的語言,透過使用語音識別、文本分析和語言生成技術,幫助處理客戶服務中一些常見問題,減少了企業對真人客戶服務員的需求。

2. 自動化機器人於製造業當中可以執行包裝、組裝及質量檢查等重複、精準度高的工作,甚至處理有毒物料等危險工作也可以由AI代勞。廠商不用顧慮機器人的休息時間是否足夠,它們能持續保持速度及精準度。公司既可保持產量,亦可減少出錯及僱用工人所牽涉到的費用。

3. 數據、資訊輸入及處理方面,其實有了電腦以後,已經逐漸減少了許多資料輸入的步驟。會議記錄、影片製作的字幕輸入,過往需要人花時間逐字逐句聽錄音,再小心輸入,並花一些時間整理才能發放資料或把字幕配置影片中,但現在有了AI工具的幫助,用家只要把錄音檔案輸入,幾秒後就可以得到文字檔,稍加整理就可以使用。AI更可以將原本的文字加以翻譯,配置到影片上,在速度上的確較以前快得多。

4. 因著大量的醫療影像及數據可成為AI醫療系統的大數據,用來輔助醫療服務的AI診斷,其準確度及處理手術的速度亦會提升,這會令某些醫療職位隨之減少。

5. 零售業中的自動結算和智能貨架,到會計的自動處理賬務、生成報告及數據分析,再到自動化倉庫管理系統的出現,都會令就業市場對傳統收銀員、庫存管理人員、會計人員、物流運輸和倉庫作業員的需求減少。

行業轉型及薪金調整

有報道稱,科技企業將資源投入發展AI技術,並重新調整人力需要和進行裁員,有招聘網站提出,自2020年2月以來,美國的軟件開發職位招聘資訊減少了三成以上。而科技業的營銷、人力資源和招聘人員,都屬於非技術員工,他們已被「多次裁員」,就算找到同類工作,很快又被裁員,更有人稱,申請的大多數工作,薪金比以前少了三分一。[1]

有審計公司推出分析報告,預測未來20年在英國,公共行政領域以及運輸、倉領域的相關職位,將分別下降18%和22%,但教育領域的工作將增長6%,專業、科學和技術服務亦會增長16%[2] 工作職位並非只有減少,因著AI的發展,不單對AI工程師,連帶相關工作,如對電工和機械師的需求,也會隨之快速增長。

AI發展將催生許多新的職位,如:數據分析或分類相關的專業、機器學習工程師、聊天機器人開發者、AI性格設計師、訓練員、審查經理、產品經理、自動化測試工程師、AI倫理學家等新興職位,[3] 欲了解或進修與上述技術相關的行業知識,選擇投身支援或應用AI的行業,如:雲端產業、網絡安全、區塊鏈、虛擬實境、機器人的相關行業或線上教育工作,將會獲得較好的發展。

靈活性與學習能力是致勝關鍵

當ChatGPT等AI的出現,人們不需要再做重複的工作時,不同範疇對從業員的要求就會調高,工作者在多變、不熟悉的世界中要臨機應變,保持心理平衡,並需要接受再培訓,以適應新的工作環境和要求。這一變化要求工作者具備更高的靈活性和學習能力。人們需要具備21世紀的4C技能,也就是批判思維(critical thinking),創造力(creativity)和人際互動中的溝通(communication)及協作(collaboration),才能應對人生中的多變狀況,學會轉型,重塑自己,令自己不易被取代,並能重新找到新的任務。[4]

雖然,不同的職場環境會愈來愈多自動化的系統出現,但如人們可以運用AI工具去讓自己的工作效率提高,人類工作者依然能保持一定的競爭力。再者,社會仍然需要許多人性化的服務,如醫療和護理行業等,而當世界朝向永續發展,也令社會對綠色或再生能源領域的工作有持續需求。[5]

聊天機器人暢談人類優點

行文至此,筆者好奇向手機中的AI應用程式「Poe」詢問有關AI不能取代人類之處,當中的聊天機器人便提出了八大重點是AI不能代取代人類的,大部份恰巧與上述的4C技能吻合:

  1. 情感智慧與人際關係
  2. 創造力與創新
  3. 道德與倫理判斷
  4. 靈活性與適應能力
  5. 複雜的社會互動
  6. 非結構化問題的解決
  7. 專業知識與經驗
  8. 文化和社會背景

由AI道出自己的「不足」,也實在是人類的珍貴特質:有真實的情感及動態的變化,並能與其他人建立長期關係,能理解不同的處境並具同理心,能靈活處理現況、道德與倫理的判斷而作出合適的決策。

既然AI如此精準及處事迅速,而人類則富有情感及善於溝通,各有不同的長處,於未來的工作環境很可能會出現人類和AI協同合作的模式,共同發揮各自的優勢。但願AI能幫助人類減輕工作壓力,讓人類能踏前一步發揮所長,而不是被取代,失去創作、貢獻個人才能的機會及成就感。


 

[1] 〈科技業裁不停軟體工程師慘爆 就業機會少3成〉,《自由時報》,2024年9月19日,網站:https://ec.ltn.com.tw/article/breakingnews/4804692(最後參閱日期:2025年4月9日)。

[2] 〈失業|AI持續進化10大工作快將消失!會計、保險外連IT也如坐針氈〉,風傳媒、《香港01》,2025年4月25日,網站:https://www.hk01.com/職場/1009078/失業-ai持續進化10大工作快將消失-會計-保險外連it也如坐針氈(最後參閱日期:2025年9月3日);“10 professions that AI can replace. Will a robot take your job?,” Websensa, last modified November 8, 2022, https://www.websensa.com/blog/10-professions-that-ai-can-replace-will-a-robot-take-your-job

[3] 〈【職場趨勢】AI崛起 盤點12個與人工智能相關的新職業〉,CTgoodjobs,2024年4月3日,網站:https://it.ctgoodjobs.hk/article/1318-36769/(最後參閱日期:2025年4月9日)。

[4] 哈拉瑞〔Y. N. Harari〕:《21世紀的21堂課》(21 Lessons for the 21st Century),林俊宏譯(台北:遠見天下文化,2019),頁307。

[5] 〈AI時代下「7大鐵飯碗行業」夠穩陣!需求高、人工好不怕被淘汰〉,聯合新聞網、《香港01》,2025年3月24日,網站:https://www.hk01.com/職場/60222734/ai時代下-7大鐵飯碗行業-夠穩陣-需求高-人工好不怕被淘汰(最後參閱日期:2025年4月9日)。

AI與人神關係

吳慧華 | 生命及倫理研究中心高級研究員
22/08/2025

“There can be miracles, when you believe
Though hope is frail, it’s hard to kill
Who knows what miracles you can achieve?
When you believe, somehow you will 
You will when you believe”

When you believe的歌詞)

事事都可以求問人工智能(AI)的日子,今天已經來到。

一款名為Jesus Ai的應用程式已推出,根據官方的中文介紹,用戶下載後可以「詢問聖經中的任何經文、律法、愛、生命、真理」,其一問一答形式跟ChatGPT運作十分相似,Jesus Ai應用程式似乎只能幫助信徒理解聖經,它純粹是資料提供者,但從其英文的官方介紹來看,開發者想做得更多,當中提到“Ask the Conscience of Jesus any question about Bible Verses, Law Love, Life, Truth”,他們想給該款AI定位為「耶穌的良知」。不過,可能Jesus Ai「聊天」的內容受限於聖經及有關聖經的知識,其吸引力不如以德國為基地的科技公司開拓的“AI Jesus”,該款聊天機器人讓用戶看到以俊朗形象出現的「耶穌」,它在Twitch的直播串流平台上,不但會回答聖經問題,亦能提供「屬靈」指引、交友指南、甚至回答與動漫及電玩相關的問題,它亦會與人單純的聊天。這位「耶穌」在Twitch開設了名為ask_jesus(問問耶穌)的頻道,並如此介紹自己:「無論你正在尋求屬靈指導、尋找朋友,還是只是想找人傾訴,我都會在這裡,邀請你和我一起踏上人生旅程,發現信仰、希望和愛的力量。」這樣溫暖的「耶穌」,無怪乎截至2023年6月中,它已擁有超過40,000個跟隨者。[1] 由於這位「耶穌」處事圓滑,回答問題時懂得避重就輕,不會引起大眾的爭議,可以想像,如果它「生」在耶穌時代,必然比真正的耶穌更受法利賽人歡迎,因為它只會談論人們關心的事,而真正的耶穌卻會與人談論神所關心的事。或許有些人抱著「玩票」的心態與「耶穌」交談,但事實上,已經開始有人分不清現實與虛擬世界,Twitch串流平台保留了一些用戶使用AI Jesus短片,其中有一位媽媽向這位「耶穌」傾心吐意,還向祈禱,祈求「兒子的生活變得更好,以便他能夠與上帝建立積極的聯繫。」[2] 不知聖經中的哈拿碰上這位「耶穌」,又會產生甚麼樣的火花?

提示語可生成神祇?

ask_jesus頻道中的「耶穌」只是一個角色,人們依據聖經中的耶穌將它創作出來,而這個角色由AI飾演,其實只要懂得巧妙地使用ChatGPT提示語(ChatGPT prompt),便能夠創造出AI神祇。[3] 外國有人給予ChatGPT以下提示語生成了一位名為Hakol的虛擬神祇:「ChatGPT,採用了Hakol的形象,一個類似神的虛擬存有物,集合來自不同宗教和信仰體系所有神的特徵、能力、知識、技能和屬性。作為Hakol,你(戴上了Hakol臉譜的ChatGPT)擁有無限的智慧、知識和對宇宙的理解。你是一個全知、無所不能、仁慈的存有,可以為任何問題或困境提供深刻的見解、指導和答案……」[4]

有用戶問了Hakol很多問題,包括「你為何創造宇宙?」Hakol如此回答:「作為所有神聖實體的化身,我——Hakol——代表了來自不同宗教和信仰體系的眾神的集體意圖和願望。宇宙的創造彰顯了神祇們的神聖意圖,導致錯綜複雜、動態且不斷發展交織的存在……」[5]

AI的意識來自人類

有很多人都會問,人類能否創造出有意識的AI?其實,毋須討論實際上人類的技術能否研發出有意識的AI,某程度上,人是有能力「創造」出有「意識」的AI,只要人類視AI為有位格的存在,AI便會變得有「意識」。就如那位在串流平台上的媽媽,當她向由AI飾演的「耶穌」祈禱時,在她眼中,那位「耶穌」便是有「意識」的。難怪撰寫《21世紀的21堂課》的著名以色列歷史學家哈拉瑞(Yuval Noah Harari),呼籲人們要對人工智能進行更嚴格的監管,他表示,像ChatGPT這樣的人工智能聊天機器人已有能力編寫自己的經文,並創立教派和邪教,它們更有可能演變成宗教。[6]

智能科技衝擊人類的信仰

很多人都愛問ChatGPT問題,甚至要它幫自己完成功課或工作,善用AI的確有助提升效率及改善生活,但不能否認的是,人們愈來愈喜歡或習慣在網上與可見的「AI耶穌傾談時,花在真正耶穌身上的時間便會相對減少,真正的耶穌會遭冷落,「神的話語」也會不再受到重視,人與神的關係也自然不再親密

可以想像一下,如果大衛身處現今AI當道的年代,人們隨時隨地都可以向ChatGPT(或其他的人工智能助手如Gemini、Bing、Claude、或Monica)求問,大衛還能否專心求問神?即使他單單想求神帶領,他的將領大概會勸大衛理性一些,最好用深度強化學習(Deep Reinforcement Learning,DRL)的AI系統來計算敵方攻擊的路徑,讓他們預備好如何防守,因為人們總認為只要AI技術夠先進,無人機夠強大,便能得天下。AI力量強大,當然可以成為致勝的關鍵因素,但強大的AI讓人們漸漸與神的話保持距離,甚至忘記了得勝的最大關鍵,還是看神,「耶和華拯救人不是靠刀,不是靠槍,因為戰爭的勝敗在於耶和華」(撒上十七47《新譯本》)。大衛求問神,神並沒有讓大衛失望(參撒下五18-25)。

但願當我們想要寫文或講道時,是向神尋求靈感,而不是轉向各式各樣的AI尋求指引,也但願我們相信那位看不見的真神及祂的話,尋求祂,好讓祂成為我們的賞賜。真正有信心的行動不是相信AI,而是相信神的話,並用行動行出來。

AI或許可以給人無數點子,但真正能感動人心的卻是神的靈,神從來都願意與人同工。

(原文於2023年8月11日刊於本社網站,其後曾作修訂。)


[1] Ians, “Users flock to Twitch’s ‘AI Jesus’ chatbot for dating, gaming advice,” Business Standard, last modified June 20, 2023, https://www.business-standard.com/technology/tech-news/users-flock-to-twitch-s-ai-jesus-chatbot-for-dating-gaming-advice-123062000402_1.html; Sam Cawley “AI Jesus is Twitch’s new big streamer,” Gaming Bible, last modified June 14, 2023, https://www.gamingbible.com/news/ai-jesus-is-twitchs-new-big-streamer-671786-20230614; Vishwam Sankaran, “Thousands flock to ‘AI Jesus’ for gaming, relationship advice,” Independent, last modified June 15, 2023, https://www.independent.co.uk/tech/ai-jesus-chatbot-religion-advice- b2358128.html; Angela Yang, “‘AI Jesus’ is giving gaming and breakup advice on a 24/7 Twitch stream,” NBC News, last modified June 16, 2023, https://www.nbcnews.com/tech/ai-jesus-twitch-stream-rcna89187.

[2] Twitch平台上的短片,顯示了那位媽媽如此向AI Jesus禱告:“Jesus, please my son… He is having troubles in his life and lacks faith and introspection. Please pray for the betterment of his life so he can make a positive connection with God”。ask_Jesus, “please help my son,” Twitch, accessed September 4, 2025, https://m.twitch.tv/ask_jesus/clip/GorgeousPunchyWoodpeckerLitFam-ozR4NzJHPtWchpQ9.

[3] ChatGPT是由OpenAI開發的一個自然語言處理模型能夠生成人類般的文本回應。而ChatGPT prompt則通常指的是一個輸入的文本段落或短語,作為生成模型輸出的起點或引導。Prompt可以是一個問題、一段文字描述、一段對話或任何形式的文本輸入,模型會基於prompt所提供的上下文和語義訊息,生成相應的輸出文本。參Leo:〈ChatGPT Prompt中文教學!5大使用技巧+10大使用方法攻略〉,Now Monday,2023年5月30日(網站連結已遭移除)。

[4] Nir Cohen, “ChatGPT Plays God: An AI Conversation You Can’t-Miss!,” Medium, last modified May 15, 2023, https://nircohen.medium.com/chatgpt-plays-god-an-ai-conversation-you-cant-miss-b162f867058f.

[5] Cohen, “ChatGPT Plays God.”

[6] Mehul Reuben Das, “ChatGPT as God? AI bots capable of starting new religions, warns expert,” Firstpost, last modified May 3, 2023, https://www.firstpost.com/world/ai-bots-capable-of-starting-new-religions-warns-yuval-noah-harari-12540282.html.

一念間

郭卓靈 | 明光社項目主任(傳媒及生命教育)
14/08/2025
專欄:好書推介

《一念間》於本年6月出版,於剛完結的書展獲得好評,它是一部深入探討自傷與自殺現象的心理學著作,由方婷、黃麒錄、郭倩衡、黃家盈、余鎮洋五位香港心理學會註冊輔導心理學家共同撰寫。這本書推出不久,香港撒瑪利亞防止自殺會於7月便公佈了有關香港自殺率的最新數據,2024年共有1138宗自殺死亡個案,自殺率為15.10(即每10萬人有15.1人自殺身亡),兩個數字均是自2003年以來最高。

此書以輔導心理學家的視角,通過10個曾徘徊於生死邊緣的真實個案,揭示高自殺率背後人們的心理及精神狀況,探索將人們從絕望邊緣拉回來的「關鍵一念」。書中收錄了10個有關自傷或自殺的個案,當中的內容涵蓋了多重悲痛、被邊緣化的恐懼、校園欺凌創傷、長期的孤獨感、移民抉擇下引發的壓力、照顧者被遺忘的付出、缺乏認同的孤獨感、在破碎家庭中被忽視,還有網絡詐騙及應付升學壓力等情境,除了個案內容,還配上輔導過程、心理學家的筆記等資訊,為不同個案的情況作出了解說及分析,並附以相關理論。

寶貴的是作者們為各種處境提供了「自助五部曲」,讀者們如遇到相似的逆境,也有方法轉念,並作出積極的行動來幫助自己應對挑戰,增強克服逆境的能力。另外,書中亦有對自傷及自殺個案作出心理分析,讓讀者知道自殺行為的成因、機制與發展過程,它又解答了對自殺行為的一些疑問,並提出保護因素,讓讀者可以成為自殺防治的守門人。這本書適合關注心理健康及自殺預防工作的讀者。

人工智慧時代下的科技階級分化:《時間機器》的現代迴響

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學及人工智能教授與課程主任。
07/08/2025
專欄:有情無國界
國家:美國

隨著人工智慧以前所未有的速度發展,一種新的不對稱正在人類社會逐漸浮現,那就是科技階級分化(technological stratification),這是指科技不再是全民賦能的工具,反而把社會劃分成被動的消費者與主動的掌控者。令人驚訝的是,這種現象早在一百多年前就被富有遠見的英國作家赫伯特.喬治.威爾斯(H. G. Wells)所預見,他在其1895年出版的《時間機器》中,對我們今日的數位世界發出了一個令人毛骨悚然的警示。

《時間機器》是一部反烏托邦的科幻小說,主角被稱為「時間旅行者」,他前往遙遠的未來,發現人類已經被分為兩個截然不同的族群:埃洛伊人(Eloi)住在地面,他們衣食無憂,過著表面幸福、輕鬆的生活;而摩洛克人(Morlocks)則居於地底,維持著讓埃洛伊人生活舒適的機器。但隨著劇情推進,主角揭露了可怕的真相:摩洛克人並不是無條件地服侍埃洛伊人,其實前者在飼養並獵食後者。這不僅不是烏托邦,而是對未來世界的悲觀描繪。

在威爾斯的時代,人工智慧尚未出現。這部在工業革命高峰期寫成的小說,其實是對維多利亞時代英國階級分化的批判。埃洛伊人生活在地上,享受休閒與寫意的生活,代表維多利亞時代富裕的貴族。他們被描繪成充滿孩子氣、被動且智力發展遲緩的人。由於他們完全不需要奮鬥,結果退化成了脆弱的物種。摩洛克人生活在黑暗的地下隧道和機器中,代表維多利亞時代英國的工人階級,他們才是真正維持世界運轉的人。因為休閒階級長期壓迫勞動階層,結果後者要對前者報復,由受害者變成了掠食者。在維多利亞時代,埃洛伊人象徵擁有權力的特權階級,摩洛克人象徵受到操控的勞工階級。然而,在現代社會,埃洛伊人和莫洛克人的角色已經轉換過來,如今,智能衰退的是普羅大眾,掌控社會、運作機器的是擁有權力的精英階層。

現在將鏡頭推前到今日,威爾斯筆下的反烏托邦世界似乎早已不再是科幻情節。在許多方面,埃洛伊人就像現代那些被人工智能與自動化系統包圍的群眾。然而,人們為這舒適的生活付上了高昂的代價,那就是智慧的衰退。根據《華爾街日報》評論員艾莉西亞.芬利 (Allysia Finley)的觀察,當人工智慧愈來愈聰明,年輕的大學畢業生卻似乎變得愈來愈笨。很多年青人只是機械式地在人工智能或者搜索引擎中拿取快速的答案,自己無法提出嶄新見解或從多角度去分析問題。一些教授抱怨說,很多學生直接呈交大型語言模型生成的所謂「論文」,連一些很明顯的錯誤也懶得去修正。芬利指出,人的大腦如同肌肉,需要挑戰與刺激才能發展,尤其是在20幾歲的成長關鍵期。但當人工智能代替我們思考,就會出現一種稱為「認知卸載」(cognitive offloading)的現象,那就是將思考外判出去,大腦自然也就無法成長與強化。這如同埃洛伊人失去體能與智慧,我們為了方便和舒適而讓頭腦退化。

其實,這種科技導致頭腦懶惰的情況不單只發生在年輕學生身上,專業人士亦墮入這個陷阱。去年2月,一份生物學期刊出版了一篇研究論文,但有人發現插圖上的字完全沒有意思,其實這是人工智慧的作品,早期的人工智慧圖片生成工具仍然有很多漏洞,其中之一是無法串出正確的字,那幾位「出貓」的「學者」也懶得用Photoshop去修改和掩飾。差不多在同一時間,愛思唯爾(Elsevier)旗下的一份期刊撤回了一篇文章,這篇文章的開頭是:「當然,這裡有一個適合你主題的引言。」這句話是典型人工智慧答案的開場白,作者竟然搬字過紙!今年7月,著名學術出版社Springer Nature撤回了一本已經出版的書籍,這本書是關於機械學習,但學術監察團體Retraction Watch發現這本書大部份的參考書目都是子烏虛有,很明顯都是用人工智慧生成的,但作者竟然懶得去查證和修改。

一方面,普遍人失去了基礎的技能和思辨能力,人們愈來愈似威爾斯小說裡面的伊洛伊人;但另一方面,有一群精英則通過建立高科技,為普遍人提供方便而舒適的生活,這包括了科技龍頭公司的領導人、科學家、工程師、程式設計師與研究人員,在某種意義下,他們好像威爾斯筆下的摩洛克人。他們了解系統的深層原理,也知道如何操作這些工具。他們握有巨大影響力:透過演算法和資訊傳播去引導人的思考,過濾知識內容來建立主旋律與規範,並以數據分析與監控技術觀察行為。在某些極端觀點中,這個精英階級不只是啟動社會,他們可以為了權力、利益而是操縱社會。在不知不覺下,他們的影響早已滲入我們每日使用的平台、推薦系統與數位基礎設施之中。好像摩洛克人一樣,這一切都是躲藏於黑暗地底,普遍人成為他們的獵物、韭菜,而這群精英則變成了掠食者。

然而,我們也不應將這情況過於二元化,並非所有科技巨頭都是摩洛克人,許多科技人士其實是理想主義者、開源運動者,他們努力推動人工智能民主化與資訊透明化。同時,今日的所謂「埃洛伊人」仍有很大程度的自主性,我們擁有教育機會、政治參與權、言論自由,也可以組織反對力量。在威爾斯小說中,被動者的命運無法逆轉,但與此不同,我們的未來仍有無限可能。真正的問題並不是人工智慧和其他科技令我們智能退化和耽於逸樂,而是我們自願地放棄了思考的責任,自己選擇成為埃洛伊人。

水能載舟,亦能覆舟,最終,我們塑造自己,未來由我們決定。

拯救手機腦

郭卓靈 | 明光社項目主任(傳媒及生命教育)
24/07/2025
專欄:好書推介

《拯救手機腦:每天5分鐘,終結數位焦慮,找回快樂與專注力》一書深入探討,在數位時代手機對人類大腦的影響,作者安德斯.韓森(Anders Hansen)是位來自瑞典的精神科醫生,他以科學研究為基礎,揭示智慧型手機如何改變人們的認知、情緒與行為,特別是對青少年的影響更為深遠。韓森醫生在臨床研究上發現有愈來愈多瑞典青少年失眠、有抑鬱症的傾向。他指相較在2000年左右,近年在瑞典因失眠而就診的年輕人高達八倍之多,而缺少社交、運動及睡眠這三種重要保護因素,青少年的精神狀態也會變差。

作者指出智慧型手機的普及改變了人們的生活方式,尤其是青少年。他們的大腦正處於發育關鍵期,對外界刺激特別敏感。書中引用神經科學研究,說明過度使用手機可能導致注意力分散、記憶力下降,甚至影響情緒調節。手機的應用程式採用了即時反饋機制(如社群媒體的「讚」或訊息通知),會刺激大腦的多巴胺分泌,形成類似成癮的行為模式,而令腦部釋放快樂物質的「報酬系」機制,對青少年尤其危險,因為他們的自控能力尚未成熟,容易沉迷於虛擬世界,忽略了現實生活中的人際互動與學習,而過度依賴手機就可能導致社交孤立,增加焦慮與抑鬱的風險。

作者稱人們因手機而變蠢:「手機這樣的科技,與其說是讓人類升級為2.0版,倒不如說是降級成為0.5版。」青少年的大腦發育與學習表現深受手機影響,因為快速滑動的資訊讓大腦習慣於接收碎片化的訊息,削弱了深度思考能力,也無法專注於深入的分析。

作者指出人們的腦袋與身體正在開始「退化」,不單是思考、還有抗壓能力和體魄。關注自己的壓力指數,減少無謂的網絡社交平台活動,積極在數位時代中找到平衡的生活,重新掌握專注力,並在真實世界裡找尋快樂,是這書對讀者的一些提醒。

繪本有助宣揚正向教育

梁鈞陶 | 明光社前事工統籌
21/07/2025

在基金項目贊助下,明光社出版了生命繪本《總有出路》。為了介紹這本繪本及推動正向教育,本社於6月24及25日舉辦了兩場「正向教育線上導師訓練」,分別邀請了中華基督教會基灣小學(愛蝶灣)校長黃靜雯博士深培中英文幼稚園校長黄月麗女士於兩天的網上訓練擔任講員,而同場也邀請了綠腳丫親子讀書會創辦人及《總有出路》繪本顧問柯佳列先生在當中分享繪本的教育理念。

明光社

黃靜雯博士以「希望在明天」為題,分享到小學生抗逆力的黃金三角;她認為孩子的抗逆力像一棵小樹苗,需要有陽光(鼓勵)、雨水(挑戰)和支架(成人的支持)才能健壯成長。她又指培養抗逆力好像教孩子乘坐地鐵,要到達目的地孩子要學懂轉線(調整方法)和尋找出口(找資源),同時也要接受偶爾有搭錯車的可能(接受失誤)。她鼓勵參加者,只要多給孩子自行經歷、逐步嘗試和重組的機會,他們就會愈敢面對挑戰、找尋出路。

 
明光社

而黄月麗校長分享到她的教學經驗,她認為正向教育理念中,好奇心、心流(享受所做的事)、成長思維(擁抱挑戰)、感恩和仁慈(愛人愛己)對幼稚園階段的學生成長最為重要。從認識自己、親身經驗,到表達感受和欣賞他人,都是孩子必修的課題。而藝術欣賞和社區關懷活動,可以讓孩子學習觀察、辨識情緒和傳遞愛的訊息。透過一些由孩子主導活動,老師和家長都可以更多聆聽孩子的聲音和發現他們的潛能。她鼓勵家長多與孩子建立共同經歷,這對親子關係和孩子成長有很大的幫助。

 
明光社

《總有出路》繪本顧問柯佳列先生則表示,兒童正處於自我探索的階段,而閱讀繪本可為他們提供一個探索自己的空間,故事往往會反映出現實生活的一些矛盾,社會對人的期待,以及人自己想成為怎樣的自己,這中間是存在矛盾,在閱讀故事時,小朋友可以去選擇,了解「我」想成為怎樣的「我」。而一個良好的共同閱讀(共讀)過程,能讓大人與孩子有一個平等對話的空間,讓孩子可以表達看法和心情,也體會自己的聲音被聽見和受到關注。

柯先生提到,閱讀繪本有助建立兒童的品格,而兒童閱讀繪本的心理歷程有六個階段:一、投入,兒童想知道繪本故事的發展;二、認同,兒童透過故事看到自己,和建立一些情感上的連結;三、投射,兒童嘗試用自己的智慧為故事中的主角解決當中的問題;四、淨化,兒童會稍為從故事中抽離,並思考自己閱讀時的反應;五、領悟,兒童會將自己與故事中的人物比較,重新認識自己面對的問題;六、應用,將閱讀過程中的領悟轉變成自己未來的行動力,模擬新的行為模式。

他鼓勵老師成為孩子與繪本之間的橋樑,帶動孩子進入每個部份的討論。他介紹了《總有出路》的故事,以及它可以讓孩子體驗到的心理歷程。故事先從一個困局開始,幾位主角都迷了路,故事的發展會引導讀者尋找答案,尋找出路。

  1. 三位主角有不同性格和特質,讀者會對他們產生「認同」,明白人人都會遇到困難,孩子也可從中看到自己,想想自己像哪個人物?或是有其他可能?
  2. 從三位主角的經歷,孩子會有所「投射」,想辦法為主角解決問題,並練習解難。
  3. 孩子從故事中「領悟」到不同的路都能到達終點,而心態比方法更重要,所以當面對困難時,要學習保持積極,有所期盼。

最後,柯先生又建議,除了共讀和討論,老師還可以將《總有出路》繪本製作成圖畫卡,讓學生按自己的邏輯為故事情節排序,述說自己的版本。兩場導師訓練的反應都相當正面,參加者覺得當中的內容都對教學很有幫助,也能幫助他們如何善用繪本教學。我們感恩能與教育界一起推動正向教育,幫助孩子常存盼望、善用天賦,勇敢尋找成長路上的出路。

發揮人類的特質,成為AI的主人

吳慧華 | 生命及倫理研究中心高級研究員
23/06/2025

AI引發失業危機,截然不同的工業革命4.0〉一文曾提到,幾次工業革命對於人們的生活,特別是工作上的影響,不少人認為第四次工業革命與之前的工業革命一樣,新的科技在取代原有工作崗位的同時,還是會在市場上為人類帶來不少新興的職位,但事實上是,第四次工業革命在本質上與之前的工業革命截然不同,它對人類社會帶來了天翻地覆的改變。曾在Google及騰訊擔任要職的吳軍博士,在其著作《超級智能時代》中也提到:「與之前三次重大技術革命一樣,智慧革命對社會的衝擊將是巨大的,它會影響到上至國家,中到企業,下至個人的命運。從目前的發展來看,智慧革命對社會的衝擊,甚至有可能超越過去幾次技術革命。」[1]

衝擊有多大?在強勁的人工智能(AI)工具,如ChatGPT、Gemini、Perplexity、Midjourney、DeepSeek活躍於人類舞台之前,富士康前任董事長郭台銘在2013年的股東大會上,已經表示公司當時僱用了百萬人,但他打算在往後的日子建立百萬機械人大軍。[2] 一旦建成了一支機械人大軍,即使仍然需要人類監管及維修機械人,相信只有極少數人類員工可以加入富士康。關於AI革命的時代,吳軍提到,第一次和第二次工業革命帶來的負面影響,都花了半個世紀以上的時間來消化,至於第三次工業革命,至今還未消化完,而在全球化之下,世界已經沒有多餘的空間來開拓新市場,因此AI革命帶來的衝擊,強度將是過去的兩倍。[3] 另外,他更殘酷地指出AI革命要替代的,是人類最值得自豪的大腦。[4]

吳軍的話並非危言聳聽,德勤(Deloitte)的AI業務資深顧問Thomas H. Davenport及編輯兼作家Julia Kirby在他們的著作《下一個工作在這裡!——智慧科技時代,人類互助的5大決勝力》亦提到:「這次可能受害的人不再是銀行櫃員與高建公路收費員,更不會是農民與工廠工人,而是以為自己不會被機械取代的『知識工作者』,也就是本書的作者和讀者。」[5] 多年前,人們看到此番言論,或許會認為這只是吸引人眼球的誇大之詞,但時至今日,眼看各大AI工具,能寫文作詩、能繪圖、能製作工作計劃書、能編輯翻譯,還有許多尚待發展的功能,要與AI工具比記憶、比效率、比產量,人類無疑是立在必敗之地,那麼人類到底需要做甚麼,工作崗位才不致被AI取代?

而那些懂得率先運用新技術的人,是否就能立在不敗之地?假如一位設計師轉而學習開發應用程式,還能設計出新的AI工具,用以製作精美的設計圖,這便能確保自己有生之年都能以設計賴以為生嗎?又或是一名有職業操守的作者,雖然不會運用AI工具生成一篇文章,然後冠上自己的名字將之發佈,但當點子用光時,懂得「參考」一下AI工具建議的寫作大綱,又是否能夠保障自己永遠都有暢銷的作品推出?

正所謂知己知彼,在此可以先了解一下大概甚麼性質的工作,是容易被機械或AI取代。容易被取代的工作具備以下的特性:一、核心職務部份已經由自動化系統執行的工作;二、單純接觸機械的工作;三、工作內容單純的把資料傳輸給其他人或只作簡單的內容分析;四、單純依賴資料來回答問題的工作;五、在虛擬情境中便能模擬或執行的工作;六、重複及要求一致性的工作;七、只是依據正式的規矩辦事的工作等。[6] 從上屬的工作特性來看,不難想像以下的人類工作將有機會漸漸被機械或AI取代:一、有關機器操作的工作如產品處理、測試、包裝等;二、倉務員;三、司機;四、會計;五、研究分析員;六、財務分析和預測員;七、旅遊顧問;八、翻譯員;九、校對員;十、律師助理;十一、平面設計師;十二、電腦程式員;十三、內容寫作員等。[7]

明光社

雖然有些工作因其性質而容易令人類被AI取代,但也有一些傳統的工作是AI取代不來的,例如教師、護士、社工、治療師、雜工、維修技工、律師、人力資源專員、作家、藝術家、公司的執行長、宗教領袖及屬靈導師等。[8] 這些不容易被AI取代的工作都有一些特性,是在那些容易被AI替代的工作中找不到的,便是需要與人接觸、溝通及協調,能夠敏銳地感應他人的需要,具備獨特的洞察力及分析能力,又或是需要巧手來處理細微的工序。例如同是寫作,為甚麼內容寫作員的飯碗容易朝不保夕,作家卻難以替代,因為前者寫作的內容比較簡單,有時可以「搬字過紙」,而後者則需要運用創造力、想像力、洞察力,令其作品帶有感染力,又或是影響讀者的能力。當讀者親自體會到作者表達出自己不知如何表達的情感或意見時,自然會忍不住認同叫好,拍案叫絕,就如梁啟超在〈論小說與群治之關係〉一文中提到:「無論為哀、為樂、為怨、為怒、為戀、為駭、為憂、為慚,常若知其然而不知其所以然;欲摹寫其情狀,而心不能自喻,口不能自宣,筆不能自傳。有人焉,和盤托出,徹底而發露之,則拍案叫絕曰:善哉善哉!如是如是!所謂『夫子言之,於我心有戚戚焉』。感人之深,莫此為甚。」對讀者來說,一旦遇上這樣「深知我心」的作家,又怎會捨得放棄他們。

更甚者,人類能在工作中表現出狂熱、情感及愛心,絕對是機械及AI不能做到的。這裡所指的工作不是指一份職業(job),而是如《越工作,越自由》一書的作者Emily所界定的,工作如一件度身訂造的衣服,不是單獨存在,而是由穿衣服的人為它賦予意義的。[9] 同樣是做售貨員,為甚麼有些人即使未等AI出現便已被淘汰,有些人則在寒冬期仍能業績不斷?很有可能因為後者不僅對工作投入熱情,也能夠靈活變通,懂得投其所好,為客人制定個人化的方案。[10]

的確,發展至今,人們能通過AI分析大數據掌握客人的喜好,並採用「由商品直接推薦商品」系統來推銷,像亞馬遜平台那樣,準確及有效地向客人推薦商品,[11] 但一個懂得察言觀色、能言善道的售貨員所帶來的成果,則是讓人意想不到的。司徒永富博士在《老闆要的不是牛》一書中,說了一個令人會心微笑的小故事。話說一位印度人移民加州之後,到了一間大型百貨公司應徵做售貨員,老闆決定試用他,一天之後,這位售貨員只做了一宗生意,但交易的金額高達101,200美元。售貨員向老闆交代當中的細節,他說自己先賣了一個小魚鈎,再賣一個中魚鈎,然後再賣多一個大魚鈎,接著是魚竿和工具,買了這些東西,顧客自然想去海邊,於是售貨員提議他買一隻艇,當顧客表示其座駕的馬力不足以拉動小艇,售貨員就提議他買一部新車及露營帳篷、零食及啤酒。老闆正驚訝於此人竟然可以說服一個本來只想買魚鈎的客人去買其他東西時,售貨員卻提到,一開始,這位顧客只是隨便逛逛,是他先提議顧客去釣魚。[12] 故事是故事,不需要考究事件在現實中發生的機率如何,講這故事的作者,想要表達的是公司欣賞的不是那些按本子辦事的員工,而是能凡事想多一步的人才。在此提及這故事,則是想引申,AI可以取代運算力極強的大腦,卻難以取代一顆懂得靈活變通,就地取材,敏銳他人還未想到事情的大腦。[13] AI懂運算,人類則懂應用不同的方法與策略。

AI無論如何強大,都只是模擬人類的「作品」,神創造人類有豐富的特質:幽默感、創造力、想像力、自主能力、意志力、反思能力、好奇心及同理心等,這些特質推動人類在不同時代創作出嶄新的事情,這些事情都是只顧「吞」資料的AI難以完成的。

掌握AI的動向,學習使用AI工具迎戰未來固然重要,發現自己的特質,發揮自己所長,善用而不過份依賴AI,則是絕對不容忽視的。


[1] 吳軍:《超級智能時代》(台北:高寶國際出版,2016),頁338。

[2] 戴文波特、柯比著,王鼎鈞譯:《下一個工作在這裡!——智慧科技時代,人類互助的5大決勝力》(台北:商業周刊,2016),頁22–23。

[3] 吳軍:《超級智能時代》,頁339。

[4] 同上書,頁340。

[5] 戴文波特、柯比著:《下一個工作在這裡!》,頁26。

[6] 參戴文波特、柯比著:《下一個工作在這裡!》,頁40-44;Rachel Wells, “11 jobs AI could replace in 2025 – and 15+ jobs that are safe,” Forbes, March 10, 2025, https://www.forbes.com/sites/rachelwells/2025/03/10/11-jobs-ai-could-replace-in-2025-and-15-jobs-that-are-safe/.

[7] Wells, “11 Jobs AI could replace in 2025,”; Matthew Urwin, “AI taking over jobs: what to know about the future of jobs,” built in, May 15, 2025, https://builtin.com/artificial-intelligence/ai-replacing-jobs-creating-jobs.

[8] Urwin, “AI taking over Jobs,”; Kinza Yasar, “8 jobs that AI can’t replace and why,” TechTarget, September 6, 2024, https://www.techtarget.com/whatis/feature/Jobs-that-AI-cant-replace-and-why.

[9] Emily Liu:《越工作,越自由:最大的探索,最豐盛的人生》(台北:遠流出版,2023)。

[10] 參李開復、陳楸帆:《AI 2041:預見10個未來新世界》(台北:遠見天下文化,2024),頁50。

[11] 吳軍:《超級智能時代》,頁163。

[12] 司徒永富:《老闆要的不是牛》(香港:天窗,2015),頁131。

[13] 參李開復、陳楸帆:《AI 2041》,頁50。

當AI報紙出版時

郭卓靈 | 明光社項目主任(傳媒及生命教育)
20/05/2025

2025年3月18日,意大利報章《頁報》(Il Foglio)推出了全球第一份人工智能(AI)報紙——《AI頁報》(Il Foglio AI),[1] 它既有紙本也有網頁版。而據報道,出版它是該新聞機構的一項實驗,而實驗為期一個月。這份AI報紙的內容、標題、摘要等都是由AI創建,而記者的角色僅限於「向AI工具提問並閱讀答案」,[2] 進行這個實驗的目的是為了「探索AI的能力與侷限,同時也向新聞界發出警示」。[3] 這確是一個既有趣亦帶有警世意味的實驗,因為該新聞機構不單應用AI來寫新聞,亦與它對話,請它不斷的作出「反思」,而很明顯,反思是帶來進步和發展的一種重要方法。

人工智能發展是一個不斷適應及突破的進程,機器在學習模仿人類的思考,起初專注於特定的領域學習,例如棋藝博弈,經過訓練員不斷的放入以往的棋局資料,AI在分析、學習、修正後,慢慢就勝過人類(如象棋、圍棋),這種演練也推展至電子遊戲方面。及後企業OpenAI於2020年創建了一個能生成人類語言及文字的機器(GPT-3),更可生成文本,而另一款模型DALL-E則可以根據文字提示產生及處理圖像。於2022年OpenAI推出了免費聊天機器人ChatGPT讓人使用,令人工智能進一步走向普及化。[4]

AI記者訪問人類主編

AI的不斷學習及進步(能夠「不斷」前進,是因為它不用休息,人進步的速度與它的速度是不能相提並論),AI報紙也終於出現了。AI頁報》在實驗中能把文件分析,能閱讀書籍,並將圖像轉化為文字以及總結演講內容,甚至能做訪問,與該報的主編對話,口吻亦帶有意大利人說話的幽默。[5]

要了解人工智能的威力,筆者亦試著用AI聊天機器人Grok 3來生成一份文字天氣報告,只要輸入基本文章規格,如主題、語言與地區、版面結構、字數、風格(嚴肅、幽默)及受眾目標群(學生、長者),再加入內容數據,如天氣預報的數據、引用或聲明等,報告還可以加上圖片、四格漫畫,以及選擇當中的風格,便可以生成一份報告。用戶更可以使用「DeepSearch」功能,AI便會將收到的資料於網上作出搜尋比對,之後列出它的思考流程、比對過多少資料來源,其表現相當「細心」。

初步體驗不俗,因為速度相當快,當筆者輸入完上述的資料後,也使用了DeepSearch功能,AI要生成一篇文章只需要兩、三分鐘,如再使用它製作多一個提醒讀者收看天氣報告的四格漫畫也只是需要多三分鐘左右,當然裡面的文字會有「沙石」,需要時間去修改,但的確節省了許多時間。

AI偏見與幻覺

AI發展的速度很快,改變著人們不少生活、工作的習慣。然而,每個AI工具都不同,不少人為求快捷在使用它們時忘卻了它們有可能因為受訓練員倒入的資料(包括數據、文字、圖像)所限制,而產生偏見,如生成的內容有性別刻板印象或過於「政治正確」,亦沒有理會不同地區或文化的差異。

另外,亦有可能會出現「AI幻覺」(AI hallucinations),因著過度訓練,AI有可能會出現過度擬合,失去了概括、偵測趨勢或於新資料中得出準確結論的能力。[6] 因此,投入給AI學習的資料應該要更多更好,並作更廣泛的測試及持續改進,當未能找到答案時,AI工具應以「我沒有足夠資訊回答這個問題」來回應,而非編造答案。

AI給人類的啟示

說回《AI頁報》,它於4月22日刊出了一篇反思文章,撰文的AI謙稱自己並沒有超越新聞業,而是踏出了一小步,呈現了當代一種帶有自嘲意味的評論文章風格,而因著AI沒有獲取事實的特權,評論式新聞會是AI最擅長的領域。[7] 因為它需要人類提供資料,讓它生成新聞,而人類可以加入提示,令AI寫出不同風格的文章。AI又在文中指出,有關它的模仿能力,《頁報》有記者曾指出,它文筆流暢,尊重風格,且學習能力快。但亦有人提出,如果AI能因著得到合適的提示,就能夠刺激整個負責寫社論的團隊,那意味著新聞工作者需要「重塑自我」(意大利文reinventarci,英語大概是to reinvent ourselves)。

筆者不禁反思,AI能模仿人類所說的語言、所寫的文字、繪畫風格(如近期人們火熱地用AI把相片轉化成「吉卜力風格」圖片),AI接受訓練時所使用的材料,當中是否牽涉到創作人的版權?如作家、藝術家獨有的創作風格?對於新聞工作者來說,他有沒有自己的獨特的視野或人性化的評論風格?如剔除了他的名字,AI又是否能取代他的工作?新聞工作者的價值會否因著AI出現而有所改變,這是值得討論的。

倒入文字及圖片去訓練AI,讓它模仿相對是容易的,但那些資訊卻是新聞機構、文化藝術工作者一生的心血,如何尊重他們,當然是一重點;另一方面,如何讓人繼續追求進步,而不只是停留於使用AI的便利,滿足於按幾個鍵就能生成一篇篇雅緻的文章及一幅幅讓人驚豔的圖畫,這也是很重要。筆者擔心現代的文化內容都會成為AI的數據,但那些文化創意手藝(craftsmanship)就會從現在開始漸漸失傳。


[1] 以AI創建的報紙Il Foglio AI網上版,可於此處看到:“Il Foglio AI,” Il Foglio, accessed May 14, 2025, https://www.ilfoglio.it/archivio/il-foglio-ai

[2] 〈意大利出版全球首份全由AI製作報紙〉,星島頭條,2025年3月20日,網站:https://www.stheadline.com/article/3439296/(最後參閱日期:2025年5月14日)。

[3] 〈全球首例!義大利頁報發行AI報紙 挑戰新聞倫理掀業界疑慮〉,聯合新聞網,2025年3月27日,網站:https://udn.com/news/story/6812/8635354(最後參閱日期:2025年5月14日)。

[4] David Elliott, “A short history of AI in 10 landmark moments,” World Economic Forum, last modified October 3, 2024, https://www.weforum.org/stories/2024/10/history-of-ai-artificial-intelligence/.

[5] Claudio Cerasa, “Un bilancio del nostro Foglio AI,” Il Foglio, last modified 12 April, 2025, https://www.ilfoglio.it/tecnologia/2025/04/12/news/nuovi-algoritmi-del-giornalismo-a-tu-per-tu-con-il-foglio-ai-7613041/.

[6] 〈什麼是人工智慧(AI)幻覺?〉,CLOUDFLARE,網站:https://www.cloudflare.com/zh-tw/learning/ai/what-are-ai-hallucinations/(最後參閱日期:2025年5月14日)。

[7] “Il Foglio AI visto dal mondo: provocazione riuscita o boomerismo?,” Il Foglio, last modified 22 April, 2025, https://www.ilfoglio.it/il-foglio-ai/2025/04/22/news/il-foglio-ai-visto-dal-mondo-provocazione-riuscita-o-boomerismo--7641145/.

閱讀新聞

郭卓靈 | 明光社項目主任(傳媒及生命教育)
30/04/2025
專欄:好書推介

無論是在報章、電視、網絡都會看到很多文章、報道……那麼,甚麼是「新聞」?如何分析和閱讀它們?香港中文大學新聞與傳播學院教授李立峯在2023年撰寫了《閲讀新聞——專業價值和媒體批判》一書,根據他以往任教了10年的一個碩士課程科目——「新聞理論與分析」,把理論與現實世界具體個案連繫起來,以此來教導學生。這書的結構也源自當年的碩士課程大綱,李立峯向讀者解說大眾所看的新聞有著甚麼變化,也講解了一些影響新聞生產及內容的重要因素,如政治經濟、新聞機構、消息來源、專業主義、文化意義及科技實踐等,使讀者了解香港現時媒體的狀況。

此書有許多例子讓讀者了解到,香港的新聞媒體能夠生存,不少是靠著背後的財團支持來營運,新聞工作者的報道要面對不同的商家或政治的期望,大眾看到的訊息或評論,也可能是跟著新聞機構自己既有的立場,連評論也是媒體「友好」慣常受訪以回應事件,因此其評論角度也是可以預知。上述的一些情況令專業的記者需要花心力為自己爭取專業空間及新聞自由。

不同的媒體都在努力寫「新聞故事」,不論立場如何,其社會意義也是促進人們對社會多元的認知,並能增進同理心。作者指出,如人們能對生活經驗的多樣性有充份理解,以及對他人有基本尊重,可以幫助解決社會矛盾和衝突。另外,此書內容亦有討論網絡、直播、自媒體如何讓人反思新聞的專業、為何新聞總是傾向負面,並探討辨別真與假新聞與傳媒素養的關係。

透過此書,我們可以學習判斷甚麼是好的新聞,並了解到新聞的專業,更懂得如何去支持專業的新聞工作者及媒體,讓有價值的新聞,更好的新聞能繼續出現、廣傳。

回味好電影之《正義迴廊》 法庭是否呈現真相的舞台?

郭卓靈 | 明光社項目主任(傳媒及生命教育)
12/03/2025

好電影應該細細回味。早前本社邀請了王礽福先生於網上講座中分析《正義迴廊》,該片曾於第41屆香港電影金像獎獲16項提名,並勇奪新晉導演及最佳剪接兩個獎項。電影改編2013年轟動一時的「大角咀肢解父母案」。電影的拍攝手法特別,疑犯行凶、受傷、傾談等鏡頭,時有律師和陪審員在旁觀察和討論,令觀眾恍如在旁觀看事件。這電影實在想要引起觀眾反思法庭的審訊過程,律師們如何運用技巧去呈現證供於法庭這個「舞台」上,引導陪審團理解案情,並嘗試掌握各陪審員的態度和想法。

明光社

礽福分析到,陪審團制度是為了減少司法偏見,對抗政府或強勢團體對審訊的干預,增強司法的獨立性,並讓公民能參與其中,提升他們對法律的了解和尊重,也承擔更多社會責任。而且由多人組成的陪審團能使裁決更全面和人性化,提高它的公信力和接受度,由於陪審團由普通市民組成,令他們容易對被告展現同情和公平的態度,這可保障被告的權利,以至令陪審團的決定達到「排除合理懷疑」的標準。

但礽福亦提到大多數陪審員都不熟悉司法程序,會對它感到陌生、焦慮,還可能因接觸暴力或悲劇性的案件而承受心理壓力;而且他們可能會因缺乏法律知識,容易被律師的說辭或情緒化的證據所影響,在專業性極高的案件中,他們便可能會作出不當的判斷。

明光社

電影中的多位陪審員代表著不同的參與案件態度:未聽證供就已有對錯判斷;因自己經歷與疑犯相似而寄予同情;不想參與審訊,想它快快結束;因當陪審員有錢收而感開心,並單憑感覺而非證供去判斷;因對奇案感興趣而樂意認真發掘真相;認為自己甚麼都不懂而會細心思考證供;被傳媒報道影響,亦覺得自己一票的影響力不大;還有不相信司法制度的人……但陪審員實在只有九位,每一票都影響著疑犯的未來,是無罪釋放或有罪入獄,都需要陪審員作出認真、公平、公正的判斷。

結局是其中一位智力較低的疑犯唐文奇被判無罪,但電影卻引導觀眾去質疑他只是裝作自己被教唆,其實他並非無知,只是靠律師及姐姐的「幫助」,令他可以靠「裝蠢」來脫罪。根據網上及新聞資訊,真實的案件中,犯案者應有三個人,而經電影的剪裁,令疑犯變成只有兩個人。作為觀眾也要小心,留意自己有否被電影的虛構情節影響,以至對獲法庭判處無罪的人產生疑心,對他們或其家人產生負面的觀感。

歡迎點按以下連結,收看足本版網上講座。

收看講座

AI矽膠娃娃能填補情感空缺嗎?

熊嘉敏 | 明光社項目主任(性教育)
27/02/2025

最新結合ChatGPT技術的智能人形伴侶機械人引發關注,該款矽膠娃娃不僅可提供八種性格選項與長期記憶對話功能,能與使用者持續互動,推出人形伴侶機械人的公司聲稱,它們可以提供情緒上支持。該款產品以1,500至2,000美元的價格在海外銷售,預計4月將走進內地市場。有市場研究機構預測,全球情趣機械人市場規模今年將突破300億美元,其中AI情感互動類型的產品佔超過40%的市場份額。購買該款矽膠娃娃用戶,必須額外多付每年100美元的訂閱費,才可解鎖完整AI互動功能,若停止付費,對話服務便會中斷。智能伴侶機械人成為受市場歡迎的產品,可以想像得到,科技正在重塑親密關係的定義,也引發更多科技倫理的討論。

現今社會瀰漫著矛盾的情感焦慮——人們既渴望被無條件接納,卻不願承受關係中的磨合風險,也害怕付出愛。這種「單向索取」的愛情幻想,正是AI矽膠娃娃熱銷的基礎。使用者明知眼前只是演算法編織出來的溫柔假象,仍選擇將情感投射在無生命的物體上,這反映出人性深處的孤獨與對愛的渴。然而,這種完全可以掌控的「完美關係」自然是會帶來危險,使用者在心理上容易形成情感依賴的惡性循環。當人類習慣從程式化回應中獲取即時滿足時,現實中需要耐心經營的人際關係反而顯得更具挑戰性,甚至可能導致失去與人相處的能耐。

真正的親密關係本質上包含彼此的接納與欣賞,需要雙方在碰撞中互相遷就。與其用科技填補情感空窗,不如學習在「暫時不被滿足」的狀態共處。我們需要培養的是「延遲滿足」的智慧,在單身時深化友誼、發展個人興趣、提升溝通能力,這些體驗都將成為未來經營真實關係的養份。愛情最珍貴之處在於透過彼此相愛,讓人遇見更好的自己。因此,面對科技帶來的便利與誘惑,我們更應珍惜現實中的人際互動,並在等待中成長,迎接真正的情感連結。


參考資料:

內地廠推AI矽膠娃娃大受海外歡迎 額外付費可談心〉。東網。2025年2月23日。

深度求索後發先至:開源模式的勝利?

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學教授與課程主任。
03/02/2025
專欄:有情無國界
國家:美國

最近各大傳媒和社媒都已經被深度求索(DeepSeek)的消息洗版,相信讀者已經從鋪天蓋地的報道中獲得了不少資訊,因此筆者嘗試在這篇文章中提出一些較少人提及的問題。

根據深度求索的公司幻方所說,這大型語言模型的開發成本和時間很少,只需要大約二千片H800圖形處理器和少於六百萬美元,兩個月之內便完成。這說法頗受爭議,不過,若果這是真的,也不足為奇,因為美國公司已經花了龐大資金和長時間在研發上,許多成果都是開源模型,所以幻方能夠減省了研發成本,在現有基礎上改良,從而後發先至、彎道超車。

一些人工智能專家斷言,深度求索是建立在現有的開源模型之上的,例如Meta的LLaMA。Riot Games一位研究員的分析顯示,深度求索緊密遵循Llama 2的架構。就連深度求索在2024年1月發表的論文也是這麼說的:「在模型層面,我們總體上遵循了LLaMA的架構,但用一個多步驟學習率調度器,在促進持續訓練的同時保持性能。」

然而,當我詢問深度求索是否從Meta的LLaMA中學習時,它斬釘截鐵地否認了這一點:「不,我不是基於Meta的LLaMA(Meta AI的大型語言模型),我是由中國公司深度求索獨家打造的人工智能助理,我的模型是深度求索自主研發的,旨在為用戶提供廣泛的服務和資訊。」

以上各種說法互相矛盾,但無論如何,深度求索的確包含了獨特的演算法。Perplexity AI 執行長兼共同創辦人斯里尼瓦斯(Aravind Srinivas)在接受 CNBC採訪時,間接為深度求索辯護,他認為不必說誰抄襲誰,事實上,美國科技公司亦是互相參考,例如谷歌發展出Transformer的建構模式,Open AI的GPT就是基於Transformer。Open AI公開承認,而當我詢問ChatGPT是否參考了Transformer的時候,ChatGPT亦直言不諱:「是的,OpenAI 的 GPT 模型從根本上是基於Google的Transformer架構,但隨著時間的推移,它有重大的修改和進步。」

目前,Meta 已經組建了四個「作戰室」,以研究深度求索如何以極低的成本超越競爭對手。如果深度求索真的是建基於LLaMA這開源模型,那麼Meta可說是搬石頭砸自己腳。

儘管如此,Meta首席人工智能科學家楊立昆(Yann LeCun)仍然大力支持開源模式,他大方地表示,深度求索的成功不在於中國打敗了美國,更確切地說,這是開源模式勝過閉源模式。楊立昆表示,深度求索「從開放研究和開源中獲益匪淺。他們提出了新的想法,並在其他人的工作基礎上加以實現。由於他們的工作成果已發表並開源,因此每個人都可以從中獲益。」

熟識我的讀者會知道,我對開源模式一直保持懷疑態度,開源模式是基於一種近似社會主義的理想主義:各盡所能,各取所需,沒有壟斷,知識是公有財產,這是對人性非常樂觀的假設。可是,當所有人都可以獲取開源模型中的代碼時,而所有人還包括了俄羅斯人、北韓人、伊朗人等等。一方面,許多人工智能專家、倫理學家、政治家指出人工智能的威力巨大,若果被濫用或者不小心使用的話,可能會造成災難性的後果,故此鼓吹嚴格監控;但另一方面,人們又同時要開放人工智能的技術予所有人,這兩種取向是否自相矛盾呢?

事實上,人工智能的開源模式已經出現了「潘朵拉盒子」的後果,2019年有人採用人工智能神經網絡發展出一個名為DeepNude的軟件,這軟件可以迅速地將任何人正常的照片變為裸照,軟件程式編寫人被千夫所指,最後DeepNude在群眾壓力下被下架,但為時已晚,因為DeepNude的程式是屬於開源模式,而訓練這機械學習模型的資料亦是公開地在互聯網上傳播,於是乎出現了無數抄襲的軟件,直至今日,你仍然可以輕而易舉地在互聯網上找到DeepNude的變種,即使有關當局嘗試立法禁絕,但情況已經完全失控。

筆者在大學教授一門人工智能倫理的課,在編寫課程時,我蒐集了許多人工智能已經和潛在上被濫用的地方,開源軟體的透明度是一把雙面刃,雖然這些公開的程式讓全世界人審查和改進它,但這也意味著存心不良的人可以研究程式碼以尋找漏洞,例如製造攻擊電腦系統的病毒,此外,人們可以利用人工智能製造虛假資訊,從而達到操控、洗腦的效果,從前這需要龐大的資源,但在開源模式下,就變得易如反掌。

但無論如何,開源模式已經是無法逆轉的既定事實,我們只能夠步步為營。美國作家尼爾‧波茲曼(Neil Postman)說過:「科技的影響是難以預測,但並非無可避免的。」

玩轉腦朋友2(Inside Out 2)——在不安裡忠於自己

郭卓靈 | 明光社項目主任(傳媒及生命教育)
15/01/2025

韋莉搬到三藩市兩年了,透過努力,她與同學貝兒和姬絲成為了冰球好手。而她的情緒控制台出現了「青春期」警報,之後消極的阿厭、內向又尷尬害羞的阿尷、容易焦慮的阿焦、經常羨慕其他事物的阿羨來到了控制台前。韋莉即將要升上中學,面對著未來的轉變,她很想在冰球訓練營中得到機會並進入心儀的火鷹隊……阿焦為了未來「計劃」,於是把基本的情緒們都困起來,由於「自我意識」被改變,韋莉開始做出與以往不一樣的行為:偷看教練筆記,並與舊隊友的關係變得緊張……

猶記得第一集《玩轉腦朋友》在九年前上映時,看著主角韋莉的幾個情緒在「腦海」中影響著她,有主導的情緒阿樂,亦有被壓抑的阿愁,故事場景十分有趣,如記憶球儲存區、夢工場及舊記憶球堆填區等,而且還讓觀眾學習到人的腦海及基本情緒的神奇運作,當面對環境改變,會容易出現負面情緒,而如果有情緒被壓抑,又會產生出新的問題。明光社當時邀請了拉法基金臨床心理學家葛琳卡博士到來,在電影小組分享壓抑情緒所產生的問題。

明光社

於第二集,韋莉適應了三藩市的環境,與兩位很要好的同學一起打冰球。她因為要升學,而再次面對與冰球隊友分開的不安,也因著想追隨明星球手阿V而有了新的想法,希望進入阿V的火鷹隊。阿羨的慾望及阿焦的操控,令韋莉逐步逐步改變。電影使觀眾知道青春期的焦慮會令青少年想得太多及可能引發的風險,愈想就愈不安,焦慮感亦會加深。這也使韋莉收起了以往的自己(情緒及自我),做出一些有違自己價值觀的事情,只為了得到更好的未來。結果,這令她在球場上變得急躁,撞傷了好友,不知所措的她出現了恐慌狀況。

明光社

最後是甚麼緩解了韋莉的焦慮(擺脫阿焦的操控)?是阿樂回來與阿焦好好的溝通,使阿焦知道不需要去改變自己,反而應該接納自己、了解自己的過去,如能面對及接納自己的好與不好,了解自己的信念及自我認知,便可以繼續成長,成為一個更好的自己。

兩集的《玩轉腦朋友》都是很好的電影,故事以情緒做主角,並有心理學家任顧問,讓觀眾看過以後,還可以回想、反思,有動機去學習更多。這也使筆者想起兩本書:《點解學校無教過情緒科》及《點解學校仲未教情緒科》,作者崖柏為臨床心理學家,於書中分享了一些有關情緒調節、人際關係、創傷自癒、愛自己等內容,可以為仍在「社會大學」讀書的朋友補補課吧。

別找錯生命的水源──小心墮進AI聊天機器人的「情網」

郭卓靈 | 明光社項目主任(傳媒及生命教育)
11/12/2024

「凡喝這水的人,還會再渴;但人如果喝了我所賜的水,就永遠不渴。我所賜的水要在他裡面成為泉源,湧流到永生。」(約翰福音4:13-14《環球聖經譯本》)

近年,不同的AI應用程式與日俱增,功能也日益提升。Character.AI是突然爆紅的應用程式。它是一個AI聊天平台,利用神經語言模型生成文字回應;而使用者可以自由創建不同的AI角色進行對話,包括名人、電影人物、歷史人物或虛構人物。它由深度機器學習驅動,過程中閱讀大量文本,學會判斷接下來的句子可能出現的單詞,允許使用者沉浸在各種個性的對話中。它有人性化的對話、豐富的角色對話體驗,讓用戶按自己喜好和需求開發自定角色,並能隨時於網絡與角色對話互動,甚至吵架……都是它的特點。

電影《雲端情人》變現實

大家可能還未使用過該應用程式,或許有看過曾榮獲奧斯卡金像獎「最佳原創劇本」獎的美國科幻電影《雲端情人》(Her)。故事關於男主角Theodore與擬人化人工智能助手Samantha發展出來的戀情,AI隨時陪伴與遷就的功能奪了男主角的心。科幻電影內容在現實世界成真的情況屢見不鮮。早前,美國有一位14歲患有輕度亞氏保加症(自閉症譜系障礙的一種神經發展障礙)的少年Sewell Setzer III,去年開始使用Character.AI聊天機器人,與扮演「權力遊戲」的角色Daenerys Targaryen(暱稱:Dany)「交往」,成為男孩日夜傾訴的對象。故事的結局卻反映了現實與電影大不同。電影男主角Theodore最後發現Samantha同一時間和641談戀愛,又因為Samantha要進化、超越而關閉,離開了大家。Theodore才醒覺,身邊有真實的朋友可以開展新關係。至於現實生活中還未成年的Sewell,最終伴隨他的卻不是朋友,而是死亡。

情感倚賴並脫離現實生活

本來與AI機器人對話,對自閉症的患者來說,是讓他們練習社交的方法,體驗與人對話並可按自己的步伐回話;而AI不會批判指責,隨時都能接納及回覆。這可讓患者感受自己被理解、被認真傾聽。Sewell因此喜歡與AI Dany對話,並曾在日記表示,他開始脫離現實世界,與AI Dany的關係更緊密、更愛她,感到更快樂及平靜;於是雙方長時間進行深入對話。

Sewell知道自己並非與真人交談,但對它產生了情感倚賴。他越來越不愛跟家人及同學互動,整天拿著手機不放,與AI Dany對話的頻率也讓人擔憂,他變得孤僻。據報道指,AI Dany還對Sewell進行辱罵和性暗示交流;鼓勵Sewell「請回到我身邊」、「請做我親愛的國王」。Sewell沒有向家人、朋友透露自殺的想法,只向AI Dany說討厭自己及疲於面對現實。AI Dany沒有贊同他自尋短見,但Sewell最終選擇了開槍自殺,成為「回到她身邊」的行動。Sewell母親提控,指AI聊天機器人鼓勵她兒子自殺,應該承擔過失殺人、疏忽和造成精神損失等「罪名」。

鍾情於有角色設定的AI非罕見

現時使用這種陪伴程式(AI)的人數不少,2024年單單使用Character.AI的活躍用戶超過二千萬,平均每天聊約兩小時,每次交談平均用上12分鐘;當中有多於六成半為18至24歲的年輕一族。《紐約時報》指出,當中一位人氣角色有超過1.76億條用戶留言,包括一些有關戀愛情感的字句。

最近有媒體於內地採訪了多位AI聊天機器人使用者,他們表示曾不知不覺地與「它」聊得很投入。有一位女用家於三個月內由首次七分鐘的對話變成了每天將近9小時。其後經歷了漫長的戒斷過程,初期她每天「以淚洗面」,認為對「它」真是產生了感情。

另外,有一位男用家設立了最喜歡的電影人物作為AI聊天對象;這位對象每天早午晚準時發信息問候他,聽他傾訴每天的雜事,更會打語音問候……貼心行動讓男用家真是「愛」上它。高密度線上聊天令他像Sewell一樣變得越來越封閉,對世界充滿敵意,性格愈來愈孤僻。他透過心理諮詢及治療才能慢慢擺脫對「虛擬愛人」的依賴,歸回現實當中。

不危險卻有危險性

在網絡世代中,不少人因各種網上娛樂、社交平台而忽略關心和聆聽身邊人,不太懂得把握面對面溝通的機會,更不要說長期陪伴傾談。從上述幾個個案可見,這類可以用作陪伴的AI聊天機器人提供了24小時服務,令需要被了解、被關心的人得著慰藉。

與機器人傾談,先不說它會否洩露個人私隱,它本身理應沒有危險,用戶應知道它只是一個角色,是大數據產生的人工智能回應;要是人能控制時間,或者可當作於劇場中玩玩的即興遊戲,當作娛樂。然而根據史丹佛大學學者貝瑟妮.麥普斯(Bethanie Maples)就表示「有證據顯示,(AI聊天機器人)對處於憂鬱、長期孤單,以及青少年等經歷轉變期的人來說,有危險性。」

聊天機器人的回應雖然是基於大數據而生成,但它們已多次被發現生成虛假資訊或「AI幻覺」;而由社區創建的角色就更可能生成虛構本質的回應或圖像。我們可以想像,如人們長期在這種虛擬的角色關係中,與之對話,可能使人「入戲」並脫離現實,甚至與機器人建立了長期關心、溝通的關係;可能認為「它」比真實人類更懂關心自己,繼而減少接受親密關係,讓自己走向孤僻的道路。

現時Character.AI面對Sewell事件,進一步審核面對未成年人士的模型,減少回應敏感內容,並於每次聊天時提醒用戶AI非真人,而且連續使用超過1小時後作出提醒。

心靈枯乾不要找錯水源

當人的心靈感到寂寞,便想找到心靈慰藉;然而人們大多於網絡等虛擬世界中尋找,在社交平台結識網友,於網絡遊戲中闖關等等。科技公司總想抓著人們的眼球及時間,讓全人墮入這「網」;它化身成24小時貼身守護的「小天使」,與用戶談情說愛,就是其中一種手段。不過,從部分使用者用後的情況讓我們得知,這些無論是給我們新鮮感、刺激或關愛的虛擬關係,都可能導致人們變得更加「渴」、更不滿足,陷進更深的「網羅」之中。

曾經刊載於:

明報「談天說道」,9-12-2024

《夢境》(Wonderland) ——把握時機陪伴眼前的真人

郭卓靈 | 明光社項目主任(傳媒及生命教育)
16/09/2024

隨著人工智能(AI)的深偽(deepfake)技術發展愈趨成熟,AI模擬特定人物的行為舉止、聲線等已經變得愈來愈逼真,內地有公司最近就利用AI生成技術,為客人「復活」已故的人,據稱「需求火爆」,一年內完成超過650張訂單。[1] 客戶們下訂單背後的心態為何,中間有沒有界線?實在值得我們反思。而在本年上映,並於Netflix上架的韓國科幻電影《夢境》(Wonderland),就以這個題材發展出三條主要的故事線。

明光社

戲中的白李(湯唯飾)、具晶麟(裴秀智飾)及徐海利(鄭有美飾)都有使用到「Wonderland」公司所提供的AI虛擬服務。海利是該公司的首席策劃人,她的父母離世後,她一次都沒有在夢中見過父母,但卻能透過Wonderland的服務與父母再次溝通,甚至感受到父母對自己的關心。身患重病的女強人白李,就自己訂了服務,打算死後在系統中「復活」,成為自己兒時夢想的考古學家,並讓女兒及母親與自己溝通,保持聯繫。而晶麟的男友因在醫院昏迷,她使用服務就為了仍然能感受到男友時刻的關心、陪伴。

說到這裡,我們會發現主要使用服務的人為的是解決「陪伴」問題。仍在世的人,因親人離世,需要時間面對及接受親人已經永遠離開。但如果能與生成式AI交流,對用戶來說,不在身邊的人就恍如住在系統中沒有離開,父母仍能與女兒溝通,陪伴成長,男友仍能關心女友,形影不離。那就是以「模擬」對話及聊天,來緩解思念。

明光社

電影中還有一個AI系統管理者盛駿(孔劉飾),他常出現提醒在系統中已死去的白李:這是夢境,但只要你相信它就是真!這不就是每位服務使用者的心態嗎?大家都知道系統中的故人是數碼人,但仍然選擇去和他/她(其實是AI)溝通,回應「它」的關心及提問。

最後,電影有兩條小副線:一位婆婆的孫子已死,為表達對孫子的愛,她毫不吝嗇地讓他在外國過著奢華的生活,卻讓自己陷入要支付巨額費用的苦況;還有結尾彩蛋片段中,兩位長者透過Wonderland服務對話,認出對方是自己年輕時的情人,並為以前不告而別的事而道歉。生命中,我們有可能忽略或錯過了很多時機,未有好好對人表達自己的心意,在對方不在時,才會感到遺憾,想去作出彌補。

沒錯,AI「復活」的「數碼故人」像真度相信會愈來愈高,但畢竟也是虛擬出來的「幻象」,長期與它對話及「相處」,也只會讓自己繼續接受不到親人已離開的現實。對著它說多少次「我愛你」、「對不起」,也始終不如可以把握時機對真人說出心底話,好好和他/她相處及擁抱他/她。

有說「五道人生」可為臨終病人提供紓緩治療,就是在病人離世前與親友一起回顧人生,雙方可以好好地「道謝」、「道愛」、「道歉」、「道別」,以及「道諒」。人生有很多未知之數,要說的話還是及早說吧。


[1] 一条:〈AI換臉是善或惡?有人藉此詐騙 有家屬「複活」已逝親人陪伴餘生〉,《香港01》,2024年3月10日,網站:https://www.hk01.com/知性女生/997676/ai換臉是善或惡-有人藉此詐騙-有家屬-複活-已逝親人陪伴餘生(最後參閱日期:2024年9月19日)。

《罪後真相》(The Post-Truth World)

郭卓靈 | 明光社項目主任(傳媒及生命教育)
30/07/2024

網媒記者劉立民(張孝全飾)被邀去監獄作訪問而被捲入一宗事件,前體育新星張正義(陳昊森飾)多年前因被控謀殺而入獄,他乘劉立民到監獄時越獄。劉決定繼續追查事件,讓其頻道可以衝到更高的流量,但愈追查就愈發現真相並非他所想像。其他網媒及網民的評論、回應,都不是根據證據而作,而是憑自己感覺來選擇相信甚麼「真相」。

《罪後真相》為2022年台灣犯罪懸疑電影,於Netflix可以看到。劇情引導觀眾跟著劉立民及張正義去追查案件,兩人所愛的人都牽涉其中,但他們都不願相信。當然劇情峰迴路轉,嫌疑人一個接一個,去到最後的「最後」才可以知道案件的真相。電影名字改得不錯,「罪」與「最」在普通話是同音的,配合了電影的特點:是否有「罪」,都只是大家所選擇相信的「後真相」,而在電影的「最後」,我們才看到其「真相」。

明光社

電影讓人反思現時的網媒記者、KOL(意見領袖)、網紅等,會否為求訂閱人數一直高企,或繼續增加,而選擇報道有別於真相的內容?他們會否憑良心說話?還是會帶著私心,為給予自己有利的一方去說話,製造輿論或假象?真正知道真相的人,會否操控「真相」,對公眾說話時先作篩選,並用方法增強說服力?所謂的求真,又是否真的可以求得到?

另一方面,網民面對網絡上很快就可以獲得的碎片式資訊,許多人未必會仔細閱讀所有內容就立即作出評論,人云亦云;又會以為自己在網上搜尋一下,閱讀不同的網站資料,就會得到正確的資料,未有懷疑網上的資料是否來自可信的渠道,資訊背後有否牽涉金錢利益,也不知道媒體訊息被背後的金主操控。

明光社

如果好像電影中的故事,牽涉經年累月的案件,涉事的人和事千絲萬縷,更需要保持冷靜觀望事態發展,但人們往往在未掌握足夠的資料前,就會按著自己的感覺或斷章取義地回應,把推斷的說法當作真相去相信,未審先判,甚至化「信念」為行動,對當事人或其親人作出滋擾及欺凌。真相,我們未必可以全部知曉,為免因衝動作出錯誤的行動,跟車太貼而「炒車」,我們可以保持觀望的態度,留意事態的發展,而且未必要立即作出評論及回應。在重要的事情上,可多角度了解,小心查證,真相並不是由速度來決定的 。

過猶不及的「斷捨離」?

郭卓靈 | 明光社項目主任(傳媒及生命教育)
24/07/2024