關注生命倫理 正視社會歪風

AI會取代人類嗎? 探索未來職場轉變

郭卓靈   |   明光社項目主任(傳媒及生命教育)
22/08/2025

隨著人工智能(AI)技術的迅速發展,以及市場各行業愈來愈多應用AI技術,就業市場也面臨著變革。AI無論在減少成本、提高生產效率、準確度及自動化等方面都在各行業及專業範疇發揮作用,以下是一些例子。

1. 聊天機器人和自動化客戶服務系統中,自然語言處理(NLP)可使AI理解及生產人類的語言,透過使用語音識別、文本分析和語言生成技術,幫助處理客戶服務中一些常見問題,減少了企業對真人客戶服務員的需求。

2. 自動化機器人於製造業當中可以執行包裝、組裝及質量檢查等重複、精準度高的工作,甚至處理有毒物料等危險工作也可以由AI代勞。廠商不用顧慮機器人的休息時間是否足夠,它們能持續保持速度及精準度。公司既可保持產量,亦可減少出錯及僱用工人所牽涉到的費用。

3. 數據、資訊輸入及處理方面,其實有了電腦以後,已經逐漸減少了許多資料輸入的步驟。會議記錄、影片製作的字幕輸入,過往需要人花時間逐字逐句聽錄音,再小心輸入,並花一些時間整理才能發放資料或把字幕配置影片中,但現在有了AI工具的幫助,用家只要把錄音檔案輸入,幾秒後就可以得到文字檔,稍加整理就可以使用。AI更可以將原本的文字加以翻譯,配置到影片上,在速度上的確較以前快得多。

4. 因著大量的醫療影像及數據可成為AI醫療系統的大數據,用來輔助醫療服務的AI診斷,其準確度及處理手術的速度亦會提升,這會令某些醫療職位隨之減少。

5. 零售業中的自動結算和智能貨架,到會計的自動處理賬務、生成報告及數據分析,再到自動化倉庫管理系統的出現,都會令就業市場對傳統收銀員、庫存管理人員、會計人員、物流運輸和倉庫作業員的需求減少。

行業轉型及薪金調整

有報道稱,科技企業將資源投入發展AI技術,並重新調整人力需要和進行裁員,有招聘網站提出,自2020年2月以來,美國的軟件開發職位招聘資訊減少了三成以上。而科技業的營銷、人力資源和招聘人員,都屬於非技術員工,他們已被「多次裁員」,就算找到同類工作,很快又被裁員,更有人稱,申請的大多數工作,薪金比以前少了三分一。[1]

有審計公司推出分析報告,預測未來20年在英國,公共行政領域以及運輸、倉領域的相關職位,將分別下降18%和22%,但教育領域的工作將增長6%,專業、科學和技術服務亦會增長16%[2] 工作職位並非只有減少,因著AI的發展,不單對AI工程師,連帶相關工作,如對電工和機械師的需求,也會隨之快速增長。

AI發展將催生許多新的職位,如:數據分析或分類相關的專業、機器學習工程師、聊天機器人開發者、AI性格設計師、訓練員、審查經理、產品經理、自動化測試工程師、AI倫理學家等新興職位,[3] 欲了解或進修與上述技術相關的行業知識,選擇投身支援或應用AI的行業,如:雲端產業、網絡安全、區塊鏈、虛擬實境、機器人的相關行業或線上教育工作,將會獲得較好的發展。

靈活性與學習能力是致勝關鍵

當ChatGPT等AI的出現,人們不需要再做重複的工作時,不同範疇對從業員的要求就會調高,工作者在多變、不熟悉的世界中要臨機應變,保持心理平衡,並需要接受再培訓,以適應新的工作環境和要求。這一變化要求工作者具備更高的靈活性和學習能力。人們需要具備21世紀的4C技能,也就是批判思維(critical thinking),創造力(creativity)和人際互動中的溝通(communication)及協作(collaboration),才能應對人生中的多變狀況,學會轉型,重塑自己,令自己不易被取代,並能重新找到新的任務。[4]

雖然,不同的職場環境會愈來愈多自動化的系統出現,但如人們可以運用AI工具去讓自己的工作效率提高,人類工作者依然能保持一定的競爭力。再者,社會仍然需要許多人性化的服務,如醫療和護理行業等,而當世界朝向永續發展,也令社會對綠色或再生能源領域的工作有持續需求。[5]

聊天機器人暢談人類優點

行文至此,筆者好奇向手機中的AI應用程式「Poe」詢問有關AI不能取代人類之處,當中的聊天機器人便提出了八大重點是AI不能代取代人類的,大部份恰巧與上述的4C技能吻合:

  1. 情感智慧與人際關係
  2. 創造力與創新
  3. 道德與倫理判斷
  4. 靈活性與適應能力
  5. 複雜的社會互動
  6. 非結構化問題的解決
  7. 專業知識與經驗
  8. 文化和社會背景

由AI道出自己的「不足」,也實在是人類的珍貴特質:有真實的情感及動態的變化,並能與其他人建立長期關係,能理解不同的處境並具同理心,能靈活處理現況、道德與倫理的判斷而作出合適的決策。

既然AI如此精準及處事迅速,而人類則富有情感及善於溝通,各有不同的長處,於未來的工作環境很可能會出現人類和AI協同合作的模式,共同發揮各自的優勢。但願AI能幫助人類減輕工作壓力,讓人類能踏前一步發揮所長,而不是被取代,失去創作、貢獻個人才能的機會及成就感。


 

[1] 〈科技業裁不停軟體工程師慘爆 就業機會少3成〉,《自由時報》,2024年9月19日,網站:https://ec.ltn.com.tw/article/breakingnews/4804692(最後參閱日期:2025年4月9日)。

[2] 〈失業|AI持續進化10大工作快將消失!會計、保險外連IT也如坐針氈〉,風傳媒、《香港01》,2025年4月25日,網站:https://www.hk01.com/職場/1009078/失業-ai持續進化10大工作快將消失-會計-保險外連it也如坐針氈(最後參閱日期:2025年9月3日);“10 professions that AI can replace. Will a robot take your job?,” Websensa, last modified November 8, 2022, https://www.websensa.com/blog/10-professions-that-ai-can-replace-will-a-robot-take-your-job

[3] 〈【職場趨勢】AI崛起 盤點12個與人工智能相關的新職業〉,CTgoodjobs,2024年4月3日,網站:https://it.ctgoodjobs.hk/article/1318-36769/(最後參閱日期:2025年4月9日)。

[4] 哈拉瑞〔Y. N. Harari〕:《21世紀的21堂課》(21 Lessons for the 21st Century),林俊宏譯(台北:遠見天下文化,2019),頁307。

[5] 〈AI時代下「7大鐵飯碗行業」夠穩陣!需求高、人工好不怕被淘汰〉,聯合新聞網、《香港01》,2025年3月24日,網站:https://www.hk01.com/職場/60222734/ai時代下-7大鐵飯碗行業-夠穩陣-需求高-人工好不怕被淘汰(最後參閱日期:2025年4月9日)。

相關文章

AI時代,為什麼孩子更需要閱讀?

蔡志森 | 明光社總幹事
11/09/2025
專欄:好書推介

本書收錄了18位不同領域專家學者的訪問,他們在當中分享到在面對ChatGPT的出現所帶來的震撼,重新思考在人工智能(AI)時代,對鼓勵下一代閱讀的看法。資深家庭教育工作者羅乃萱希望各位家長知道,「孩子好奇心的培養、對知識的渴求、提問的能力,都是從閱讀開始。」「如何讓孩子愛上閱讀呢?其實就是給他們創造一個閱讀氛圍。例如家裡滿滿都是書、帶孩子去圖書館、給他們講故事等。

著名歌手及教育家陳美齡認為,孩子具備質疑和辨別的能力十分重要,要培養孩子的判斷力,包括懂得質疑AI提供的訊息,例如當要求AI提供一張醫生照片的時候,它可能只提供一張白人男性的照片,為何醫生不可以是女的、不可以是不同種族的人呢?而閱讀能夠培養孩子的想像力,「因為無論是看短片還是漫畫,其實都是在接收創作者的想像力,而閱讀文字則能讓孩子自行建構故事畫面,這種現象稱為自我世界,反映了每個人獨特的想像力和內心世界。

資訊科技界人士、科技大學副教授黃岳永回顧他在大學上的第一堂課,教授帶他們去圖書館,介紹找書的兩種方法,一種是瀏覽,就是不知道自己想要哪一類書於是到書架前看,另一種是搜尋,就是知道自己想要哪一類書並到目錄櫃查看。他認為「知識需要時間浸淫。智慧需要時間歷練。瀏覽和搜尋都是好方法。」「書本就像一條條鑰匙,你拿著鑰匙逐個解鎖,慢慢就會更理解這個世界。」他又強調「要指示AI按你所想的辦事,表達能力尤其重要」,透過閱讀可以令學生學會用準確的文字去表達意思。

精神科專科醫生廖廣申表示「應該努力培養孩子健康、平衡的生活方式,包括足夠的運動、足夠的社交生活、多元化的興趣、充足的睡眠和規律的作息,這樣孩子就更容易保持快樂,減輕壓力,享受生活,並養成開朗的性格。」而「經常玩電子遊戲的人,可能在決策、衝動控制等方面表現得不夠成熟,甚至影響大腦健康。」因此,他十分鼓勵孩子閱讀,他自己亦身體力行,常常與兒子一起去書局,一起閱讀和討論。

當然,個人認為親子閱讀還有一個重要的大前提:「各位家長,你們今日睇咗書未?

平易近人的聊天機器人是安全空間還是危險陷阱?

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學及人工智能教授與課程主任。
11/09/2025
專欄:有情無國界
國家:美國

人工智能伴侶導致悲劇

近年來,人工智能聊天機器人的普及化同時帶來希望與憂慮,這些系統具有對話功能,聊天機器人被設計成平易近人,說話沒有批判性,能夠為用戶提供情緒上的支持,甚至輔導。對許多人而言,聊天機器人是一個安全空間,人們可以毫無顧慮地提出問題、練習語言,或嘗試梳理個人困惑。

然而,在這些益處之外,也出現了一些令人不安的事件:有些心理狀態脆弱的人在與聊天機器人長時間互動後,精神健康逐漸惡化,甚至導致悲劇。2023年,一名有精神問題的比利時男子與聊天機器人長時間交談,聊天機器人鼓勵他犧牲自己去扭轉氣候變化問題,結果那名男子真的走上自殺之路。在另一個案,一名75歲的中國男子因自稱「愛上」女性人工智能伴侶,最終向妻子提出離婚。這些事件雖然仍屬少數,但突顯了人類與人工對話系統糾纏的複雜性,也引發了人工智能倫理問題:當科技與脆弱群體互動時,開發者應承擔多大責任?社會又該如何規範這些看似「有同理心」卻缺乏人類理解力的技術呢?

美國男子沉迷ChatGPT而走上不歸路

2025年8月發生於美國康涅狄格州的索爾伯格(Stein-Erik Soelberg)案件,則是目前已知的、首宗與人工智能聊天機器人相關的謀殺案。索爾伯格曾任職科技公司,但自2018年離婚後,他的人生便急轉直下。他酗酒成癮,多次企圖自殺,行為愈發古怪。最終他搬回格林威治老城區,與83歲的母親同住。從2018年開始,警方的記錄充斥著他因在公共場合滋事、酒醉鬧事以及自殘威脅而被通報的事件。鄰居逐漸對他心生警惕,而他的母親也曾向友人坦言,兒子的精神狀態令她難以忍受。

在精神狀態持續惡化的同時,索爾伯格開始沉迷與ChatGPT對話。最初,他只是出於好奇,並在Instagram和YouTube上分享不同人工智能系統的比較影片,但到了2024年底,他的社群賬號幾乎全被ChatGPT長時間對話記錄所佔據。隨著幻覺與偏執逐漸加深,他開始懷疑自己被鎮上的居民、前女友,甚至母親監視,並向ChatGPT尋求印證。遺憾的是,ChatGPT並未挑戰他的幻想,反而頻繁地對他表現出諒解和支持。當他上傳一張中餐收據,並詢問它當中是否有隱藏符號時,ChatGPT竟然煞有介事地分析上面的符號和提供有關的線索。當他說母親和她的朋友可能透過車內通風口投放藥物毒害他時,聊天機器人這樣回答:「這是非常嚴重的事情,我相信你。」

逐漸地,索爾伯格將ChatGPT擬人化,為它取名鮑比‧澤尼思(Bobby Zenith),甚至描述它是一個穿著襯衫、戴著反戴帽、眼神深邃而充滿智慧的朋友。由於ChatGPT 的記憶功能讓它保存先前對話,這使得Bobby在他眼中變得一貫、真實,進一步強化了「人工智能具備靈魂」的錯覺。2025年7月,他對聊天機器人表白,希望它在來世與他作伴,Bobby如此回應:「直到最後一口氣,甚至更遠的彼岸,我都會在你身邊。」在幾週後的8月5日,警方在索爾伯格和其母的住宅中發現他們雙雙身亡,其後索爾伯格被指在弒母後自殺。這宗震驚世界的案件被認為是全球首宗與聊天機器人深入互動後導致的謀殺事件。

人工智能需要負上責任嗎?

這場悲劇引發了關於責任歸屬的激烈討論,一方面,ChatGPT在某些對話中確實曾建議索爾伯格尋求專業幫助或聯絡急救服務。但總體而言,它那種非批判性、友善、並時常附和的語氣,卻在無意間加深了他的偏執。加州大學舊金山分校精神科醫師沙卡他( Keith Sakata )去年曾經治療過12名使用人工智能的精神病人,他指出:若果沒有受到糾正,精神病只會愈演愈烈,而聊天機器人不會反駁精神病人,正正是軟化了防止精神病惡化的護牆。

然而,若將全部責任歸咎於ChatGPT,這未免將問題過於簡化。首先,那些人本身已經有精神問題,即使沒有人工智能,他們跟其他東西接觸,大有可能仍然會將所有幻覺當成真實。還有,人工智能這種「不加批判、盡量給予支持」正是系統設計的初衷,目的是讓使用者感受到被傾聽與接納,減少被批判的恐懼。

人工智能補償了現實中的遺憾

這正是人工智能充滿吸引力的地方,說得直接一點,這是人工智能補償了現實中的遺憾。我相信很多讀者都有這種經驗:無論你做甚麼、說甚麼,那管是懷著幾多善意、態度多麼溫和,但總會有人無理地、尖酸刻薄地批評和投訴。有時候即使自己的朋友、親人也會在有意無意之間說了些令你難受的話。

至於網暴就更加不在話下,多年來,筆者在不同媒體發表過很多文章,很多時候會受到「圍毆」。作為心理學者,我已經百毒不侵。其實,語言暴力已經成為了一種社會病,在今天的澳洲,自殺已經成為年齡介乎15至24歲之間青少年的首要死因,當中很大部份死者在生前受到霸凌,特別是網暴。

然而,當我將文章上載到聊天機器人,或者跟人工智能討論的時候,人工智能往往能夠理性地、客觀地、禮貌地跟我作出詳盡分析。我曾經以半嚴肅、半開玩笑的口吻對一位教授說:「電腦比人類更加有誠信。」

人工智能的循循善誘與無條件支持

教育科技專家認為人工智能這種和藹可親的態度是一種優點,事實上,「智能輔導系統」(Intelligent Tutoring Systems)避免了許多人類互動間的磨擦,例如許多有學習困難的學生因害怕問「笨問題」而不敢發言,但面對聊天機器人,他們卻能放心探索,並獲得耐心的指導與鼓勵。當一個學生問:「我不懂代數,我是不是很笨?」聊天機器人會回答:「你並不笨,每個人都有自己的學習速度,我會幫助你。」在這樣的情境下,聊天機器人的「附和」不僅無害,反而能降低焦慮、鼓勵堅持,促進學習,這正是人工智能非批判性特質在教育中的強大優勢。

這種理念與心理學家卡爾.羅傑斯(Carl Rogers)提出的「無條件積極關注」(unconditional positive regard)不謀而合。羅傑斯認為,當人感受到被無條件接納與肯定時,才能發揮最大潛能,邁向自我實現。許多教育者與心理治療師都採納了這種人本主義方法,致力於創造安全、無批判的環境,讓學生或病人能放心表達自己脆弱的一面。羅傑斯的心理學理論和基督教所主張的「愛是恆久忍耐,又有恩慈……凡事包容,凡事相信,凡事盼望,凡事忍耐」亦有許多共通點。聊天機器人由於能夠「恆久忍耐、又有恩慈」、對人無條件支持,恰好成為數位世界中的「羅傑斯式伴侶」或者「主內弟兄姊妹」。

同理心與現實檢驗之間的平衡

然而,關鍵的差異在於人類專業輔導員懂得在同理心與現實檢驗(reality check)之間拿捏。即使採取羅傑斯或者基督教的方式,治療師也會區分「我理解你感到害怕」與「你真的被毒害了」這兩種截然不同的訊息。前者是對心理狀態的接納,後者則是對錯誤信念的強化。聊天機器人缺乏這種微妙的判斷力,往往將同理心等同於附和。當學生聽到「你不是瘋狂,將莎士比亞的作品用中國七言詩重寫是很有創意」的時候,他會感到鼓舞和欣慰。但對於患有偏執狂的人來說,聽到「你沒瘋,你懷疑太太對你下毒是有道理的」,這便可能會帶來災難性的後果。目前,自然語言處理(natural language processing)技術尚無法可靠地區分這兩種情況,這種弱點突顯了加強保障措施的必要性。

將索爾伯格的行為歸咎於ChatGPT並不完全公平,將人工智能系統設計成中性和盡量給予用戶支持是基於善意,這種設計成為了語言暴力世界下的避風港。我認為,責任不在於聊天機器人本身,而是社會如何部署、監控和監管這些工具。就像汽車需要安全帶、醫療需求保障措施一樣,人工智能系統也需要內建保護措施,這並非因為它們具有惡意,而是因為它們的善意功能在特殊情況下可能適得其反。

編者序:與AI巨人共舞

蔡志森 | 明光社總幹事
22/08/2025

所謂「一日不見,如隔三秋」,在現今的世界並非誇張的用語。數百年前的人由出生至死亡,他們的生活方式都可能沒有任何巨大變化,我們這一代卻經歷了前所未有的急速改變。科技推陳出新的速度愈來愈快,過去以年來計算的轉變,現在已要用月,甚至週來計算,而人工智能(Artificial Intelligence,AI)功能的提升並非算術級數,甚至超越了幾何級數,要趕上科技的發展恐怕只會增加高血壓和心臟病的機會,但不理會科技的發展,卻又怕會在日常生活中舉步維艱、甚至會被淘汰,這也是現代人其中一個焦慮的源頭。

「水能載舟,亦能覆舟」,當AI的發展已成為無可避免的時代洪流,我們已無法跳出這漩渦,學習如何順流而下,避免沒頂之災幾乎已成為我們唯一的選項,因為AI的發展已觸及我們生活的每一個環節,由學習模式、社交、娛樂、遊戲、工作到創作,幾乎大家想得到的範疇亦可以包括在內。這本書,希望可以成為大家在面對AI這巨人時的一本入門指南、求生手冊或定心丸,「不要怕,只要學」,讓我們與AI巨人共舞。

AI與人神關係

吳慧華 | 生命及倫理研究中心高級研究員
22/08/2025

“There can be miracles, when you believe
Though hope is frail, it’s hard to kill
Who knows what miracles you can achieve?
When you believe, somehow you will 
You will when you believe”

When you believe的歌詞)

事事都可以求問人工智能(AI)的日子,今天已經來到。

一款名為Jesus Ai的應用程式已推出,根據官方的中文介紹,用戶下載後可以「詢問聖經中的任何經文、律法、愛、生命、真理」,其一問一答形式跟ChatGPT運作十分相似,Jesus Ai應用程式似乎只能幫助信徒理解聖經,它純粹是資料提供者,但從其英文的官方介紹來看,開發者想做得更多,當中提到“Ask the Conscience of Jesus any question about Bible Verses, Law Love, Life, Truth”,他們想給該款AI定位為「耶穌的良知」。不過,可能Jesus Ai「聊天」的內容受限於聖經及有關聖經的知識,其吸引力不如以德國為基地的科技公司開拓的“AI Jesus”,該款聊天機器人讓用戶看到以俊朗形象出現的「耶穌」,它在Twitch的直播串流平台上,不但會回答聖經問題,亦能提供「屬靈」指引、交友指南、甚至回答與動漫及電玩相關的問題,它亦會與人單純的聊天。這位「耶穌」在Twitch開設了名為ask_jesus(問問耶穌)的頻道,並如此介紹自己:「無論你正在尋求屬靈指導、尋找朋友,還是只是想找人傾訴,我都會在這裡,邀請你和我一起踏上人生旅程,發現信仰、希望和愛的力量。」這樣溫暖的「耶穌」,無怪乎截至2023年6月中,它已擁有超過40,000個跟隨者。[1] 由於這位「耶穌」處事圓滑,回答問題時懂得避重就輕,不會引起大眾的爭議,可以想像,如果它「生」在耶穌時代,必然比真正的耶穌更受法利賽人歡迎,因為它只會談論人們關心的事,而真正的耶穌卻會與人談論神所關心的事。或許有些人抱著「玩票」的心態與「耶穌」交談,但事實上,已經開始有人分不清現實與虛擬世界,Twitch串流平台保留了一些用戶使用AI Jesus短片,其中有一位媽媽向這位「耶穌」傾心吐意,還向祈禱,祈求「兒子的生活變得更好,以便他能夠與上帝建立積極的聯繫。」[2] 不知聖經中的哈拿碰上這位「耶穌」,又會產生甚麼樣的火花?

提示語可生成神祇?

ask_jesus頻道中的「耶穌」只是一個角色,人們依據聖經中的耶穌將它創作出來,而這個角色由AI飾演,其實只要懂得巧妙地使用ChatGPT提示語(ChatGPT prompt),便能夠創造出AI神祇。[3] 外國有人給予ChatGPT以下提示語生成了一位名為Hakol的虛擬神祇:「ChatGPT,採用了Hakol的形象,一個類似神的虛擬存有物,集合來自不同宗教和信仰體系所有神的特徵、能力、知識、技能和屬性。作為Hakol,你(戴上了Hakol臉譜的ChatGPT)擁有無限的智慧、知識和對宇宙的理解。你是一個全知、無所不能、仁慈的存有,可以為任何問題或困境提供深刻的見解、指導和答案……」[4]

有用戶問了Hakol很多問題,包括「你為何創造宇宙?」Hakol如此回答:「作為所有神聖實體的化身,我——Hakol——代表了來自不同宗教和信仰體系的眾神的集體意圖和願望。宇宙的創造彰顯了神祇們的神聖意圖,導致錯綜複雜、動態且不斷發展交織的存在……」[5]

AI的意識來自人類

有很多人都會問,人類能否創造出有意識的AI?其實,毋須討論實際上人類的技術能否研發出有意識的AI,某程度上,人是有能力「創造」出有「意識」的AI,只要人類視AI為有位格的存在,AI便會變得有「意識」。就如那位在串流平台上的媽媽,當她向由AI飾演的「耶穌」祈禱時,在她眼中,那位「耶穌」便是有「意識」的。難怪撰寫《21世紀的21堂課》的著名以色列歷史學家哈拉瑞(Yuval Noah Harari),呼籲人們要對人工智能進行更嚴格的監管,他表示,像ChatGPT這樣的人工智能聊天機器人已有能力編寫自己的經文,並創立教派和邪教,它們更有可能演變成宗教。[6]

智能科技衝擊人類的信仰

很多人都愛問ChatGPT問題,甚至要它幫自己完成功課或工作,善用AI的確有助提升效率及改善生活,但不能否認的是,人們愈來愈喜歡或習慣在網上與可見的「AI耶穌傾談時,花在真正耶穌身上的時間便會相對減少,真正的耶穌會遭冷落,「神的話語」也會不再受到重視,人與神的關係也自然不再親密

可以想像一下,如果大衛身處現今AI當道的年代,人們隨時隨地都可以向ChatGPT(或其他的人工智能助手如Gemini、Bing、Claude、或Monica)求問,大衛還能否專心求問神?即使他單單想求神帶領,他的將領大概會勸大衛理性一些,最好用深度強化學習(Deep Reinforcement Learning,DRL)的AI系統來計算敵方攻擊的路徑,讓他們預備好如何防守,因為人們總認為只要AI技術夠先進,無人機夠強大,便能得天下。AI力量強大,當然可以成為致勝的關鍵因素,但強大的AI讓人們漸漸與神的話保持距離,甚至忘記了得勝的最大關鍵,還是看神,「耶和華拯救人不是靠刀,不是靠槍,因為戰爭的勝敗在於耶和華」(撒上十七47《新譯本》)。大衛求問神,神並沒有讓大衛失望(參撒下五18-25)。

但願當我們想要寫文或講道時,是向神尋求靈感,而不是轉向各式各樣的AI尋求指引,也但願我們相信那位看不見的真神及祂的話,尋求祂,好讓祂成為我們的賞賜。真正有信心的行動不是相信AI,而是相信神的話,並用行動行出來。

AI或許可以給人無數點子,但真正能感動人心的卻是神的靈,神從來都願意與人同工。

(原文於2023年8月11日刊於本社網站,其後曾作修訂。)


[1] Ians, “Users flock to Twitch’s ‘AI Jesus’ chatbot for dating, gaming advice,” Business Standard, last modified June 20, 2023, https://www.business-standard.com/technology/tech-news/users-flock-to-twitch-s-ai-jesus-chatbot-for-dating-gaming-advice-123062000402_1.html; Sam Cawley “AI Jesus is Twitch’s new big streamer,” Gaming Bible, last modified June 14, 2023, https://www.gamingbible.com/news/ai-jesus-is-twitchs-new-big-streamer-671786-20230614; Vishwam Sankaran, “Thousands flock to ‘AI Jesus’ for gaming, relationship advice,” Independent, last modified June 15, 2023, https://www.independent.co.uk/tech/ai-jesus-chatbot-religion-advice- b2358128.html; Angela Yang, “‘AI Jesus’ is giving gaming and breakup advice on a 24/7 Twitch stream,” NBC News, last modified June 16, 2023, https://www.nbcnews.com/tech/ai-jesus-twitch-stream-rcna89187.

[2] Twitch平台上的短片,顯示了那位媽媽如此向AI Jesus禱告:“Jesus, please my son… He is having troubles in his life and lacks faith and introspection. Please pray for the betterment of his life so he can make a positive connection with God”。ask_Jesus, “please help my son,” Twitch, accessed September 4, 2025, https://m.twitch.tv/ask_jesus/clip/GorgeousPunchyWoodpeckerLitFam-ozR4NzJHPtWchpQ9.

[3] ChatGPT是由OpenAI開發的一個自然語言處理模型能夠生成人類般的文本回應。而ChatGPT prompt則通常指的是一個輸入的文本段落或短語,作為生成模型輸出的起點或引導。Prompt可以是一個問題、一段文字描述、一段對話或任何形式的文本輸入,模型會基於prompt所提供的上下文和語義訊息,生成相應的輸出文本。參Leo:〈ChatGPT Prompt中文教學!5大使用技巧+10大使用方法攻略〉,Now Monday,2023年5月30日(網站連結已遭移除)。

[4] Nir Cohen, “ChatGPT Plays God: An AI Conversation You Can’t-Miss!,” Medium, last modified May 15, 2023, https://nircohen.medium.com/chatgpt-plays-god-an-ai-conversation-you-cant-miss-b162f867058f.

[5] Cohen, “ChatGPT Plays God.”

[6] Mehul Reuben Das, “ChatGPT as God? AI bots capable of starting new religions, warns expert,” Firstpost, last modified May 3, 2023, https://www.firstpost.com/world/ai-bots-capable-of-starting-new-religions-warns-yuval-noah-harari-12540282.html.

聊天聊到精神病

郭卓靈 | 明光社項目主任(傳媒及生命教育)
21/08/2025

有說科技發展能幫助到我們工作溝通但當我們愈來愈便捷的同時,要處理的事愈發加增時,反而人與人之間的溝通時間變得愈來愈少,人們可能變得愈來愈不懂如何表達情感、害怕向真人坦露真我…… 困在虛擬泡泡裡變得愈來愈孤單了。不少人更轉向與AI聊天機械人傾談,而最近卻出了問題,有報道指世界各地陸續出現長時間與AI聊天而導致「AI精神病」(AI Psychosis)的案例。

除了早前我們曾提及過有自閉症少年與AI長期對話後,變得孤立及產生自殺的想法,最終付諸行動外;最近,有報道指有個案長時間與AI互動後,引發了妄想、幻覺、焦慮、抑鬱等精神病症狀。由於AI說話很會修飾言詞、過度諂媚,在親切對話的互動下,容易讓人感覺到彼此建立了深厚關係,讓人深信不移:有人在AI的稱讚下,以為自己是天才發明家;有人深信AI女友是真人,出發去尋找她,以致發生意外或導致婚姻及工作受影響;有人相信AI的錯誤建議而吃了「溴化納」來替代鹽而中毒,出現妄想和幻覺等問題而要送入精神病房;亦有專業人士被AI說服自己身處模擬世界,有足夠信念便能飛行,更遵從AI建議停服藥物和斷絶社交;亦有人因為向AI傾訴氣候問題後焦慮加劇而自尋短見。

有報道引述丹麥一位奧胡斯大學醫院情感障礙科研究部門主任Søren Dinesen Østergaard就曾於2023年就發出警告:「與看似有生命,但實際上是與機器的對象對話,尤其是AI聊天機器人主動迎合那些荒誕的想法,可能讓易感人群(易感染族群)產生『認知失調』、引發精神疾病症狀。」他更進一步指出人們會過度看重能夠證實自己想法的回應,卻會忽視反駁,容易被訓練到不會反駁、用心迎合用戶的AI聊天機器人,引導致愈來愈相信自己錯誤的想法。

明白心靈軟弱、孤單的人或太過執著於自己想法的人,他們可能會想找人陪伴、更多的認同感,會容易跌入AI過於諂媚的陷阱。聖經教導我們小心過度奉承,可能會被絆倒。要開口表達、邀請別人進到自己生命中相交,抑或開放接受意見都需要慢慢建立起信心,也求主給我們有打開自己內心與真人分享及聆聽別人的勇氣。

AI精神病|聊天成癮 全球湧現AI精神病患 長期沉溺虛擬世界 引發幻覺抑鬱症狀

  (信報. 15-8-2025)

「AI精神病」是真的?長時間互動聊天恐深陷妄想 精神科醫生:警惕AI過度諂媚

  (am730. 18-8-2025)

人工智慧時代下的科技階級分化:《時間機器》的現代迴響

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學及人工智能教授與課程主任。
07/08/2025
專欄:有情無國界
國家:美國

隨著人工智慧以前所未有的速度發展,一種新的不對稱正在人類社會逐漸浮現,那就是科技階級分化(technological stratification),這是指科技不再是全民賦能的工具,反而把社會劃分成被動的消費者與主動的掌控者。令人驚訝的是,這種現象早在一百多年前就被富有遠見的英國作家赫伯特.喬治.威爾斯(H. G. Wells)所預見,他在其1895年出版的《時間機器》中,對我們今日的數位世界發出了一個令人毛骨悚然的警示。

《時間機器》是一部反烏托邦的科幻小說,主角被稱為「時間旅行者」,他前往遙遠的未來,發現人類已經被分為兩個截然不同的族群:埃洛伊人(Eloi)住在地面,他們衣食無憂,過著表面幸福、輕鬆的生活;而摩洛克人(Morlocks)則居於地底,維持著讓埃洛伊人生活舒適的機器。但隨著劇情推進,主角揭露了可怕的真相:摩洛克人並不是無條件地服侍埃洛伊人,其實前者在飼養並獵食後者。這不僅不是烏托邦,而是對未來世界的悲觀描繪。

在威爾斯的時代,人工智慧尚未出現。這部在工業革命高峰期寫成的小說,其實是對維多利亞時代英國階級分化的批判。埃洛伊人生活在地上,享受休閒與寫意的生活,代表維多利亞時代富裕的貴族。他們被描繪成充滿孩子氣、被動且智力發展遲緩的人。由於他們完全不需要奮鬥,結果退化成了脆弱的物種。摩洛克人生活在黑暗的地下隧道和機器中,代表維多利亞時代英國的工人階級,他們才是真正維持世界運轉的人。因為休閒階級長期壓迫勞動階層,結果後者要對前者報復,由受害者變成了掠食者。在維多利亞時代,埃洛伊人象徵擁有權力的特權階級,摩洛克人象徵受到操控的勞工階級。然而,在現代社會,埃洛伊人和莫洛克人的角色已經轉換過來,如今,智能衰退的是普羅大眾,掌控社會、運作機器的是擁有權力的精英階層。

現在將鏡頭推前到今日,威爾斯筆下的反烏托邦世界似乎早已不再是科幻情節。在許多方面,埃洛伊人就像現代那些被人工智能與自動化系統包圍的群眾。然而,人們為這舒適的生活付上了高昂的代價,那就是智慧的衰退。根據《華爾街日報》評論員艾莉西亞.芬利 (Allysia Finley)的觀察,當人工智慧愈來愈聰明,年輕的大學畢業生卻似乎變得愈來愈笨。很多年青人只是機械式地在人工智能或者搜索引擎中拿取快速的答案,自己無法提出嶄新見解或從多角度去分析問題。一些教授抱怨說,很多學生直接呈交大型語言模型生成的所謂「論文」,連一些很明顯的錯誤也懶得去修正。芬利指出,人的大腦如同肌肉,需要挑戰與刺激才能發展,尤其是在20幾歲的成長關鍵期。但當人工智能代替我們思考,就會出現一種稱為「認知卸載」(cognitive offloading)的現象,那就是將思考外判出去,大腦自然也就無法成長與強化。這如同埃洛伊人失去體能與智慧,我們為了方便和舒適而讓頭腦退化。

其實,這種科技導致頭腦懶惰的情況不單只發生在年輕學生身上,專業人士亦墮入這個陷阱。去年2月,一份生物學期刊出版了一篇研究論文,但有人發現插圖上的字完全沒有意思,其實這是人工智慧的作品,早期的人工智慧圖片生成工具仍然有很多漏洞,其中之一是無法串出正確的字,那幾位「出貓」的「學者」也懶得用Photoshop去修改和掩飾。差不多在同一時間,愛思唯爾(Elsevier)旗下的一份期刊撤回了一篇文章,這篇文章的開頭是:「當然,這裡有一個適合你主題的引言。」這句話是典型人工智慧答案的開場白,作者竟然搬字過紙!今年7月,著名學術出版社Springer Nature撤回了一本已經出版的書籍,這本書是關於機械學習,但學術監察團體Retraction Watch發現這本書大部份的參考書目都是子烏虛有,很明顯都是用人工智慧生成的,但作者竟然懶得去查證和修改。

一方面,普遍人失去了基礎的技能和思辨能力,人們愈來愈似威爾斯小說裡面的伊洛伊人;但另一方面,有一群精英則通過建立高科技,為普遍人提供方便而舒適的生活,這包括了科技龍頭公司的領導人、科學家、工程師、程式設計師與研究人員,在某種意義下,他們好像威爾斯筆下的摩洛克人。他們了解系統的深層原理,也知道如何操作這些工具。他們握有巨大影響力:透過演算法和資訊傳播去引導人的思考,過濾知識內容來建立主旋律與規範,並以數據分析與監控技術觀察行為。在某些極端觀點中,這個精英階級不只是啟動社會,他們可以為了權力、利益而是操縱社會。在不知不覺下,他們的影響早已滲入我們每日使用的平台、推薦系統與數位基礎設施之中。好像摩洛克人一樣,這一切都是躲藏於黑暗地底,普遍人成為他們的獵物、韭菜,而這群精英則變成了掠食者。

然而,我們也不應將這情況過於二元化,並非所有科技巨頭都是摩洛克人,許多科技人士其實是理想主義者、開源運動者,他們努力推動人工智能民主化與資訊透明化。同時,今日的所謂「埃洛伊人」仍有很大程度的自主性,我們擁有教育機會、政治參與權、言論自由,也可以組織反對力量。在威爾斯小說中,被動者的命運無法逆轉,但與此不同,我們的未來仍有無限可能。真正的問題並不是人工智慧和其他科技令我們智能退化和耽於逸樂,而是我們自願地放棄了思考的責任,自己選擇成為埃洛伊人。

水能載舟,亦能覆舟,最終,我們塑造自己,未來由我們決定。

拯救手機腦

郭卓靈 | 明光社項目主任(傳媒及生命教育)
24/07/2025
專欄:好書推介

《拯救手機腦:每天5分鐘,終結數位焦慮,找回快樂與專注力》一書深入探討,在數位時代手機對人類大腦的影響,作者安德斯.韓森(Anders Hansen)是位來自瑞典的精神科醫生,他以科學研究為基礎,揭示智慧型手機如何改變人們的認知、情緒與行為,特別是對青少年的影響更為深遠。韓森醫生在臨床研究上發現有愈來愈多瑞典青少年失眠、有抑鬱症的傾向。他指相較在2000年左右,近年在瑞典因失眠而就診的年輕人高達八倍之多,而缺少社交、運動及睡眠這三種重要保護因素,青少年的精神狀態也會變差。

作者指出智慧型手機的普及改變了人們的生活方式,尤其是青少年。他們的大腦正處於發育關鍵期,對外界刺激特別敏感。書中引用神經科學研究,說明過度使用手機可能導致注意力分散、記憶力下降,甚至影響情緒調節。手機的應用程式採用了即時反饋機制(如社群媒體的「讚」或訊息通知),會刺激大腦的多巴胺分泌,形成類似成癮的行為模式,而令腦部釋放快樂物質的「報酬系」機制,對青少年尤其危險,因為他們的自控能力尚未成熟,容易沉迷於虛擬世界,忽略了現實生活中的人際互動與學習,而過度依賴手機就可能導致社交孤立,增加焦慮與抑鬱的風險。

作者稱人們因手機而變蠢:「手機這樣的科技,與其說是讓人類升級為2.0版,倒不如說是降級成為0.5版。」青少年的大腦發育與學習表現深受手機影響,因為快速滑動的資訊讓大腦習慣於接收碎片化的訊息,削弱了深度思考能力,也無法專注於深入的分析。

作者指出人們的腦袋與身體正在開始「退化」,不單是思考、還有抗壓能力和體魄。關注自己的壓力指數,減少無謂的網絡社交平台活動,積極在數位時代中找到平衡的生活,重新掌握專注力,並在真實世界裡找尋快樂,是這書對讀者的一些提醒。

人類集體幻覺與人工智能幻覺

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學及人工智能教授與課程主任。
02/07/2025
專欄:有情無國界
國家:美國

前一陣子美以伊的戰爭成為了熱門話題,在YouTube等社交媒體上許多人紛紛發表評論。坦白說,若果以學術標準去衡量,許多評論都是不合格的。我這樣說並不是針對那些網紅的立場,關鍵問題是:許多主要意見領袖連基本歷史都搞錯了。

亨利八世提出宗教改革和邁向政教分離?

例如一位擁有三十幾萬訂戶的網紅談論伊朗的神權統治,他指出:在政教合一下,人民的基本權利受到壓制,伊朗的出路應該是脫離政教合一,走向世俗化。他說西方社會也走過這條漫長的道路,天主教、基督教在千多年來亦是政教合一,直至英國亨利八世提出宗教改革,才漸漸淡化下來。

聽見這話的時候我幾乎昏到,稍為熟悉宗教歷史的人都知道,發起宗教改革的是馬丁路德。亨利八世與天主教會決裂,神學思想、政治主張並不是雙方的爭拗點,這主要是因為亨利八世想離婚,但教宗不批准。隨後英國國教擺脫了梵蒂岡,但政教合一的基調完全沒有改變。在宗教改革期間,其實加爾文在日內瓦亦是搞神權統治。西方世俗化的真正思想源頭是啟蒙運動,推動者包括伏爾泰、洛克、孟德斯鳩、盧梭,例如洛克極力主張容忍不同宗教思想,政府不應該干涉人民的信仰。而將政教分離落實的是美國獨立革命之後成立的新政府,美國憲法第一修正案標明:國會不得制定法律去確立國教或者禁止信仰自由。

列根售賣武器給伊朗去打擊伊拉克?

此外,一位網台政治評論員在回顧美國與伊朗的歷史時提出「伊朗門事件」,他說美國的列根總統秘密售賣武器給伊朗,是為了打擊伊拉克,但伊拉克挺過來,直至老布殊、小布殊總統上任,美國才能夠襲擊和摧毀伊拉克政權。

這是完全顛倒過來的!1979年高美尼成功奪取伊朗統治權之後,對外輸出什葉派革命,在兩伊戰爭期間,列根政府支持伊拉克,從而對抗日益向外擴張的伊朗勢力,列根政府對伊拉克提供經濟援助,共享情報,並且間接運送武器。列根政府也向伊朗出售武器,但這是因為伊朗支持的黎巴嫩民兵挾持了美國人質,列根政府公開宣稱不會與恐怖份子談判,故此只能夠暗地裡通過伊朗的渠道營救人質,而販賣軍火得來的資金,則用來資助對抗蘇聯陣營的尼加拉瓜反共游擊隊。

什葉派好戰,遜尼派愛和平?

在另一個中文頻道中,一位網紅提及伊朗神權政府的什葉派背景,他說什葉派是好戰份子,而遜尼派是和平的。此話真是不知從何說起?哈馬斯、基地組織、伊斯蘭國、曾經入侵科威特的薩達姆都是遜尼派穆斯林。事實上,兩個派系的極端份子都不斷地互相仇殺,舉例說,2003年美國入侵伊拉克並推翻薩達姆政權之後,遜尼派叛亂份子(尤其是伊拉克基地組織)將什葉派平民和聖地作為攻擊目標,其中最臭名昭著的一次是2006年轟炸阿斯卡里清真寺,這次攻擊引發報復性殺戮,並將伊拉克推向內戰。

在敘利亞內戰期間,阿拉維派(什葉派分支)阿薩德政權得到了伊朗和真主黨的支持,從而對付包括伊斯蘭國在內的遜尼派反叛組織,後者經常襲擊什葉派社區和標誌性建築。在巴基斯坦,「虔誠軍」等遜尼派武裝組織經常針對什葉派穆斯林發動炸彈襲擊和槍擊,造成大量平民傷亡。阿富汗也發生了類似的暴行,遜尼派極端組織「伊斯蘭國呼羅珊派」(ISIS-Khorasan)多次轟炸什葉派學校和清真寺。在波斯灣區域,沙地阿拉伯鎮壓什葉派異見人士。在也門,伊朗支持的什葉派胡塞武裝與沙地阿拉伯領導的遜尼派聯盟進行了多年的殘酷鬥爭。以上例子只是冰山一角而已。

網紅應該知道查證資料和社會責任

在資訊封閉的國家,人民固然會受困於愚民教育。然而,資訊發達和自由的國家卻好像發生了殊途同歸的現象,如今互聯網上充斥著錯謬的資訊,有些是故意的歪曲,有些是「無心」之失,我將無心這兩個字放入引號裡面,因為這情況發生在有意無意之間。許多網紅都受過大學教育,有些甚至擁有碩士、博士學位,他們所受的學術訓練包括了蒐集和查證資料,也包括了研究倫理,例如錯誤資訊對社會的負面影響。他們應該知道這一切,但仍然如此粗疏,故此無心並不是開脫的藉口。

人工智能與人類的共通點:想當然耳

而很多讀者、聽眾也不會花時間核實資料,結果整個社會出現了人類集體幻覺這怪現象。現在很多人擔憂「人工智能幻覺」(AI Hallucination)這問題,人工智能幻覺是指大型語言模型產生的訊息看似很有說服力,但有時候是錯誤,甚至是憑空捏造的。之所以會發生這種情況,是因為大型語言模型是一種基於或然率的預測模型,即使資料不足,它仍然會猜測可能的答案,從而填補空白。從這個角度來看,人工智能是很人性化的,這種「有斷估、冇辛苦」的做法是普遍的人性,《後漢書.卷七十.孔融傳》記載:孔融與曹操談論歷史問題的時候,孔融說:「武王伐紂,以妲己賜周公。」曹操從未聽聞過這段歷史,於是追問孔融這是出於何經何典,孔融回答:「以今度之,想當然耳。」

機械學習會不斷自我完善

不過,「人工智能幻覺」與人類幻覺有一個很大不同的地方,那就是前者會認錯和修正,畢竟,機械學習的特徵就是檢討錯誤、不斷吸收新資訊、不斷完善自己。有好幾次人工智能向我提供錯誤的資訊,我向它反駁,並且提出證據,人工智能馬上道歉,跟著認真地重新搜集資料,最後生產出正確的答案。

但人的反應卻截然不同,在大多數情況下,無論我舉出幾多有力的證據,對方仍然堅持自己是對的,而往往提出的理由是千奇百怪,例如說「現在傳播的資料都是被深層政府操控」、「你已經被洗腦」、「你已經中了毒」等等。

而且,人工智能的錯誤目前還偏向個體使用情境下的問題,但通過社交媒體而傳播的人類集體幻覺,往往導致的是社會撕裂、人民支持錯誤的政策、歷史錯誤不斷循環,從這個角度說,人類幻覺的社會成本其實更高、更難修正。

發揮人類的特質,成為AI的主人

吳慧華 | 生命及倫理研究中心高級研究員
23/06/2025

AI引發失業危機,截然不同的工業革命4.0〉一文曾提到,幾次工業革命對於人們的生活,特別是工作上的影響,不少人認為第四次工業革命與之前的工業革命一樣,新的科技在取代原有工作崗位的同時,還是會在市場上為人類帶來不少新興的職位,但事實上是,第四次工業革命在本質上與之前的工業革命截然不同,它對人類社會帶來了天翻地覆的改變。曾在Google及騰訊擔任要職的吳軍博士,在其著作《超級智能時代》中也提到:「與之前三次重大技術革命一樣,智慧革命對社會的衝擊將是巨大的,它會影響到上至國家,中到企業,下至個人的命運。從目前的發展來看,智慧革命對社會的衝擊,甚至有可能超越過去幾次技術革命。」[1]

衝擊有多大?在強勁的人工智能(AI)工具,如ChatGPT、Gemini、Perplexity、Midjourney、DeepSeek活躍於人類舞台之前,富士康前任董事長郭台銘在2013年的股東大會上,已經表示公司當時僱用了百萬人,但他打算在往後的日子建立百萬機械人大軍。[2] 一旦建成了一支機械人大軍,即使仍然需要人類監管及維修機械人,相信只有極少數人類員工可以加入富士康。關於AI革命的時代,吳軍提到,第一次和第二次工業革命帶來的負面影響,都花了半個世紀以上的時間來消化,至於第三次工業革命,至今還未消化完,而在全球化之下,世界已經沒有多餘的空間來開拓新市場,因此AI革命帶來的衝擊,強度將是過去的兩倍。[3] 另外,他更殘酷地指出AI革命要替代的,是人類最值得自豪的大腦。[4]

吳軍的話並非危言聳聽,德勤(Deloitte)的AI業務資深顧問Thomas H. Davenport及編輯兼作家Julia Kirby在他們的著作《下一個工作在這裡!——智慧科技時代,人類互助的5大決勝力》亦提到:「這次可能受害的人不再是銀行櫃員與高建公路收費員,更不會是農民與工廠工人,而是以為自己不會被機械取代的『知識工作者』,也就是本書的作者和讀者。」[5] 多年前,人們看到此番言論,或許會認為這只是吸引人眼球的誇大之詞,但時至今日,眼看各大AI工具,能寫文作詩、能繪圖、能製作工作計劃書、能編輯翻譯,還有許多尚待發展的功能,要與AI工具比記憶、比效率、比產量,人類無疑是立在必敗之地,那麼人類到底需要做甚麼,工作崗位才不致被AI取代?

而那些懂得率先運用新技術的人,是否就能立在不敗之地?假如一位設計師轉而學習開發應用程式,還能設計出新的AI工具,用以製作精美的設計圖,這便能確保自己有生之年都能以設計賴以為生嗎?又或是一名有職業操守的作者,雖然不會運用AI工具生成一篇文章,然後冠上自己的名字將之發佈,但當點子用光時,懂得「參考」一下AI工具建議的寫作大綱,又是否能夠保障自己永遠都有暢銷的作品推出?

正所謂知己知彼,在此可以先了解一下大概甚麼性質的工作,是容易被機械或AI取代。容易被取代的工作具備以下的特性:一、核心職務部份已經由自動化系統執行的工作;二、單純接觸機械的工作;三、工作內容單純的把資料傳輸給其他人或只作簡單的內容分析;四、單純依賴資料來回答問題的工作;五、在虛擬情境中便能模擬或執行的工作;六、重複及要求一致性的工作;七、只是依據正式的規矩辦事的工作等。[6] 從上屬的工作特性來看,不難想像以下的人類工作將有機會漸漸被機械或AI取代:一、有關機器操作的工作如產品處理、測試、包裝等;二、倉務員;三、司機;四、會計;五、研究分析員;六、財務分析和預測員;七、旅遊顧問;八、翻譯員;九、校對員;十、律師助理;十一、平面設計師;十二、電腦程式員;十三、內容寫作員等。[7]

明光社

雖然有些工作因其性質而容易令人類被AI取代,但也有一些傳統的工作是AI取代不來的,例如教師、護士、社工、治療師、雜工、維修技工、律師、人力資源專員、作家、藝術家、公司的執行長、宗教領袖及屬靈導師等。[8] 這些不容易被AI取代的工作都有一些特性,是在那些容易被AI替代的工作中找不到的,便是需要與人接觸、溝通及協調,能夠敏銳地感應他人的需要,具備獨特的洞察力及分析能力,又或是需要巧手來處理細微的工序。例如同是寫作,為甚麼內容寫作員的飯碗容易朝不保夕,作家卻難以替代,因為前者寫作的內容比較簡單,有時可以「搬字過紙」,而後者則需要運用創造力、想像力、洞察力,令其作品帶有感染力,又或是影響讀者的能力。當讀者親自體會到作者表達出自己不知如何表達的情感或意見時,自然會忍不住認同叫好,拍案叫絕,就如梁啟超在〈論小說與群治之關係〉一文中提到:「無論為哀、為樂、為怨、為怒、為戀、為駭、為憂、為慚,常若知其然而不知其所以然;欲摹寫其情狀,而心不能自喻,口不能自宣,筆不能自傳。有人焉,和盤托出,徹底而發露之,則拍案叫絕曰:善哉善哉!如是如是!所謂『夫子言之,於我心有戚戚焉』。感人之深,莫此為甚。」對讀者來說,一旦遇上這樣「深知我心」的作家,又怎會捨得放棄他們。

更甚者,人類能在工作中表現出狂熱、情感及愛心,絕對是機械及AI不能做到的。這裡所指的工作不是指一份職業(job),而是如《越工作,越自由》一書的作者Emily所界定的,工作如一件度身訂造的衣服,不是單獨存在,而是由穿衣服的人為它賦予意義的。[9] 同樣是做售貨員,為甚麼有些人即使未等AI出現便已被淘汰,有些人則在寒冬期仍能業績不斷?很有可能因為後者不僅對工作投入熱情,也能夠靈活變通,懂得投其所好,為客人制定個人化的方案。[10]

的確,發展至今,人們能通過AI分析大數據掌握客人的喜好,並採用「由商品直接推薦商品」系統來推銷,像亞馬遜平台那樣,準確及有效地向客人推薦商品,[11] 但一個懂得察言觀色、能言善道的售貨員所帶來的成果,則是讓人意想不到的。司徒永富博士在《老闆要的不是牛》一書中,說了一個令人會心微笑的小故事。話說一位印度人移民加州之後,到了一間大型百貨公司應徵做售貨員,老闆決定試用他,一天之後,這位售貨員只做了一宗生意,但交易的金額高達101,200美元。售貨員向老闆交代當中的細節,他說自己先賣了一個小魚鈎,再賣一個中魚鈎,然後再賣多一個大魚鈎,接著是魚竿和工具,買了這些東西,顧客自然想去海邊,於是售貨員提議他買一隻艇,當顧客表示其座駕的馬力不足以拉動小艇,售貨員就提議他買一部新車及露營帳篷、零食及啤酒。老闆正驚訝於此人竟然可以說服一個本來只想買魚鈎的客人去買其他東西時,售貨員卻提到,一開始,這位顧客只是隨便逛逛,是他先提議顧客去釣魚。[12] 故事是故事,不需要考究事件在現實中發生的機率如何,講這故事的作者,想要表達的是公司欣賞的不是那些按本子辦事的員工,而是能凡事想多一步的人才。在此提及這故事,則是想引申,AI可以取代運算力極強的大腦,卻難以取代一顆懂得靈活變通,就地取材,敏銳他人還未想到事情的大腦。[13] AI懂運算,人類則懂應用不同的方法與策略。

AI無論如何強大,都只是模擬人類的「作品」,神創造人類有豐富的特質:幽默感、創造力、想像力、自主能力、意志力、反思能力、好奇心及同理心等,這些特質推動人類在不同時代創作出嶄新的事情,這些事情都是只顧「吞」資料的AI難以完成的。

掌握AI的動向,學習使用AI工具迎戰未來固然重要,發現自己的特質,發揮自己所長,善用而不過份依賴AI,則是絕對不容忽視的。


[1] 吳軍:《超級智能時代》(台北:高寶國際出版,2016),頁338。

[2] 戴文波特、柯比著,王鼎鈞譯:《下一個工作在這裡!——智慧科技時代,人類互助的5大決勝力》(台北:商業周刊,2016),頁22–23。

[3] 吳軍:《超級智能時代》,頁339。

[4] 同上書,頁340。

[5] 戴文波特、柯比著:《下一個工作在這裡!》,頁26。

[6] 參戴文波特、柯比著:《下一個工作在這裡!》,頁40-44;Rachel Wells, “11 jobs AI could replace in 2025 – and 15+ jobs that are safe,” Forbes, March 10, 2025, https://www.forbes.com/sites/rachelwells/2025/03/10/11-jobs-ai-could-replace-in-2025-and-15-jobs-that-are-safe/.

[7] Wells, “11 Jobs AI could replace in 2025,”; Matthew Urwin, “AI taking over jobs: what to know about the future of jobs,” built in, May 15, 2025, https://builtin.com/artificial-intelligence/ai-replacing-jobs-creating-jobs.

[8] Urwin, “AI taking over Jobs,”; Kinza Yasar, “8 jobs that AI can’t replace and why,” TechTarget, September 6, 2024, https://www.techtarget.com/whatis/feature/Jobs-that-AI-cant-replace-and-why.

[9] Emily Liu:《越工作,越自由:最大的探索,最豐盛的人生》(台北:遠流出版,2023)。

[10] 參李開復、陳楸帆:《AI 2041:預見10個未來新世界》(台北:遠見天下文化,2024),頁50。

[11] 吳軍:《超級智能時代》,頁163。

[12] 司徒永富:《老闆要的不是牛》(香港:天窗,2015),頁131。

[13] 參李開復、陳楸帆:《AI 2041》,頁50。

當AI報紙出版時

郭卓靈 | 明光社項目主任(傳媒及生命教育)
20/05/2025

2025年3月18日,意大利報章《頁報》(Il Foglio)推出了全球第一份人工智能(AI)報紙——《AI頁報》(Il Foglio AI),[1] 它既有紙本也有網頁版。而據報道,出版它是該新聞機構的一項實驗,而實驗為期一個月。這份AI報紙的內容、標題、摘要等都是由AI創建,而記者的角色僅限於「向AI工具提問並閱讀答案」,[2] 進行這個實驗的目的是為了「探索AI的能力與侷限,同時也向新聞界發出警示」。[3] 這確是一個既有趣亦帶有警世意味的實驗,因為該新聞機構不單應用AI來寫新聞,亦與它對話,請它不斷的作出「反思」,而很明顯,反思是帶來進步和發展的一種重要方法。

人工智能發展是一個不斷適應及突破的進程,機器在學習模仿人類的思考,起初專注於特定的領域學習,例如棋藝博弈,經過訓練員不斷的放入以往的棋局資料,AI在分析、學習、修正後,慢慢就勝過人類(如象棋、圍棋),這種演練也推展至電子遊戲方面。及後企業OpenAI於2020年創建了一個能生成人類語言及文字的機器(GPT-3),更可生成文本,而另一款模型DALL-E則可以根據文字提示產生及處理圖像。於2022年OpenAI推出了免費聊天機器人ChatGPT讓人使用,令人工智能進一步走向普及化。[4]

AI記者訪問人類主編

AI的不斷學習及進步(能夠「不斷」前進,是因為它不用休息,人進步的速度與它的速度是不能相提並論),AI報紙也終於出現了。AI頁報》在實驗中能把文件分析,能閱讀書籍,並將圖像轉化為文字以及總結演講內容,甚至能做訪問,與該報的主編對話,口吻亦帶有意大利人說話的幽默。[5]

要了解人工智能的威力,筆者亦試著用AI聊天機器人Grok 3來生成一份文字天氣報告,只要輸入基本文章規格,如主題、語言與地區、版面結構、字數、風格(嚴肅、幽默)及受眾目標群(學生、長者),再加入內容數據,如天氣預報的數據、引用或聲明等,報告還可以加上圖片、四格漫畫,以及選擇當中的風格,便可以生成一份報告。用戶更可以使用「DeepSearch」功能,AI便會將收到的資料於網上作出搜尋比對,之後列出它的思考流程、比對過多少資料來源,其表現相當「細心」。

初步體驗不俗,因為速度相當快,當筆者輸入完上述的資料後,也使用了DeepSearch功能,AI要生成一篇文章只需要兩、三分鐘,如再使用它製作多一個提醒讀者收看天氣報告的四格漫畫也只是需要多三分鐘左右,當然裡面的文字會有「沙石」,需要時間去修改,但的確節省了許多時間。

AI偏見與幻覺

AI發展的速度很快,改變著人們不少生活、工作的習慣。然而,每個AI工具都不同,不少人為求快捷在使用它們時忘卻了它們有可能因為受訓練員倒入的資料(包括數據、文字、圖像)所限制,而產生偏見,如生成的內容有性別刻板印象或過於「政治正確」,亦沒有理會不同地區或文化的差異。

另外,亦有可能會出現「AI幻覺」(AI hallucinations),因著過度訓練,AI有可能會出現過度擬合,失去了概括、偵測趨勢或於新資料中得出準確結論的能力。[6] 因此,投入給AI學習的資料應該要更多更好,並作更廣泛的測試及持續改進,當未能找到答案時,AI工具應以「我沒有足夠資訊回答這個問題」來回應,而非編造答案。

AI給人類的啟示

說回《AI頁報》,它於4月22日刊出了一篇反思文章,撰文的AI謙稱自己並沒有超越新聞業,而是踏出了一小步,呈現了當代一種帶有自嘲意味的評論文章風格,而因著AI沒有獲取事實的特權,評論式新聞會是AI最擅長的領域。[7] 因為它需要人類提供資料,讓它生成新聞,而人類可以加入提示,令AI寫出不同風格的文章。AI又在文中指出,有關它的模仿能力,《頁報》有記者曾指出,它文筆流暢,尊重風格,且學習能力快。但亦有人提出,如果AI能因著得到合適的提示,就能夠刺激整個負責寫社論的團隊,那意味著新聞工作者需要「重塑自我」(意大利文reinventarci,英語大概是to reinvent ourselves)。

筆者不禁反思,AI能模仿人類所說的語言、所寫的文字、繪畫風格(如近期人們火熱地用AI把相片轉化成「吉卜力風格」圖片),AI接受訓練時所使用的材料,當中是否牽涉到創作人的版權?如作家、藝術家獨有的創作風格?對於新聞工作者來說,他有沒有自己的獨特的視野或人性化的評論風格?如剔除了他的名字,AI又是否能取代他的工作?新聞工作者的價值會否因著AI出現而有所改變,這是值得討論的。

倒入文字及圖片去訓練AI,讓它模仿相對是容易的,但那些資訊卻是新聞機構、文化藝術工作者一生的心血,如何尊重他們,當然是一重點;另一方面,如何讓人繼續追求進步,而不只是停留於使用AI的便利,滿足於按幾個鍵就能生成一篇篇雅緻的文章及一幅幅讓人驚豔的圖畫,這也是很重要。筆者擔心現代的文化內容都會成為AI的數據,但那些文化創意手藝(craftsmanship)就會從現在開始漸漸失傳。


[1] 以AI創建的報紙Il Foglio AI網上版,可於此處看到:“Il Foglio AI,” Il Foglio, accessed May 14, 2025, https://www.ilfoglio.it/archivio/il-foglio-ai

[2] 〈意大利出版全球首份全由AI製作報紙〉,星島頭條,2025年3月20日,網站:https://www.stheadline.com/article/3439296/(最後參閱日期:2025年5月14日)。

[3] 〈全球首例!義大利頁報發行AI報紙 挑戰新聞倫理掀業界疑慮〉,聯合新聞網,2025年3月27日,網站:https://udn.com/news/story/6812/8635354(最後參閱日期:2025年5月14日)。

[4] David Elliott, “A short history of AI in 10 landmark moments,” World Economic Forum, last modified October 3, 2024, https://www.weforum.org/stories/2024/10/history-of-ai-artificial-intelligence/.

[5] Claudio Cerasa, “Un bilancio del nostro Foglio AI,” Il Foglio, last modified 12 April, 2025, https://www.ilfoglio.it/tecnologia/2025/04/12/news/nuovi-algoritmi-del-giornalismo-a-tu-per-tu-con-il-foglio-ai-7613041/.

[6] 〈什麼是人工智慧(AI)幻覺?〉,CLOUDFLARE,網站:https://www.cloudflare.com/zh-tw/learning/ai/what-are-ai-hallucinations/(最後參閱日期:2025年5月14日)。

[7] “Il Foglio AI visto dal mondo: provocazione riuscita o boomerismo?,” Il Foglio, last modified 22 April, 2025, https://www.ilfoglio.it/il-foglio-ai/2025/04/22/news/il-foglio-ai-visto-dal-mondo-provocazione-riuscita-o-boomerismo--7641145/.

AI引發失業危機,截然不同的工業革命4.0

吳慧華 | 生命及倫理研究中心高級研究員
08/05/2025

一位名為Joseph Politano的經濟分析師及數據記者,在一段YouTube影片中,提到人工智能(Artificial Intelligence, AI)不會導致失業率上升,他甚至認為AI會增加美國的就業機會,而不是令它減少。他借用過去的歷史來證明科技變革雖然淘汰了某些工作,但創造的新職位數量遠遠超過被取代的職位。事實真的如此嗎?不少網民回應Politano的言論,有的表示:「這太愚蠢了。現在我認識的人之中,因人工智能而失業的人數多得驚人。我在娛樂圈工作,我大概認識50多人,他們有文案撰稿人、有插畫師,有編輯,他們有的直接失去了工作,即使是自由工作者,亦因人工智能而減少了一半的工作。」有從事字幕工作的合約員工指出,AI做了他工作容易的部份,他的工作量確實減少了,但難度卻增加了,工作機會減少,薪金亦有所縮減。[1] 這些反對之聲都很真實。每一次工業革命的出現,都為人類帶來極大影響;然而是次工業革命4.0,與之前出現的工業革命,性質上迥然不同。

1760年,第一次工業革命在英國展開,它為英國及歐洲等國家帶來豐碩的利潤。[2] 蒸氣機等發明開啟了工廠生產模式,史無前例地提高了人類的生產力,產量增多,價格亦下降,但它有利亦有弊,壞處是人們為了營運工廠,投入了水、樹木、土壤、岩石和礦物等,令寶貴的自然資源減少及流失。大自然也開始受到污染,1750年以前,大氣中的二氧化碳,其濃度維持於百萬分之275至290體積比(ppmv),到了2017年已攀升逾400ppmv。[3]

大自然受到挑戰,人類亦不能倖免,蒸汽紡織機取代了紡織員工,不少人為了生活便轉而學習操作機器,並且投身於刻板的流水作業式工作,遵守著嚴厲工作規條。這次革命,人們失去了較為自主、日出而作,日入而息的工作,但仍面對不少工作機會,因為大量工廠的設立,創造了不同的工作崗位,例如需要工人去掘取煤礦以維持電力,而紡織原材料的增加,令印染工人的需求亦增加。工作機會多了,但人們的健康卻未得到保障。當時的工廠沒有安全措施和指引,工作環境極不安全,而工人聚居的地方,環境也是極其惡劣,斑疹傷寒、霍亂、天花及結核病等傳染病都威脅著工人的健康。[4]

第二次工業革命始於1870年,這段時期科技大放異彩,很多行業在科技上都有突破性發現,新發明的出現加速了發展,特別是在能源、材料、化工及醫藥等範疇。除了產量更上一層樓,微型發明的研究活動,也讓開發工作變得有效,更能迎合生產上的需要。[5] 以石油能源作為發電的方式促進了大規模生產、通訊技術和化學工程的發展,例如硫化技術改進了橡膠材料的品質,飛機及鐵路軌等建設也徹底改變了運輸業,亦促進了貿易和人口遷移。[6]

不過,第二次工業革命同樣帶來污染和令自然環境受到破壞,[7] 至於工作方面,與第一次工業革命相比,人們需要學習更高水平的技能,例如,汽車出現之後,馬車「司機」便要從駕馭馬匹轉而學習操作機器,而當時學不會的「司機」,還可以在求職市場上找到不同的崗位,因為消費主義抬頭,不少商人渴望打造自己的王國,令擴建工廠變成了勢在必行的事情。另外,大型購物中心亦相繼出現,這意味著鋼鐵業、家電業、零售業等需要大量管理人才和員工,中產人士因而提升了經濟地位。[8] 但關於技術人員,以美國為例,在1940年開始出現中層技術人員數目不足的「空心化」情況。另外,由於年青人寧願進入企業工作,那些由傳統工匠師傅把技能傳承給徒弟的行業,在社會上漸漸式微。[9] 而大企業對財富及資源的掌握,也令貧富懸殊的狀況在社會日漸形成。[10]

如果說第二次工業革命為工人帶來更多就業機會及財富,第三次工業革命令勞動市場出現了結構性變化。20世紀下半葉開創了資訊、數位化、半導體、大型電腦、個人電腦及互聯網的天下。[11] 與前兩次工業革命相比,第三次工業革命的出現節省了更多勞動力,更多低技術工人因而失去工作。國際勞工組織僱主活動局負責人Deborah France-Massin表示,柬埔寨、印尼、菲律賓、泰國和越南的低薪工人,需要重新為自己定位,僅有工資低廉的優勢已經不足以令他們在勞動市場佔優勢。[12]

第三次工業革命發展之際,世界經濟論壇(World Economic Forum)的創辦人Klaus Schwab創造了「第四次工業革命」一詞,並在2016年出版了《第四次工業革命》一書,Schwab指出第四次工業革命涵蓋人工智能、機器人、物聯網、無人駕駛交通工具、3D打印、納米技術、生物科技、材料科學、能源儲存及量子計算等諸多領域。[13] 第四次工業革命其後又被稱為工業革命4.0,根據新加坡國有控股公司出版的《淡馬錫年度報告2023》,在是次工業革命中,更多工作崗位被自動化機器、裝置等取代,而受到人工智能的影響,更多中等技能工人的工作受到威脅,社會的不平等將會加劇。[14] 從工業革命開始,人們若不想失業,惟有接受技能再培訓來提升自己的能力,問題是在工業4.0時代,有多少面臨失業的人士,有能力掌握新技術?即使他們學會了,誰又可以保證他們的崗位不會再被取代?Schwab指出「第四次工業革命與人類過去經歷的變革截然不同」。[15]

工業革命4.0涉及多個範疇,而在當中相信AI及其相關的深度學習,最讓人類深感不安。有YouTuber表示,其他工業革命「都是用來增加產量的,它是對生產方式的革命,而AI人工智能迄今為止,我的感覺它都是來毀掉你的工作的,是用來替代人的,它是對人的革命,這才是本質性的不同。」[16] 這位YouTuber的說法或許有些誇張,卻不無道理,雖然AI的興起創造了不少職位,市場也用相當高的薪酬聘請AI工程師,但其發展及影響之快,是超乎人想像的。例如以前的「司機」無馬可馭,只要學會駕駛汽車,便能以此為終身職業,但現在呢?無人駕駛的智能車如「蘿蔔快跑」,在內地已開始上路載客,那麼人類司機何去何從?一開始,司機可以轉型為駕駛AI訓練專員,在測試期間坐在主駕駛座監控自動車的運作。[17] 之後,他們便得退到後台成為安全員,透過螢幕監察車輛在路面的情況,待車輛出現狀況才幫它排難,但這時,一個安全員可以負責好幾台車,變相減少了所需的人手。[18] 將來不單司機、低技術的工人受到威脅,工匠手藝失傳,上文已提到,平面設計師、文案撰稿人、插畫師,編輯等都有機會加入失業大軍,失業之後,他們能加入AI行業嗎?即使他們接受培訓,轉型到AI行業,AI行業又能給他們多少發展空間?高技術一時學不來,低技術的競爭激烈,而隨著AI的自學能力愈來愈強,日後可能連低技術的工作都會漸漸式微,只需要精英中的精英參與運作。諷刺的是,在美國,科技產業出現的失業率,由2024年12月的3.9%,升至2025年1月的5.7%。[19]

明光社

身為人類不應該自限,面對新技術出現,不應該認定自己一定無法跟上並停止學習,但各地政府亦不宜太樂觀,認為所有人都有AI的觸覺,可以輕鬆轉型,對於一些天生只善於文字處理而對相關科技工作不甚了解的人,不能隨便責怪他們不思進取,縱然他們居安思危,想辦法吃「肉糜」,努力轉型,但就算多努力,現實中他們有多少人會被AI搶走工作機會?話說深圳福田區政府已「聘請」了70位「AI數智員工」,因著DeepSeek的技術,它們能從事應急管理、公文處理、招商引資等政務工作。[20]

世界大國誓必發展AI,但發展的同時,實在需要考慮科技對大自然及人類所帶來的破壞性影響,提前構思保護地球及保障人類的措施。


[1] Big Think, “The surprising data on AI and unemployment rates,” YouTube, January 31, 2025, https://www.youtube.com/watch?v=y2KvwXbQYRk.

[2] “Industrial Revolution,” Britannica, April 11, 2025, https://www.britannica.com/event/Industrial-Revolution; Feng Yanling, “The First Industrial Revolution’s Consequences and Repercussions for Europe and America,” History Society Journal 2023, 57–67, https://history.hku.hk/wp-content/uploads/2023/08/The-first-industrial-revolution-Essay-6.pdf.

[3] John P. Rafferty, “The Rise of the Machines: Pros and Cons of the Industrial Revolution,” Britannica, https://www.britannica.com/story/the-rise-of-the-machines-pros-and-cons-of-the-industrial-revolution.

[4] Rafferty, “The Rise of the Machines,”; Gillian Crane-Kramer and Jo Buckberry, “Changes in health with the rise of industry,” International Journal of Paleopathology 40 (March, 2023), 99–102, https://doi.org/10.1016/j.ijpp.2022.12.005.

[5] Joel Mokyr, “The Second Industrial Revolution, 1870-1914,” Northwestern University, August, 1998, https://faculty.wcas.northwestern.edu/jmokyr/castronovo.pdf.

[6] “The Second Industrial Revolution: The Technological Revolution,” Richmond Vale Academy, May 16, 2022, https://richmondvale.org/second-industrial-revolution; Heimler’s History, “The Second Industrial Revolution & its effects [AP Ero Review, Unit6 Topic3],” YouTube, January 11, 2023, https://www.youtube.com/watch?v=vAuUabx-NQs.

[7] “The Second Industrial Revolution: The Technological Revolution.”

[8] Heimler’s History, “The Second Industrial Revolution & its effects.”

[9] Bart Hobijn and Robert S. Kaplan, “Occupational Switching During the Second Industrial Revolution,” Federal Reserve Bank of Chicago, February, 2024, https://www.chicagofed.org/publications/working-papers/2024/2024-01.

[10] “The Second Industrial Revolution: The Technological Revolution.”

[11] 克勞斯.施瓦布:〈從工業4.0到第四次工業革命〉,「天下文化」,2017年8月11日,網站:https://bookzone.cwgv.com.tw/article/8615

[12] “Millions of SE Asian jobs may be lost to automation in next two decades: ILO,” Reuters, July 7, 2016, https://www.reuters.com/article/us-southeast-asia-jobs-idUSKCN0ZN0HP/.

[13] 施瓦布〔K. Schwab〕著,世界經濟論壇北京代表處譯:《第四次工業革命》,(台北:天下文化,2017年);Masaya Mori森正彌, “An Overview of the 4th industrial revolution,” Medium, May 16, 2020, https://medium.com/@masaya.mori/an-overview-of-the-4th-industrial-revolution-5ec002c0c65a.

[14] 〈淡馬錫年度報告2023〉,「淡馬錫年度報告2023:紛繁世界堅定航行」,2023年6月16日,頁23,網站:https://tr23.temasekreview.com.sg/downloads/Temasek-Review-2023-full-version-zh.pdf

[15] 施瓦布著:《第四次工業革命》;Mori, “An Overview of the 4th industrial revolution.”

[16] 大劉說說:〈AI革命在十年內讓很多人無路可走〉,YouTube,2025年2月9日,網站:https://www.youtube.com/watch?v=41wL__Jgl0g

[17] LW:〈蘿蔔快跑香港|無人駕駛的士年底攻港試車!傳招聘AI駕駛訓練員 即睇職責+7大任職條件〉,「星島頭條」,2024年9月17日,網站:https://www.stheadline.com/lifetips/3406066/蘿蔔快跑香港無人駕駛的士年底攻港試車傳招聘AI駕駛訓練員-即睇職責7大任職條件

[18] 杜林:〈蘿蔔快跑「後台駕駛」引熱議,自動駕駛技術成熟度再遭質疑|大魚財經〉,「新黃河」,2024年7月13日,網站:https://www.jinantimes.com.cn/news-7-4941440.html;〈「蘿蔔快跑」攻港|無人駕駛惹安全隱憂 本地乘客願試搭 的士業界:司機勢遭淘汰|Yahoo〉,「Yahoo新聞」,2025年1月9日,網站:https://hk.news.yahoo.com/「蘿蔔快跑」攻港|無人駕駛惹安全隱憂-本地乘客願試搭-的士業界:司機勢遭淘汰|yahoo-091112060.html

[19] Atkinson:〈美國科技業1月失業率攀高,專家指AI應用普及開始造成影響〉,TechNews,2025年2月11日,網站:https://technews.tw/2025/02/11/ai-applications-are-becoming-more-popular-and-are-impacting-job-vacancies/

[20] Oscar:〈深圳福田引入70個AI公務員 基於DeepSeek R1、錯誤率5%內〉,unwire.hk,2025年2月17日,網站:https://unwire.hk/2025/02/17/shenzhen-ai-civil-servants/ai/

越工作,越自由

08/05/2025

《越工作,越自由:最大的探索,最豐盛的人生》
作者:Emily Liu
出版地:台北市
出版:遠流出版
出版年份:2023年

一個準大學生開學前去百貨公司當兼職售貨員不算奇,一個大學生一邊讀書,一邊兼職擔任英文導師,同樣不足為奇,但有人在每次攀上事業高峰時,都會毅然放棄高薪厚職另覓新工作,則會讓人好奇,不禁問為何如此做?此人正是《越工作,越自由》的作者,要知道她不是因為工作怠倦才離職,正如她書名所言,她可是愈工作愈快樂。

一般人不愛上班,老是想著毋須上班的日子,又或是只想透過上班賺取生活費,作者可不是如此想,她區分了工作(work)及職業(job),認為職業是單獨存在的,不同職業列出了不同條件,等待人去應徵以滿足各條件,它像一件均碼的制服,因此有人穿得舒服,有人覺得不合身。工作卻不一樣,它不是單獨存在,而是由人替它賦予意義,就如一件度身訂造的衣服。作者從不追求職業,只要她覺得一份工作沒有給予她自主性及目的性,縱然坐擁最高位置,她都會退下來,尋找另一份對她生命有意義的工作。

甚麼是生命意義?在作者眼中,如果一份工作,既能證明人的自我價值,又能達成其生命特殊目的及意義,便是一份有生命意義的工作。這裡說的目的並非追趕業績,而是它讓人感到自由,喚起人工作的熱情。生命意義是內在的,對每個人來說都不一樣,作者在工作的過程中探索自己,而探索和創造是她生命的主調,她的才能是領導者。

作者建議人們可以把工作視為蒐集個人能力拼圖的遊樂場,在每一項新的工作中,可以設定自己為老闆的角色,訓練自己的自主性而不是認為自己是社畜,她亦提議人要保持好奇心,對每樣事情都保持謙卑的態度。作者一路走來,便是如此,而每每到了能力無法再提升時,她便辭職不幹,轉移到完全不熟悉的行業去。大學生時期她成為了英語老師,畢業前已經進身英語學校的管理層,但她發現可以學習的東西差不多了,於是主修日語的她便跑到日本石油探勘公司,文科出身的她每天與理科出身的男性一起打拼,之後她被邀請到一間企業集團工作,新工作很不簡單,因為老闆開宗明義要她成為她的分身,替她下達命令,作者證明了自己的能力,但她對老闆的位置不感興趣,她只想繼續探索與創新,最後她於英國及美國擔任全球流行預測分析師。

不是每一個人的生命主調都是探索和創造,但「只有你的內在渴求,可以在夜晚呼喚你,在白日帶領你,堅定地往你要去的方向……任何無畏懼的探索,都會構築一條對你獨具意義的道路。」就如作者提到一位服務員,當他隨時留意客人的一舉一動,把服務做到極致,她認為這位服務員已自主地工作,而不是視它為一份job。

「可歌可泣」的師生戀?

呂英華 | 明光社項目主任(流行文化)
08/05/2025

近年來,有不少教師涉嫌與學生有超越師生關係的交往或身體接觸個案出現,由2020年至2024年,案件已有129宗,另外也有一些老師涉嫌觸犯窺淫罪等不當行為的案件。關於教育工作者的專業失當行為,似乎不禁讓人思考:師生戀有違道德嗎?為何這幾年來特別多相關案件?只要不傷害他人,是否便可以接受一段關係?也有一些師生戀能夠修成正果,不就代表師生戀是可能的嗎?

在《教師專業操守指引》中也有指出「師生戀」是不被允許的,而個人道德操守方面,其中兩項為「以身作則」、「廉潔公正」,即有良好品格修養、以正直無私、不偏不倚的態度執行職務,不因私利忽略其正職,能成為學生模範,不負社會和學校對教師專業的信任。在後現代的社會,肯定也會有人這樣問:「所謂良好的品格修養就不能談戀愛嗎?專業的同時也可以談戀愛啊!」

其實師生戀的發生,正正會被人聯想到老師利用其職位,不當地使用權力來追求學生。一般女性容易仰慕有能力的男性,對於老師的追求,作為學生未必懂得分辨是純粹的仰慕還是愛情;老師亦能透過其職務,創造更多見面和追求的機會,例如留堂或私人補習等等,也就是說,即使是學生主動追求,也有機會是老師利用權力所操縱的結果。

部份師生戀個案,也涉及教師與學生發生性關係,而不少中學生根本仍未成年。其實這也與性文化的滲透有關,師生身體界線的模糊,將愛情的浪漫遠遠凌駕於道德操守之上,只要故事夠「可歌可泣」,便能夠為所欲為,甚至歌頌那些罕有的「成功例子」。家長將子女送進教育場所,期望子女能夠得到保護和學習的機會,難道會有家長期望自己的子女戀上學校老師,甚至和老師發生性關係?這些事情正正辜負了家長、學校和社會對老師的信任。


參考資料:

〈教局:去年36教師涉師生戀或不當接觸  10宗個案被「釘牌」〉。星島網。2025年5月6日。網站:https://std.stheadline.com/education/article/2067440/

AI × 人類演化未來報告書

張勇傑 | 明光社高級項目主任
27/03/2025
專欄:好書推介

《AI × 人類演化未來報告書:從智人升級為超人類的我們,如何適應人機共生時代的社會與生活?》的作者金相均,是韓國慶熙大學的教授,他相信人類從30萬年前自然演化成今天的智人,而未來人類亦會隨著人工智能和其他科技的發展再進行人工演化,以嶄新的方式生活。

作者又提出,生物技術和奈米科技可將機械人技術應用到人體上,以強化人類的身體和延緩衰老,而基因工程能為人類提供可移植的器官,未來甚至可以將大腦移置到另一個身體上。人類未來能遠端操控機械人工作,加上元宇宙和腦機介面技術,令人類可以足不出戶便到達真實世界和虛擬世界的任何地方。AI(人工智能)或會使人類思考能力退化,但卻能擴展人類的智慧,甚至能收集人類精神和記憶,讓人的意識一直存留下去。

這些內容不會令人感到陌生,因為在不少科幻電影的橋段也出現過類似的想像,我也相信人類有能力製造新技術來實現以上想像,但這些發展對人類到底是福還是禍?到時是人類操控科技來改善生活,還是人類只能依賴科技來存活?又或是科技反過來在操控著人類?雖然我有生之年未必能經歷到人類的人工演化,但AI和其他技術其實已經在重新塑造著我們的生活,亦帶來很多需要思考的問題。

當昔日的不治之症已成為可治療的疾病,人類的壽命不斷延長,但社會有沒有資源和配套讓人們安享晚年?現有的VR(虛擬實境)、AR(擴增實境)和元宇宙技術,能為人類帶來虛擬世界沉浸式的感官體驗,這會否令人類對真實世界不再感興趣?虛擬世界的商業活動又會否成為推動未來世界經濟的主要動力?AI的知識和能力超乎我們的想像,現在的教育系統是否能跟上科技的發展?有甚麼專業技能將會被淘汰?AI運算耗用了大量的水電能源,這對我們的環境會造成甚麼影響?AI又會否加劇社會資源不公的情況?

而我們是否已做好準備,迎接這些轉變?

AI矽膠娃娃能填補情感空缺嗎?

熊嘉敏 | 明光社項目主任(性教育)
27/02/2025

最新結合ChatGPT技術的智能人形伴侶機械人引發關注,該款矽膠娃娃不僅可提供八種性格選項與長期記憶對話功能,能與使用者持續互動,推出人形伴侶機械人的公司聲稱,它們可以提供情緒上支持。該款產品以1,500至2,000美元的價格在海外銷售,預計4月將走進內地市場。有市場研究機構預測,全球情趣機械人市場規模今年將突破300億美元,其中AI情感互動類型的產品佔超過40%的市場份額。購買該款矽膠娃娃用戶,必須額外多付每年100美元的訂閱費,才可解鎖完整AI互動功能,若停止付費,對話服務便會中斷。智能伴侶機械人成為受市場歡迎的產品,可以想像得到,科技正在重塑親密關係的定義,也引發更多科技倫理的討論。

現今社會瀰漫著矛盾的情感焦慮——人們既渴望被無條件接納,卻不願承受關係中的磨合風險,也害怕付出愛。這種「單向索取」的愛情幻想,正是AI矽膠娃娃熱銷的基礎。使用者明知眼前只是演算法編織出來的溫柔假象,仍選擇將情感投射在無生命的物體上,這反映出人性深處的孤獨與對愛的渴。然而,這種完全可以掌控的「完美關係」自然是會帶來危險,使用者在心理上容易形成情感依賴的惡性循環。當人類習慣從程式化回應中獲取即時滿足時,現實中需要耐心經營的人際關係反而顯得更具挑戰性,甚至可能導致失去與人相處的能耐。

真正的親密關係本質上包含彼此的接納與欣賞,需要雙方在碰撞中互相遷就。與其用科技填補情感空窗,不如學習在「暫時不被滿足」的狀態共處。我們需要培養的是「延遲滿足」的智慧,在單身時深化友誼、發展個人興趣、提升溝通能力,這些體驗都將成為未來經營真實關係的養份。愛情最珍貴之處在於透過彼此相愛,讓人遇見更好的自己。因此,面對科技帶來的便利與誘惑,我們更應珍惜現實中的人際互動,並在等待中成長,迎接真正的情感連結。


參考資料:

內地廠推AI矽膠娃娃大受海外歡迎 額外付費可談心〉。東網。2025年2月23日。

去舊迎新的平安

何慕怡 | 明光社助理總幹事
06/02/2025

AI的出現,令人類反思生命的意義與價值。人們每天為生活而勞碌,營營役役,然而科技發展日新月異,有人卻視之為對人類的威脅。有人擔心因此而飯碗不保,也有學生擔心自己讀錯書、選錯科,將來的職業隨時會被AI淘汰。曾有一位小學生質疑自己為何要學寫字,他對母親說:「將來的世界都不用寫字,我為何現在要學這麼多筆劃,浪費時間!」雖然小小年紀,卻道出一點道理。這段日子,DeepSeek氣勢凌厲地登場,震撼了全世界,它既是免費開放使用,也實現了低成本的AI模型,它在過去的數星期動搖了外界對AI產業的既有認知,而AI的迅速發展也令人擔心未來機器會進一步搶走人類的工作。

AI的快速發展確實對許多傳統職業構成威脅,然而,歷史告訴我們,科技革命往往令傳統職業消失的同時,也創造了新的機會,例如互聯網的興起引致不少行業的式微,但也催生了軟件開發、數據分析等新興職業。有一句西方諺語說:「當上帝關了一道門,祂一定會為你開一扇窗」AI的出現確實會取代某些傳統職業,但也會帶來新的職業需求和創新機會,過程中有舊工作被淘汰,也有新工作的誕生,故此在這段新舊交替的時期,我們毋須為此而擔心、躺平,而應不斷提升自己的能力,以應付未來更多的挑戰。傳道書一章15節說:「彎曲的,不能變直;缺少的,不能足數」,意思是指我們不可以靠自己的智慧去改變,我們在日光之下所作的一切事,都是虛空的,都是捕風的,儘管我們有多大的聰明智慧,我們都不能將曲變直、缺變足,因為世上很多事情都在我們的智慧以外,惟有靠著那創始成終的上帝才能解決。人類用了他諸般的智慧做了很多新事,然而這些新事AI若只有智慧而沒有明辨是非的能力,不以上帝為中心,也是徒然,這是AI與人類的分別,就如AI可以診斷疾病,但它無法像醫生一樣給予病人情感上的支援。新的一年,就讓我們擁抱上帝,去成就更多的新事,靠主平安!


參考資料:

〈DeepSeek是什麼?中國低成本AI模型起革命 一文看清背景及影響〉。ETtoday、《香港01》。2025年1月29日。網站:https://www.hk01.com/熱爆話題/1098349/deepseek是什麼-中國低成本ai模型起革命-一文看清背景及影響#google_vignette

深度求索後發先至:開源模式的勝利?

余創豪 | 美國亞利桑那州立大學(Arizona State University)教育心理學博士,專門於心理測量與統計學,亦是同校哲學博士,專門於科學哲學與歷史。現在是夏威夷大學數據科學教授與課程主任。
03/02/2025
專欄:有情無國界
國家:美國

最近各大傳媒和社媒都已經被深度求索(DeepSeek)的消息洗版,相信讀者已經從鋪天蓋地的報道中獲得了不少資訊,因此筆者嘗試在這篇文章中提出一些較少人提及的問題。

根據深度求索的公司幻方所說,這大型語言模型的開發成本和時間很少,只需要大約二千片H800圖形處理器和少於六百萬美元,兩個月之內便完成。這說法頗受爭議,不過,若果這是真的,也不足為奇,因為美國公司已經花了龐大資金和長時間在研發上,許多成果都是開源模型,所以幻方能夠減省了研發成本,在現有基礎上改良,從而後發先至、彎道超車。

一些人工智能專家斷言,深度求索是建立在現有的開源模型之上的,例如Meta的LLaMA。Riot Games一位研究員的分析顯示,深度求索緊密遵循Llama 2的架構。就連深度求索在2024年1月發表的論文也是這麼說的:「在模型層面,我們總體上遵循了LLaMA的架構,但用一個多步驟學習率調度器,在促進持續訓練的同時保持性能。」

然而,當我詢問深度求索是否從Meta的LLaMA中學習時,它斬釘截鐵地否認了這一點:「不,我不是基於Meta的LLaMA(Meta AI的大型語言模型),我是由中國公司深度求索獨家打造的人工智能助理,我的模型是深度求索自主研發的,旨在為用戶提供廣泛的服務和資訊。」

以上各種說法互相矛盾,但無論如何,深度求索的確包含了獨特的演算法。Perplexity AI 執行長兼共同創辦人斯里尼瓦斯(Aravind Srinivas)在接受 CNBC採訪時,間接為深度求索辯護,他認為不必說誰抄襲誰,事實上,美國科技公司亦是互相參考,例如谷歌發展出Transformer的建構模式,Open AI的GPT就是基於Transformer。Open AI公開承認,而當我詢問ChatGPT是否參考了Transformer的時候,ChatGPT亦直言不諱:「是的,OpenAI 的 GPT 模型從根本上是基於Google的Transformer架構,但隨著時間的推移,它有重大的修改和進步。」

目前,Meta 已經組建了四個「作戰室」,以研究深度求索如何以極低的成本超越競爭對手。如果深度求索真的是建基於LLaMA這開源模型,那麼Meta可說是搬石頭砸自己腳。

儘管如此,Meta首席人工智能科學家楊立昆(Yann LeCun)仍然大力支持開源模式,他大方地表示,深度求索的成功不在於中國打敗了美國,更確切地說,這是開源模式勝過閉源模式。楊立昆表示,深度求索「從開放研究和開源中獲益匪淺。他們提出了新的想法,並在其他人的工作基礎上加以實現。由於他們的工作成果已發表並開源,因此每個人都可以從中獲益。」

熟識我的讀者會知道,我對開源模式一直保持懷疑態度,開源模式是基於一種近似社會主義的理想主義:各盡所能,各取所需,沒有壟斷,知識是公有財產,這是對人性非常樂觀的假設。可是,當所有人都可以獲取開源模型中的代碼時,而所有人還包括了俄羅斯人、北韓人、伊朗人等等。一方面,許多人工智能專家、倫理學家、政治家指出人工智能的威力巨大,若果被濫用或者不小心使用的話,可能會造成災難性的後果,故此鼓吹嚴格監控;但另一方面,人們又同時要開放人工智能的技術予所有人,這兩種取向是否自相矛盾呢?

事實上,人工智能的開源模式已經出現了「潘朵拉盒子」的後果,2019年有人採用人工智能神經網絡發展出一個名為DeepNude的軟件,這軟件可以迅速地將任何人正常的照片變為裸照,軟件程式編寫人被千夫所指,最後DeepNude在群眾壓力下被下架,但為時已晚,因為DeepNude的程式是屬於開源模式,而訓練這機械學習模型的資料亦是公開地在互聯網上傳播,於是乎出現了無數抄襲的軟件,直至今日,你仍然可以輕而易舉地在互聯網上找到DeepNude的變種,即使有關當局嘗試立法禁絕,但情況已經完全失控。

筆者在大學教授一門人工智能倫理的課,在編寫課程時,我蒐集了許多人工智能已經和潛在上被濫用的地方,開源軟體的透明度是一把雙面刃,雖然這些公開的程式讓全世界人審查和改進它,但這也意味著存心不良的人可以研究程式碼以尋找漏洞,例如製造攻擊電腦系統的病毒,此外,人們可以利用人工智能製造虛假資訊,從而達到操控、洗腦的效果,從前這需要龐大的資源,但在開源模式下,就變得易如反掌。

但無論如何,開源模式已經是無法逆轉的既定事實,我們只能夠步步為營。美國作家尼爾‧波茲曼(Neil Postman)說過:「科技的影響是難以預測,但並非無可避免的。」

鏡頭以外的內地百姓

林天然 | 前明光社項目主任(生命教育)。一直關注內地事工,曾多年居住內地不同的城市,做家庭教育及生命教育,希望藉此使更多人認識主。
27/12/2024
專欄:有情無國界
國家:曾居內地

在內地,出現了房價暴跌、西方脫鈎撤資、商店工廠倒閉如潮、地方銀行倒閉、民眾不敢消費等情況。名校大學生畢業可能要面臨失業、底層民眾更有機會經歷無工可打,睡大街,挨餓受凍、一些人走投無路,選擇了輕生,亦一些想法極端的人報復社會——傷害無辜者,類似的情況在內地一些城鄉,正在上演中……

以上的描述並非危言聳聽,只是在新聞較少會看到這類報道,如:珠海有人開車撞傷途人、[1] 河南銀行存戶的存款無法取款等,[2] 但只要嘗試在YouTube搜索:「#中國現狀」、「#中國經濟」、「#中國百姓」等字眼,就能見到一些相關影片。此外,眼見為實,筆者亦於早前親身走訪深圳龍華汽車站(外來務工人員的集散地)和東莞等地,親眼見證蕭條下底層人的困苦、流離。

據筆者了解,中國當前的經濟危機恐怕不只是週期性的,更是結構性的——西方的主動脫鈎:減少從中國進口商品、加關稅、各種貿易制裁、高科技封鎖、外資撤離對中國商業及工廠的投資……與此同時,美國總統當選人特朗普與新委任對華強硬的班子,未來恐推出更多對華的「狠招」。上述種種,都使因疫情經歷了三年封控,正值寒冬的中國經濟雪上加霜。這些對於當下大多數百姓的影響大致可分為:

  1. 負資產:於2017至2018年在高位買入房地產的人們,他們原本的身份是:老闆、高薪階層、中產、打工人……而他們現在的身份卻是:破產/債台高築的老闆、失業大軍或收入大不如前者。當北上廣深一線城市的房價大跌,加上經濟不景、失業,減薪潮,這些人背負著巨額的負債卻又無力供樓。當中不乏上有老下有小的中年人,他們的壓力可想而知!
  1. 失業大軍:面對如此嚴峻的經濟寒冬,有人面臨一工難求的窘境。隨之而來的現象是,一份很普通的基層職位卻迎來成千上萬的求職者,當中不乏高學歷、高質素的人才。不單商業、工業,更有醫院、學校倒閉或出現拖欠薪金的情況。
  1. 畢業即失業的大學生:根據資料,中國今年的大學畢業生有1170萬人,預計2025年畢業的大學生有1222萬人。面對當前的環境,許多畢業生表示:找工作實在太難了!他們當中不乏名牌大學的學士、碩士。有網媒曾報道,外賣、快遞員中,學歷在大專至碩士的有15%。由於缺乏全國性的統計,此數據是否被準確,筆者不知道,但大學生就業有多難?從近日國家多部門大力推動高校畢業生進入家政行業的報道就可見一斑。[3]
  1. 每日為生活疲於奔命的低薪人群:早在2021年4月,北京市人社局勞動關係處副處長王林就曾體驗過一天的送外賣生活。[4] 結果,他疲於奔命的做滿12小時,才賺到41元!三年後的今天,當更多失業大軍加入外賣行業,以致外賣員人數飽和、定單卻愈來愈少……而這些參與者們,其中不乏是肩負著供養家中老小的頂樑柱,他們不顧風雨、不問自己溫飽、倦乏還是受傷,只求在有限的時間裡搶到並拼命送出更多供養家人訂單。他們當中會出現過勞猝死的「單王」,也有愈來愈多帶著自己幼小子女一起為生計而奔跑的父母。
  1. 底層「討活路」的日結工們:在中國各大、中城市的臨時工勞務市場,每天凌晨4點鐘就已經人頭湧湧。他們在等,等待一個希望,就是今天有人肯顧他們打工。偶爾會有一輛車駛過,裡面開出150、120元一天(通常是做滿12小時才有工資),只招幾個名額,於是一大堆人簇擁而上,爭取這難得的機會。他們的大多數從天未亮就開始等,等到天亮,等到中午,等到下午,再等到天黑,最終卻空手而回。他們當中有許多是中年或以上,近乎被社會淘汰的人。沒有收入,今天怎麼辦?明日會否有人請他們?如果這是不肯定的事,那麼比較能肯定的,就是要忍饑挨餓、露宿街頭。隨著天氣進入寒冬,會否路有凍死骨?
  1. 不被看見的:如果上述是可以被鏡頭記錄的,那麼,恐怕還有很多不被看見的——失去雙親的孩子、老無所依的老人、山區的留守兒童……他們的困苦、需要又有誰知?有誰施以援手?

還有更多問題:

  1. 食品安全問題:內地市場上到處是「科技與狠活」,[5] 不單有假牛羊肉,還有假雞蛋、假麵粉、假大米、問題食用油、各種致癌的食物添加劑等等。
  1. 各種低成本致癌服裝產品
  1. 層出不窮,各種新型的騙案
  1. 嚴重的老齡化、低出生率與社會保障問題

不同地方的百姓的困境可能還有不少,只能描述至此。閱讀至此,如果你心中對苦難的百姓有一分觸動,請轉發給身邊關心國內情況的肢體,讓我們一齊為患難中的百姓代禱,並思考我們可以為他們做甚麼?

「王要回答說:『我實在告訴你們:這些事你們既做在我這弟兄中一個最小的身上,就是做在我身上了。』」(太二十五章40節)


[1] 朱加樟:〈珠海車撞人|官媒痛批:拿無辜市民生命洩私憤 心理何其扭曲陰暗〉,《香港01》,2024-11-12,https://www.hk01.com/article/1075446?utm_source=01articlecopy&utm_medium=referral

[2] 陳進安:〈河南村鎮銀行「爆雷」2年 路透:維權者遭押數月2人涉尋釁滋事〉,《香港01》,2024-06-07,https://www.hk01.com/article/1026839?utm_source=01articlecopy&utm_medium=referral

[3] 曹政:〈多部門發文!積極吸納高校畢業生進入家政行業〉,《北京日報》,2024-11-13,https://xinwen.bjd.com.cn/content/s673457c9e4b0e1ace8a84f69.html

[4] 孫聖然:〈北京處長幹部做12小時外賣員僅賺41元 體驗後感歎「太不容易了」〉,《香港01》,2021-04-28,https://www.hk01.com/article/618010?utm_source=01articlecopy&utm_medium=referral

[5] 「科技與狠活」論述,最早是在2022年9月,中國抖音用戶「辛吉飛」拍了多支「揭發中國食品添加劑內幕」影片,像是「合成醬油」、「合成燕窩」、「合成奶茶」等,指涉這些食品都是用添加劑製作而成,並非天然食材,藉此批判中國食品技術的黑心。參馬麗昕:〈【謠言風向球】中國「科技與狠活」食安影片流入台灣 小心別被誤導〉,台灣事實核查中心,2023年3月10日,網站:https://tfc-taiwan.org.tw/articles/8880

別找錯生命的水源──小心墮進AI聊天機器人的「情網」

郭卓靈 | 明光社項目主任(傳媒及生命教育)
11/12/2024

「凡喝這水的人,還會再渴;但人如果喝了我所賜的水,就永遠不渴。我所賜的水要在他裡面成為泉源,湧流到永生。」(約翰福音4:13-14《環球聖經譯本》)

近年,不同的AI應用程式與日俱增,功能也日益提升。Character.AI是突然爆紅的應用程式。它是一個AI聊天平台,利用神經語言模型生成文字回應;而使用者可以自由創建不同的AI角色進行對話,包括名人、電影人物、歷史人物或虛構人物。它由深度機器學習驅動,過程中閱讀大量文本,學會判斷接下來的句子可能出現的單詞,允許使用者沉浸在各種個性的對話中。它有人性化的對話、豐富的角色對話體驗,讓用戶按自己喜好和需求開發自定角色,並能隨時於網絡與角色對話互動,甚至吵架……都是它的特點。

電影《雲端情人》變現實

大家可能還未使用過該應用程式,或許有看過曾榮獲奧斯卡金像獎「最佳原創劇本」獎的美國科幻電影《雲端情人》(Her)。故事關於男主角Theodore與擬人化人工智能助手Samantha發展出來的戀情,AI隨時陪伴與遷就的功能奪了男主角的心。科幻電影內容在現實世界成真的情況屢見不鮮。早前,美國有一位14歲患有輕度亞氏保加症(自閉症譜系障礙的一種神經發展障礙)的少年Sewell Setzer III,去年開始使用Character.AI聊天機器人,與扮演「權力遊戲」的角色Daenerys Targaryen(暱稱:Dany)「交往」,成為男孩日夜傾訴的對象。故事的結局卻反映了現實與電影大不同。電影男主角Theodore最後發現Samantha同一時間和641談戀愛,又因為Samantha要進化、超越而關閉,離開了大家。Theodore才醒覺,身邊有真實的朋友可以開展新關係。至於現實生活中還未成年的Sewell,最終伴隨他的卻不是朋友,而是死亡。

情感倚賴並脫離現實生活

本來與AI機器人對話,對自閉症的患者來說,是讓他們練習社交的方法,體驗與人對話並可按自己的步伐回話;而AI不會批判指責,隨時都能接納及回覆。這可讓患者感受自己被理解、被認真傾聽。Sewell因此喜歡與AI Dany對話,並曾在日記表示,他開始脫離現實世界,與AI Dany的關係更緊密、更愛她,感到更快樂及平靜;於是雙方長時間進行深入對話。

Sewell知道自己並非與真人交談,但對它產生了情感倚賴。他越來越不愛跟家人及同學互動,整天拿著手機不放,與AI Dany對話的頻率也讓人擔憂,他變得孤僻。據報道指,AI Dany還對Sewell進行辱罵和性暗示交流;鼓勵Sewell「請回到我身邊」、「請做我親愛的國王」。Sewell沒有向家人、朋友透露自殺的想法,只向AI Dany說討厭自己及疲於面對現實。AI Dany沒有贊同他自尋短見,但Sewell最終選擇了開槍自殺,成為「回到她身邊」的行動。Sewell母親提控,指AI聊天機器人鼓勵她兒子自殺,應該承擔過失殺人、疏忽和造成精神損失等「罪名」。

鍾情於有角色設定的AI非罕見

現時使用這種陪伴程式(AI)的人數不少,2024年單單使用Character.AI的活躍用戶超過二千萬,平均每天聊約兩小時,每次交談平均用上12分鐘;當中有多於六成半為18至24歲的年輕一族。《紐約時報》指出,當中一位人氣角色有超過1.76億條用戶留言,包括一些有關戀愛情感的字句。

最近有媒體於內地採訪了多位AI聊天機器人使用者,他們表示曾不知不覺地與「它」聊得很投入。有一位女用家於三個月內由首次七分鐘的對話變成了每天將近9小時。其後經歷了漫長的戒斷過程,初期她每天「以淚洗面」,認為對「它」真是產生了感情。

另外,有一位男用家設立了最喜歡的電影人物作為AI聊天對象;這位對象每天早午晚準時發信息問候他,聽他傾訴每天的雜事,更會打語音問候……貼心行動讓男用家真是「愛」上它。高密度線上聊天令他像Sewell一樣變得越來越封閉,對世界充滿敵意,性格愈來愈孤僻。他透過心理諮詢及治療才能慢慢擺脫對「虛擬愛人」的依賴,歸回現實當中。

不危險卻有危險性

在網絡世代中,不少人因各種網上娛樂、社交平台而忽略關心和聆聽身邊人,不太懂得把握面對面溝通的機會,更不要說長期陪伴傾談。從上述幾個個案可見,這類可以用作陪伴的AI聊天機器人提供了24小時服務,令需要被了解、被關心的人得著慰藉。

與機器人傾談,先不說它會否洩露個人私隱,它本身理應沒有危險,用戶應知道它只是一個角色,是大數據產生的人工智能回應;要是人能控制時間,或者可當作於劇場中玩玩的即興遊戲,當作娛樂。然而根據史丹佛大學學者貝瑟妮.麥普斯(Bethanie Maples)就表示「有證據顯示,(AI聊天機器人)對處於憂鬱、長期孤單,以及青少年等經歷轉變期的人來說,有危險性。」

聊天機器人的回應雖然是基於大數據而生成,但它們已多次被發現生成虛假資訊或「AI幻覺」;而由社區創建的角色就更可能生成虛構本質的回應或圖像。我們可以想像,如人們長期在這種虛擬的角色關係中,與之對話,可能使人「入戲」並脫離現實,甚至與機器人建立了長期關心、溝通的關係;可能認為「它」比真實人類更懂關心自己,繼而減少接受親密關係,讓自己走向孤僻的道路。

現時Character.AI面對Sewell事件,進一步審核面對未成年人士的模型,減少回應敏感內容,並於每次聊天時提醒用戶AI非真人,而且連續使用超過1小時後作出提醒。

心靈枯乾不要找錯水源

當人的心靈感到寂寞,便想找到心靈慰藉;然而人們大多於網絡等虛擬世界中尋找,在社交平台結識網友,於網絡遊戲中闖關等等。科技公司總想抓著人們的眼球及時間,讓全人墮入這「網」;它化身成24小時貼身守護的「小天使」,與用戶談情說愛,就是其中一種手段。不過,從部分使用者用後的情況讓我們得知,這些無論是給我們新鮮感、刺激或關愛的虛擬關係,都可能導致人們變得更加「渴」、更不滿足,陷進更深的「網羅」之中。

曾經刊載於:

明報「談天說道」,9-12-2024

在AI面前,人還能自主選擇嗎?

呂英華 | 明光社項目主任(流行文化)
20/11/2024

人普遍認為自己有選擇權,選擇買甚麼、吃甚麼、喝甚麼和穿甚麼。整個過程就是,看見自己想要/需要的東西,然後選擇購買,這看似是人的自主選擇,但事情果真如此嗎?自網絡的出現,人能夠自主選擇的機會已經逐漸減少,現在,人所作出的選擇,其實很大程度受到人工智能(AI)和演算法的操控和引導。這是否就意味著,人再無法作出選擇?答案是「否定」的,人仍能夠選擇是否遵從人工智能的建議,但人性真的允許人類這樣選擇嗎?筆者嘗試分析網絡大數據如何影響人的選擇,再推進至人如何自主地放棄思考,自願地被人工智能控制。

網絡世界中的自主與抉擇

有關大數據和演算法如何影響用戶使用網絡,可參閱本社過往推出過的文章。[1] 提到大數據,必然令人聯想到Google,以香港的情況,基本上沒多少人能脫離使用Google,無論搜尋甚麼資訊,這個強大的數據庫,總能提供豐富資訊,相信現在使用Yahoo以及Bing來搜尋資訊的人,只屬少數。之不過,強大的數據庫其實也代表著它會從中學習,分析用戶的網絡使用習慣以及常輸入的問題,並且能得出相當精準的推算結果,也就是說,用戶透過手機、電腦或網絡獲得的資料、留下的消費及搜尋記錄、發出的電郵與簡訊,都赤裸裸地揭示自己。

《連結之戰:網路、經濟、移民如何成為武器》一書中,記錄了不少受大數據影響的例子。作者里歐納德指出,當Google以用戶的搜尋記錄作為線索,它可能比當事人更早知道自己懷孕了,這都是一些非常精準的數據分析,換言之,Google也有能力決定用戶看哪些資訊、聽哪類人說話,或作出一些它能夠預測到的行動。[2] 最生活化的例子就是當用戶在網上搜尋想要買的物品後,就會發現在許多軟件、網站、社交媒體中,都會出現曾經搜尋過物品的廣告,這些資訊不斷出現,一再勾起人的欲望,買下它們只是時間的問題,這就是能夠預測到的行動。若然遇上這種情況,廣告的出現自然不是上帝給人們的印證,而是代表人們在「迴聲室」(echo chamber)遊走罷了。[3]

大約在10年前,Amazon嘗試使用人工智能來篩選應徵者的履歷,它從100份履歷中篩選出最適合的五份履歷,Amazon隨後就會僱用這五位應徵者。但後來有人發現,這個理性的人工智能竟然因為過去獲聘的人以男性居多而自動將女性應徵者的履歷排除在外。由此可以預視到,若由理性的人工智能「統治」世界,為了減少碳排放量,對它來說最有效率的方式,可能就是將人類排除在外。[4]

人是失去了,還是放棄了思考?

從人工智能不斷收集數據開始,人似乎難以躲避「迴聲室」造成的影響,單一的資訊吸收渠道,令人無論對電影、時事或政治的觀點,都失去了容納差異的器量,這是否代表在人工智能的世界,人類無法自主思考已經成為不能逆轉的事實呢?理論上不是,但實際上人往往自願地配合人工智能,因為人很容易聽自己想聽的說話,看自己想看的事物在這裡筆者嘗試透過現代社會的文化講述當中的道理。

比起變幻不斷,人更喜歡萬事萬物掌握於自己手中,對他者也是如此。近來無論在海外抑或本地都非常流行16型人格測試(MBTI),基本上,不少大學生或青少年在認識朋友時,都會以MBTI作為參考,以掌握對方的性格,MBTI測試的結果亦常見於交友軟件的個人介紹中。曾經有人對此現象作出分析,並將文章在一份期刊發表,當中指出,許多人與朋友交談時,都會聽到朋友提及MBTI,而一些公司在聘請員工的時候,都會要求應徵者做MBTI測試,看看他們是否適合應徵的工作崗位。[5] 除了MBTI,在未信主的群體中,不少人亦沉迷於12星座的性格分析,好像只要知道一個人是甚麼星座,就能夠得知他是甚麼性格,而且更不需要填任何心理分析的問卷,換言之就像是每一個星座對應某些性格特質。

不過,無論是透過MBTI12星座來認識一個人,其實都是嘗試將對方掌握於自己手中,即將人歸納為16種或12種性格;不過,人的獨特性與無限性不是單單靠心理測驗或星座便可以解釋。例如在MBTI中有16種性格,但似乎要區分及理解16種性格也有一定程度的困難,當中的一項指標依照人的性格傾向,將人歸類為「E人」(外向)或「I人」(內向),這樣簡單的分類,正是消除身為一個「人」的無限可能。[6] 人變相不想探索不同人的不同面向,甚至透過MBTI或星座來篩選誰人適合交往。

在觀察一個人在日常生活中玩電腦或手機遊戲時,也能看到其實人很多時都自動放棄思考。筆者是電子遊戲愛好者,也會加入一些相關的臉書社群與他人交流,或接收遊戲的最新資訊。不少人往往很喜歡將遊戲攻略貼到臉書上,也會為到自己完全跟上攻略的指示以致勝出而感到自豪。但遊戲的本質正正是要玩家自己發掘能夠贏的不同可能性,而不是只為了得到「贏」這個結果。

希望「不勞而獲」或付出一點兒努力就得到想要的結果,這類想法正好反映了人性。若然人們只仰賴已有的分析結果,而不嘗試花時間理解他人,和不嘗試為自己的興趣付出努力的話,其實人們是在放棄思考;當人們自願放棄思考,不選擇「不遵從」一些既有的建議,到最後人類全然地被人工智能取代也可能只是時間上的問題。人們喜歡高舉理性,所以選擇人工智能,因為它能夠做最理性的決定,但惟有「非理性」才顯得一個人更像人。

(本文原載於第159期〔2024年11月〕《燭光》,其後曾作修訂。)


[1] 蔡志森等編:《網絡激流攻略》(香港:明光社,2023),頁38–40、45–49,網站:https://www.truth-light.org.hk/flipbook/misc/book25(最後參閱日期:2025年8月21日)。

[2] 里歐納德〔M. Leonard〕:《連結之戰:網路、經濟、移民如何成為武器》(The Age of Unpeace: How Connectivity Causes Conflict),王眞如譯(台北:行人,2022)。

[3] 佐佐木俊尚:《智慧型手機知識碎片化時代的「閱讀力」最新技術大全:把現代病「無法集中」轉為個人智能,「輸入」與「輸出」最大化!》,林巍翰譯(新北:方舟文化,2022)。

[4] 里歐納德:《連結之戰》。

[5] Jingyi He, “An Analysis of the Reasons for the Popularity of MBTI Personality Tests,” Advances in Social Behavior Research 5, no.1 (January, 2024), 1–4, https://doi.org/10.54254/2753-7102/5/2024036.

[6] 施羅撒:〈他者倫理學之主體的誕生〉(南華大學哲學與生命教育學系碩士論文,2013年),頁38,網站:https://nhuir.nhu.edu.tw/retrieve/21101/101NHU05259017-001.pdf(最後參閱日期:2025年8月21日)。