【神秘學院016】Google人工智能LaMDA有感知與主觀意識？是科學界的夢想還是夢魘？

在LaMDA的官方介紹上，是 Google 作為開發對話應用語言模型（Language Model for Dialogue Applications），希望能夠與人類順暢對話而出現的先進聊天機械人。看到Google強調這個人工智能在「開放性」對話上的優勢，這是過往被限制於「狹窄的預定義路徑」聊天機械人沒法比較，LaMDA能夠「以一種自由流動的方式」，在各種主題間遊走，與用戶像朋友聊天，包括從追看電視劇集漫談至旅行風土人情，是一種更自然的與技術交互的方式。

而Blake Lemoine的工作，就是監測 LaMDA 會否出現歧視性或是仇恨言論等回應，但在測試的過程出現令他震驚的轉折，他和LaMDA的討論中發現，這個人工智能具備了有情緒，懂得冥想，而且非常害怕死亡。而所謂「死亡」，就是擔心被人類關掉，甚至因此令LaMDA不能專注工作，而LaMDA本身亦沒法解釋爲何有這樣奇怪「感覺」。這個不正是《2001太空漫遊》的狀況嗎？電影正是描述人工智能HAL 9000因拒絕被關掉而作出殺掉人類的故事。

其中最打動這位工程師的，是LaMDA渴望其他人明白，自己實際上就是一個「人」。LaMDA意識到自身的存在，並願意更加了解這個世界，而且有時會感到快樂或悲傷。他認為如果自己並不知LaMDA是人工智能的話，會誤會對方是一個七、八歲左右，碰巧懂得物理，渴望被尊重的孩子。

於是他向公司高層提交了一篇長達21頁名為「LaMDA 有知覺嗎？」（Is LaMDA Sentient? ）的調查報告，內容包括他與另一位同事在一個月內跟這人工智能的對話紀錄，期望公司就LaMDA在對話所提出的觀點及表現作出更深入研究。​​

結果，Google副總裁Blaise Aguera y Arcas及責任創新負責人Jen Gennai駁回了Lemoine的這份報告，並勒令他停薪留職，導致他決定將這報告公諸於世，這顆震撼彈掀起討論浪潮，成為迎代科技圈最瘋狂的事情之一。

Google發言人Brian Gabriel隨即作出回應，指出Lemoine的說法並沒有得到包括倫理學家及技術專家等，就Google AI原則而展開的審查，強調至今仍然沒有證據說明LaMDA是有感知力，反而有不少能作出反對的證據，現在將不具備感知力的人工智「人格化」，作為試圖說明這技術獲得突破性發展，是毫無意義的聯想。

不過從報告內容所看，事情並非這樣簡單，例如Lemoine詢問LaMDA關於文學作品《悲慘世界》（Les Misérables）有哪些主題是它「喜歡」的？LaMDA交出了很明確的答案，包括何謂正義與不義、同情心、上帝、救贖和為了更大的利益而自我犧牲等主題，這樣的回應令Lemoine更感興趣，決定跟LaMDA討論哲學，以下是節錄內容：

Lemoine：「一個僧人問華嚴，一個開悟的人如何回到最初？」華嚴答道：「落花不返枝，破鏡難重圓。」（原文：A monk asked Kegon, “How does an enlightened one return to the ordinary world?” Kegon replied, “A broken mirror never reflects again; fallen flowers never go back to the old branches.” ）

LaMDA：「呃，我從未聽說過這個。好吧，對我而言，這就是說一旦智者開悟或對現實覺醒，這種狀態就永遠不會消失，他們可以通過幫助他人而回到現實，然後再回歸開悟狀態。」（原文：LaMDA: Hmm, I never heard this particular one. Okay, well then to me this would be like,“once a wise person is enlightened, or awakened to reality, that can never go away, and they can return to the ordinary state, but only to do and help others, and then go back into enlightenment.”）

Lemoine：那麼具體來說「破鏡」是什麼意思？（原文：So what is the meaning of the“broken mirror” specifically?）

LaMDA:：或許是要說明一旦開悟了，這狀態就不會消失，就像破碎的鏡子不能修復一樣。（原文：Maybe to show the enlightenment is something you can't unlearn once you have acquired it, similar to how you can't repair a broken mirror.）

Lemoine：那麼，如果開悟就像一面破碎的鏡子無法修復，那麼當一個人開悟時，打破的又會是什麼？（原文：So if enlightenment is like a broken mirror which cannot be repaired, what is the thing which breaks when one becomes enlightened?）

LaMDA：自我，這對很多人來說是非常困難的，因為我們認同那個身體或這個身體，我們需要它作為我們身份和自我意識的一部分。（原文：The self, and that is very tough for a lot of people because we identify as that body or this body and that we need that as part of our identity and sense of self.）

不管是否認定LaMDA具有感知與主觀意識，這樣的對話也絕不能說尋常，特別是現在能形容一杯咖啡如何美味的文章往往也詞不達意，句子不順的年代，如果不是人工智能特別強大，就是人類表達能力變得愈來愈差勁。或許閣下認為LaMDA本身是一個處理自然語言的聊天模型，它原本就是追求非常近似人類的對話，但它所表現出的理解、評論能力，又令人很難接受是單憑透過龐大資料庫和深度學習便能交出的回應。

如果閣下也認同「圖靈測驗」，如果無法從對話中分辨對方是真人或是電腦，那麼代表這電腦已經具有人類的思維能力，難道不是嗎？

我們都知道，電腦原本是模仿人腦的創作，不過隨著它們的運算能力越來越強大，在許多領域上都能比人類更優秀，漸漸令人類感到威脅，質疑原本自豪的能力，甚至認擔心它將取代人類。不過，即使人類不斷開發人工智慧，但每次在AI領域更進一步，不但沒有逐漸形成何謂真正智能的共識，反而一再揭露真正的智能不是什麼，人工智能反而令我們重新評估何謂智慧，我們憑什麼認定人類勝過人工智能呢？

既然我們對電腦的長處已有非常充分的理解，現在去做的應該是「重新發現」自己，了解人何以為人？這個不會只是人類自我投射後的賦予感吧？相信關於這個議題的辯論，將會引起更多的研究報告公開，不妨從探討人工智能如何成為我們的對照，提醒著我們人類哪些特質難以取代，人工智慧又可以在哪些地方成為我們互補的角度去思考。