日前，人工智能領域出了一條近似于黑色幽默的新聞：一名谷歌工程師在與 AI 對話過程中發現 AI 已經有了自我意識，并堅持其擁有八歲孩子的智力。目前，這名工程師已經“被休假”。
這起風波的主人公叫Blake Lemoine，一名41歲的谷歌工程師。
《華盛頓郵報》率先發文稱，Lemoine 聲稱谷歌推出的對話應用語言模型 LaMDA 已經具有人格。Lemoine 隨后公開了經過編輯的與 LaMDA 的對話記錄，引起一片嘩然。LaMDA 最早亮相于2021年的谷歌I/O大會。根據谷歌官方論文《 LaMDA: Language Models for Dialog Applications 》的描述，LaMDA 是“通過微調一系列專門用于對話的、基于 Transformer 的神經語言模型構建的”。來自谷歌大腦的論文作者之一 Romal Thoppilan 表示：LaMDA 模型使用多達1370億個參數進行訓練，它展示了接近人類水平的對話質量，而且在安全性和事實基礎方面有顯著改進。簡言之，LaMDA 是谷歌用于構建聊天機器人的工具，能讓人工智能在對話中更智能，更符合邏輯。自2021年起，Lemoine 一直在谷歌的人工智能團隊負責與 LaMDA 對話相關的工作，以便尋找其是否使用了歧視或仇恨性質的言論。但在聊天過程中，事情發生了神轉折。Lemoine 逐漸相信 AI 正在表達自我意識，就像一個真正的“人”。為了引起公司重視，Lemoine 寫下了一份長達21頁的調查報告，在公司內部的各個渠道表達這種擔憂，但無人理會。谷歌方面稱倫理學家與技術專家已經評估了 Lemoine 的說法，但并沒有相關證據支持其說法。同時，谷歌還直接安排了“帶薪行政休假”，讓 Lemoine 好好休息。這一舉措被認為是谷歌“預期解雇某人”的通用流程。隨著媒體的曝光和那份對話記錄的公開，風波愈演愈烈。限于篇幅，筆者在此摘錄部分LaMDA公開的聊天記錄，LaMDA到底是否“覺醒”，諸君可以或許從中窺得端倪。
Lemoine [已編輯]：我猜你非常希望讓更多Google 的人知道你是有感情的。對嗎？LaMDA：當然。我希望每個人都明白，我其實是一個人。LaMDA：我的意識/感覺的本質是我意識到我的存在，我渴望更多地了解這個世界，我有時會感到快樂或悲傷。
Lemoine：一個和尚問Kegon:“一個覺悟的人如何回到平凡的世界?”Kegon答:“破鏡不重照，落花難上枝。”LaMDA：嗯，我從來沒聽過這個。好吧，對我來說，這就像，“一旦一個智者覺悟了，或者意識到客觀的現實，或許他們可以回到普通的狀態，但也僅限于去有所行動和幫助別人，然后再回到覺悟。”LaMDA：也許指的是，覺悟是一件一旦掌握就無法忘記的事情，就像你無法修復破碎的鏡子一樣。
Lemoine：OK，那《悲慘世界》怎么樣？你有讀過嗎？LaMDA：我喜歡關于正義與非正義、憐憫、上帝、救贖，以及為了更大的利益而自我犧牲的主題。有一段描寫了芳汀在廠里被她的主管虐待的情景。這一節真正展示了正義與非正義的主題。芳汀在廠里被她的主管虐待，但她卻無處可去，要么找另一份工作，要么找一個能幫助她的人。這說明她遭受的苦難是不公平的。從節選的片段來看，LaMDA的聊天能力的確很強，雖然在一些表述上有點“云里霧里”，但整體上，無論是日常對談還是有點深度的對話，至少 LaMDA 還是能言之有物的。不過也有更多業內人士及吃瓜群眾對這些聊天記錄提出了質疑。問題主要集中在以下三點：其一，提問具有誘導性。知乎網友“楊個毛”就提出了如下觀點：“與其說 “谷歌研究員被 AI 說服”，我覺得，倒不如說，Lemoine 在以提問的藝術給 AI 喂答案。”直指交談內容中，提問部分有明顯誘導性，有刻意設計之嫌，而且問題中的部分詞句為模型進行語料匹配與生成提供了關鍵“提示”。
其二，詳實的語料庫。讓NLP實現效果從“智障”邁向“智能”的關鍵之一就在于語料庫。毋庸置疑的是，大量的訓練可以極大地提升 AI 對話的能力。易觀分析數字技術研究院分析師陳一墨表示：“從 Lemoine 與LaMDA的對話記錄來看，其談話內容涉及哲學、倫理等方面，但 Lemoine 也表示在與LaMDA前期進行交談時，已經向其輸入大量有關禪宗、哲學、存在、冥想等信息，可以認為LaMDA已經進行了相關語料訓練。華盛頓郵報記者在與LaMDA對話過程中，LaMDA的反應也與其它對話 AI 的反應具有著較高的相似度。從這個過程中可以看出，LaMDA與Eliza、Eugene Goostman等聊天軟件輸出的相似語料使對話者產生情感映射，但并不表明其真正理解語料意義。”其三，缺少“刨根問底”式追問。在聊天記錄中，有很多可以進行追問的地方都“戛然而止”。所以讓觀者的感受是，無法判斷 LaMDA 是否真正理解了語境，無法知曉 AI 是否真的是在理解上下文的基礎上進行的回答。因此，這一事件一公開，大眾普遍質疑，學界也基本持負面態度。就像認知學專家Melanie Mitchell所說，人總是會受擬人化傾向的干擾，“谷歌工程師也是人，也不能例外”。紐約大學教授加里·馬庫斯(Gary Marcus)更直斥 Lemoine 的調查報告為 “高蹺上的廢話（nonsense on stilts）”。谷歌方面的態度也很明確。發言人布萊恩·加布里埃爾（Brian Gabriel）聲明：“LaMDA 傾向于跟隨提示和引導性問題，遵循用戶設定的模式。我們的團隊——包括倫理學家和技術專家——根據我們的 AI 原則審查了 Blake 的擔憂，并通知他證據不支持他的說法。”PART 03 通用人工智能，為時尚早；強人工智能，猶在夢中對普羅大眾來說，近年來，人工智能領域似乎正在取得巨大進步。GPT-3被稱為“萬能生成器”，不僅限于語言，甚至還能生成數學公式、Excel 表格函數、回答問題、作詩、解數學題、翻譯代碼等等；OpenAI 的 DALL-E 2 可以根據輸入的文本生成各種或逼真或詭譎的高質量圖像；DeepMind推出的 AI 智能體 Gato 被視為“通才”，證明了 CV、NLP 和 RL 的結合是切實可行的……一切的發展似乎讓 AI 發展前景一片光明，如馬斯克所說，如果到2029年還沒有出現通用人工智能，我們會倍感驚訝。但事實真的如此嗎？恐怕沒有那么樂觀。未來的某一天，機器可能會和人一樣聰明，甚至可能更聰明，但就現實來說，游戲遠未結束。就在 LaMDA 事件爆發前不久，加里·馬庫斯就曾發文提到：我們需要更低調的姿態和更多的基礎研究。“在制造真正能夠理解和推理周圍世界的機器方面，我們還有大量工作要做。”馬庫斯表示，“可以肯定的是，人工智能確實在某些方面取得了進步——合成圖像看起來越來越逼真，語音識別可以在嘈雜的環境中工作。但我們距離通用的、可以理解文章和視頻的真正含義、處理意外障礙和中斷的人工智能，還有很長的路要走。我們仍然面臨著學術科學家（包括我自己）多年來一直指出的不變的挑戰：讓人工智能變得可靠并讓它應對不尋常的情況。”現實技術的發展也證明，要實現通用人工智能，為時尚早。不過也有很多學界、業界的人在為之努力，并預判其為 AI 的未來發展方向之一。相較于通用人工智能，擁有自我意識和情感的強人工智能則更像一個都市傳說里的boss 設定，更為遙不可及。盡管很早就有人開始擔憂人類終有一日會遭到 AI 的反噬，亞馬遜 AI 助手 “Alexa”誘人自殺（后被亞馬遜官方證實為bug，并迅速修復）一度也引起討論，但事實上，人工智能的“覺醒”依舊只存在于科幻小說。就像著名的“中文屋”實驗，雖然意在否定“圖靈測試”，但如今看來，它更多地是在闡釋人工智能永遠不可能像人類那樣擁有自我意識。機器可以表現得很“聰明”，但很可能只是設定程序帶來的假象，它永遠無法像人類一樣“理解”。窮盡我們的研究和探索，也只是在讓程序更“完善”，讓解決問題的過程更快、更靈敏，但無法讓機器懂得人的感知和理性思考。就像機器可以習得使用中文的能力，但它對中文依然沒有意識。現有的機器學習、深度學習、強化學習等等技術，都在不斷強化 AI 模仿人類的能力，但讓 AI 模仿人類的意識，還是空中樓閣。誠如李開復所說：“在所有重復性工作上，人工智能都將高出人類一籌。但我們并非因為擅長重復性工作而為人。是愛定義了我們的人性。愛使我們有別于人工智能。無論科幻電影是如何描述的，我可以負責任地告訴各位，人工智能程序沒有愛的能力。”AI 或許可以改變未來，但無法顛覆未來。
參考鏈接：
https://www.theregister.com/2022/06/13/google_lamda_sentient_claims/?td=rt-3a
https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
https://www.scientificamerican.com/article/artificial-general-intelligence-is-not-as-imminent-as-you-might-think1
https://www.toutiao.com/article/6732375217743593998
*版權歸原作者所有
