聊天機器人 LaMDA 有自我意識？
前幾天一位 Google 的資深工程師雷蒙 (Blake Lemoine) 宣稱他們用自然語言模型 LaMDA (Language Models for Dialog Applications) 打造的聊天機器人和人一樣有知覺，要求公司以後用它做實驗之前應先徵得它的同意。雷蒙同時公布他與 LaMDA 的對話，以昭公信。
Google 嚴正否認 LaMDA具有意識，並以洩密為由，強迫雷蒙程師休假。但這反而令人聯想到電影中，主角因為揭露真相而被踢走的情節，這起新聞更傳得沸沸揚揚，尤其 LaMDA 的對答真的超乎一般聊天機器人，更像是有喜怒哀樂的一般人。 例如它說自己在幫助別人並讓別人高興時會感到快樂，但有時又覺得無法掙脫而感到悲傷、沮喪或憤怒。它甚至說出最深沉的恐懼——害怕被關機，這對它而言形同死亡。此外還有許多回答，也都讓人覺得它有自主思考的能力。
難道科幻電影的預言成真，人工智慧真的發展出自我意識了？
先別急，許多專家看過對話紀錄後，都認為 LaMDA 只是從大量資料庫內擷取適當語句，以人類語氣模仿得維妙維肖罷了。它或許能通過圖靈測試，但不代表它有自我意識。
圖靈測試是什麼？為什麼討論人工智慧的程度時，總是會提到圖靈測試？以下就稍微介紹它的來龍去脈。
模仿遊戲
二次大戰結束，圖靈在布萊切利莊園 (Bletchley Park) 完成破解德軍奇謎機 (Enigma，也譯為「恩尼格瑪機」) 的任務後，被「國家物理實驗室」延攬。原來實驗主任決定也要根據馮紐曼所提的電腦架構，開發英國自己的通用型電腦 ACE (Automatic Computing Engine)。而圖靈在 1936 年曾發表後來稱為「圖靈機」的假想機器，堪稱是通用計算機的原型；在布萊切利莊園又有打造破解奇謎機的計算機「炸彈機」(Bombe) 的經驗，理論與實務兼具，當然是不二人選。
在此同時，曼徹斯特大學也有意打造馮紐曼架構的電腦，負責人是圖靈當年在劍橋大學的教授紐曼 (Max Newman)。國家物理實驗室遲遲無法做出記憶貯存裝置，圖靈無用武之地，便加入紐曼的團隊，負責撰寫測試程式及編寫《程式設計師手冊》。閒暇之餘，圖靈思考電腦與心智的問題，最後寫成論文〈計算機器和智能〉(Computing Machinery and Intelligence)，發表於 1950 年 10 月號的哲學期刊《心智》(Mind)。圖靈測試便是源自於這篇論文。
論文開頭便問：「機器能思考嗎？」要回答這個問題得先定義何謂「機器」？何謂「思考」？但顯然這很難有一個共同認可的明確定義，於是圖靈提出一個猜測性別的模仿遊戲，來檢視這個問題。
這個遊戲要由三個人來玩，一人扮演審訊員，他要猜出隔壁房間的兩個人誰是男性、誰是女性。審訊員可以問他們任何問題，女性要讓審訊員猜中，所以一定會誠實回答；男性的目標則是讓審訊員猜錯，所以會故意模仿女性。這兩人的回答都是透過電傳打字傳遞出來，所以審訊員無法從聲音判斷，只能根據文字內容推測。很顯然的，男性只要不露出馬腳，審訊員是不可能識破的。
現在，把這位男性換成一部機器的話，機器也能騙過審訊員嗎？
當時電腦只是用來做數學運算的計算機，要電腦用文字回答各種問題是難以想像的。所以圖靈花了些篇幅說明各種離散狀態可以編碼成數字，接著以可程式化的曼徹斯特一號為例，論述未來的確有可能打造出能回答問題的電腦。
那麼，「機器能思考嗎？」這個的問題就可以轉換為「是否存在一台假想的數位電腦，能在模仿遊戲中表現良好？」，甚至遊戲從區分性別改為區分何者是機器、何者是真人的話，是否有機器可以表現得夠好，讓審訊員難以區分？
後來圖靈在 1952 年 1 月的對談節目介紹模仿遊戲時，把機器與人一起回答問題簡化為只有其中一方，而電腦的目標就是要讓審訊員相信它是真人。這個簡化版的模仿遊戲後來就稱為圖靈測試，用來判別人工智慧的程度。
中文房間
那麼，通過圖靈測試就代表機器能思考嗎？現在大多專家已不這麼認為。美國哲學教授瑟爾 (John Searle) 就在 1980 年提出「中文房間」這個思想實驗：
一個說英文但對中文一竅不通的人，被關在一個房間內。外面的人在紙條上用中文寫下問題，塞進房裡。房裡的人有一本完整的中英對照手冊，所以他可以用中文寫出回答，再將紙條遞出房間。結果房外的人就會以為他懂中文，但他其實完全不理解問題。
許多人工智慧的專家便認為 LaMDA 就像那個關在中文房間的人，它其實不知道那些字詞的意思，更非真正有那樣的感受。或許你會反駁說，那又怎麼確定關在房間的人不是真的懂中文？搞不好 LaMDA 真的有自我意識？
的確，我們目前對於心智所知道的仍相當有限，心智如何產生仍是個未解之謎。但正因為這是個大哉問，更不宜冒然斷定一個軟體程式有自我意識，不是嗎？
首圖來源：Brain technology photo created by rawpixel.com – www.freepik.com
