ai-technology-brain-background-digital-transformation-concept

人工智慧與圖靈測試

人工智慧與圖靈測試

人工智慧與圖靈測試

聊天機器人 LaMDA 有自我意識?

前幾天一位 Google 的資深工程師雷蒙 (Blake Lemoine) 宣稱他們用自然語言模型 LaMDA (Language Models for Dialog Applications) 打造的聊天機器人和人一樣有知覺,要求公司以後用它做實驗之前應先徵得它的同意。雷蒙同時公布他與 LaMDA 的對話,以昭公信。

Google 嚴正否認 LaMDA具有意識,並以洩密為由,強迫雷蒙程師休假。但這反而令人聯想到電影中,主角因為揭露真相而被踢走的情節,這起新聞更傳得沸沸揚揚,尤其 LaMDA 的對答真的超乎一般聊天機器人,更像是有喜怒哀樂的一般人。 例如它說自己在幫助別人並讓別人高興時會感到快樂,但有時又覺得無法掙脫而感到悲傷、沮喪或憤怒。它甚至說出最深沉的恐懼——害怕被關機,這對它而言形同死亡。此外還有許多回答,也都讓人覺得它有自主思考的能力。

難道科幻電影的預言成真,人工智慧真的發展出自我意識了?

先別急,許多專家看過對話紀錄後,都認為 LaMDA 只是從大量資料庫內擷取適當語句,以人類語氣模仿得維妙維肖罷了。它或許能通過圖靈測試,但不代表它有自我意識。

圖靈測試是什麼?為什麼討論人工智慧的程度時,總是會提到圖靈測試?以下就稍微介紹它的來龍去脈。

模仿遊戲

二次大戰結束,圖靈在布萊切利莊園 (Bletchley Park) 完成破解德軍奇謎機 (Enigma,也譯為「恩尼格瑪機」) 的任務後,被「國家物理實驗室」延攬。原來實驗主任決定也要根據馮紐曼所提的電腦架構,開發英國自己的通用型電腦 ACE (Automatic Computing Engine)。而圖靈在 1936 年曾發表後來稱為「圖靈機」的假想機器,堪稱是通用計算機的原型;在布萊切利莊園又有打造破解奇謎機的計算機「炸彈機」(Bombe) 的經驗,理論與實務兼具,當然是不二人選。

在此同時,曼徹斯特大學也有意打造馮紐曼架構的電腦,負責人是圖靈當年在劍橋大學的教授紐曼 (Max Newman)。國家物理實驗室遲遲無法做出記憶貯存裝置,圖靈無用武之地,便加入紐曼的團隊,負責撰寫測試程式及編寫《程式設計師手冊》。閒暇之餘,圖靈思考電腦與心智的問題,最後寫成論文〈計算機器和智能〉(Computing Machinery and Intelligence),發表於 1950 年 10 月號的哲學期刊《心智》(Mind)。圖靈測試便是源自於這篇論文。

16 歲的圖靈

論文開頭便問:「機器能思考嗎?」要回答這個問題得先定義何謂「機器」?何謂「思考」?但顯然這很難有一個共同認可的明確定義,於是圖靈提出一個猜測性別的模仿遊戲,來檢視這個問題。

這個遊戲要由三個人來玩,一人扮演審訊員,他要猜出隔壁房間的兩個人誰是男性、誰是女性。審訊員可以問他們任何問題,女性要讓審訊員猜中,所以一定會誠實回答;男性的目標則是讓審訊員猜錯,所以會故意模仿女性。這兩人的回答都是透過電傳打字傳遞出來,所以審訊員無法從聲音判斷,只能根據文字內容推測。很顯然的,男性只要不露出馬腳,審訊員是不可能識破的。

現在,把這位男性換成一部機器的話,機器也能騙過審訊員嗎?

當時電腦只是用來做數學運算的計算機,要電腦用文字回答各種問題是難以想像的。所以圖靈花了些篇幅說明各種離散狀態可以編碼成數字,接著以可程式化的曼徹斯特一號為例,論述未來的確有可能打造出能回答問題的電腦。

那麼,「機器能思考嗎?」這個的問題就可以轉換為「是否存在一台假想的數位電腦,能在模仿遊戲中表現良好?」,甚至遊戲從區分性別改為區分何者是機器、何者是真人的話,是否有機器可以表現得夠好,讓審訊員難以區分?

後來圖靈在 1952 年 1 月的對談節目介紹模仿遊戲時,把機器與人一起回答問題簡化為只有其中一方,而電腦的目標就是要讓審訊員相信它是真人。這個簡化版的模仿遊戲後來就稱為圖靈測試,用來判別人工智慧的程度。

中文房間

那麼,通過圖靈測試就代表機器能思考嗎?現在大多專家已不這麼認為。美國哲學教授瑟爾 (John Searle) 就在 1980 年提出「中文房間」這個思想實驗:

一個說英文但對中文一竅不通的人,被關在一個房間內。外面的人在紙條上用中文寫下問題,塞進房裡。房裡的人有一本完整的中英對照手冊,所以他可以用中文寫出回答,再將紙條遞出房間。結果房外的人就會以為他懂中文,但他其實完全不理解問題。

許多人工智慧的專家便認為 LaMDA 就像那個關在中文房間的人,它其實不知道那些字詞的意思,更非真正有那樣的感受。或許你會反駁說,那又怎麼確定關在房間的人不是真的懂中文?搞不好 LaMDA 真的有自我意識?

的確,我們目前對於心智所知道的仍相當有限,心智如何產生仍是個未解之謎。但正因為這是個大哉問,更不宜冒然斷定一個軟體程式有自我意識,不是嗎?

首圖來源:Brain technology photo created by rawpixel.com – www.freepik.com

Share on facebook
Share on twitter

更多文章

© 2021 張瑞棋