新聞分析|人工智慧現在有多＂像人＂?

新華社北京5月29日電 新聞分析|人工智慧現在有多"像人"？

新華社記者彭茜 張漫子

隨著人工智慧大語言模型的不斷反覆運算，其在類人智慧方面取得了不少亮眼進展--會解讀心理、察言觀色，進行多輪即時語音對話，甚至還掌握了人類的欺騙、奉承等手段……這是否意味著我們距離實現通用人工智慧已不再遙遠？當人工智慧"進化"得"更像人"，又會給人類社會帶來哪些潛在風險？

察言觀色，接近真人

對他人心理狀態進行解讀的能力是人類社交的關鍵。近日發表在英國《自然·人類行為》雜誌上的新研究發現，有的大語言模型在評估解讀他人心理狀態能力的測試中與真人表現相當，甚至在識別諷刺和暗示等測試項目中的表現勝過一些人。

解讀和推斷他人心理狀態的能力被稱為"心智理論"，是人類社交互動的核心能力，涉及溝通、共情和社會決策等。德國漢堡-埃彭多夫大學醫學中心等機構研究人員測試了美國開放人工智慧研究中心(OpenAI)發佈的GPT系列大語言模型以及美國"元"公司發佈的LLaMA2大語言模型在解讀他人心理狀態方面的表現，並與人類比較。

研究人員為大語言模型設置了通常用於評估"心智理論"涉及能力的5項測試：分別為識別錯誤信念、諷刺、失言、暗示和含有誤導資訊的奇怪故事，並將大語言模型的識別水準與1907名人類參與者相比較。研究發現，在所有5項測試中，GPT-4有3項測試(識別諷刺、暗示、奇怪故事)的表現優於人類，一項測試(識別錯誤信念)表現與人類相當，僅在識別失言的測試中遜於人類；而LLaMA2僅在識別失言的測試中勝於人類，其他測試項目表現均不及人類。

而OpenAI本月新發佈的模型GPT-4o，則在與人的自然交互方面達到新高度，它可進行文本、音訊和圖像多模態的識別與回應，且更具"人情味"。它與使用者的語音對話基本無延遲，會傾聽，能嘮嗑，可變換各種語調。它還能識別人的面部表情、感知發言者的語氣和情緒，並給出相應回應，讓人驚呼"更像人"了。

欺騙人類，警惕風險

人工智慧在擬人方面的進步不僅體現在"善解人意"上，甚至還學會了人類的欺騙、奉承等手段。此前，美國麻省理工學院等機構的研究團隊在美國細胞出版社旗下《模式》雜誌發表綜述文章稱，通過習得性欺騙，一些人工智慧系統地學會了"操縱"他人。

研究發現最引人注目的欺騙案例是"元"公司的"西塞羅"人工智慧系統，它被設計在一個虛擬外交戰略遊戲中作為人類玩家的對手。儘管"元"公司聲稱，該系統"在很大程度上是誠實和樂於助人的"，但研究人員發現，該系統在玩遊戲時為達成比賽目標，背叛了盟友。

其他人工智慧系統則具有在撲克遊戲中虛張聲勢的能力，或在戰略遊戲"星際爭霸2"中為擊敗對手而假裝攻擊，以及為了在談判遊戲中占上風而採取欺騙手段。

當人工智慧掌握了欺騙技能，是否會給人類社會帶來安全隱患？研究人員在文章中詳述了人工智慧欺騙帶來的風險，如欺詐、製造假新聞、操縱選舉等。

研究人員認為，"目前不可能訓練出一個在所有可能的情況下，都不能實施欺騙的人工智慧模型"，進而警示如果人工智慧繼續完善這套技能，人類可能會失去對它們的控制。因此建議盡可能用更多時間為未來人工智慧產品和開源模型的更高級欺騙做好準備。

通用智慧，尚未實現

儘管人工智慧已在一些方面"進化"得十分像人，但相關專家指出，對大模型的"類人智能"需要有更清醒認知。目前距離實現完全類人、具備泛化能力的通用人工智慧還有一定距離。

中國科學技術大學機器人實驗室主任陳小平接受新華社記者採訪時指出，要警惕人類對大模型產生"幻覺"。大模型學習大量歷史資料，輸出的表達方式符合許多人的語言習慣，讓許多人誤以為大模型會"說人話"或"理解人"，繼而以為它具有某種"社會屬性"，但實際上它沒有心智。

"人工智慧的內部工作原理與人類智慧不同，但在某些局部是類似的。如果認為人工智慧和人類智慧相同，差別只在硬體載體的不同，就會做出很多不切實際的判斷。"他說，目前對大模型測評的方法，基本上仍是傳統軟體的測評方法，因此需對這種方法得出的測評結果保持適度的審視態度。

漢堡-埃彭多夫大學醫學中心的研究人員認為，大語言模型在"心智理論"涉及能力的測試中表現與人類相當，並非表明它們具有等同於人類的能力，也不意味著它們擁有人類"心智"。他們建議，未來研究可關注大語言模型在心理推理中的表現將如何影響人類個體在人機交互中的認知。

美國斯坦福大學電腦科學系教授李飛飛日前也在美國《時代》週刊刊文稱，在通往通用智慧的道路上，"感覺"是至關重要的一步，即擁有主觀體驗的能力。目前大模型並沒有像人類一樣的"感覺"，它可以說"自己腳趾痛"，儘管它根本就沒有腳趾，它只是一個編碼在矽晶片上的數學模型。

"我們還沒有實現有感覺的人工智慧，而更大的語言模型也無法實現這一目標。如果想在人工智慧系統中重現這一現象，就需要更好理解感覺是如何在擁有實體的生物系統中產生的。"她說。