3 月底，非營利組織未來生命研究所發(fā)表一封公開信，呼吁暫停研發(fā)比 GPT-4 更強大的人工智能（AI）系統(tǒng)至少 6 個月。公開信獲得了千余名該領域?qū)＜摇⒖萍既藛T、產(chǎn)業(yè)高層的簽名，其中包括中國科學家曾毅。

作為聯(lián)合國教科文組織人工智能倫理特設專家組專家，曾毅也是中國科學院自動化研究所研究員、人工智能倫理與治理中心主任。當下的人工智能亟需解決哪些負面影響？身為 AI 技術和倫理專家，為何會在這封引發(fā)空前關注的公開信上簽名？圍繞這些話題，本報記者與曾毅進行了對話。

文匯報：您為何認為暫停 6 個月 AI 大模型研發(fā)是必要的？如何看待此次辛頓用離職發(fā)出的 AI 警告？

(資料圖片)

曾毅：生成式 AI 大模型的發(fā)展速度可以在幾周內(nèi)將潛在風險轉(zhuǎn)變?yōu)閷嵈骘L險，不負責任地研發(fā)和使用 AI 可能在短期內(nèi)對社會造成顯著而急迫的風險。

眼下，人工智能企業(yè)都在布局大模型，但很少有人說如何去防范風險。正因為我們對 AI 潛在的風險還沒有完全準備好，但已經(jīng)開始過早且過于激進地嘗試，所以我覺得暫停 6 個月是必要的，先去解決一些潛在風險，先好好思考一下。當然，6 個月只是一個倡議，是一個可以嘗試的時段，能夠取得一定效果肯定比不做準備要強得多。但是，6 個月之內(nèi)是否能夠充分思考相關風險，并做到防范？我覺得這是不夠的。

我認為，應對 AI 潛在威脅與應對氣候變化危機并不存在重要性的差別，AI 帶給人類的挑戰(zhàn)可能更緊迫。而且，AI 技術每往前發(fā)展一步，人類對于倫理安全方面的考慮也需要前進一步。AI 治理對其未來發(fā)展而言已經(jīng)不是一道選擇題，而是必答題。

文匯報：人類歷史上有過很多次由新技術誕生而引發(fā)的危機時刻，您認為此次生成式 AI 給人類帶來的影響和以往一樣嗎？

曾毅：生成式 AI 技術有能力合成虛假信息，極大降低了社會信任，該項技術的濫用、惡用，使得現(xiàn)今眼見、耳聽都難以為實。這對于人與社會之間的關系提出了前所未有的挑戰(zhàn)。從長遠來看，生成式 AI 大模型等技術正在試圖模糊人與 AI 之間的界限。

現(xiàn)階段的 AI 只是看似智能的信息處理工具，并不具有真正的理解能力和真正意義的智能。它可以用來輔助人類決策，卻不能代替人類決策，因為它并不是責任主體，也不具有生命。然而，諸多應用領域正在嘗試用其替代人類，無法作為責任主體的 AI 工具被錯誤地賦予責任主體的責任與義務，這將對人類與社會發(fā)展產(chǎn)生深遠而廣泛的影響。

文匯報：您認為人類有可能始終掌控 AI，讓它永遠只作為工具存在嗎？要實現(xiàn)這一目標，人類有哪些手段？

曾毅：我們沒有選擇，對于作為工具的 AI，我們必須竭力做好倫理安全框架、測試和負責任的部署，同時引導 AI 賦能可持續(xù)發(fā)展目標的實現(xiàn)。目前，AI 賦能的實踐主要在教育與健康領域，因為這兩個領域有更明確的經(jīng)濟收益。而對于一些全球性的議題，例如生物多樣性保護、氣候變化、公平公正等對于人類的生存與發(fā)展極為重要的問題，AI 的貢獻微乎其微，這是人類使用 AI 這一工具時必須意識到并采取行動的。

我們應從制度建設和技術護航兩方面引導 AI 向善。從制度建設與實踐角度講，制定倫理安全原則、規(guī)范及相關立法是必要的社會保障。從技術護航角度看，通過 AI 技術實現(xiàn)倫理安全關切，落地法律法規(guī)要求，并根據(jù)目前的技術瓶頸及時與制度建設互動，實現(xiàn)敏捷自適應治理是關鍵所在。

文匯報：在您的設想中，未來人類與 AI 應當是一種什么樣的關系？

曾毅：現(xiàn)在，AI 正以一種試探、嘗試的方式去改變社會，人類社會則是以一種被動的姿態(tài)去應對，而不是我們所期待的主動去迎接技術變革，更多人是疲于應對。

如果把技術發(fā)展脈絡放到更長的歷史當中來看，人類應該回歸其自身的位置，從事更多具有創(chuàng)造性的、情感交互的工作。比如在家照顧孩子和老人，關愛社會中的年長者和弱勢群體，這些工作恰恰是 AI 最難替代的。在城市發(fā)展中，有必要給人留出沒有必要使用 AI 的空間，并且讓人們可以有選擇權(quán)，決定使用或者不用這項技術。

文匯報：不少專家認為，AI 最大的影響在于教育。在您看來，AI 時代應培養(yǎng)孩子的哪些能力？

曾毅：現(xiàn)在有很多家長非常焦慮，總是在想我的孩子是不是應該盡早地接觸人工智能。在我看來恰恰相反。如果真的學有余力的話，讓孩子去學一門心理學，接觸認知心理學的基礎，讓他對人本身有更多的認識——人類的智慧到底是怎么回事？我們的內(nèi)心是什么樣的？人如何為人？事實上，生成式 AI 讓人更明白 " 何以為人 "。因此，我覺得孩子們有必要學點哲學，在年輕的時候就去思考這些問題。

作者：沈湫莎

圖片：pixabay.com

* 文匯獨家稿件，轉(zhuǎn)載請注明出處。