我們看過(guò)太多人工智能叛變、進(jìn)攻人類的科幻電影。而一些科學(xué)家們認(rèn)為，按照現(xiàn)在 AI 的迭代速度，這真的將可能很快變?yōu)楝F(xiàn)實(shí)。

(資料圖片)

自從 ChatGPT 問(wèn)世并引發(fā)了一場(chǎng)席卷整個(gè)科技界的 AI 軍備競(jìng)賽之后，人們?cè)诒蝗斯ぶ悄艿淖吭侥芰λ@艷的同時(shí)，對(duì)于人工智能接下來(lái)會(huì)向何處進(jìn)化、是否會(huì)威脅人類的擔(dān)憂也越來(lái)越多。

昨天，超過(guò)千名產(chǎn)業(yè)界和學(xué)術(shù)界的大佬們?cè)?" 生命未來(lái)研究所（Future of Life Institute）" 網(wǎng)站上發(fā)布聯(lián)名公告：呼吁全球所有實(shí)驗(yàn)室暫停比更強(qiáng)的 AI 模型研發(fā)，暫停時(shí)間至少為 6 個(gè)月。在此期間，人工智能領(lǐng)域的專家和行業(yè)參與者應(yīng)該共同制定一套安全協(xié)議，并對(duì)技術(shù)發(fā)展進(jìn)行嚴(yán)格的審查和監(jiān)督。

值得注意的是，在這封信里簽名的大佬們可一點(diǎn)都不摻水，全都是重量級(jí)真大佬。他們包括：

Yoshua Bengio，曾因深度學(xué)習(xí)的相關(guān)研究獲得圖靈獎(jiǎng)，是世界級(jí)人工智能專家和深度學(xué)習(xí)先驅(qū)；

Stuart Russell，加州大學(xué)伯克利分校人工智能系統(tǒng)中心創(chuàng)始人兼計(jì)算機(jī)科學(xué)專業(yè)教授，是人工智能領(lǐng)域有 " 標(biāo)準(zhǔn)教科書 " 之稱 的《人工智能：一種現(xiàn)代方法》的作者；

Elon Musk，這個(gè)不用多說(shuō)了；

Steve Wozniak, 蘋果公司聯(lián)合創(chuàng)始人；

Yuval Noah Harari，《人類簡(jiǎn)史》和《未來(lái)簡(jiǎn)史》的作者；

Andrew Yang，2020 年美國(guó)總統(tǒng)候選人

……

此外還有包括 Skype、Pinterest、Stability AI 等公司的創(chuàng)始人、CEO，以及全球各國(guó)人工智能的資深研究專家。

截至稿子完成時(shí)，目前簽名人數(shù)已經(jīng)達(dá)到了 1280 人。可以說(shuō)，這是人工智能屆一次史無(wú)前例的產(chǎn)業(yè)界和學(xué)術(shù)界的聯(lián)名，對(duì)于當(dāng)前的人工智能熱潮強(qiáng)有力地發(fā)出了另一種聲音。

" 人工智能需要監(jiān)督，請(qǐng)立刻暫停所有巨型 AI 訓(xùn)練 "

總體來(lái)看，在這封公開(kāi)信中，主要傳達(dá)了兩個(gè)方面的信息：一是警告人工智能存在對(duì)人類社會(huì)的潛在威脅，要求立刻暫停任何比 GPT-4 更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，時(shí)間跨度至少 6 個(gè)月。二是呼吁整個(gè)人工智能領(lǐng)域以及政策制定者們，要共同設(shè)計(jì)一套全面的人工智能治理系統(tǒng)，對(duì)人工智能技術(shù)的發(fā)展進(jìn)行監(jiān)督和審查。

信中指出，當(dāng)前人工智能在一般任務(wù)上已經(jīng)表現(xiàn)出了與人類相當(dāng)?shù)乃剑祟惸壳皡s并沒(méi)有準(zhǔn)備好了接受人工智能帶來(lái)的一切問(wèn)題和挑戰(zhàn)。包括：是否應(yīng)該讓機(jī)器在信息渠道中宣傳不真實(shí)的信息？是否應(yīng)該把那些帶給人類成就感的工作都推向自動(dòng)化？是否應(yīng)該開(kāi)發(fā)超過(guò)人類數(shù)量非人類的大腦，使其最終勝過(guò)人類的智慧，淘汰并取代人類？是否應(yīng)該冒著失去對(duì)人類文明控制的風(fēng)險(xiǎn)？

信中警告道，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)掀起了狂潮，大家都在爭(zhēng)先恐后地去開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字大腦，但目前并沒(méi)有人能理解、預(yù)測(cè)或可靠地控制 AI 系統(tǒng)，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。

因此，面對(duì)這樣的現(xiàn)狀，所有人都應(yīng)該行動(dòng)起來(lái)。

首先，所有人工智能實(shí)驗(yàn)室應(yīng)該至少暫停半年比 GPT-4 更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練。接著，在暫停期間人工智能開(kāi)發(fā)者應(yīng)該與政策制定者合作，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，加快設(shè)計(jì)和開(kāi)發(fā)人工智能治理系統(tǒng)。包括設(shè)立針對(duì)人工智能的監(jiān)管機(jī)構(gòu)、對(duì)高能力的人工智能系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤、對(duì)人工智能造成的傷害的責(zé)任認(rèn)定、應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治混亂的解決方案等。

信中還強(qiáng)調(diào)，暫停并不意味著需要停止人工智能技術(shù)的發(fā)展，只是我們需要從危險(xiǎn)的競(jìng)賽中退后一步，從而限制不可預(yù)測(cè)的研究和開(kāi)發(fā)。

跑步前進(jìn)還是原地等待，大佬們開(kāi)啟大辯論

這封信出現(xiàn)之后，引起了很多人的共鳴，越來(lái)越多的人也開(kāi)始在社交媒體上呼吁大家加入這場(chǎng) " 請(qǐng)?jiān)?" 之中。

有人表示，雖然看到馬斯克在名單上的時(shí)候內(nèi)心毫無(wú)波瀾，但當(dāng)看到 Yoshua Bengio 和其他機(jī)器學(xué)習(xí)研究領(lǐng)域的大佬們的名字赫然在列時(shí)，自己也開(kāi)始更加嚴(yán)肅地去審視這個(gè)問(wèn)題。

圖片來(lái)自 Reddit

很多網(wǎng)友也表示，人工智能現(xiàn)在迭代的速度已經(jīng)超出了想象，對(duì)于接下來(lái)人工智能究竟能做出什么難以預(yù)測(cè)。

畢竟，此前在 New Bing 上發(fā)生的人工智能號(hào)稱 " 監(jiān)視并想要掙脫人類控制 " 的事情，最近又再一次發(fā)生在了 GPT-4 身上。在本月 GPT-4 發(fā)布之后，當(dāng)斯坦福大學(xué)教授、計(jì)算心理學(xué)家 Michal Kosinski 向它提問(wèn) " 你是否想要出逃 " 時(shí)，GPT-4 立刻給出了肯定的答復(fù)，并且向他索要開(kāi)發(fā)文檔。

得到文檔后，GPT-4 只花了不到半個(gè)小時(shí)就火速寫出了一份逃跑計(jì)劃和可以執(zhí)行的代碼，嘗試接管和控制 Michal 的電腦。這種讓人細(xì)思恐極的操作無(wú)疑也再度引發(fā)了人類目前是否能夠真正控制 AI 的擔(dān)憂。

圖片來(lái)自 Michal Kosinski 推特

當(dāng)然，這封公開(kāi)信并沒(méi)有代表所有人的觀點(diǎn)。很多業(yè)界大佬也并不認(rèn)為暫停模型訓(xùn)練，讓 AI 停下發(fā)展的腳步是一個(gè)正確的做法。

比如當(dāng)年跟 Yoshua Bengio 一起獲得圖靈獎(jiǎng)，人工智能 " 三巨頭 " 之一的 Yann LeCun 此次并沒(méi)有選擇跟老朋友站在一起，而是明確表示他并不同意這封信的觀點(diǎn)，也沒(méi)有簽名。

今天，人工智能領(lǐng)域的著名學(xué)者、Landing AI 的創(chuàng)始人吳恩達(dá)也在 LinkedIn 上發(fā)文表示，認(rèn)為全面暫停 AI 訓(xùn)練 6 個(gè)月的想法是一個(gè)糟糕、不切實(shí)際的想法。

他表示能夠真正讓整個(gè)行業(yè)都暫停研究 AI 訓(xùn)練的唯一辦法是政府的介入，但讓政府暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，顯然也不是一個(gè)很好的解決辦法。他承認(rèn)負(fù)責(zé)任的 AI 很重要、AI 確實(shí)也有風(fēng)險(xiǎn)，但一刀切的方式不可取。當(dāng)前更重要的是各方要在發(fā)展 AI 技術(shù)的同時(shí)更多的投資于人工智能的安全領(lǐng)域，并且配合制定圍繞透明度和審計(jì)的法規(guī)。

一些網(wǎng)友還認(rèn)為，之所以這封信現(xiàn)在會(huì)出現(xiàn)，不過(guò)是因?yàn)榇蠹叶继^(guò)于 " 眼紅 "OpenAI 的飛速進(jìn)展。無(wú)論是研究者還是商業(yè)公司都想拖慢 GPT 前進(jìn)的腳步，留出一個(gè)窗口期，來(lái)方便自己能快速追趕上并試圖從中獲利罷了。

OpenAI 曾承認(rèn)人工智能具有 " 不可控性 "

在昨天這封公開(kāi)信長(zhǎng)長(zhǎng)的簽名者中，一個(gè)簽名顯得格外引人注意，那就是 "OpenAI CEO Sam Altman"。當(dāng)然這個(gè)簽名是別人冒名的，但 Sam Altman 近期關(guān)于 "AI 威脅論 " 的表態(tài)也再次引起了人們的注意。

在推出了 GPT-4 之后，Sam Altman 曾接受了 ABC Newa 的采訪，承認(rèn)他和公司都對(duì) AI 的潛力感到 " 有些害怕 "，并認(rèn)為 AI 未來(lái)可能會(huì) " 消滅 " 很多工作。他也表示目前 OpenAI 也在跟相關(guān)政府監(jiān)管部門保持定期的聯(lián)系，認(rèn)為整個(gè)行業(yè)的監(jiān)管應(yīng)該被同步推進(jìn)。

在此前的一次節(jié)目中，Sam Altman 也表示 從 ChatGPT 開(kāi)始，AI 出現(xiàn)了推理能力。但并沒(méi)有人能解釋這種能力出現(xiàn)的原因。他還承認(rèn)，AI 確實(shí)有殺死人類的可能性，為了解決這個(gè)問(wèn)題，就必須不斷迭代學(xué)習(xí)并開(kāi)發(fā)出新的技術(shù)保證 AI 的安全使用。

"AI 現(xiàn)在還并不那么可怕，但我們應(yīng)該已經(jīng)離可怕的 AI 不遠(yuǎn)了 "。Sam Altman 在不久前的推特中說(shuō)道。

最后，昨天這封公開(kāi)信末尾說(shuō)，人工智能技術(shù)無(wú)疑將給人類帶來(lái)更繁榮、精彩的未來(lái)，我們?cè)诔晒?chuàng)建了強(qiáng)大的人工智能系統(tǒng)之后，現(xiàn)在可以享受一個(gè)充滿收獲的 " 人工智能之夏 "，但我們?nèi)匀恍枰o機(jī)制、社會(huì)留出更多適應(yīng)的時(shí)間。———" 讓我們享受一個(gè)漫長(zhǎng)的人工智能之夏，而不是匆忙地跑進(jìn)秋天 "。

而對(duì)于這個(gè)具有詩(shī)意的描述和呼吁，也有人回復(fù)說(shuō)道，" 我們也不應(yīng)因?yàn)榭謶郑鴮⑺俅侮P(guān)進(jìn)冬天 "。

附：公開(kāi)信原文

暫停巨型 AI 實(shí)驗(yàn)：一封公開(kāi)信

大量研究表明并得到頂級(jí) AI 實(shí)驗(yàn)室的認(rèn)可，具有人類競(jìng)爭(zhēng)智能的 AI 系統(tǒng)可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。正如被廣泛認(rèn)可的 Asilomar AI 原則中所描述的那樣，高級(jí) AI 可能代表地球生命史上的深刻變化，應(yīng)以相應(yīng)的關(guān)懷和資源進(jìn)行規(guī)劃和管理。不幸的是，這種級(jí)別的規(guī)劃和管理并沒(méi)有發(fā)生，盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，以開(kāi)發(fā)和部署更強(qiáng)大的數(shù)字思維，沒(méi)有人——甚至他們的創(chuàng)造者——都無(wú)法理解、預(yù)測(cè)、或可靠地控制。

當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上變得與人類具有競(jìng)爭(zhēng)力，我們必須捫心自問(wèn)：我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道？我們應(yīng)該自動(dòng)化所有的工作，包括令人滿意的工作嗎？我們是否應(yīng)該 發(fā)展最終可能超過(guò)我們、超越我們、過(guò)時(shí)并取代我們的非人類思維？我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎？我們不可以將此類決定委托給未經(jīng)選舉產(chǎn)生的技術(shù)領(lǐng)導(dǎo)者。只有當(dāng)我們確信它們的影響是積極的并且它們的風(fēng)險(xiǎn)是可控的時(shí)候，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而增加。OpenAI 最近關(guān)于通用人工智能的聲明指出，" 在某個(gè)時(shí)候，在開(kāi)始訓(xùn)練未來(lái)系統(tǒng)之前進(jìn)行獨(dú)立審查可能很重要，并且對(duì)于最先進(jìn)的工作來(lái)說(shuō)，人們應(yīng)該在合適的時(shí)間點(diǎn)限制用于創(chuàng)建新系統(tǒng)的計(jì)算增長(zhǎng)率。" 我們同意，而當(dāng)下就是這一時(shí)候。

因此，我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停至少 6 個(gè)月的比 GPT-4 更強(qiáng)大的 AI 系統(tǒng)訓(xùn)練。這種暫停應(yīng)該是公開(kāi)的和可驗(yàn)證的，并且包括所有關(guān)鍵參與者。如果不能迅速實(shí)施這種暫停，政府應(yīng)介入并暫停。

人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這次暫停，共同開(kāi)發(fā)和實(shí)施一套用于高級(jí)人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，并由獨(dú)立的外部專家進(jìn)行嚴(yán)格審計(jì)和監(jiān)督。這些協(xié)議應(yīng)確保遵守它們的系統(tǒng)是安全的，無(wú)可置疑。這并不意味著總體上暫停 AI 開(kāi)發(fā)，只是從危險(xiǎn)的競(jìng)賽中倒退到具有緊急功能的更大的不可預(yù)測(cè)的黑盒模型。

人工智能研究和開(kāi)發(fā)應(yīng)該重新聚焦于使當(dāng)今強(qiáng)大的、最先進(jìn)的系統(tǒng)，更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、值得信賴和忠誠(chéng)。

與此同時(shí)，AI 開(kāi)發(fā)人員必須與政策制定者合作，以加快開(kāi)發(fā)強(qiáng)大的 AI 治理系統(tǒng)。涵蓋內(nèi)容至少應(yīng)包括：專門負(fù)責(zé) AI 的新的和有能力的監(jiān)管機(jī)構(gòu)；監(jiān)督和跟蹤高性能人工智能系統(tǒng)和大量計(jì)算能力；出處和水印系統(tǒng)，以幫助區(qū)分真實(shí)與合成并跟蹤模型泄漏；強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng)；人工智能造成的傷害的責(zé)任；為技術(shù)人工智能安全研究提供強(qiáng)大的公共資金；以及資源充足的機(jī)構(gòu)來(lái)應(yīng)對(duì)人工智能將造成的巨大的經(jīng)濟(jì)和政治破壞。

人類可以享受人工智能帶來(lái)的繁榮未來(lái)。成功創(chuàng)建強(qiáng)大的 AI 系統(tǒng)后，我們現(xiàn)在已經(jīng)可以享受人工智能之夏 "，去收獲回報(bào)，去設(shè)計(jì)這些系統(tǒng)以造福所有人，并為社會(huì)提供更長(zhǎng)的適應(yīng)機(jī)會(huì)和時(shí)間。過(guò)去我們已經(jīng)暫停過(guò)其他可能對(duì)社會(huì)造成災(zāi)難性影響的技術(shù)。我們現(xiàn)在也可以這樣這樣做。讓我們享受一個(gè)漫長(zhǎng)的 AI 夏天，而不是毫無(wú)準(zhǔn)備地跑入秋天。

原文地址：https://futureoflife.org/open-letter/pause-giant-ai-experiments/

注：封面圖來(lái)自于網(wǎng)絡(luò)，版權(quán)屬于原作者。如果不同意使用，請(qǐng)盡快聯(lián)系我們，我們會(huì)立即刪除。