中青報·中青網(wǎng)見習(xí)記者 袁 野

爆紅之后，人工智能工具ChatGPT一路高歌猛進(jìn)，直到它踢到了鐵板。

據(jù)美國《紐約時報》報道，3月31日，意大利個人數(shù)據(jù)保護(hù)局宣布禁止使用ChatGPT，限制ChatGPT的開發(fā)公司OpenAI處理意大利用戶信息，并開始立案調(diào)查。

【資料圖】

意大利個人數(shù)據(jù)保護(hù)局認(rèn)為，OpenAI公司沒有就收集處理用戶信息進(jìn)行告知，缺乏大量收集和存儲個人信息的法律依據(jù)。該機(jī)構(gòu)還表示，盡管OpenAI的條款聲稱ChatGPT面向13歲以上的用戶，但平臺缺乏驗(yàn)證用戶年齡的機(jī)制。

《紐約時報》稱，這是全球范圍內(nèi)針對ChatGPT的第一道政府禁令。意大利的決定表明，尖端人工智能開發(fā)者面臨嚴(yán)峻的政策挑戰(zhàn)。雖然ChatGPT的強(qiáng)大功能令人眼花繚亂，但人們擔(dān)心它助長假消息的傳播、影響就業(yè)崗位，對人類社會造成更廣泛的潛在風(fēng)險。

據(jù)英國路透社報道，3月28日，1000多名人工智能專家和行業(yè)高管聯(lián)名發(fā)布公開信，呼吁暫停開發(fā)最先進(jìn)的人工智能系統(tǒng)，以便制定安全政策。署名者中包括特斯拉首席執(zhí)行官、推特“掌門”埃隆·馬斯克，蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克，2020年美國總統(tǒng)參選人、企業(yè)家楊安澤，以及負(fù)責(zé)設(shè)定世界“末日時鐘”的《原子科學(xué)家公報》負(fù)責(zé)人蕾切爾·布朗森。

“這些東西正在塑造我們的世界。”長期質(zhì)疑AI系統(tǒng)缺陷的企業(yè)家、學(xué)者加里·馬庫斯在接受路透社采訪時說，“我們面臨不負(fù)責(zé)任的企業(yè)、廣泛應(yīng)用、監(jiān)管缺失和大量未知因素引發(fā)的‘完美風(fēng)暴’。”

“只有當(dāng)我們確信強(qiáng)大的AI系統(tǒng)能帶來好處，并且風(fēng)險可控的時候，才應(yīng)該推進(jìn)其開發(fā)。”公開信稱。

OpenAI的首席執(zhí)行官薩姆·奧爾特曼沒有在這封信上簽名。

在OpenAI提交更多信息之前，意大利監(jiān)管機(jī)構(gòu)禁止該國互聯(lián)網(wǎng)用戶訪問ChatGPT。OpenAI有20天的時間提交材料和補(bǔ)救措施，之后，意大利政府將作出決定。

意大利監(jiān)管機(jī)構(gòu)提到了3月20日的數(shù)據(jù)泄露事件，該事件導(dǎo)致一些ChatGPT用戶的對話數(shù)據(jù)和有償服務(wù)支付信息丟失。該機(jī)構(gòu)警告稱，OpenAI可能被處以最高2000萬歐元或該公司全球年?duì)I業(yè)額4%的罰款。

ChatGPT收到首張“禁令”后，不少國家開始考慮效仿意大利，“圍堵”ChatGPT。

路透社稱，4月初，德國聯(lián)邦政府?dāng)?shù)據(jù)保護(hù)專員烏爾里希·凱爾伯表示，德國可能跟隨意大利的腳步，因數(shù)據(jù)安全問題“封殺”ChatGPT。

據(jù)加拿大隱私專員辦公室（OPC）官網(wǎng)4月4日宣布，OPC將對OpenAI展開調(diào)查，OpenAI面臨“未經(jīng)同意收集、使用和披露個人信息”的指控。

法國和愛爾蘭的隱私監(jiān)管機(jī)構(gòu)已聯(lián)系意大利監(jiān)管機(jī)構(gòu)，以了解更多有關(guān)禁令的情況。愛爾蘭數(shù)據(jù)保護(hù)機(jī)構(gòu)發(fā)言人稱：“我們正在向意大利監(jiān)管機(jī)構(gòu)跟進(jìn)情況，將與歐盟數(shù)據(jù)保護(hù)機(jī)構(gòu)共同協(xié)調(diào)此事。”

對于歐洲多國的此類反應(yīng)，中青報·中青網(wǎng)見習(xí)記者詢問了ChatGPT的意見，它給出了自己的態(tài)度：德國、意大利等國考慮禁用ChatGPT等AI技術(shù)，反映了這些國家的擔(dān)憂和關(guān)注，但禁用不一定是最優(yōu)解。

“它們認(rèn)為，Al技術(shù)可能對隱私和數(shù)據(jù)安全造成威脅，需要加強(qiáng)監(jiān)管和規(guī)范。從這個角度看，這種擔(dān)憂和關(guān)注是可以理解的，也是合理的。”ChatGPT答道，“Al技術(shù)的應(yīng)用確實(shí)存在一些挑戰(zhàn)和風(fēng)險。例如，AI算法和模型可能泄露用戶的隱私和數(shù)據(jù)，或者產(chǎn)生質(zhì)量問題和失誤，對用戶、企業(yè)和社會帶來負(fù)面影響。為此，需要在監(jiān)管和規(guī)范方面進(jìn)行改進(jìn)和加強(qiáng)，以保護(hù)用戶的隱私和數(shù)據(jù)安全。”

“然而，禁止AI技術(shù)井不是最好的解決方案。Al技術(shù)具有廣泛的應(yīng)用前景和發(fā)展?jié)摿Γ诖龠M(jìn)企業(yè)創(chuàng)新和提高人類生活質(zhì)量方面具有不可替代的價值。因此，需要更好地平衡不同方面的利益，制定出更加科學(xué)和穩(wěn)健的政策和規(guī)范。”ChatGPT表示，“總之，禁用ChatGPT等Al技術(shù)不一定是最優(yōu)解，需要更加全面深入的研究和討論，包括技術(shù)標(biāo)準(zhǔn)、驗(yàn)證設(shè)施和監(jiān)管機(jī)制等，以確保AI技術(shù)的安全、可靠和負(fù)責(zé)任地發(fā)展，真正實(shí)現(xiàn)技術(shù)和人類的共贏。”

在應(yīng)對措施方面，ChatGPT表示將認(rèn)真對待這些反應(yīng)，與相關(guān)部門和利益相關(guān)者積極溝通，全力配合各方開展相關(guān)的調(diào)查和處理，同時努力提高技術(shù)的安全性和合規(guī)性，保護(hù)用戶隱私和數(shù)據(jù)安全。

這符合其開發(fā)公司OpenAI的態(tài)度。該公司在一份聲明中表示，已為意大利用戶禁用ChatGPT，并承諾將致力于保護(hù)人們的隱私。

“在訓(xùn)練ChatGPT等AI系統(tǒng)時，我們努力減少個人數(shù)據(jù)的使用，因?yàn)槲覀兿Ｍ覀兊腁I了解世界，而不是了解個人。”O(jiān)penAI稱，“我們認(rèn)為，對人工智能的監(jiān)管是必要的。”

4月6日，意大利個人數(shù)據(jù)保護(hù)局官網(wǎng)發(fā)布消息稱，OpenAI與該機(jī)構(gòu)于5日晚舉行了會議，雙方愿合作解決對數(shù)據(jù)安全的擔(dān)憂。除了加強(qiáng)個人數(shù)據(jù)使用的透明度，OpenAI還將增強(qiáng)數(shù)據(jù)主體權(quán)利行使機(jī)制及對兒童的保護(hù)措施。

意大利監(jiān)管機(jī)構(gòu)將評估其此前的建議措施，包括針對OpenAI發(fā)布的命令。意大利個人數(shù)據(jù)保護(hù)局強(qiáng)調(diào)，這次會議并不是為了阻礙AI和技術(shù)創(chuàng)新的發(fā)展，并重申了遵守意大利和歐洲的個人數(shù)據(jù)法規(guī)的重要性。

路透社稱，歐盟委員會2021年提出了《歐盟人工智能法案》，以保護(hù)公民在新興技術(shù)下的數(shù)據(jù)、隱私安全。

4月10日，中青報·中青網(wǎng)見習(xí)記者詢問ChatGPT，它是否會因?yàn)殡[私問題而在意大利被禁用。ChatGPT回答：“應(yīng)該沒有可擔(dān)心的。”

“作為一個人工智能語言模型，我不存在于實(shí)際的物理世界中，因此不會被禁用。我是在計算機(jī)服務(wù)器上運(yùn)行的軟件程序，只要服務(wù)器能夠被訪問，我就可以被使用。我的開發(fā)者們一直遵循當(dāng)?shù)氐姆煞ㄒ?guī)，盡力確保我的使用符合適用的規(guī)定。如果有任何國家或地區(qū)的法規(guī)發(fā)生了變化，我的開發(fā)者們將及時調(diào)整，并確保我能合法地繼續(xù)為用戶提供服務(wù)。”ChatGPT說。