国产成人激情在线_人人干日日干_365porn_在线一区视频_国产高清在线观看_91插插插影院

中國科學院院士何積豐:利用對齊技術為大模型戴上“緊箍咒”

時間:2023-09-07 17:37:03 來源: 藍鯨財經



(相關資料圖)

模型的通用能力讓其能夠應用到人類生產生活的各個場景中,可謂 " 無孔不入 "。AI 的發展因此帶來了新的安全隱私問題,如何解決這一隱患,9 月 7 日開幕的 2023INCLUSION · 外灘大會上,中國科學院院士何積豐開出了他的 " 藥方 ":利用對齊技術為大模型戴上緊箍咒。

何積豐院士認為,大模型的安全問題主要是在未經同意的情況下,收集、使用和泄露個人信息。隱私問題既可能發生在訓練過程,也可能發生在使用過程中,而大模型的生成能力則讓 " 隱私泄露 " 的方式變得多樣化,造成隱私保護更加困難。

" 為了應對這些問題,我們需要大模型對齊技術。" 何積豐說," 對齊(alignment)" 是指系統的目標和人類價值觀一致,使其符合設計者的利益和預期,不會產生意外的有害后果。" 如果把人工智能看作西游記里的孫悟空,‘對齊’就是唐僧的緊箍咒。有了緊箍咒,就可以保證技術不會任意使用能力胡作非為。"

不過,對齊技術同樣面臨挑戰。首先,對齊的基礎,人類的價值觀是多元且動態變化的,需要保證大模型為人服務、與人為善;其次,大模型的有用性與無害性之間目標也不完全一致。如何對錯誤進行有效糾正,設好大模型的 " 緊箍咒 " 也是挑戰。

因此,對齊技術已經成為了一項令人眼花繚亂的跨學科研究,不僅考驗技術,也審視文化。

何積豐介紹,反饋強化學習是實現對齊的技術途徑,目前有兩種方式,一種方式是通過人工反饋給模型不同的獎勵信號,引導模型的高質量輸出;另一種方式,事先給大模型提供明確的原則,系統自動訓練模型對所有生成的輸出結果提供初始排序。" 這意味著,不僅智能系統需要向人類價值觀對齊,人類的訓練方法也要向價值觀對齊。" 何積豐說。

關鍵詞:

網站簡介 網站團隊 本網動態 友情鏈接 版權聲明 我要投稿

Copyright? 2014-2020 中原網視臺(www.b4dc4.cn) All rights reserved.

主站蜘蛛池模板: 日本精品不卡 | 最近日本免费观看高清视频 | 日韩在线二区 | 两个奶头被吃高潮视频 | 日本午夜精品一区二区三区电影 | 国产不卡网 | 欧洲精品码一区二区三区免费看 | 国产午夜精品久久理论片 | 成人做爰69片免费看网站 | 久久在线综合 | 亚洲一区二区三区影院 | 在线中文字幕乱码英文字幕正常 | 无码一区二区三区视频 | 国产成人免费观看 | 久久99精品亚洲热综合 | 九色综合网 | 国产肝交视频在线观看 | 亚洲国产成人精品女人久久久 | 特级aav毛片日本免费视频 | 2021国产精品久久久久 | 免费网站色| 老熟妇乱子伦系列视频 | 人人爽人人爽人人片av | 成人3p视频免费 | 国产精品午夜激爽毛片 | 美女把腿扒开让我添下面 | 经典香港一级a毛片免费看 精彩视频一区二区 | 国产一区二区不卡免费观在线 | 老司机免费在线观看视频 | 丝袜美女被出水一区 | 亚洲天堂免费视频 | 国产aⅴ夜夜欢一区二区三区 | 国产亚洲一区二区三区在线观看 | 蜜芽亚洲av无码一区二区三区 | 成人午夜精品久久久久久久小说 | 98久久人妻少妇激情啪啪 | 国产美女作爱全过程免费视频 | 国产激情无码一区二区 | 久亚洲精品不子伦一区 | 裸体美女无遮挡免费网站 | 亚洲欧美不卡视频在线播放 |