近幾個月來，以 ChatGPT 為代表的生成式人工智能狂飆突進，大模型時代已然降臨。在 " 百模大戰 " 越戰越酣之時，大模型其內生及衍生安全威脅也愈演愈烈，數據泄露、幻想、生產歧視、排斥和有害內容等安全問題層出不窮。如何將制約大模型應用發展的 " 絆腳石 " 變為 " 壓艙石 "？

(資料圖片)

7 月 7 日，在 2023 世界人工智能大會上，清華大學人工智能研究院孵化企業瑞萊智慧（RealAI）發布了全新人工智能安全平臺 RealSafe3.0，為加速發展的大模型系好 " 安全帶 "、把好 " 方向盤 "。

"雙刃劍"效應，制約大模型落地

新技術往往會伴隨新的安全問題。自人工智能誕生的那一刻起，創造技術的力量和控制技術的力量就存在不對等，大模型亦是如此。盡管它的強大讓人類瞥見了通用人工智能的曙光，但也讓眾多學界、業界人士心生憂懼。近段時間，關于大模型的安全隱患多次被提及，比如秘密文件可能遭泄露、添加無意義的字符后大模型竟給出完全相反的回答、輸出違法有害信息、隱含某些偏見和歧視內容等。

這些風險已引起各國高度關注。國家互聯網信息辦公室 4 月 11 日起草《生成式人工智能服務管理辦法 ( 征求意見稿 ) 》；歐盟于 6 月 14 日投票通過了《人工智能法案》，全球 400 多位專家甚至發布聯名公開信，提出對于人工智能發展過快、同時缺乏監管的擔憂。

瑞萊智慧聯合創始人、算法科學家蕭子豪認為，大模型 " 落地難 "，本質是因為當前仍處于 " 野蠻生長 " 階段，還未找到場景、風險和規范三者間的平衡點。而要探尋這一平衡點，目前缺少易用和標準化的工具，無法科學評判大模型能否同時實現規范和低風險，也難以進一步定位問題并給出優化建議。

源頭上找癥結，技術上找對策

基于上述問題，瑞萊智慧在世界人工智能大會上正式發布人工智能安全平臺 RealSafe3.0 版，集成了主流及企業獨有的世界級安全評測技術，能提供端到端的模型安全性測評解決方案，解決當前通用大模型安全風險難以審計的痛點問題。相較上一版本，RealSafe3.0 新增了對通用大模型的評測，評測維度已覆蓋數據安全、認知任務、通用模型特有漏洞、濫用場景等近 70 個方面，未來還會持續擴增測評維度。

蕭子豪說，評測只是手段，幫助通用大模型提升安全性才是目的。而瑞萊智慧的辦法是從源頭上入手，找準癥結，基于自研多模態大模型底座，用 AI 的神奇守護神奇的 AI。比如，由于數據集的質量直接影響模型的內生安全，因此 RealSafe3.0 集成了多個自研模型和專家論證高質量數據集，幫用戶修復模型中的問題。針對黑盒不可解釋的通用大模型，自研的紅隊對抗模型取代人工設計問題，能自動化地挖掘出更多漏洞，真正從源頭化解風險。

此外，新安全平臺還能通訓練，推動大模型安全性迭代提升。瑞萊智慧推出的教練模型，能對被測大模型進行多輪次的提問 - 回答訓練，使其掌握好壞答案的要點及區別，直至問答能力迭代至最優。值得一提的是，教練模型基于瑞萊智慧自有數據集，還經過數十位價值觀領域的專家論證，確保了輸入數據高質量且領域多元。

用AI守護AI，用智慧駕馭智能

除了可提升生成式大模型安全性的 RealSafe3.0，瑞萊智慧此次還帶來了能夠防范生成式人工智能惡意濫用的 DeepReal2.0，該技術此前名為深度偽造內容檢測平臺，能檢測 Deepfake 內容，此次則新增兩個模塊，可以檢測 Diffusion、LLM 這兩類 AI 生成的數據，從而對生成式人工智能技術濫用進行管控和治理。同時也支持檢測圖像、視頻、音頻、文本等是否偽造，適用于打擊網絡詐騙和聲譽侵害行為、檢測網絡內容合規性、檢測音視頻物證真實性等場景。

蕭子豪說，從古至今，技術始終都是一把‘雙刃劍’。通用人工智能的時代必將到來，如何讓人工智能揚長避短，如何用人類智慧駕馭人工智能，是從業者的一道長久課題。事實上，這也是瑞萊智慧一直努力的方向。自 2018 年成立以來，瑞萊智慧堅持源頭創新和底層研究，致力于研究和發展安全可控的第三代人工智能技術，建立通用 AI 模型能力和人工智能安全能力。

未來，在通過 RealSafe3.0 保障通用大模型和專有模型安全、可靠、可控的同時，瑞萊智慧也將持續迭代技術、打磨產品，以確保在這場人工智能安全 " 攻防戰 " 中始終掌握主動，將人工智能這一 " 關鍵變量 " 化為高質量發展的 " 最大增量 "。

作者：張懿

編輯：商慧

* 文匯獨家稿件，轉載請注明出處。