近日，人工智能安全基礎設施提供商瑞萊智慧（RealAI）宣布完成新一輪戰略融資，北京市人工智能產業投資基金等參與投資。本輪融資完成后，「瑞萊智慧」將繼續加速通用人工智能安全基座產品研發，并不斷推進安全可控的大模型商業化落地。

隨著全球范圍內最大規模的人工智能浪潮掀起，人工智能的可控性和安全性成為愈發重要的發展議題。如今，人工智能大模型的通用性和泛化性大幅提升，應用也從傳統的判別式任務走向生成式任務，而人工智能的內生及衍生安全問題變得愈加復雜，其帶來的挑戰和已經引起的各類風險事件也持續受到全球公眾、企業和政府的廣泛關注。

當下，人工智能安全不僅要解決數據風險，模型本身的幻覺、魯棒性不足和不可解釋性等技術問題，還要著力減少倫理風險、價值觀對齊風險，以及AI詐騙等濫用行為導致的影響。

2018年7月，「瑞萊智慧」依托清華大學人工智能研究院發起設立，始終深耕安全、可靠、可控的第三代人工智能，著力打造人工智能安全基礎設施，提供以AI安全為核心能力的AI平臺產品與行業解決方案，為人工智能技術安全、可靠、可控的落地應用筑就堅實基座。

秉持著“智能向善”的使命，「瑞萊智慧」堅持源頭創新和底層研究，實現對AI大模型的研發部署和應用治理環節全覆蓋，建立了包括基礎算法平臺層、底層資源層、應用層的全方位AI安全體系，已成為通用人工智能全產業鏈條安全標準的制定者和踐行者。目前，「瑞萊智慧」已推出“大模型安全基座”與“AI生成內容檢測基座”兩條產品線，分別對應人工智能內生與衍生安全風險。

大模型安全基座基于博弈對抗技術打造，能針對當前大模型幻覺、輸出有害內容等風險做出綜合有效的自動化可控性評測，并可以通過知識嵌入、領域能力增強、模型圍欄等手段，使模型在嚴肅場景的表現更加可控。針對對抗樣本攻擊、模型后門攻擊、數據逆向攻擊等人工智能特有的安全挑戰，可提供端到端的AI紅隊對抗安全性測評，并提升模型抗攻擊能力?；谠摪踩芍苯用嫦驀烂C場景打造更加可控的行業大模型系統應用，實現大模型落地。

AI生成內容檢測基座基于貝葉斯深度學習技術開發，能夠精準判斷圖像、視頻、音頻、文本等各類內容是否由人工智能生成，防止虛假信息的廣泛傳播，同時能夠滿足人臉識別等需要可信內容輸入的場景需求，涵蓋互聯網AIGC內容標注、多媒體AIGC合成鑒定、人臉識別系統防AIGC攻擊、AIGC文章檢測等功能，可遏制因人工智能被惡用、濫用所帶來的不良影響。

基于強大的基礎通用人工智能安全能力和豐富的行業落地經驗，「瑞萊智慧」開發了更加安全、可控的行業解決方案，成功在基礎設施、政府、金融等領域實現快速的產品化和商業化落地，已服務多個國家部委以及中國銀聯、中國工商銀行、中國建設銀行、華為等300余家頭部企業，服務政策大模型在北京市上線使用，累計獲得近百項國家級獎項和榮譽。

「瑞萊智慧」CEO田天博士表示：“大模型在安全可控上的不足是其當前無法廣泛落地應用的根本原因，而人工智能不安全的開發和使用，則可能給人類的發展乃至生存帶來災難性的后果。相比過往其他領域的安全問題，人工智能安全風險更加本質也更加難克服?！?/span>

未來，「瑞萊智慧」將發揮前沿引領者角色，持續關注世界范圍內出現的前沿人工智能安全風險挑戰，沉淀技術能力和實踐經驗，進一步創新和完善產品功能，加深立體化產品體系建設和產業化建設，為“人工智能+”賦能全行業全場景提供堅實安全保障。

「瑞萊智慧」也將不斷推動通用人工智能安全能力的基礎設施化建設，與智算中心等算力基礎設施深度融合，護航中國通用人工智能高質量發展，加速中國人工智能產業向國際領軍地位邁進。