近日，人工智能安全基礎(chǔ)設(shè)施提供商瑞萊智慧（RealAI）宣布完成新一輪戰(zhàn)略融資，北京市人工智能產(chǎn)業(yè)投資基金等參與投資，光源資本擔(dān)任獨(dú)家財(cái)務(wù)顧問(wèn)。本輪融資完成后，瑞萊智慧將繼續(xù)加速通用人工智能安全基座產(chǎn)品研發(fā)，并不斷推進(jìn)安全可控的大模型商業(yè)化落地。

隨著全球范圍內(nèi)最大規(guī)模的人工智能浪潮掀起，人工智能的可控性和安全性成為愈發(fā)重要的發(fā)展議題。如今，人工智能大模型的通用性和泛化性大幅提升，應(yīng)用也從傳統(tǒng)的判別式任務(wù)走向生成式任務(wù)，而人工智能的內(nèi)生及衍生安全問(wèn)題變得愈加復(fù)雜，其帶來(lái)的挑戰(zhàn)和已經(jīng)引起的各類風(fēng)險(xiǎn)事件也持續(xù)受到全球公眾、企業(yè)和政府的廣泛關(guān)注。當(dāng)下，人工智能安全不僅要解決數(shù)據(jù)風(fēng)險(xiǎn)，模型本身的幻覺(jué)、魯棒性不足和不可解釋性等技術(shù)問(wèn)題，還要著力減少倫理風(fēng)險(xiǎn)、價(jià)值觀對(duì)齊風(fēng)險(xiǎn)，以及AI詐騙等濫用行為導(dǎo)致的影響。

2018年7月，瑞萊智慧依托清華大學(xué)人工智能研究院發(fā)起設(shè)立，始終深耕安全、可靠、可控的第三代人工智能，著力打造人工智能安全基礎(chǔ)設(shè)施，提供以AI安全為核心能力的AI平臺(tái)產(chǎn)品與行業(yè)解決方案，為人工智能技術(shù)安全、可靠、可控的落地應(yīng)用筑就堅(jiān)實(shí)基座。秉持著“智能向善”的使命，瑞萊智慧堅(jiān)持源頭創(chuàng)新和底層研究，實(shí)現(xiàn)對(duì)AI大模型的研發(fā)部署和應(yīng)用治理環(huán)節(jié)全覆蓋，建立了包括基礎(chǔ)算法平臺(tái)層、底層資源層、應(yīng)用層的全方位AI安全體系，已成為通用人工智能全產(chǎn)業(yè)鏈條安全標(biāo)準(zhǔn)的制定者和踐行者。

目前，瑞萊智慧已推出“大模型安全基座”與“AI生成內(nèi)容檢測(cè)基座”兩條產(chǎn)品線，分別對(duì)應(yīng)人工智能內(nèi)生與衍生安全風(fēng)險(xiǎn)。

大模型安全基座基于博弈對(duì)抗技術(shù)打造，能針對(duì)當(dāng)前大模型幻覺(jué)、輸出有害內(nèi)容等風(fēng)險(xiǎn)做出綜合有效的自動(dòng)化可控性評(píng)測(cè)，并可以通過(guò)知識(shí)嵌入、領(lǐng)域能力增強(qiáng)、模型圍欄等手段，使模型在嚴(yán)肅場(chǎng)景的表現(xiàn)更加可控。針對(duì)對(duì)抗樣本攻擊、模型后門攻擊、數(shù)據(jù)逆向攻擊等人工智能特有的安全挑戰(zhàn)，可提供端到端的AI紅隊(duì)對(duì)抗安全性測(cè)評(píng)，并提升模型抗攻擊能力。基于該安全基座，可直接面向嚴(yán)肅場(chǎng)景打造更加可控的行業(yè)大模型系統(tǒng)應(yīng)用，實(shí)現(xiàn)大模型落地。

AI生成內(nèi)容檢測(cè)基座基于貝葉斯深度學(xué)習(xí)技術(shù)開(kāi)發(fā)，能夠精準(zhǔn)判斷圖像、視頻、音頻、文本等各類內(nèi)容是否由人工智能生成，防止虛假信息的廣泛傳播，同時(shí)能夠滿足人臉識(shí)別等需要可信內(nèi)容輸入的場(chǎng)景需求，涵蓋互聯(lián)網(wǎng)AIGC內(nèi)容標(biāo)注、多媒體AIGC合成鑒定、人臉識(shí)別系統(tǒng)防AIGC攻擊、AIGC文章檢測(cè)等功能，可遏制因人工智能被惡用、濫用所帶來(lái)的不良影響。

基于強(qiáng)大的基礎(chǔ)通用人工智能安全能力和豐富的行業(yè)落地經(jīng)驗(yàn)，瑞萊智慧開(kāi)發(fā)了更加安全、可控的行業(yè)解決方案，成功在基礎(chǔ)設(shè)施、政府、金融等領(lǐng)域?qū)崿F(xiàn)快速的產(chǎn)品化和商業(yè)化落地，已服務(wù)多個(gè)國(guó)家部委以及中國(guó)銀聯(lián)、中國(guó)工商銀行、中國(guó)建設(shè)銀行、華為等300余家頭部企業(yè)，服務(wù)政策大模型在北京市上線使用，累計(jì)獲得近百項(xiàng)國(guó)家級(jí)獎(jiǎng)項(xiàng)和榮譽(yù)。

 瑞萊智慧CEO田天博士表示：“大模型在安全可控上的不足是其當(dāng)前無(wú)法廣泛落地應(yīng)用的根本原因，而人工智能不安全的開(kāi)發(fā)和使用，則可能給人類的發(fā)展乃至生存帶來(lái)災(zāi)難性的后果。相比過(guò)往其他領(lǐng)域的安全問(wèn)題，人工智能安全風(fēng)險(xiǎn)更加本質(zhì)也更加難克服。”

未來(lái)，瑞萊智慧將發(fā)揮前沿引領(lǐng)者角色，持續(xù)關(guān)注世界范圍內(nèi)出現(xiàn)的前沿人工智能安全風(fēng)險(xiǎn)挑戰(zhàn)，沉淀技術(shù)能力和實(shí)踐經(jīng)驗(yàn)，進(jìn)一步創(chuàng)新和完善產(chǎn)品功能，加深立體化產(chǎn)品體系建設(shè)和產(chǎn)業(yè)化建設(shè)，為“人工智能+”賦能全行業(yè)全場(chǎng)景提供堅(jiān)實(shí)安全保障。瑞萊智慧也將不斷推動(dòng)通用人工智能安全能力的基礎(chǔ)設(shè)施化建設(shè)，與智算中心等算力基礎(chǔ)設(shè)施深度融合，護(hù)航中國(guó)通用人工智能高質(zhì)量發(fā)展，加速中國(guó)人工智能產(chǎn)業(yè)向國(guó)際領(lǐng)軍地位邁進(jìn)。