記者從濱海高新區(qū)企業(yè)360獲悉，360智腦總裁張向征日前在2024（第二十三屆）中國(guó)互聯(lián)網(wǎng)大會(huì)上就大模型安全的重要性以及在落地應(yīng)用過(guò)程中的四大原則和“以模制模”理念進(jìn)行了全面分享。
張向征明確指出，大模型不僅是數(shù)智化時(shí)代的重要基礎(chǔ)設(shè)施，安全是大模型應(yīng)用的基石，大模型的發(fā)展要遵循的“安全、向善、可信、可控”四大原則。此外，360集團(tuán)在實(shí)踐中也提出“以模制模”的理念，用專(zhuān)業(yè)知識(shí)訓(xùn)練的大模型做大模型的安全識(shí)別、評(píng)估和管控。
具體而言，大模型生態(tài)鏈安全檢測(cè)系統(tǒng)，可以確保模型環(huán)境安全。值得一提的是AISE人工智能系統(tǒng)安全檢測(cè)平臺(tái)，作為國(guó)內(nèi)首個(gè)支持系統(tǒng)化安全檢測(cè)、首個(gè)支持提示注入風(fēng)險(xiǎn)檢測(cè)的平臺(tái)，不僅支持針對(duì)多種安全風(fēng)險(xiǎn)測(cè)評(píng)，更能覆蓋圖像識(shí)別、人臉識(shí)別、目標(biāo)檢測(cè)、生成式AI等多場(chǎng)景，輸出安全評(píng)分及分析報(bào)告，并提供相應(yīng)的安全加固方案。智腦風(fēng)控引擎，為大模型內(nèi)容安全保駕護(hù)航。在使用安全工具的輔助下，大模型風(fēng)控能力的迭代效率也將提升。基于安全工具增強(qiáng)，360紅藍(lán)對(duì)抗團(tuán)隊(duì)僅需輸入風(fēng)險(xiǎn)主題和目標(biāo)大模型，即可對(duì)線(xiàn)上大模型的風(fēng)險(xiǎn)自動(dòng)巡查。而微調(diào)和強(qiáng)化學(xué)習(xí)技術(shù)的引入，也有效提升大模型回復(fù)安全。另外，基于幻覺(jué)檢測(cè)Agent，大模型輸出可信度也得到進(jìn)一步的提升。這一套完善的大模型安全方案支持SaaS、私有化、混合云、公有云多種部署或交付方式，滿(mǎn)足企業(yè)對(duì)便捷、成本、安全等多種因素的個(gè)性化需求。
360相關(guān)負(fù)責(zé)人表示，在大模型安全解決方案上，從技術(shù)創(chuàng)新到舉辦大模型攻防競(jìng)賽，再到參與大模型國(guó)家標(biāo)準(zhǔn)的編寫(xiě)，360始終致力于為AI大模型的安全發(fā)展貢獻(xiàn)力量，護(hù)航大模型應(yīng)用，助力數(shù)智化轉(zhuǎn)型。
津公網(wǎng)備案：12019202000211
