近日，作為第二屆網(wǎng)絡(luò)空間安全（天津）論壇重要組成部分，大模型與數(shù)據(jù)安全主題論壇，聚焦“夯實(shí)數(shù)安底座 釋放數(shù)據(jù)潛能”主題，邀請(qǐng)先進(jìn)計(jì)算與關(guān)鍵軟件（信創(chuàng)）海河實(shí)驗(yàn)室主任龔克、貴州大數(shù)據(jù)安全工程研究中心主任杜躍進(jìn)等知名專家學(xué)者以及國(guó)家部委、科研院所、知名高校、業(yè)內(nèi)前沿企業(yè)代表，圍繞大模型與數(shù)據(jù)安全制度建設(shè)、數(shù)據(jù)安全保護(hù)技術(shù)發(fā)展、網(wǎng)絡(luò)數(shù)據(jù)人工智能安全治理實(shí)踐等熱點(diǎn)話題進(jìn)行深入探討，匯聚產(chǎn)業(yè)成果和先進(jìn)經(jīng)驗(yàn)，進(jìn)一步健全大模型與數(shù)據(jù)安全保障體系，助力國(guó)內(nèi)數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展。
參加主題論壇的專家學(xué)者一致認(rèn)為，大模型技術(shù)正逐漸成為推動(dòng)社會(huì)進(jìn)步和產(chǎn)業(yè)升級(jí)的關(guān)鍵核心力量，但其安全性、可靠性、可控性正面臨前所未有的挑戰(zhàn)。
“發(fā)展人工智能新質(zhì)生產(chǎn)力是硬道理，不發(fā)展是最大的不安全。占據(jù)技術(shù)高地，才能相對(duì)安全。”龔克認(rèn)為，當(dāng)前，人工智能的所有風(fēng)險(xiǎn)主要來自兩個(gè)方面，一是技術(shù)問題，缺乏堅(jiān)實(shí)理論基礎(chǔ)，存在基于概率的本征性問題等。二是應(yīng)用問題，主要是誤用、濫用和惡用，以及盲目依賴。對(duì)此，人工智能的治理要促進(jìn)創(chuàng)新、確保安全和教育公民駕馭，而非依賴人工智能。
“數(shù)字安全將影響人們的生產(chǎn)方式、生活方式和社會(huì)治理方式。目前除存在網(wǎng)絡(luò)安全、數(shù)據(jù)安全的風(fēng)險(xiǎn)之外，數(shù)據(jù)污染和投毒、模型和算法安全、不可解釋性及生成式AI的泛化特性用于業(yè)務(wù)決策等也存在著相應(yīng)風(fēng)險(xiǎn)。”杜躍進(jìn)表示，在快速發(fā)展和變化中，唯有加強(qiáng)研究和實(shí)踐、快速迭代和改進(jìn)，并在充分利用數(shù)字革命帶來的技術(shù)、發(fā)揮新的工作模式優(yōu)勢(shì)的前提下，才有可能應(yīng)對(duì)大模型安全特有的新問題。
津公網(wǎng)備案：12019202000211
