警惕“大模型幻覺”，中國AI要大膽前行

警惕“大模型幻覺”，中國AI大膽前行

隨著人工智能（AI）技術(shù)的飛速發(fā)展，大模型已成為推動中國科技進(jìn)步、經(jīng)濟(jì)增長和國家強盛的關(guān)鍵力量。然而，大模型也帶來了一系列新的安全和監(jiān)管挑戰(zhàn)。全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎在兩會期間，聚焦關(guān)注大模型安全和幻覺、網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問題，提出了一系列具有前瞻性的建議。

首先，周鴻祎強調(diào)了大模型“幻覺”的適度包容問題。他指出，大模型作為一種前沿技術(shù)，其“幻覺”現(xiàn)象是其重要特點之一，也是實現(xiàn)通用人工智能（AGI）的重要因素。在科研領(lǐng)域，大模型的“幻覺”能夠“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。然而，在醫(yī)療、法律、金融等對準(zhǔn)確性要求高的領(lǐng)域，雖然大模型的“幻覺”可能出錯，但可以利用技術(shù)手段進(jìn)行矯正。因此，對于大模型的“幻覺”，我們應(yīng)當(dāng)持有適度包容的態(tài)度，避免過度追求準(zhǔn)確而限制其創(chuàng)造力。

其次，周鴻祎提出了以模制模的解決大模型應(yīng)用安全問題的方法。他指出，隨著大模型的廣泛應(yīng)用，安全問題也隨之而來。大模型存在幻覺、內(nèi)容安全等諸多問題無法通過傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內(nèi)部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個生產(chǎn)環(huán)境爆發(fā)系統(tǒng)性風(fēng)險。對此，360運用人工智能技術(shù)重塑安全格局，采用“以模制模”的方式應(yīng)對新難題，依托安全大模型技術(shù)搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系，護(hù)航政府與企業(yè)“數(shù)轉(zhuǎn)智改”。這一方法無疑為解決大模型應(yīng)用安全問題提供了新的思路。

再者，周鴻祎關(guān)注到了網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型的問題。他指出，當(dāng)前網(wǎng)絡(luò)安全行業(yè)內(nèi)卷嚴(yán)重，傳統(tǒng)模式問題重重，不僅難以實現(xiàn)安全能力的廣泛覆蓋，也無法幫助企業(yè)等客戶迅速構(gòu)建安全能力。為此，他建議推動網(wǎng)絡(luò)安全服務(wù)化轉(zhuǎn)型，鼓勵從購買硬件產(chǎn)品轉(zhuǎn)變?yōu)橘徺I安全服務(wù)，并鼓勵購買SaaS化的安全產(chǎn)品。這些建議將有助于網(wǎng)絡(luò)安全行業(yè)適應(yīng)新的市場環(huán)境，提升網(wǎng)絡(luò)安全防護(hù)水平，為國家數(shù)字化建設(shè)筑牢安全基礎(chǔ)。

綜上所述，周鴻祎的提案為我們提供了一個全面而中立的視角來看待大模型的安全和監(jiān)管問題。在數(shù)字化、智能化的浪潮中，我們不能僅僅關(guān)注技術(shù)的準(zhǔn)確性，更要重視其創(chuàng)造力和想象力。對于大模型的“幻覺”，我們應(yīng)當(dāng)持有適度包容的態(tài)度，同時也要構(gòu)建完善的監(jiān)管體系，確保其在安全的前提下發(fā)揮最大潛力。對于網(wǎng)絡(luò)安全行業(yè)轉(zhuǎn)型問題，我們應(yīng)當(dāng)積極推動服務(wù)化轉(zhuǎn)型，提升網(wǎng)絡(luò)安全防護(hù)水平，為國家數(shù)字化建設(shè)提供堅實的保障。

面對未來，中國AI要大膽前行。讓我們警惕“大模型幻覺”，把握住時代發(fā)展的機遇，共同為國家的科技進(jìn)步、經(jīng)濟(jì)增長和國家強盛貢獻(xiàn)力量。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。