• 周鴻祎
• 安全
• AI

2024年全國兩會大幕開啟，全國政協(xié)委員、360集團創(chuàng)始人周鴻祎正式進入履職的第七年。作為安全科技領域的委員代表，周鴻祎兩會提案關注通用大模型安全問題，建議制定通用大模型安全標準體系，鼓勵兼具“安全和AI”能力的企業(yè)解聚焦攻堅，承擔重擔。

當前，人工智能引領的全球新一輪科技革命和產(chǎn)業(yè)變革加速演進，通用大模型作為推動技術變革的核心，是時代發(fā)展的關鍵引擎，在國家的高度重視下，我國通用大模型發(fā)展迅速。然而，安全問題隨著技術的發(fā)展愈發(fā)凸顯。安全與發(fā)展是一體之兩翼，驅動之雙輪，通用大模型的安全意義重大，關系到技術研發(fā)落地全產(chǎn)業(yè)鏈的安全，微小的安全問題便有可能引發(fā)系統(tǒng)性的安全風險，因此更需要國家和企業(yè)重點應對和保障。

周鴻祎將通用人工智能技術引發(fā)的復雜安全風險分為技術安全、內容安全和人類安全三個方面。其中，技術安全主要涉及大模型技術本身引發(fā)的安全問題，如網(wǎng)絡、數(shù)據(jù)和生成內容的安全；內容安全則是對大模型的控制、濫用、誤用和惡意應用等問題；而人類安全問題則是大模型強大后帶來的安全可控問題。他在提案中特意加以說明，稱通用大模型的發(fā)展已不是單純的科技之爭，更是國運之爭，影響深遠，中國應盡早未雨綢繆，重視大模型安全。

為此，周鴻祎提出三點建議。首先，他指出目前國內的大模型安全問題不容樂觀，建議有關部門采用揭榜掛帥等方式，鼓勵并扶持兼具“安全和AI”能力的企業(yè)，更好發(fā)揮其解決通用大模型安全問題的重要作用。

其次，周鴻祎認為，現(xiàn)階段將安全模塊作為大模型外掛的做法已不可行，安全需要貫穿通用大模型的整個構建過程，確保安全措施在系統(tǒng)的整個生命周期中得到充分考慮和實施。建議國家研究制定保障通用大模型安全的標準體系，推動通用大模型開展安全評測、接入安全服務，降低通用大模型安全風險。

最后，相比民營企業(yè)以及其他各類組織，政府、央國企對通用大模型的應用具有更高的安全標準，不僅關涉商業(yè)安全，更關涉國家安全。因此，他建議政府、央國企與兼具“安全和AI”能力的企業(yè)在大模型安全領域展開深入合作，發(fā)揮此類企業(yè)在人工智能安全領域的優(yōu)勢作用，為國家安全貢獻力量。