人工智能技術(shù)加速演進(jìn)，在釋放技術(shù)價(jià)值紅利的同時(shí)，其帶來的復(fù)雜風(fēng)險(xiǎn)挑戰(zhàn)引發(fā)全球關(guān)注。各國(guó)機(jī)構(gòu)日益關(guān)注對(duì)人工智能風(fēng)險(xiǎn)認(rèn)識(shí)的系統(tǒng)性，主要經(jīng)濟(jì)體對(duì)人工智能發(fā)展的監(jiān)管呈現(xiàn)出松緊有別的態(tài)勢(shì)。
將人工智能風(fēng)險(xiǎn)治理方案落實(shí)到技術(shù)革新、產(chǎn)品開發(fā)和應(yīng)用部署中去，是回應(yīng)社會(huì)關(guān)切、解決突出矛盾、防范安全風(fēng)險(xiǎn)的必然選擇。2024年12月，中國(guó)信通院發(fā)布《人工智能風(fēng)險(xiǎn)治理報(bào)告（2024）》，報(bào)告提出面向產(chǎn)業(yè)的人工智能風(fēng)險(xiǎn)治理實(shí)踐方案。
同期，首批17家人工智能相關(guān)企業(yè)簽署了由中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）起草的《人工智能安全承諾》，承諾通過產(chǎn)業(yè)自律，共同促進(jìn)人工智能應(yīng)用以人為本，智能向善。
當(dāng)前產(chǎn)業(yè)界在人工智能安全治理方面的實(shí)踐進(jìn)展如何？面臨哪些困難？如何發(fā)展負(fù)責(zé)任的人工智能？針對(duì)這些問題，我們?cè)L談了《人工智能風(fēng)險(xiǎn)治理報(bào)告（2024）》撰寫專家中國(guó)信通院人工智能研究所工程師、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟人工智能安全治理委員會(huì)治理組組長(zhǎng)呼娜英。
她指出，當(dāng)前產(chǎn)業(yè)界主要從管理和技術(shù)兩個(gè)維度開展人工智能安全治理，取得了進(jìn)展，同時(shí)還存在諸多問題，比如監(jiān)管為產(chǎn)業(yè)發(fā)展留出的空間和企業(yè)自律效果之間還存在差距，人工智能技術(shù)本身的復(fù)雜性和不確定性也使得其治理存在難度。
中國(guó)信通院人工智能研究所工程師、中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟人工智能安全治理委員會(huì)治理組組長(zhǎng) 呼娜英
從框架規(guī)范到精準(zhǔn)治理
南方周末：全球日益加強(qiáng)對(duì)人工智能風(fēng)險(xiǎn)的關(guān)注。整體來看，我國(guó)人工智能安全治理呈現(xiàn)什么特點(diǎn)？
呼娜英：黨的二十屆三中全會(huì)提出建設(shè)人工智能安全監(jiān)管制度，整體推進(jìn)制度規(guī)范完善和包容審慎監(jiān)管。從頂層設(shè)計(jì)來看，我國(guó)展現(xiàn)新型舉國(guó)體制治理優(yōu)勢(shì)，著重保障人工智能應(yīng)用安全，整體上構(gòu)建了從框架規(guī)范到精準(zhǔn)治理的體系。
《新一代人工智能治理原則發(fā)展負(fù)責(zé)任的人工智能》《新一代人工智能倫理規(guī)范》等文件勾勒出了我國(guó)人工智能安全治理的基本框架和行動(dòng)指南�！痘ヂ�(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等部門規(guī)章，延續(xù)人工智能治理領(lǐng)域精細(xì)化的立法特征，針對(duì)具有輿論屬性或社會(huì)動(dòng)員能力的人工智能應(yīng)用場(chǎng)景進(jìn)行規(guī)制。
從產(chǎn)業(yè)實(shí)踐看，企業(yè)主要從管理和技術(shù)兩個(gè)維度開展人工智能安全治理工作。在管理方面加強(qiáng)全流程管控，提升治理能力。技術(shù)方案逐步向一體化和定制化發(fā)展，涵蓋從風(fēng)險(xiǎn)識(shí)別、評(píng)估到防御等多個(gè)環(huán)節(jié)。
南方周末：人工智能存在自身安全和衍生安全兩大類風(fēng)險(xiǎn)，應(yīng)對(duì)這些風(fēng)險(xiǎn)存在哪些突出挑戰(zhàn)？
呼娜英：就自身安全而言，人工智能技術(shù)應(yīng)用相關(guān)主體針對(duì)數(shù)據(jù)、模型、系統(tǒng)、基礎(chǔ)設(shè)施本身或疊加帶來的風(fēng)險(xiǎn)開展持續(xù)“識(shí)別、評(píng)估、應(yīng)對(duì)”的機(jī)制仍需完善。
衍生安全重點(diǎn)體現(xiàn)在應(yīng)用層面，這是公眾和用戶接觸較多的領(lǐng)域。一方面，人工智能產(chǎn)業(yè)鏈長(zhǎng)，產(chǎn)品及服務(wù)涉及多利益攸關(guān)方，誘發(fā)衍生安全的歸責(zé)主體認(rèn)定存在困難。另一方面，尚沒有合適的方法論來評(píng)估人工智能產(chǎn)品及服務(wù)對(duì)于誘發(fā)個(gè)人、組織、社會(huì)、國(guó)家乃至更大范圍的風(fēng)險(xiǎn)影響，而人工智能賦能千行百業(yè)對(duì)于各垂類行業(yè)的風(fēng)險(xiǎn)影響評(píng)估更為困難。
技術(shù)復(fù)雜性增加治理難度
南方周末：企業(yè)在人工智能安全治理方面的實(shí)踐進(jìn)展如何？
呼娜英：當(dāng)前人工智能企業(yè)在人工智能安全治理方面已經(jīng)有了進(jìn)展。如前所述企業(yè)主要從管理和技術(shù)兩個(gè)維度開展安全治理工作。管理體系更加重視全流程管控，一方面，設(shè)置內(nèi)部治理組織，統(tǒng)籌人工智能治理工作，如阿里巴巴、百度等企業(yè)成立了科技倫理委員會(huì)；另一方面，發(fā)布內(nèi)部準(zhǔn)則指引，指導(dǎo)具體實(shí)踐，如商湯科技發(fā)布了產(chǎn)品倫理風(fēng)險(xiǎn)評(píng)審指引，螞蟻集團(tuán)出臺(tái)了生成式人工智能大模型及應(yīng)用管理規(guī)范。
盡管如此，企業(yè)在人工智能安全治理方面仍面臨諸多問題。從合規(guī)角度來講，人工智能監(jiān)管法律的推出需要把握立法節(jié)奏，給技術(shù)和產(chǎn)業(yè)留出發(fā)展空間，而尚未成體系化的標(biāo)準(zhǔn)規(guī)范導(dǎo)致企業(yè)在實(shí)際執(zhí)行中仍與相關(guān)治理要求有所差距。從技術(shù)角度講，人工智能技術(shù)本身的復(fù)雜性和不確定性，使得實(shí)現(xiàn)人工智能系統(tǒng)的安全可控的難度加大。
此外，企業(yè)之間在安全信息共享、聯(lián)合防范等方面的合作還不夠緊密，難以形成有效的安全防護(hù)合力。
南方周末：AI換臉、AI魔改影視作品等現(xiàn)象引發(fā)熱議，治理這些亂象，AI產(chǎn)品提供者、AI服務(wù)平臺(tái)以及AI使用者之間應(yīng)該如何協(xié)作？
呼娜英：作為深度合成技術(shù)的典型應(yīng)用，AI換臉實(shí)際上是一個(gè)老問題。伴隨著開源項(xiàng)目持續(xù)增長(zhǎng)、技術(shù)成熟度相對(duì)較高、應(yīng)用門檻不斷降低，一張照片就可以實(shí)現(xiàn)直播流中人臉的高精度實(shí)時(shí)替換。因此，類似應(yīng)用和亂象在網(wǎng)絡(luò)上比較常見。
技術(shù)應(yīng)用深度賦能，落地應(yīng)用勢(shì)不可擋，完全禁止這些應(yīng)用或現(xiàn)象并不現(xiàn)實(shí)，需要的是形成健康的應(yīng)用生態(tài)。
產(chǎn)業(yè)組織可以推動(dòng)AI使用規(guī)范準(zhǔn)則的制定，為使用者提供清晰的行為指引，明確不可接受的使用場(chǎng)景和后果。
服務(wù)提供方可通過技術(shù)手段建立合規(guī)使用的約束機(jī)制，如引入身份認(rèn)證、記錄追溯以及有害內(nèi)容過濾系統(tǒng)，從技術(shù)層面預(yù)防濫用現(xiàn)象。還可以推廣負(fù)責(zé)任的AI技術(shù)應(yīng)用案例，通過透明化的開發(fā)流程、可信賴的產(chǎn)品展示來引導(dǎo)公眾正確看待和使用AI技術(shù)，從而形成全社會(huì)對(duì)AI技術(shù)的理性認(rèn)知和使用習(xí)慣。
AI服務(wù)使用者也需要不斷加強(qiáng)數(shù)字素養(yǎng)，了解數(shù)字產(chǎn)品的使用規(guī)范和基本的法律法規(guī)，正確使用數(shù)字產(chǎn)品和服務(wù)，擁抱數(shù)字未來。
自律承諾是獲得社會(huì)信任的關(guān)鍵要素
南方周末：中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟在推動(dòng)人工智能安全治理方面開展了哪些工作？
呼娜英：2023年12月底，AIIA成立了人工智能安全治理委員會(huì)，委員會(huì)設(shè)立了治理組和安全組兩個(gè)工作組，希望從“道與術(shù)”兩個(gè)方面推動(dòng)人工智能安全治理工作走深向?qū)崱Ｖ卫斫M主要圍繞人工智能治理的方法論，為相關(guān)主體開展人工智能建章立制及管理工作提供指引；安全組重點(diǎn)開展人工智能安全工具箱建設(shè)，打造安全評(píng)估、監(jiān)測(cè)和防護(hù)三大核心能力。
以治理組工作為例，一方面凝聚產(chǎn)業(yè)力量推動(dòng)行業(yè)自律，共建產(chǎn)業(yè)生態(tài)。2024年12月，AIIA研究起草并發(fā)布了《人工智能安全承諾》，首批17家行業(yè)領(lǐng)軍企業(yè)正式簽署承諾。承諾內(nèi)容涵蓋風(fēng)險(xiǎn)管理機(jī)制、模型安全測(cè)試、數(shù)據(jù)安全保障、基礎(chǔ)設(shè)施安全、增強(qiáng)透明度以及開展前沿安全研究六個(gè)方面，旨在從產(chǎn)業(yè)視角出發(fā)，開展貫穿組織建設(shè)、模型研發(fā)、部署、應(yīng)用的人工智能安全風(fēng)險(xiǎn)防控，務(wù)實(shí)推動(dòng)相關(guān)單位提升安全能力。
另一方面聚焦風(fēng)險(xiǎn)治理，為企業(yè)提供治理框架。不久前我們發(fā)布了《人工智能風(fēng)險(xiǎn)治理報(bào)告（2024年）構(gòu)建面向產(chǎn)業(yè)的人工智能安全治理實(shí)踐方案》，希望為人工智能產(chǎn)業(yè)主體實(shí)現(xiàn)技術(shù)發(fā)展與安全保障提供解決方案；我們正在開展《人工智能系統(tǒng)風(fēng)險(xiǎn)管理能力要求》的標(biāo)準(zhǔn)編制工作，從總體要求、通用要求、具體要求三個(gè)層面搭建人工智能系統(tǒng)風(fēng)險(xiǎn)管理能力要求體系。
南方周末：展望未來，對(duì)于推動(dòng)人工智能產(chǎn)業(yè)健康、可持續(xù)發(fā)展有哪些建議？
呼娜英：當(dāng)前，人工智能治理已經(jīng)處于從原則走向?qū)嵺`的關(guān)鍵階段，需要通過更加務(wù)實(shí)的舉措開展安全治理工作。
產(chǎn)業(yè)自律是獲得社會(huì)信任的關(guān)鍵要素。AIIA發(fā)起的《人工智能安全承諾》就是希望凝聚產(chǎn)業(yè)界守護(hù)人工智能安全、促進(jìn)人工智能向善的基本共識(shí)，共同應(yīng)對(duì)技術(shù)變革帶來的復(fù)雜挑戰(zhàn)。
安全技術(shù)是人工智能產(chǎn)業(yè)健康發(fā)展的有力保障。產(chǎn)業(yè)各界需要合力推動(dòng)前沿人工智能技術(shù)應(yīng)用工作，通過標(biāo)準(zhǔn)制定、測(cè)試方法構(gòu)建、數(shù)據(jù)集積累、生態(tài)體系驗(yàn)證等，形成人工智能安全“技術(shù)預(yù)研-產(chǎn)業(yè)驗(yàn)證-生態(tài)運(yùn)營(yíng)”的良性循環(huán)，不斷推動(dòng)人工智能安全治理的穩(wěn)健發(fā)展與應(yīng)用。
南方周末研究員 侯明輝
責(zé)編 孫孝文
