中新經(jīng)緯11月22日電 題：企業(yè)需承擔(dān)保障人工智能安全的主體責(zé)任
作者 陳兵 南開大學(xué)競爭法研究中心主任、法學(xué)院副院長
陳兵(圖片由本人提供)
在2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會上，“安全”成為備受矚目的話題之一。人工智能技術(shù)飛速進(jìn)步，其在自動駕駛、醫(yī)療、金融等關(guān)鍵領(lǐng)域的應(yīng)用日益廣泛，同時也帶來了前所未有的安全挑戰(zhàn)。
在自動駕駛領(lǐng)域，車輛與外部環(huán)境的復(fù)雜交互以及對實(shí)時數(shù)據(jù)處理的高度依賴，使得傳感器故障、通信中斷、惡意軟件入侵等風(fēng)險更加突出。醫(yī)療領(lǐng)域中，人工智能模型訓(xùn)練數(shù)據(jù)的準(zhǔn)確性和完整性至關(guān)重要，一旦數(shù)據(jù)出現(xiàn)問題，可能導(dǎo)致嚴(yán)重的醫(yī)療事故。金融領(lǐng)域則面臨著智能算法的黑箱特性帶來的潛在風(fēng)險，以及網(wǎng)絡(luò)詐騙手段的不斷升級。這些挑戰(zhàn)與傳統(tǒng)信息技術(shù)安全問題相比，更加復(fù)雜且影響深遠(yuǎn)。
為應(yīng)對人工智能技術(shù)的快速發(fā)展所帶來的多方面安全挑戰(zhàn)，可以利用人工智能自身技術(shù)特性增強(qiáng)安全性。例如，采用量子加密等先進(jìn)技術(shù)提高加密強(qiáng)度，利用人工智能算法進(jìn)行智能檢測以快速發(fā)現(xiàn)并修復(fù)系統(tǒng)漏洞，以及研究對抗生成網(wǎng)絡(luò)等技術(shù)提高系統(tǒng)對惡意攻擊的抵御能力。
企業(yè)在開發(fā)和應(yīng)用人工智能產(chǎn)品與服務(wù)時，應(yīng)承擔(dān)起保障數(shù)據(jù)安全、確保算法公平公正、進(jìn)行充分的安全測試等安全責(zé)任。為建立有效的內(nèi)部安全管理體系，企業(yè)應(yīng)從完善安全制度、加強(qiáng)員工安全培訓(xùn)、設(shè)立安全監(jiān)督崗位等方面入手，并定期進(jìn)行安全評估和風(fēng)險預(yù)警。
中國人民大學(xué)校長林尚立在會上表示，應(yīng)構(gòu)建人工智能安全治理的政策法規(guī)和制度體系，持續(xù)夯實(shí)網(wǎng)絡(luò)法治基礎(chǔ)，規(guī)范人工智能在法律、倫理和人道主義層面的價值取向，確保人工智能安全、可靠、可控。盡管人工智能發(fā)展已經(jīng)取得了一定成果，但在技術(shù)支撐體系、管理策略實(shí)施及監(jiān)測評估機(jī)制上仍需強(qiáng)化。數(shù)據(jù)隱私保護(hù)和機(jī)器責(zé)任問題是當(dāng)前亟待解決的難題，需要建立更強(qiáng)有力且適當(dāng)?shù)谋O(jiān)管框架，并明確相關(guān)的法律體系。(中新經(jīng)緯APP)
中新經(jīng)緯版權(quán)所有，未經(jīng)授權(quán)，不得轉(zhuǎn)載或以其他方式使用。
責(zé)任編輯：孫慶陽
