本報記者 張漫游 北京報道
為跟上最新的人工智能技術(shù),近日,多家銀行正在跑步上車DeepSeek。DeepSeek也正憑借其在數(shù)據(jù)處理、自然語言理解及邏輯推理上的優(yōu)勢,逐步滲透至信貸審核、合同管理、客戶服務(wù)等核心業(yè)務(wù)場景。然而,在追求效率提升的同時,數(shù)據(jù)安全、模型風(fēng)險與監(jiān)管合規(guī)等問題也成為銀行關(guān)注的焦點(diǎn)。
中金金融認(rèn)證中心有限公司(CFCA)產(chǎn)品中心副總經(jīng)理劉通在接受《中國經(jīng)營報》記者專訪時表示,DeepSeek的應(yīng)用為銀行業(yè)提供了風(fēng)險可控的智能化解決方案,但其落地需兼顧技術(shù)創(chuàng)新與安全合規(guī),既要發(fā)揮AI的杠桿效應(yīng),也要筑牢金融安全的防火墻。
從效率提升到生態(tài)重構(gòu)
近日,多家銀行成功本地化部署DeepSeek大模型,應(yīng)用于智能合同管理、智能風(fēng)控、資產(chǎn)托管與估值對賬、客服助手、智庫等多個場景。
訓(xùn)練成本與能效比失衡、長尾場景泛化能力不足、端側(cè)部署工程化障礙,是銀行應(yīng)用AI的三大痛點(diǎn)。劉通認(rèn)為,DeepSeek通過優(yōu)化成本結(jié)構(gòu)、兼容國產(chǎn)化技術(shù)棧,正在打破這些瓶頸。
劉通舉例道,DeepSeek在提升銀行效率、精準(zhǔn)度和風(fēng)控能力方面具有優(yōu)勢,推動智能金融基礎(chǔ)設(shè)施的升級,尤其在信貸、合同、客服、對賬等場景中可優(yōu)先落地。
在信貸審核方面,傳統(tǒng)流程依賴人工處理非結(jié)構(gòu)化數(shù)據(jù),耗時長且易錯,DeepSeek依靠更好的中文理解和邏輯推理能力,能夠更好地對信貸材料進(jìn)行自動化解析,提升信貸審核效率;在合同管理方面,通過自然語言處理技術(shù),DeepSeek可精準(zhǔn)識別合同條款,結(jié)合法律知識庫進(jìn)行合規(guī)審查;在客戶服務(wù)方面,DeepSeek能夠根據(jù)客戶的交易歷史和偏好,為客戶提供個性化的服務(wù);在資產(chǎn)托管估值對賬方面,DeepSeek的數(shù)據(jù)處理能力,能夠?qū)崿F(xiàn)交易及估值信息自動化解析和對比。
在劉通看來,DeepSeek的應(yīng)用正推動銀行業(yè)技術(shù)生態(tài)的“馬太效應(yīng)”減弱。他指出,銀行通過應(yīng)用DeepSeek技術(shù),在確保風(fēng)險可控的前提下,在眾多場景中實(shí)現(xiàn)智能化應(yīng)用,中小銀行得以借此縮小與大型銀行之間的技術(shù)差距,而大型銀行則能夠構(gòu)建更為完善的金融科技生態(tài)。
不過,DeepSeek作為AI決策系統(tǒng),DeepSeek在銀行風(fēng)險評估中的準(zhǔn)確性如何保證?
劉通認(rèn)為,銀行可以通過數(shù)據(jù)層面、模型層面和技術(shù)層面來確保DeepSeek在風(fēng)險評估中的準(zhǔn)確性。關(guān)于是否構(gòu)建第三方審計機(jī)制以預(yù)防模型偏差或黑箱決策風(fēng)險的問題,劉通認(rèn)為,DeepSeek的開源模式使得模型代碼、訓(xùn)練方法等信息對外公開,這在一定程度上提高了模型的透明度,方便銀行或相關(guān)機(jī)構(gòu)對模型進(jìn)行審查和驗(yàn)證,可在一定程度上替代部分第三方審計的作用,降低模型偏差和黑箱決策的風(fēng)險。
審慎應(yīng)對敏感數(shù)據(jù)泄露風(fēng)險
盡管DeepSeek的應(yīng)用前景廣闊,但其帶來的風(fēng)險亦不容忽視。劉通坦言,銀行需重點(diǎn)防范三大風(fēng)險:模型攻擊、算法偏見以及敏感數(shù)據(jù)泄露。
針對模型攻擊風(fēng)險,銀行通過對抗訓(xùn)練、數(shù)據(jù)增強(qiáng)等手段提升模型魯棒性。“攻擊者可能偽造信貸材料欺騙系統(tǒng),但融合多模型結(jié)果可大幅降低誤判率!眲⑼ㄕf道。
算法偏見則可能引發(fā)法律與聲譽(yù)風(fēng)險。劉通指出,銀行需通過多樣化數(shù)據(jù)采集、公平性約束算法及動態(tài)反饋機(jī)制糾偏。
面對敏感數(shù)據(jù)泄露,劉通稱,雖然本地化部署DeepSeek能夠減少數(shù)據(jù)外流風(fēng)險,但模型訓(xùn)練和推理過程中仍需接觸大量用戶數(shù)據(jù),此類信息若處理不當(dāng),可能會導(dǎo)致侵犯用戶隱私的情況發(fā)生,進(jìn)而導(dǎo)致用戶信任度下降,甚至產(chǎn)生法律合規(guī)風(fēng)險等后果。
近年來,《數(shù)據(jù)安全法》《個人信息保護(hù)法》等上位法相繼發(fā)布,對規(guī)范數(shù)據(jù)處理活動、個人信息保護(hù)等提出了明確要求。為規(guī)范銀行業(yè)保險業(yè)數(shù)據(jù)處理活動,保障數(shù)據(jù)安全,促進(jìn)數(shù)據(jù)合理開發(fā)利用,2024年12月27日,國家金融監(jiān)督管理總局印發(fā)《銀行保險機(jī)構(gòu)數(shù)據(jù)安全管理辦法》,其中提出“銀行保險機(jī)構(gòu)使用人工智能技術(shù)開展業(yè)務(wù)時,應(yīng)當(dāng)就數(shù)據(jù)對決策結(jié)果影響進(jìn)行解釋說明和信息披露,實(shí)時監(jiān)測自動化處理與系統(tǒng)運(yùn)行結(jié)果,建立人工智能應(yīng)用的風(fēng)險緩釋措施,包括制定退出人工智能應(yīng)用的替代方案,對安全威脅制定應(yīng)急方案并開展演練”。
面對數(shù)據(jù)領(lǐng)域的風(fēng)險,劉通認(rèn)為,銀行應(yīng)用DeepSeek處理客戶敏感金融數(shù)據(jù)時,可采取數(shù)據(jù)脫敏技術(shù)、數(shù)據(jù)訪問控制技術(shù)和數(shù)據(jù)監(jiān)控與審計技術(shù)確保數(shù)據(jù)脫敏合規(guī)。
數(shù)據(jù)脫敏技術(shù)方面,一是采用特定的編碼規(guī)則對敏感數(shù)據(jù)進(jìn)行轉(zhuǎn)換,需專用算法才可還原;二是對客戶的敏感金融數(shù)據(jù)如交易密碼、身份證號等進(jìn)行加密處理,僅授權(quán)用戶通過密鑰解密。
數(shù)據(jù)訪問控制技術(shù)方面,一是采用用戶名和密碼、數(shù)字證書、動態(tài)口令、生物識別等多種因素結(jié)合的認(rèn)證方式,確保只有合法的用戶能夠訪問敏感金融數(shù)據(jù),如CFCA數(shù)字身份體系的安心驗(yàn)產(chǎn)品,采用身份證、銀行卡、手機(jī)號、面部識別等多種技術(shù)手段,確保用戶身份的真實(shí)性;二是根據(jù)銀行崗位職責(zé)設(shè)置角色,賦予相應(yīng)的訪問權(quán)限;三是遵循最小化授權(quán)原則,只給用戶授予完成其工作任務(wù)所需的最小權(quán)限。
數(shù)據(jù)監(jiān)控與審計技術(shù)方面,可以通過數(shù)據(jù)監(jiān)控工具,及時發(fā)現(xiàn)異常行為和數(shù)據(jù)泄露風(fēng)險;通過對數(shù)據(jù)傳輸?shù)牧髁窟M(jìn)行分析,建立數(shù)據(jù)流量模型檢測異常傳輸模式;通過對所有訪問和處理敏感金融數(shù)據(jù)的操作進(jìn)行詳細(xì)記錄,以便進(jìn)行事后審計和追溯,定期檢查合規(guī)性;定期對數(shù)據(jù)處理過程進(jìn)行合規(guī)性審計,檢查數(shù)據(jù)脫敏是否符合相關(guān)法律法規(guī)和銀行內(nèi)部規(guī)定。
值得一提的是,談及當(dāng)系統(tǒng)需要與外部數(shù)據(jù)源交互時,如何防范數(shù)據(jù)泄露或非法爬取風(fēng)險,劉通提示道,可從訪問控制、數(shù)據(jù)加密、安全監(jiān)測等多個方面防范數(shù)據(jù)泄露或非法爬取風(fēng)險。
(編輯:朱紫云 審核:何莎莎 校對:張國剛)