作者 | 劉寶丹
編輯 | 黃昱
AI大模型技術(shù)的迅速迭代，對(duì)AI治理提出了更高要求，阿里也開始更多思考如何做好AI治理。
近日，在大模型技術(shù)發(fā)展與治理創(chuàng)新研討會(huì)上，阿里巴巴集團(tuán)副總裁錢磊表示，為了對(duì)大模型進(jìn)行有效治理，提高它的可控性，降低應(yīng)用風(fēng)險(xiǎn)，阿里圍繞著大模型研發(fā)、應(yīng)用全生命周期，全面部署了安全保障措施。
一是提高模型內(nèi)生安全能力。在數(shù)據(jù)采集、處理階段強(qiáng)調(diào)源頭管控，進(jìn)行嚴(yán)格的數(shù)據(jù)篩選和數(shù)據(jù)安全標(biāo)注；在模型訓(xùn)練和設(shè)計(jì)階段通過添加安全語料；在模型上線前進(jìn)行全面安全評(píng)估，確保各類風(fēng)險(xiǎn)項(xiàng)目在生成內(nèi)容上的合格率。
二是加強(qiáng)外圍護(hù)欄能力。在模型部署應(yīng)用后，通過外圍護(hù)欄進(jìn)一步提升大模型在應(yīng)用場(chǎng)景中的安全性，通過日常巡檢驗(yàn)證結(jié)果是不是能夠達(dá)到預(yù)期，是不是可靠性、可信、可用都能夠達(dá)到阿里的要求。
阿里還與中國電子技術(shù)標(biāo)準(zhǔn)化研究院聯(lián)合發(fā)布了《大模型技術(shù)發(fā)展及治理實(shí)踐報(bào)告》，這是阿里巴巴連續(xù)第三年發(fā)布AI治理相關(guān)研究成果，進(jìn)一步深化了阿里在技術(shù)研發(fā)與治理領(lǐng)域的經(jīng)驗(yàn)總結(jié)。
阿里研究院院長(zhǎng)袁媛認(rèn)為，AI大模型的治理思路是解析大模型發(fā)展中三個(gè)最核心的發(fā)展引擎算力、算法、數(shù)據(jù)，給出一個(gè)適合中國發(fā)展的路徑，以數(shù)據(jù)為例，在符合真實(shí)世界的特征的前提下，合成數(shù)據(jù)能幫助模型突破當(dāng)前的能力上限，并且能夠降低更多的安全困擾。
自從2022年底，ChatGPT在全球出圈，AI大模型已經(jīng)成為科技巨頭們爭(zhēng)相押注的賽道，阿里就是其中的核心參與力量。
在AI大模型方面，阿里堅(jiān)持云和AI協(xié)同發(fā)展，將云從IT和DT的基礎(chǔ)設(shè)施向人工智能基礎(chǔ)設(shè)施方向去演進(jìn)。據(jù)錢磊介紹，阿里會(huì)持續(xù)加大投入，一是提高自研基礎(chǔ)模型通用系列的能力，二是通過完善AI基礎(chǔ)設(shè)施和相關(guān)支撐系統(tǒng)，降低模型應(yīng)用開發(fā)的成本。
“通義千問”API調(diào)用價(jià)格一年間下降了97%。同時(shí)，阿里堅(jiān)持全尺寸、全模態(tài)開源，推動(dòng)把AI能力真正轉(zhuǎn)化成為千行百業(yè)的生產(chǎn)力。目前已經(jīng)有30萬+企業(yè)接入了阿里巴巴通義千問大模型。
Hugging Face社區(qū)的數(shù)據(jù)顯示，基于“通義”模型開發(fā)的衍生模型已突破8萬個(gè)，已吸引超過600萬AI開發(fā)者參與，在全球開源平臺(tái)的下載量已突破1億次。
在阿里看來，在發(fā)展大模型前沿技術(shù)推動(dòng)人工智能應(yīng)用的同時(shí)，也要高度重視人工智能的安全，負(fù)責(zé)任地去看待大模型帶來的安全問題。
不過，AI大模型還處于快速迭代中，解決好安全和治理問題的關(guān)鍵在于，在發(fā)展和風(fēng)險(xiǎn)之間做好平衡，這就好比是高速路上換零件，需要極高的智慧和專業(yè)。
更大的挑戰(zhàn)還在后面，隨著AI大模型真正走進(jìn)人們的生活，關(guān)于人工智能安全和治理的議題還有暴露出更多問題，所有AI相關(guān)公司都必須面對(duì)這一問題。
從來沒有一種技術(shù)像AI這樣，具有可以匹敵人類的智能，然而這也代表了，一旦AI被濫用，其破壞性也同樣值得警惕，AI治理這條路才剛剛開始，阿里已經(jīng)嘗試給出自己的答卷。
