展會(huì)信息港展會(huì)大全

扎克伯格:Llama有望成為開源AI新標(biāo)準(zhǔn) 3.1版本是關(guān)鍵轉(zhuǎn)折點(diǎn)
來(lái)源:互聯(lián)網(wǎng)   發(fā)布日期:2024-07-24 15:51:02   瀏覽:23578次  

導(dǎo)讀:作者:張雅琦 來(lái)源:硬AI 23日,備受期待的開源大型語(yǔ)言模型Llama 3.1終于由Meta正式發(fā)布。 同日,Meta創(chuàng)始人兼首席執(zhí)行官馬克扎克伯格在接受科技媒體人Rowan Cheung的采訪時(shí),對(duì)Llama 3.1寄予了厚望。他認(rèn)為L(zhǎng)lama 3.1最關(guān)鍵的創(chuàng)新就是其開源性,這在世界范...

作者:張雅琦

來(lái)源:硬AI

23日,備受期待的開源大型語(yǔ)言模型Llama 3.1終于由Meta正式發(fā)布。

同日,Meta創(chuàng)始人兼首席執(zhí)行官馬克扎克伯格在接受科技媒體人Rowan Cheung的采訪時(shí),對(duì)Llama 3.1寄予了厚望。他認(rèn)為L(zhǎng)lama 3.1最關(guān)鍵的創(chuàng)新就是其開源性,這在世界范圍內(nèi)都是全新的。他還特別指出,蘋果封閉的生態(tài)系統(tǒng)限制了開發(fā)者的自由,并拿走了Meta的部分利潤(rùn)。他透露,團(tuán)隊(duì)正在為L(zhǎng)lama 4設(shè)置計(jì)算集群和架構(gòu),Llama 4將在Llama 3的基礎(chǔ)上再一次實(shí)現(xiàn)巨大飛躍。

他表示,Llama 3.1的發(fā)布是開源AI發(fā)展史上的一個(gè)重要里程碑,其強(qiáng)大性能將賦能開發(fā)者創(chuàng)造更多創(chuàng)新應(yīng)用,并將人工智能技術(shù)帶向更廣闊的領(lǐng)域。

Llama 3.1 的這個(gè)時(shí)刻就像一個(gè)轉(zhuǎn)折點(diǎn),Llama 有機(jī)會(huì)成為開源 AI 標(biāo)準(zhǔn)。即使在性能尚未領(lǐng)先的地方,它在成本、可定制性和微調(diào)模型的能力方面也處于領(lǐng)先地位。

Llama 3.1包含8B、70B和405B三個(gè)參數(shù)規(guī)模的模型,其中405B參數(shù)的模型在多項(xiàng)基準(zhǔn)測(cè)試中超過(guò)了OpenAI的GPT-4o,與Claude3.5Sonnet等先進(jìn)閉源模型相媲美。這意味著,Llama 3.1已經(jīng)具備了與最先進(jìn)的AI模型相抗衡的實(shí)力。

扎克伯格表示,開源性使其能夠被更廣泛的開發(fā)者和研究人員所使用,這將加速人工智能技術(shù)的創(chuàng)新和普及。他相信,開源AI是未來(lái)發(fā)展的趨勢(shì),Llama 3.1的發(fā)布將推動(dòng)這一趨勢(shì)的加快。

Lama 3.1 的一大變化是,我們不再只是為自己打造它并讓開發(fā)人員使用它,而是采取更積極主動(dòng)的立場(chǎng)來(lái)建立合作伙伴關(guān)系。

我認(rèn)為開源能讓每個(gè)人都受益,它不是只被少數(shù)幾家大公司鎖定的東西。

開源最終將成為開發(fā) AI 更安全、更可靠的方式。

在采訪中,他還特別談到了蘋果和過(guò)去的經(jīng)驗(yàn)教訓(xùn)。他認(rèn)為蘋果封閉的生態(tài)系統(tǒng)阻礙了Meta和其他公司的發(fā)展。

當(dāng)你開發(fā)出你認(rèn)為對(duì)社區(qū)有益的功能,然后被告知無(wú)法發(fā)布,因?yàn)橛行┕鞠氚涯阆拗圃谀硞(gè)框架內(nèi),這樣他們才能更好地與你競(jìng)爭(zhēng)時(shí),你會(huì)感到有點(diǎn)心碎。

以下為訪談全文,部分內(nèi)容有刪減:

Rowan Cheung

您能給我們介紹一下發(fā)布的所有產(chǎn)品以及它們的重要性嗎?

Mark Zuckerberg

是的,當(dāng)然。今天的重要發(fā)布是 Llama 3.1,我們將發(fā)布三個(gè)模型。這是我們首次發(fā)布 4050 億參數(shù)模型。所以我認(rèn)為它是迄今為止最復(fù)雜的開源模型。它與一些領(lǐng)先的封閉模型相比具有競(jìng)爭(zhēng)力,在某些領(lǐng)域甚至領(lǐng)先。我真的很期待看到人們會(huì)如何使用它,尤其是現(xiàn)在我們圍繞 Llama 的社區(qū)政策允許人們將其用作教師模型來(lái)提煉和微調(diào),并基本上使用它來(lái)創(chuàng)建他們想要的任何其他模型。除此之外,我們還提煉了 4050 億參數(shù)模型,以制作更新、更新的模型,現(xiàn)在在 700 億和 80 億參數(shù)模型中處于領(lǐng)先地位。它們還具有非常好的性能,非常好的性價(jià)比。我真的很期待看到大家會(huì)如何使用它。

退一步來(lái)說(shuō),我認(rèn)為這對(duì)開源 AI 來(lái)說(shuō)是一個(gè)非常重要的時(shí)刻。我一直在思考這個(gè)問(wèn)題,有一段時(shí)間我認(rèn)為開源 AI 將成為行業(yè)標(biāo)準(zhǔn)。我認(rèn)為它基本上會(huì)遵循 Linux 所走的路。在 Linux 流行之前,所有這些公司都有自己的封閉版本的 Unix。當(dāng)時(shí),開源項(xiàng)目從未做過(guò)如此復(fù)雜的事情。人們認(rèn)為封閉的開發(fā)模式是做先進(jìn)事情的唯一方法。起初,Linux 站穩(wěn)了腳跟,因?yàn)樗阋,開發(fā)人員可以用不同的方式定制它。隨著時(shí)間的推移,隨著生態(tài)系統(tǒng)的建立,它受到了更多的審查,成為更安全、更先進(jìn)的選擇。有更多的合作伙伴構(gòu)建功能,例如驅(qū)動(dòng)程序,使其比任何封閉源 Unix 都更強(qiáng)大。

我認(rèn)為 Llama 3.1 的這個(gè)時(shí)刻就像一個(gè)轉(zhuǎn)折點(diǎn),Llama 有機(jī)會(huì)成為開源 AI 標(biāo)準(zhǔn)。即使在性能尚未領(lǐng)先的地方,它在成本、可定制性和微調(diào)模型的能力方面也處于領(lǐng)先地位。這些都是開發(fā)人員將獲得的巨大優(yōu)勢(shì)。我們專注于構(gòu)建這個(gè)合作伙伴生態(tài)系統(tǒng),并圍繞它構(gòu)建不同的功能。我非常高興談?wù)撨@一切。

Rowan Cheung

我已經(jīng)看過(guò)所有的基準(zhǔn)測(cè)試。它看起來(lái)令人難以置信。顯然,這是有史以來(lái)第一個(gè)針對(duì)405B的開源前沿模型。您是否真的很高興看到人們使用該模型構(gòu)建任何特定的實(shí)際用例?

Mark Zuckerberg

我最興奮的是看到人們用它來(lái)提煉和微調(diào)他們自己的模型。這是第一個(gè)開源前沿級(jí)模型,但不是第一個(gè)前沿級(jí)模型。還有其他具有這種能力的模型。人們會(huì)希望直接在405B上進(jìn)行推理,因?yàn)閾?jù)我們估計(jì),直接進(jìn)行推理比 GPT-4 便宜 50%。這對(duì)很多人來(lái)說(shuō)意義重大。但我認(rèn)為這對(duì)世界來(lái)說(shuō)真正新穎的是,因?yàn)樗情_放權(quán)重,能夠?qū)⒛P吞釤挸扇魏未笮,以便用于合成?shù)據(jù)生成,將其用作教師模型。所以我們對(duì)未來(lái)的愿景不僅僅是,好吧,它從來(lái)都不是單一的東西。我認(rèn)為這就像 OpenAI 的愿景,他們將構(gòu)建一個(gè)大型人工智能。Anthropic 也是,谷歌也是。

這從來(lái)都不是我們的愿景。我們的愿景是應(yīng)該有很多不同的模型。我認(rèn)為每個(gè)初創(chuàng)公司、每個(gè)企業(yè)、政府,他們都想擁有自己的定制模型。當(dāng)封閉生態(tài)系統(tǒng)比開源更好時(shí),最好將普通的封閉模型拿來(lái)即用。即使你可以自定義開源,但性能上仍然存在差距。但現(xiàn)在,開源已經(jīng)縮小了差距。你將看到模型的廣泛普及,人們有動(dòng)力使用他們的數(shù)據(jù)定制和訓(xùn)練適合他們需求的合適大小的模型。他們將擁有實(shí)現(xiàn)這一目標(biāo)的工具,因?yàn)榕c亞馬遜、AWS、Databricks 等公司建立了合作伙伴關(guān)系,并構(gòu)建了用于提煉和微調(diào)開放模型的服務(wù)套件。這是令人興奮的新功能。這是世界上一項(xiàng)全新的能力。因?yàn)閺膩?lái)沒(méi)有人發(fā)布過(guò)這種復(fù)雜程度的開源或開放權(quán)重模型。

Rowan Cheung

這真的是一件大事。你們是如何教育開發(fā)人員使用這些工具的?更廣泛地說(shuō),Meta 是否有計(jì)劃或策略來(lái)教育世界其他地方了解開源以及它為什么如此重要?

Mark Zuckerberg

在 Llama 3.1 之前,我們的方法是確保我們能夠獲得領(lǐng)先的模型。由于我們?cè)谝苿?dòng)技術(shù)領(lǐng)域之前的歷史,我們不想依賴競(jìng)爭(zhēng)對(duì)手來(lái)獲得基礎(chǔ)技術(shù),我們?yōu)樽约捍蛟焖。?Llama 3.1 之前,我們有一種直覺(jué),如果我們將其開源,一個(gè)社區(qū)就會(huì)圍繞它發(fā)展,擴(kuò)展它的功能,讓它對(duì)包括我們?cè)趦?nèi)的每個(gè)人都更有價(jià)值。這不僅僅是技術(shù);這是一個(gè)生態(tài)系統(tǒng)。

Llama 3.1 的一大變化是,我們不再只是為自己打造它并讓開發(fā)人員使用它,而是采取更積極主動(dòng)的立場(chǎng)來(lái)建立合作伙伴關(guān)系。我們正在確保有一個(gè)生態(tài)系統(tǒng),其中的公司可以利用模型做有趣的事情,并以我們無(wú)法做到的方式為開發(fā)人員提供服務(wù)。我們不是 AWS、Google 或 Azure 這樣的公共云提供商。開發(fā)人員不會(huì)來(lái)找我們構(gòu)建他們的東西,但我們希望確保所有這些公共云都具備這樣做的條件。這包括托管模型和提供推理等基本功能,也包括蒸餾和微調(diào)等新功能,為此設(shè)置了特定的服務(wù)。許多這些服務(wù)以前都沒(méi)有很好地構(gòu)建,因?yàn)槠渌P蜔o(wú)法做到這一點(diǎn)。我們必須與合作伙伴進(jìn)行特定的工作才能實(shí)現(xiàn)這一點(diǎn)。與此同時(shí),會(huì)有像 Grok 這樣的人在超低延遲推理方面做有趣的工作。我真的很高興能把這個(gè)交到他們手中,他們正在為發(fā)布構(gòu)建一些東西,以支持這一點(diǎn)。

然后是整個(gè)企業(yè)公司。因此,戴爾、Scale AI、德勤或埃森哲等公司與世界各地的所有企業(yè)合作進(jìn)行技術(shù)部署。我認(rèn)為,無(wú)論是大型企業(yè)還是政府,他們都會(huì)幫助構(gòu)建定制模型。很多人基本上都希望擁有一個(gè)屬于自己的模型,他們可以將自定義數(shù)據(jù)訓(xùn)練到這個(gè)模型中。但很多公司不想通過(guò) API 將數(shù)據(jù)發(fā)送給 Google 或 OpenAI。這并不是因?yàn)檫@些公司存在任何特定的隱私問(wèn)題,這也是而是因?yàn)槿藗兿矚g加密和 WhatsApp 的原因相同,對(duì)吧?人們只是想要一個(gè)設(shè)計(jì)安全的架構(gòu),讓他們的數(shù)據(jù)可以隨身攜帶。我認(rèn)為圍繞這類東西會(huì)有一個(gè)完整的市常所以我對(duì)這一切感到非常興奮。

但是我們這次采取了更積極主動(dòng)的立場(chǎng),幫助建立生態(tài)系統(tǒng)。我認(rèn)為這就是它成長(zhǎng)的方式,并且對(duì)每個(gè)人都更有價(jià)值。

Rowan Cheung

是的,我喜歡你與開發(fā)者社區(qū)的密切關(guān)系。就我自己而言,我身處社區(qū),我知道人們確實(shí)想要這些私人和本地模型。所以說(shuō)到你的信,除了元公告之外,你還發(fā)表了一封信,第一部分真正關(guān)注了開源對(duì)開發(fā)者的好處。我覺(jué)得這真的很到位。你能多談?wù)勯_源人工智能的廣泛社會(huì)影響嗎?

Mark Zuckerberg

是的,我的觀點(diǎn)是,開源是實(shí)現(xiàn)積極的人工智能未來(lái)的一個(gè)非常重要的因素。人工智能將為人們帶來(lái)所有這些令人敬畏的東西,包括提高生產(chǎn)力和增強(qiáng)創(chuàng)造力。希望它能幫助我們進(jìn)行研究和類似的事情。但我認(rèn)為開源是我們確保它讓每個(gè)人都受益;它不是只被少數(shù)幾家大公司鎖定的東西。

與此同時(shí),我實(shí)際上認(rèn)為開源最終將成為開發(fā) AI 更安全、更可靠的方式。我知道今天關(guān)于開源是否安全的爭(zhēng)論仍在繼續(xù),而我對(duì)此持不同立常我不僅認(rèn)為它比封閉式開發(fā)更安全,而且我將其分解為多種不同類型的危害。所以你不能只談?wù)撘环N類型的事情。在這方面,我認(rèn)為可能存在無(wú)意的危害,即系統(tǒng)以人們不打算的方式脫軌,然后是故意的危害,即有壞人試圖利用系統(tǒng)做壞事。

說(shuō)到無(wú)意傷害,順便說(shuō)一句,我認(rèn)為值得注意的是,人們擔(dān)心的大多數(shù)科幻場(chǎng)景中的人工智能失控都是無(wú)意的。我實(shí)際上認(rèn)為開源在這方面應(yīng)該更安全,因?yàn)樗鼘⑹艿礁嗟膶彶楹屯该鞫取K惺褂盟拈_發(fā)人員,有了所有的 Llama Guard 和它附帶的安全工具,他們將會(huì)受到如此多的審查、測(cè)試和壓力。我猜,就像傳統(tǒng)的開源軟件一樣,它出現(xiàn)的任何問(wèn)題都會(huì)比封閉模型更快地得到解決和修復(fù)。所以我認(rèn)為你對(duì)無(wú)意傷害的看法是正確的,這就是為什么大多數(shù)關(guān)于開源安全的討論都圍繞著故意傷害。它是開放的,它就在那里。

你如何阻止壞人用它做壞事?在那里,我認(rèn)為你可能想把問(wèn)題分成較小的參與者,比如試圖制造混亂的個(gè)人或較小的團(tuán)體,以及更復(fù)雜且擁有大量資源的較大參與者,比如大民族國(guó)家。這兩者是一種不同的組合。對(duì)于較小的參與者,我的觀點(diǎn)是,在這方面保持力量平衡非常重要。我們?cè)诠芾砩缃痪W(wǎng)絡(luò)時(shí)所做的就是,我們有所有這些試圖在我們的網(wǎng)絡(luò)上做壞事的壞人。很多時(shí)候,他們會(huì)部署人工智能系統(tǒng)來(lái)做這件事,而我們阻止和識(shí)別他們的方法是使用更復(fù)雜的人工智能系統(tǒng),這些系統(tǒng)擁有更多的計(jì)算能力來(lái)發(fā)現(xiàn)他們?cè)谧鍪裁础?/p>

我認(rèn)為這實(shí)際上非常類似于政府和執(zhí)法部門在社會(huì)中維持秩序的方式。是的,確實(shí)有一些不法分子可能會(huì)犯罪,但總體來(lái)說(shuō),警察和軍隊(duì)的資源和資金更為充足,我認(rèn)為這里的情況基本上也是如此。事實(shí)上,我認(rèn)為你希望開源能夠廣泛部署,因?yàn)槿绻欠忾]的,可能存在一定風(fēng)險(xiǎn)。但當(dāng)它是開源時(shí),大型機(jī)構(gòu)可以利用他們豐富的資源來(lái)部署這些系統(tǒng),從而遏制不良行為者。

我認(rèn)為,無(wú)論是推動(dòng)全球更均衡的繁榮,還是提高安全性,開源最終會(huì)領(lǐng)先。我們會(huì)遇到問(wèn)題,但我們會(huì)進(jìn)行嚴(yán)格測(cè)試,與政府合作,繼續(xù)努力。這是我對(duì)未來(lái)平衡的看法,基于我目前所知。

Rowan Cheung

我們?cè)僬務(wù)勯_源AI的好處。你在信中提到開源AI可以加速創(chuàng)新和經(jīng)濟(jì)增長(zhǎng)。你認(rèn)為這種情況已經(jīng)發(fā)生了嗎?你怎么看未來(lái)的發(fā)展?

Mark Zuckerberg

我認(rèn)為AI無(wú)論如何開發(fā)都會(huì)有這種效果,但開源可以帶來(lái)更大的好處。我認(rèn)為AI比目前開發(fā)的任何其他單一技術(shù)更有潛力提高生產(chǎn)力、加速經(jīng)濟(jì)發(fā)展,讓每個(gè)人都有能力更具創(chuàng)造性,生產(chǎn)更有趣的東西。我希望它還能幫助科學(xué)和醫(yī)學(xué)研究等領(lǐng)域。

然而,今天有很多人沒(méi)有機(jī)會(huì)微調(diào)或構(gòu)建他們自己的最先進(jìn)模型,他們受限于大型實(shí)驗(yàn)室的成果。正如我剛才所說(shuō),我認(rèn)為我們文化和創(chuàng)新的一個(gè)定義特性是,不僅僅是大公司在做,還有初創(chuàng)公司、黑客、學(xué)者和大學(xué)里的個(gè)人。我認(rèn)為你應(yīng)該讓所有這些人都能訪問(wèn)最先進(jìn)的模型,不僅僅是運(yùn)行這些模型,還能在其基礎(chǔ)上進(jìn)行構(gòu)建、調(diào)整,并縮小到可以在他們的筆記本電腦或手機(jī)上運(yùn)行的規(guī)模。我認(rèn)為這將釋放大量的進(jìn)步。這不僅僅是因?yàn)槌鮿?chuàng)公司或大學(xué)可能沒(méi)有資源去訓(xùn)練自己的大型基礎(chǔ)模型。

現(xiàn)在我們處于未來(lái),但許多國(guó)家將沒(méi)有能力做到這一點(diǎn),因?yàn)楹芸爝@些事情將花費(fèi)數(shù)十億美元進(jìn)行培訓(xùn)。我認(rèn)為,讓不同的國(guó)家、企業(yè)家和企業(yè)能夠利用它更好地為人民服務(wù)、更好地工作,將使全世界的所有人都受益,并產(chǎn)生巨大的均衡效應(yīng)。我知道這真的很積極。我們得到最多感謝的地方之一實(shí)際上不是科技界,而是不同的發(fā)展中國(guó)家或其他國(guó)家,他們希望獲得技術(shù)并利用它做事,但不一定擁有技術(shù)領(lǐng)域來(lái)生產(chǎn)出他們的企業(yè)可以依賴的最先進(jìn)的東西。但一旦他們擁有了它,實(shí)際上就可以很容易地去培訓(xùn)自己的人。這是其中相當(dāng)不錯(cuò)的一部分。

Rowan Cheung

我喜歡它。我想從這封信中談及的另一件事是,我對(duì)你如此直接地批評(píng)蘋果及其封閉的做法感到有些震驚。你能詳細(xì)說(shuō)明一下,蘋果在哪些方面阻礙了 Meta 和其他公司的發(fā)展嗎?

Mark Zuckerberg

我的觀點(diǎn)更哲學(xué)化,蘋果如何影響了我對(duì)待事物的方式,以及在心理上如何影響我對(duì)構(gòu)建事物的看法。我實(shí)際上不知道他們將如何處理人工智能。他們進(jìn)行一些開放式開發(fā)和一些封閉式開發(fā)。順便說(shuō)一句,我不認(rèn)為自己是一個(gè)開源賣家。我只是認(rèn)為在這種情況下,開放模式將成為標(biāo)準(zhǔn),這對(duì)世界有利。我們進(jìn)行開放式開發(fā)和封閉式開發(fā)。我并不是說(shuō)蘋果在人工智能方面一定會(huì)走錯(cuò)路,但如果你回顧過(guò)去 10 年或 15 年,你會(huì)發(fā)現(xiàn)在競(jìng)爭(zhēng)對(duì)手控制的平臺(tái)上構(gòu)建我們的服務(wù)對(duì)我們來(lái)說(shuō)是一種成長(zhǎng)經(jīng)歷。對(duì)于許多不同的激勵(lì)措施,他們采用不同的規(guī)則來(lái)限制我們可以做的事情。他們有這些稅,我們做了一些分析,我們認(rèn)為如果沒(méi)有這些任意規(guī)則,我們的利潤(rùn)會(huì)更高。我認(rèn)為很多其他企業(yè)也會(huì)如此。老實(shí)說(shuō),錢的部分很煩人,但對(duì)我來(lái)說(shuō),這不是最大的問(wèn)題。當(dāng)你開發(fā)出你認(rèn)為對(duì)社區(qū)有益的功能,然后被告知你不能發(fā)布它們,因?yàn)橛行┕鞠氚涯惴旁谝粋(gè)盒子里,這樣他們才能更好地與你競(jìng)爭(zhēng)時(shí),這有點(diǎn)令人心碎。我現(xiàn)在對(duì)人工智能的擔(dān)憂實(shí)際上不是蘋果,而是其他公司以及它們將如何發(fā)展。我不是說(shuō)他們是壞人。我認(rèn)為這個(gè)系統(tǒng)只是一種物理和激勵(lì)結(jié)構(gòu),如果你建立一個(gè)封閉的系統(tǒng),最終會(huì)有力量迫使你限制某些事情。我認(rèn)為,如果它的發(fā)展更像網(wǎng)絡(luò)但更強(qiáng)大,它將是一個(gè)更健康的生態(tài)系統(tǒng)。

由于移動(dòng)的發(fā)展方式,封閉模式獲勝,蘋果確實(shí)收獲了大部分好處。也許還有更多的安卓手機(jī),但蘋果幾乎獲得了手機(jī)的所有利潤(rùn)。這有點(diǎn)近期偏差,因?yàn)檫@是一個(gè)很長(zhǎng)的周期。iPhone 于 2007 年問(wèn)世,所以我們已經(jīng)進(jìn)入這個(gè)領(lǐng)域近 20 年了。這是一個(gè)漫長(zhǎng)的周期,但很容易忘記封閉模式并不總是獲勝。如果你回到 PC 上,許多人并不認(rèn)為 Windows 是最大程度開放的,但與蘋果將操作系統(tǒng)與設(shè)備結(jié)合在一起的方法相比,Windows 的方法是一個(gè)更開放的生態(tài)系統(tǒng),它贏了。我對(duì)下一代平臺(tái)的希望,包括人工智能以及我們?cè)谠鰪?qiáng)現(xiàn)實(shí)和虛擬現(xiàn)實(shí)方面所做的工作,是站在建立開放生態(tài)系統(tǒng)的一邊。我們希望讓這個(gè)行業(yè)恢復(fù)到開放生態(tài)系統(tǒng)領(lǐng)先的狀態(tài)。我認(rèn)為這是可能的。我認(rèn)為我們?cè)?AI、AR 和 VR 方面都取得了良好的進(jìn)展。鑒于過(guò)去 10 到 15 年來(lái)封閉的移動(dòng)開發(fā)模式對(duì)我們行業(yè)的創(chuàng)造力造成了限制,這是我個(gè)人和哲學(xué)上關(guān)心的事情。

Rowan Cheung

我想更深入地談?wù)勀闾岬降年P(guān)于恢復(fù)行業(yè)狀態(tài)的觀點(diǎn),即開放生態(tài)系統(tǒng)是主導(dǎo),F(xiàn)在我們有剛剛發(fā)布的 Llama 3.1405B。它具有競(jìng)爭(zhēng)力,甚至在關(guān)鍵基準(zhǔn)測(cè)試中擊敗了一些最好的封閉模型,這令人印象深刻。但在你的信中,你提到 Llama 4 有望成為業(yè)內(nèi)最先進(jìn)的模型。Llama 4 有什么特別讓你興奮的地方嗎?

Mark Zuckerberg

哦,伙計(jì)。我們現(xiàn)在只為 Llama 做 3.1,F(xiàn)在談?wù)?Llama 4 可能有點(diǎn)早,但我們已經(jīng)設(shè)置了計(jì)算集群。我們已經(jīng)設(shè)置了大量數(shù)據(jù),并且我們對(duì)架構(gòu)將會(huì)是什么樣子有了一定了解。我已經(jīng)進(jìn)行了大量研究實(shí)驗(yàn)來(lái)最大化這一點(diǎn)。我認(rèn)為 Llama 4 將在 Llama 3 的基礎(chǔ)上再一次實(shí)現(xiàn)巨大飛躍。我們還有很多進(jìn)展要做。這是 Llama 的第一個(gè) dot 版本。我還想做更多的事情,包括推出多模式模型,雖然它不幸遭遇了挫折,但我認(rèn)為我們可能會(huì)在未來(lái)幾個(gè)月內(nèi)在歐盟以外的所有地方推出它們。

現(xiàn)在談?wù)?Llama 4 可能有點(diǎn)早,但它會(huì)非常棒。運(yùn)營(yíng)公司時(shí)一件有趣的事情是規(guī)劃計(jì)算集群和數(shù)據(jù)軌跡,不僅是為 Llama 4,還包括為接下來(lái)的四五個(gè)版本的 Llama。這些是長(zhǎng)期投資,用于構(gòu)建這些數(shù)據(jù)中心及其周圍的電源、芯片架構(gòu)和網(wǎng)絡(luò)架構(gòu)。

我意識(shí)到除了一些普遍的興奮之外,現(xiàn)在這個(gè)問(wèn)題有點(diǎn)無(wú)法回答。在我們開始談?wù)撐磥?lái)之前,Llama 3.1 值得至少花一周時(shí)間來(lái)處理我們發(fā)布的內(nèi)容。

Rowan Cheung

這很公平。我完全同意,僅 3.1 版,接下來(lái)的幾周就會(huì)很瘋狂。但聽(tīng)到 Meta 已經(jīng)為 Llama 4 做好了一切準(zhǔn)備,仍然非常令人興奮。在這方面,您能否更多地談?wù)勀鷮?duì)未來(lái) AI 和可能的 AGI 的長(zhǎng)期愿景?

Mark Zuckerberg

是的,我的意思是,我很樂(lè)意從技術(shù)角度和產(chǎn)品角度來(lái)談?wù)撍。但是由于到目前為止我們主要談(wù)摰氖悄P停苍S我會(huì)從產(chǎn)品開始。所以我們的愿景是,AI 服務(wù)中應(yīng)該有很多不同的 AI,而不僅僅是一種單一的 AI。這確實(shí)為開源方法提供了信息。它還為產(chǎn)品路線圖提供了信息。所以是的,我們有 Meta AI。Meta AI 做得很好。我的目標(biāo)是讓它在今年年底前成為世界上使用最多的 AI 助手。我認(rèn)為我們已經(jīng)朝著這個(gè)方向邁進(jìn)了一步。我們可能會(huì)在年底前幾個(gè)月達(dá)到這個(gè)里程碑。

而且,我認(rèn)為我們有能力和商業(yè)模式來(lái)構(gòu)建世界上最先進(jìn)的模型并免費(fèi)提供給每個(gè)人。所以這是一個(gè)巨大的優(yōu)勢(shì)。它在我們所有的應(yīng)用程序中都很容易使用。所以我對(duì)此感到非常興奮。是的,我們有了基礎(chǔ)助手,我認(rèn)為這將是一件大事。

但更重要的是,我們關(guān)注的很多事情是讓每個(gè)創(chuàng)作者和每個(gè)小企業(yè)都能夠?yàn)樽约簞?chuàng)建 AI 代理,這樣我們平臺(tái)上的每個(gè)人都可以創(chuàng)建他們想要與之互動(dòng)的 AI 代理。如果你仔細(xì)想想,這些空間是巨大的,對(duì)吧?世界上有數(shù)億家小企業(yè)。我認(rèn)為真正重要的事情之一是,通過(guò)相對(duì)較少的工作,企業(yè)可以為自己建立一個(gè) AI 代理,它可以提供客戶支持、銷售和與其他客戶溝通。我認(rèn)為,未來(lái)的每家企業(yè),就像他們今天有電子郵件地址、網(wǎng)站和社交媒體一樣,都會(huì)有一個(gè)可以與客戶交談的 AI 代理。

這將是數(shù)億,甚至數(shù)十億的小企業(yè)代理。同樣,對(duì)于創(chuàng)作者來(lái)說(shuō),我們平臺(tái)上有超過(guò) 2 億人認(rèn)為自己是創(chuàng)作者,主要使用我們的平臺(tái)來(lái)建立社區(qū)和發(fā)布內(nèi)容。他們都有一個(gè)基本問(wèn)題,那就是每天沒(méi)有足夠的時(shí)間與社區(qū)進(jìn)行盡可能多的互動(dòng)。同樣,我認(rèn)為他們的社區(qū)通常希望他們投入更多時(shí)間,但同樣,每天的時(shí)間不夠。

因此,我認(rèn)為將有一個(gè)巨大的解鎖,每個(gè)創(chuàng)作者都可以從社交媒體中提取所有信息,訓(xùn)練這些系統(tǒng)以反映他們的價(jià)值觀和商業(yè)目標(biāo),然后人們可以與之互動(dòng)。這幾乎就像創(chuàng)作者創(chuàng)造的藝術(shù)品,人們可以通過(guò)不同的方式與之互動(dòng)。這甚至還沒(méi)有涉及到人們能夠?yàn)樽约簞?chuàng)建不同的 AI 代理來(lái)做不同事情的所有不同方式。所以我認(rèn)為我們將生活在一個(gè)擁有數(shù)億或數(shù)十億個(gè)不同人工智能代理的世界,最終人工智能代理的數(shù)量可能比世界上的人類數(shù)量還多,而人們將以各種不同的方式與它們進(jìn)行互動(dòng)。

這就是產(chǎn)品愿景。顯然,這其中有很多商機(jī)。我們希望通過(guò)打造最好的產(chǎn)品來(lái)賺錢,而打造最好的產(chǎn)品的一個(gè)重要因素就是擁有最好的模型,而擁有最好的開源生態(tài)系統(tǒng)將幫助我們做到這一點(diǎn)。所以,這就是我們之所以一致的原因,也是為什么通過(guò)建立這個(gè)開源社區(qū),打造最高質(zhì)量的產(chǎn)品并獲得最佳業(yè)務(wù)成果對(duì)我們非常有價(jià)值。

但它在哲學(xué)上也是一致的。我們不相信會(huì)只有一個(gè)大人工智能,無(wú)論是產(chǎn)品還是每個(gè)人都在使用的模型。我們從根本上相信擁有廣泛多樣的模型,每個(gè)企業(yè)和個(gè)人都希望擁有自己的定制解決方案。我認(rèn)為這會(huì)很有趣,也是令人興奮的很多原因。

Rowan Cheung

是的,我認(rèn)為 Meta 如何將技術(shù)直接集成到其產(chǎn)品中并免費(fèi)向數(shù)十億用戶提供前沿級(jí) AI 模型真的很有趣,這是一件大事。

但就此而言,我還有一個(gè)關(guān)于懷疑論的最后一個(gè)問(wèn)題。在 20 世紀(jì) 90 年代,對(duì)互聯(lián)網(wǎng)的懷疑無(wú)處不在。但最終,反對(duì)它幾乎變得不合理。感覺(jué)我們現(xiàn)在對(duì)人工智能的懷疑也處于類似的軌跡上。您是否認(rèn)為我們處于早期階段,并且會(huì)有這樣一個(gè)臨界點(diǎn),即反人工智能情緒將被視為與今天對(duì)互聯(lián)網(wǎng)的懷疑類似?您認(rèn)為哪些因素對(duì)于改變這種觀點(diǎn)至關(guān)重要?

Mark Zuckerberg

我認(rèn)為人們對(duì)某事的擔(dān)憂有不同的方式。我很清楚的一件事是,互聯(lián)網(wǎng)在成功之前經(jīng)歷了一次大泡沫破滅。是的,互聯(lián)網(wǎng)上所有長(zhǎng)期關(guān)注的人最終都是對(duì)的,但有時(shí)事情的發(fā)展比你想象的要長(zhǎng),你只需要有決心堅(jiān)持到底。我對(duì) Llama 3、Llama 4 和 Llama 5 將帶來(lái)的所有解鎖功能感到非常興奮。我認(rèn)為這將轉(zhuǎn)化為更好的產(chǎn)品。但實(shí)際上,很難提前知道什么時(shí)候某樣?xùn)|西足夠好,可供數(shù)十億人使用,什么時(shí)候可以成為一門大生意。我們都在花費(fèi)大量資金來(lái)訓(xùn)練這些模型,所以我認(rèn)為人們會(huì)在相當(dāng)長(zhǎng)的一段時(shí)間內(nèi)虧損。

但也許這一切都會(huì)發(fā)生得更快。很難確切知道。我認(rèn)為你所說(shuō)的另一部分是人們擔(dān)心這對(duì)他們的生計(jì)意味著什么。這就是我認(rèn)為開源方法很重要的原因之一,因?yàn)殚_源方法有很多不同的模型,可以針對(duì)每個(gè)企業(yè)和每個(gè)創(chuàng)作者進(jìn)行個(gè)性化和定制。如果這種情況發(fā)展到只有少數(shù)公司生產(chǎn)產(chǎn)品并從中受益,而人們只是使用這些產(chǎn)品,那么如果它不能幫助所有人振興,就可能會(huì)產(chǎn)生強(qiáng)烈反應(yīng)。

在研究了 Web 2.0 的發(fā)展方式后,我花了一些時(shí)間思考如何圍繞 AI、AR 和 VR 創(chuàng)造一個(gè)更可持續(xù)的政治經(jīng)濟(jì)。我們需要一套蓬勃發(fā)展的產(chǎn)品和經(jīng)濟(jì)生產(chǎn)力的提高,但也需要一個(gè)更好、更可持續(xù)的系統(tǒng),讓更多的人感覺(jué)他們從中受益。我認(rèn)為我們?cè)谏缃幻襟w方面做得相當(dāng)不錯(cuò),但從一些反饋來(lái)看,我認(rèn)為在 AI 和新技術(shù)方面做得更好將非常重要,以減輕對(duì)生計(jì)、工作和生活的擔(dān)憂。

Rowan Cheun

是的,我認(rèn)為沒(méi)有人能說(shuō)得更好。和你談話真是太棒了。非常感謝你這樣做,也感謝你和 Meta 為人工智能社區(qū)所做的一切。

Mark Zuckerberg

很高興這樣做,我真的很期待看到人們創(chuàng)造的東西。

贊助本站

相關(guān)內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實(shí)驗(yàn)室 版權(quán)所有    關(guān)于我們 | 聯(lián)系我們 | 廣告服務(wù) | 公司動(dòng)態(tài) | 免責(zé)聲明 | 隱私條款 | 工作機(jī)會(huì) | 展會(huì)港