編輯：Aeneas 桃子
2024年，注定是AI歷史上濃墨重彩的一年。
站在2024年的尾聲，各位大佬也給出了自己對(duì)于未來的預(yù)測。
OpenAI CEO奧特曼看來，我們即將迎接超級(jí)智能的到來，而且很快了！2026年夏天，我們或許就會(huì)見證奇跡的出現(xiàn)。
Meta首席AI科學(xué)家、圖靈三巨頭之一的LeCun，跟奧特曼對(duì)此意見不同，他強(qiáng)調(diào)，AGI在未來兩年內(nèi)不會(huì)發(fā)生。
獲得今年諾獎(jiǎng)的人工智能教父Hinton則堅(jiān)信，AI的進(jìn)步會(huì)很快，但已經(jīng)到了一個(gè)可怕的地步
10年內(nèi)，AI可能會(huì)導(dǎo)致人類的滅亡！
奧特曼：ASI即將到來，想象18個(gè)月后
在圣誕節(jié)前夕，外媒記者Bari Weiss采訪了OpenAI CEO奧特曼。
在他看來，超級(jí)人工智能ASI，已經(jīng)離我們很近了！
奧特曼讓我們想象一下，18個(gè)月后，2026年夏天即將到來時(shí)，AI會(huì)是什么樣子？
ASI會(huì)如何出現(xiàn)？
奧特曼強(qiáng)調(diào)，我們必須關(guān)注科學(xué)進(jìn)步的速度，它不會(huì)改變?nèi)祟惿顚拥幕掘?qū)動(dòng)力，但我們生存的世界將會(huì)發(fā)生很大的變化。
在他看來，有AI幫我們干活，人類就可以從工作的繁重負(fù)擔(dān)中解放出來，盡情娛樂和游戲了！
人類天生渴望創(chuàng)造并對(duì)彼此有所幫助。人工智能將使我們前所未有地放大自身能力。作為一個(gè)社會(huì)，我們將回到一個(gè)不斷擴(kuò)張的世界，處于一種正和博弈。
正和博弈是指總收益大于總損失，所有參與者都獲得凈收益的情況
奧特曼認(rèn)為，我們今天從事的許多工作，在幾百年前的人們眼中可能顯得微不足道，甚至是浪費(fèi)時(shí)間。
但沒有人會(huì)回頭懷念過去，渴望自己成為一名點(diǎn)燈人。
如果一個(gè)點(diǎn)燈人能夠看到今天的世界，他會(huì)覺得眼前的繁榮完全超乎想象。
而如果我們能夠快進(jìn)到一百年后的未來，那時(shí)圍繞人類的繁榮，同樣會(huì)讓我們難以想象。
奧特曼預(yù)測到來，ASI將引發(fā)10倍的科學(xué)AI突破，每一年的革命性都會(huì)像十年一樣
當(dāng)被問到，如何衡量我們世界中AI的總體影響時(shí)，奧特曼回答說，這些AI產(chǎn)品被人們快速采用，吸引更廣泛的受眾的過程，已經(jīng)令人印象深刻。
我從未見過，一項(xiàng)技術(shù)能如此迅速地被大規(guī)模使用。
那么，奧特曼本人是怎樣使用AI的呢？
他表示，自己早已將默認(rèn)搜索改成了ChatGPT。
他經(jīng)常用ChatGPT從網(wǎng)絡(luò)上獲取實(shí)時(shí)信息，而不是依賴過去那種傳統(tǒng)的超鏈接流程如今看來，那種方式簡直像蝸牛爬行一樣緩慢。
所以這種方式仍然被稱為「搜索」嗎？奧特曼說，自己仍稱之為搜索，不過年輕人們會(huì)這樣描述：我剛剛「聊」出了這個(gè)信息。
Hinton：AI可能會(huì)在10年內(nèi)讓人類滅絕
今年剛獲得諾貝爾物理學(xué)獎(jiǎng)、77歲高齡的Hinton同樣認(rèn)為，AI技術(shù)的發(fā)展速度比自己預(yù)期的要快很多。
這讓他感到恐懼，并且發(fā)出警告：AI可能會(huì)在10年內(nèi)，讓人類滅絕。
作為深度學(xué)習(xí)之父，Hinton對(duì)自己在創(chuàng)造這項(xiàng)技術(shù)中所扮演的角色表示遺憾。
AI的迅疾發(fā)展已經(jīng)如同一次全新的工業(yè)革命，但不同的是，這次，機(jī)器可能會(huì)掌控一切。
因此，政府務(wù)必加強(qiáng)對(duì)AI公司的監(jiān)管。
此前，Hinton曾預(yù)測，AI有10%的可能性，會(huì)在30年內(nèi)導(dǎo)致人類的滅亡。
而最近，他的說法又提前了。
在BBC廣播4臺(tái)的《今日》節(jié)目中，主持人問Hinton他的看法是否有所改變。
Hinton再次強(qiáng)調(diào)說沒有。甚至他表示，AI讓人類滅絕的時(shí)間可能是10到20年，因?yàn)�，我們從未遇到過比我們更聰明的事物。
「你知道多少例子，是由不聰明的一方控制更聰明的一方？少之又少」。
人類是3歲孩童，AI是成年人
1972年，Hinton在愛丁堡大學(xué)首次開始研究神經(jīng)網(wǎng)絡(luò)。當(dāng)時(shí)少有研究者相信，神經(jīng)網(wǎng)絡(luò)可以通過分析數(shù)據(jù)來學(xué)習(xí)技能。
在20世紀(jì)80年代，他發(fā)明了可以自主查找數(shù)據(jù)屬性、識(shí)別圖片中特定元素的方法，奠定了現(xiàn)代人工智能的基礎(chǔ)。
2012年，Hinton和兩名學(xué)生Ilya Sutskever和Alex Krishevsky建立了一個(gè)神經(jīng)網(wǎng)絡(luò)，可以分析數(shù)千張照片，并自學(xué)識(shí)別花、狗和汽車等常見物體。
但現(xiàn)在，AI技術(shù)的發(fā)展已經(jīng)遠(yuǎn)比他預(yù)期的快得多。導(dǎo)致的后果就是，人類如今只是3歲孩童，但AI卻已經(jīng)長成了成年人。
Hinton表示，這就像工業(yè)革命一樣。
在工業(yè)革命中，人類的體力不重要了，因?yàn)闄C(jī)器更強(qiáng)大如果你想挖一條溝，用機(jī)器就可以了。
如今的AI，已經(jīng)在取代人類智能。最前沿的不再是普通的人類智能，而是機(jī)器。
狄更斯式的變化
「現(xiàn)在我們擁有的東西正在取代人類的智能。普通的人類智能將不再是前沿，而是機(jī)器將成為前沿�！�
Hinton預(yù)測，AI將極大地改變普通人的生活，就像查爾斯狄更斯所記載的工業(yè)革命一樣。
而AI將如何走向，很大程度上取決于我們的政治制度會(huì)如何利用這項(xiàng)技術(shù)。
而Hinton擔(dān)心的是，盡管AI會(huì)帶來生產(chǎn)力的大幅提高，但所有好處都會(huì)流向富人，很多人會(huì)因?yàn)槭I(yè)而變得更加貧窮，最終這對(duì)社會(huì)就是不利的。
在工業(yè)革命中，機(jī)器沒有機(jī)會(huì)僅僅因?yàn)樽约焊鼜?qiáng)大而取代人類，因?yàn)槲覀冇兄悄�，所以事情仍在掌控之中�?br/>
但現(xiàn)在，情況已經(jīng)不同了，AI很可能會(huì)掌握一切。
而對(duì)領(lǐng)域內(nèi)其他知識(shí)淵博的專家對(duì)AI未來的樂觀看法，Hinton表示，希望他們是正確的。
政府必須監(jiān)管
然而，Hinton補(bǔ)充道：我擔(dān)心，這只看不見的手無法保證我們的安全。如果僅僅依靠大公司追逐利潤的動(dòng)力，并不足以確保他們安全地開發(fā)這些技術(shù)。
唯一能迫使這些大公司在安全方面進(jìn)行更多研究的，就是政府監(jiān)管。
Hinton呼吁，政府必須在這方面擔(dān)起責(zé)任。
「后悔有兩種。有時(shí)候，你會(huì)因?yàn)樽隽艘恍┠阒啦粦?yīng)該做的事情而感到內(nèi)疚、后悔；還有一種，是你在同樣情況下還會(huì)做一樣的選擇，但最終結(jié)果可能并不好�！�
「我的后悔屬于第二種。在同樣的情況下，我會(huì)再次做同樣的事情，但我擔(dān)心這樣做的后果，就是比我們更智能的系統(tǒng)最終會(huì)占據(jù)控制權(quán)�！�
畢竟此前，我們從未經(jīng)歷過擁有比我們更聰明的東西，是什么感覺。
納德拉：OpenAI已成為巨頭
在與知名投資人Bill Gurley和Brad Gerstner深度對(duì)話中，納德拉分享了自己對(duì)OpenAI獨(dú)到的見解。
他表示，「從某種意義上，OpenAI就是這個(gè)時(shí)代的谷歌、微軟或Meta」。
這番話暗示著，OpenAI可能會(huì)像這些科技巨頭定義了此前幾代計(jì)算技術(shù)一樣，塑造了AI領(lǐng)域的格局。
顯而易見的是，微軟與OpenAI的早期合作，為其在AI競賽中帶來了巨大的優(yōu)勢。
納德拉稱，「我們基本上獲得了兩年的領(lǐng)跑期，不過這樣領(lǐng)先優(yōu)勢可能不會(huì)再出現(xiàn)了」。
這種戰(zhàn)略合作已經(jīng)開始顯現(xiàn)成效，包括Shopify、Stripe和Spotify等大型云客戶，已經(jīng)從AWS或谷歌轉(zhuǎn)戰(zhàn)微軟陣營。
而OpenAI本身，也早已成為了微軟云服務(wù)的重要客戶。
AI無限復(fù)制，取代人類在即
o3發(fā)布之后，Quora聯(lián)創(chuàng)Adam D'Angelo曾表示，「令人瘋狂的是，o3的測試結(jié)果已經(jīng)公開了，但市場仍然沒有將AGI的可能性計(jì)入定價(jià)之中」。
對(duì)此，馬斯克回應(yīng)道，「市場聲稱會(huì)向前看，但實(shí)際上只是關(guān)注過去。AI最終會(huì)讓金錢變得毫無意義」。
馬斯克的這句話在全網(wǎng)掀起了巨大風(fēng)暴。AGI時(shí)代，金錢真的不再重要了嗎？
最近，AI圈大佬Rudolf發(fā)表了一篇文章對(duì)此做出了回應(yīng)：
默認(rèn)情況下，AGI之后，資本比以往任何時(shí)候都重要。
文章中，他提出了幾個(gè)重要的觀點(diǎn)：AI取代人類勞動(dòng)力，將從根本上改變生產(chǎn)關(guān)系，同時(shí)現(xiàn)有的權(quán)力結(jié)構(gòu)將更加穩(wěn)固。
許多人對(duì)這個(gè)帖子的理解出現(xiàn)了偏差：
(a) 將「資本」僅理解為「金錢」，而不包括工廠和數(shù)據(jù)中心等實(shí)物資本
(b) 主要關(guān)注人與人之間的差距，而不是更廣泛的社會(huì)問題，如人類的整體地位、社會(huì)變革的可能性和人類能動(dòng)性
業(yè)內(nèi)著名AI咨詢師Luke Hornof總結(jié)道，「當(dāng)能替代人類勞動(dòng)的AI出現(xiàn)后，擁有資本的人將獲得永久性優(yōu)勢。
這是因?yàn)橘Y金將能更有效地購買成果，由于AI可以被復(fù)制，且不像人類具有復(fù)雜的偏好，這將導(dǎo)致權(quán)力進(jìn)一步集中在資本持有者手中。
同時(shí)，人類勞動(dòng)力將失去其價(jià)值和影響力，削弱人們影響國家的能力和實(shí)現(xiàn)卓越成就的可能性」。
一起來看看這篇文章具體講了什么。
首先，需要明確兩個(gè)概念：勞動(dòng)，是指人類為創(chuàng)造價(jià)值而付出的體力和腦力努力；資本，是指人類建造的用于生產(chǎn)商品和服務(wù)的東西，比如工廠、數(shù)據(jù)中心、軟件等等。
作者表示，文中提到的「資本」（capital）用來指資本貨物存量，以及用來購買資本品的貨幣。另外，提到的「資金」（money），專指金錢本身。
AI的核心經(jīng)濟(jì)效應(yīng)在于，它使「資本」成為越來越普遍的勞動(dòng)力替代品。
后果就是，支付人類勞動(dòng)時(shí)間的需求將大幅減少，因?yàn)檫\(yùn)行軟件的數(shù)據(jù)中心直接可以替代人類的腦力勞動(dòng)！
而這個(gè)數(shù)據(jù)中心的規(guī)模，仍在不斷擴(kuò)大。馬斯克的20萬塊超算已經(jīng)在緊鑼密鼓建設(shè)中了。
xAI研究員Guodong Zhang表示，自己在半年前參觀時(shí)還是空的，再看現(xiàn)在，簡直太酷了！
足見，世界數(shù)據(jù)中心規(guī)模只會(huì)越來越大，不斷推向取代人類勞動(dòng)力的極限。
重金招募頂尖人才
隨著AI逐漸取代人類，如何雇傭最合適人才的深層問題，就迎刃而解了。
對(duì)于企業(yè)來說，可能無法去判斷AI的才能。即便是一些領(lǐng)先的AI評(píng)估生態(tài)系統(tǒng)，也可能難以正確評(píng)判。
但真正的區(qū)別在于，AI可以被克隆。
目前，大量資金往往追逐，少數(shù)取得突破性成果的明星研究員。他們的才能得到了資本市場的認(rèn)可，最重要的是，他們的能力是不可被復(fù)制的。
但如果頂尖研究員是AI，將從根本上改變了游戲規(guī)則。
這意味著，未來每個(gè)人，或者至少是那些有足夠資金購買GPU的人，都能獲得這個(gè)AI明星研究員。
這就是為什么，一旦我們擁有能替代勞動(dòng)力的AI，金錢就能更容易找到頂尖人才的主要原因。
當(dāng)然，人才的價(jià)格也會(huì)大幅下降，因?yàn)锳I比同等水平的人類勞動(dòng)力更便宜。再加上AI可以被克隆，市場的競爭會(huì)更加激烈。
另外，將資金轉(zhuǎn)化為人才的最后一個(gè)重大瓶頸是：許多頂尖人才都有復(fù)雜的個(gè)人偏好。
頂尖藝術(shù)家對(duì)自己的藝術(shù)愿景有著真誠的執(zhí)著；頂尖數(shù)學(xué)家對(duì)優(yōu)雅和美有著深深的熱愛。
相比之下，AI的存在就是為了能夠被輕易地收買（至少在其安全訓(xùn)練的范圍內(nèi)）。
從2024年這個(gè)時(shí)間點(diǎn)回望，AI發(fā)展軌跡確實(shí)遠(yuǎn)超所有人的想象。
這一刻，也許是我們駐足思考的最佳時(shí)機(jī)：當(dāng)AI真正超越人類，我們?cè)摵稳ズ螐模?br/>
參考資料：
https://www.telegraph.co.uk/news/2024/12/27/godfather-of-ai-says-it-could-drive-humans-extinct-10-years/
https://x.com/kimmonismus/status/1873462709091443113
https://the-decoder.com/microsoft-ceo-satya-nadella-sees-openai-as-the-google-microsoft-or-meta-of-this-era/
https://x.com/jam3scampbell/status/1873229165388050627
