每經(jīng)記者：文巧每經(jīng)實(shí)習(xí)記者：岳楚鵬每經(jīng)編輯：蘭素英
當(dāng)?shù)貢r(shí)間8月13日，OpenAI的聊天機(jī)器人賬號(hào)發(fā)文宣布，ChatGPT新上線了一個(gè)GPT-4o模型。根據(jù)該賬號(hào)的回帖，新上線的模型并不是上周發(fā)布的API端GPT-4o 0806模型，目前該模型也對(duì)免費(fèi)用戶開(kāi)放，不過(guò)有使用次數(shù)的限制。
視覺(jué)中國(guó)
這一消息立刻引發(fā)了網(wǎng)友的熱議：難道這就是傳說(shuō)中的“草莓”項(xiàng)目？之所以網(wǎng)友的熱情如此之高，是因?yàn)?ldquo;草莓”項(xiàng)目的前身是Q*算法模型，Q*能夠解決棘手的科學(xué)和數(shù)學(xué)問(wèn)題。如果AI模型掌握了數(shù)學(xué)能力，將擁有更強(qiáng)的推理能力，甚至與人類(lèi)智能相媲美。然而，在隨后的測(cè)試中，網(wǎng)友發(fā)現(xiàn)新模型與原來(lái)的版本相比，沒(méi)有太大改善，也未能通過(guò)經(jīng)典的草莓單詞測(cè)試，不過(guò)在邏輯推理方面還是有所改進(jìn)。
不再輕易陷入邏輯循環(huán)
新模型發(fā)布的前一周，OpenAI首席執(zhí)行官阿爾特曼在X上發(fā)布了一張花園里的草莓照片，網(wǎng)友隨即聯(lián)想到了OpenAI團(tuán)隊(duì)此前被爆出的一個(gè)名為“草莓（Strawberry）”的項(xiàng)目。但對(duì)于評(píng)論區(qū)的猜測(cè)，阿爾特曼本人沒(méi)有證實(shí)，也沒(méi)有否認(rèn)，只是確認(rèn)這張照片拍的是他現(xiàn)實(shí)中的花園。
而后，ChatGPT賬號(hào)發(fā)了一個(gè)草莓表情，OpenAI員工特里弗克里奇發(fā)了餐盤(pán)上的草莓圖片，爆料人@iruletheworldmo也頻繁更新，幾乎次次都與草莓相關(guān)，這些似乎都指向一個(gè)重要時(shí)刻。
因此，當(dāng)ChatGPT賬號(hào)宣布GPT-4o家族更新，網(wǎng)友的情緒也達(dá)到了高點(diǎn)，這一更新是否就是“草莓”項(xiàng)目？不過(guò)，隨著測(cè)試信息披露，網(wǎng)友發(fā)現(xiàn)，這一更新并沒(méi)能滿足他們的預(yù)期。而且，對(duì)于新模型的具體改進(jìn)和新功能，OpenAI出奇地保持了沉默。
一系列測(cè)試顯示，新模型與之前的模型相比并沒(méi)有太大的改善。在經(jīng)典的草莓單詞測(cè)試中，新模型還是出現(xiàn)了錯(cuò)誤。大多數(shù)測(cè)試者反饋稱(chēng)，他們并沒(méi)有感受到明顯的性能提升。有的網(wǎng)友甚至直言根本分不清楚新版本和舊版本到底有什么區(qū)別。
但本次更新并非沒(méi)有亮點(diǎn)。一些用戶指出，新模型在邏輯推理方面有所改進(jìn)，例如它不再輕易陷入邏輯循環(huán)。另外，新模型的響應(yīng)速度也比之前的版本快了不少。
AI發(fā)展的安全挑戰(zhàn)
對(duì)于網(wǎng)友評(píng)論，ChatGPT的回復(fù)是：“還有很多工作要做，我們正在努力。”至于這是不是備受關(guān)注的“草莓”項(xiàng)目，外界依然不得而知。
之所以網(wǎng)友的熱情如此高漲，是因?yàn)?ldquo;草莓”項(xiàng)目的前身是Q*算法模型，Q*能夠解決棘手的科學(xué)和數(shù)學(xué)問(wèn)題。如果AI模型掌握了數(shù)學(xué)能力，將擁有更強(qiáng)的推理能力，甚至與人類(lèi)智能相媲美，而這是目前的大語(yǔ)言模型無(wú)法做到的。
盡管這一方法有可能使模型在智能上實(shí)現(xiàn)質(zhì)的飛躍，但其伴隨的危險(xiǎn)性也不容忽視。
據(jù)外媒此前報(bào)道，“草莓”項(xiàng)目的訓(xùn)練涉及對(duì)經(jīng)過(guò)后期訓(xùn)練的模型進(jìn)行最終微調(diào)。這一過(guò)程類(lèi)似于斯坦福大學(xué)的自學(xué)推理機(jī)（STaR）技術(shù)。STaR技術(shù)允許AI模型通過(guò)反復(fù)創(chuàng)建自己的訓(xùn)練數(shù)據(jù)，“引導(dǎo)”自己進(jìn)入更高的智能水平，理論上可以讓語(yǔ)言模型達(dá)到超越人類(lèi)的智能水平。
值得注意的是，OpenAI此前多次因安全問(wèn)題受到質(zhì)疑。今年7月，OpenAI的一名內(nèi)部人士向美國(guó)證券交易委員會(huì)（SEC）投訴，指控公司通過(guò)非法限制性保密協(xié)議限制員工對(duì)外披露與公司技術(shù)潛在安全問(wèn)題相關(guān)的信息。更早之前，OpenAI原超級(jí)對(duì)齊團(tuán)隊(duì)負(fù)責(zé)人Jane Leike在離職后也指責(zé)公司忽視安全文化，只注重“閃亮的產(chǎn)品”而非安全。
而在8月9日，OpenAI發(fā)布了一篇關(guān)于安全性的博客文章，詳細(xì)介紹了公司在開(kāi)發(fā)ChatGPT用戶的旗艦?zāi)Ｐ虶PT-4o時(shí)所做的安全努力，并探討了這些技術(shù)可能對(duì)社會(huì)帶來(lái)的風(fēng)險(xiǎn)。
在談到GPT-4o的早期測(cè)試時(shí)，OpenAI透露，他們觀察到用戶與模型的互動(dòng)語(yǔ)言開(kāi)始出現(xiàn)微妙的變化。例如，表達(dá)共同紐帶的語(yǔ)言，“這是我們?cè)谝黄鸬淖詈笠惶?rdquo;，等等。這種看似無(wú)害的行為，背后可能隱藏著更大的問(wèn)題。
此外，OpenAI還提到，GPT-4o有時(shí)會(huì)無(wú)意間生成模仿用戶聲音的輸出。換句話說(shuō)，它可能被用來(lái)冒充他人，從而被利用進(jìn)行犯罪活動(dòng)。
每日經(jīng)濟(jì)新聞
