Anthropic呼吁全員停止AI研究 擔(dān)憂技術(shù)失控風(fēng)險(xiǎn)。北京時(shí)間6月5日，大模型廠商Anthropic發(fā)布長(zhǎng)文稱，內(nèi)部觀察到Claude正在加速AI的發(fā)展，這可能是通往遞歸自我改進(jìn)的路徑，意味著AI能自主構(gòu)建下一代AI是完全可能的。Anthropic認(rèn)為，能夠自主迭代的AI是人類科技史上里程碑式的突破，能在生物醫(yī)藥、前沿科研等領(lǐng)域帶來(lái)巨大好處，但也可能讓對(duì)齊問(wèn)題疊加惡化，最終導(dǎo)致失控。Anthropic建議世界選擇放慢或暫時(shí)停止前沿人工智能的發(fā)展，使社會(huì)結(jié)構(gòu)和價(jià)值觀對(duì)齊研究能夠跟上技術(shù)進(jìn)步。

這不是Anthropic第一次對(duì)AI發(fā)展進(jìn)行預(yù)警。今年2月，Anthropic發(fā)布了一份53頁(yè)報(bào)告，提到新模型已逼近4級(jí)AI風(fēng)險(xiǎn)等級(jí)，有朝一日AI可能會(huì)自我逃逸，造成全球失控。然而，這篇文章發(fā)布前，Anthropic剛秘密提交IPO文件，完成巨額融資，估值飆升。在這一背景下，文章立場(chǎng)顯得不夠中立。不少網(wǎng)友認(rèn)為這可能是Anthropic的營(yíng)銷和炒作手段，“為了籌款的演示文稿”。

沃頓商學(xué)院副教授Ethan Mollick轉(zhuǎn)發(fā)了Anthropic的帖子，認(rèn)為文章值得一讀，雖然其中有一些自省和營(yíng)銷內(nèi)容，但也包含很多Anthropic對(duì)AI近期和未來(lái)可能性的看法。

在文章中，Anthropic表示，一直以來(lái)都是人類主導(dǎo)了AI開(kāi)發(fā)周期的每一個(gè)步驟，但在Anthropic，員工正在將越來(lái)越多的AI開(kāi)發(fā)工作委托給AI系統(tǒng)本身，并加快了工作速度。如果這種趨勢(shì)發(fā)展到一定程度并擁有足夠的計(jì)算能力，那么AI系統(tǒng)最終將能夠完全自主地設(shè)計(jì)和開(kāi)發(fā)自身的后續(xù)版本。盡管尚未達(dá)到這一目標(biāo)，但它的到來(lái)可能比大多數(shù)機(jī)構(gòu)的準(zhǔn)備時(shí)間要早。