AI行業(yè)的關(guān)注點(diǎn)正在從技術(shù)可行性轉(zhuǎn)向成本問(wèn)題。Sam Altman指出,運(yùn)行AI的成本已經(jīng)從年初幾乎無(wú)人討論變成企業(yè)客戶面前的重要問(wèn)題。這使得生成式AI的商業(yè)化焦點(diǎn)迅速轉(zhuǎn)向單位經(jīng)濟(jì)、預(yù)算約束和投資回報(bào)。

據(jù)AI媒體Fello AI報(bào)道,Altman在OpenAI于6月2日舉辦的企業(yè)客戶活動(dòng)上表示,今年初AI運(yùn)行成本從未被提起,但目前已經(jīng)成為企業(yè)采購(gòu)和部署中的主要問(wèn)題。他還透露,OpenAI最大客戶之一每月消耗約1000億個(gè)tokens,相當(dāng)于750億個(gè)單詞。而六年前,最高使用者的月消耗量?jī)H為10萬(wàn)個(gè)tokens。這一變化表明,單一頂級(jí)用戶的使用規(guī)模已放大約100萬(wàn)倍。

這表明AI支出進(jìn)入審查階段,企業(yè)開(kāi)始設(shè)置tokens上限、切換更便宜模型、采用智能路由。投資者需要關(guān)注的不僅是AI采用率,還包括推理成本、客戶ROI和盈利路徑。
Altman稱,半年前企業(yè)客戶幾乎不擔(dān)心AI花費(fèi),現(xiàn)在成本已成為重大問(wèn)題。這意味著企業(yè)對(duì)AI的態(tài)度正從快速試用、擴(kuò)大部署轉(zhuǎn)向預(yù)算管理和效率評(píng)估。他提到,OpenAI單一最大客戶每月消耗約1000億個(gè)tokens,且公司外部還有人消耗更多tokens。
AI賬單已從技術(shù)部門的數(shù)據(jù)變成企業(yè)預(yù)算問(wèn)題。Peter Steinberger曾發(fā)布截圖顯示,30天內(nèi)消耗6030億個(gè)tokens,單月費(fèi)用約130萬(wàn)美元。據(jù)報(bào)道,在他加入OpenAI后,公司承擔(dān)了這筆賬單。此外,一名OpenAI員工一周內(nèi)消耗2100億個(gè)tokens,McKinsey & Company作為客戶也跨過(guò)每月1000億個(gè)tokens的門檻。




