科技博主闌夕：大模型不光卷價(jià)格，還要卷并發(fā)

豆包通用模型lite-4k/32k，千tokens推理輸入售價(jià)0.3厘；通義千問(wèn)qwen-long，千tokens推理輸入售價(jià)0.5厘；百度文心ERNIE Speed、ERNIE Lite，宣布免費(fèi)。

針對(duì)近期的大模型降價(jià)狂潮，科技博主闌夕發(fā)文稱：行業(yè)里說(shuō)千Tokens價(jià)格，光低價(jià)還不夠，吞吐量太小的話，再便宜也用不了多少。如果只是把價(jià)格降下去，吞吐還是小水管，那真是降了個(gè)寂寞。

以下是闌夕微博主要觀點(diǎn)：

豆包大模型打響價(jià)格戰(zhàn)已經(jīng)過(guò)了一個(gè)星期，山雨欲來(lái)的效果還是挺明顯的，同行要么跟著一起降價(jià)，要么開(kāi)始寫(xiě)小作文陰陽(yáng)，特別熱鬧。

有比較急的，拿以前云雀模型的限流指標(biāo)和模型單元價(jià)格來(lái)算，暗戳戳說(shuō)豆包實(shí)際使用價(jià)格要高。等火山引擎官網(wǎng)把不同版本、不同規(guī)格的銷(xiāo)售方案全部亮了出來(lái)，不管是預(yù)付費(fèi)還是后付費(fèi)都確實(shí)是擊穿地板的底價(jià)標(biāo)準(zhǔn)，瞬間打臉回去。

豆包模型定價(jià)，最值得關(guān)注的是把TPM（每分鐘token數(shù)）提到80萬(wàn)，比同行（一般是10萬(wàn)到30萬(wàn)tokens）高幾倍。如果對(duì)話文本小，RPM（每分鐘請(qǐng)求數(shù)）上限1萬(wàn)，能支持的并發(fā)量是同行（一般是60到120，輕量版是300到500）的幾十倍。其他大模型要不要跟？

行業(yè)里說(shuō)千Tokens價(jià)格，光低價(jià)還不夠，吞吐量太小的話，再便宜也用不了多少。如果只是把價(jià)格降下去，吞吐還是小水管，那真是降了個(gè)寂寞。

（關(guān)于免費(fèi)）大模型的算力燒錢(qián)主要在訓(xùn)練端，推理端的成本其實(shí)是每年都有幾十倍優(yōu)化空間的。但再怎么優(yōu)化，也不可能優(yōu)化到0。

足夠便宜，但依然能賺錢(qián)，由此促成應(yīng)用/商用市場(chǎng)的規(guī)模增長(zhǎng)，包括OpenAI在內(nèi)的主流大模型開(kāi)發(fā)商，都是這么一個(gè)思路，可以不講武德，但是商業(yè)規(guī)律還是得敬畏的。

不管怎么說(shuō)，大模型toB還在做大蛋糕的階段，有更多公司一起解決企業(yè)入局的成本門(mén)檻，也都算是共贏吧。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。