大模型時(shí)代的中廠:只有本地化,才能把大模型價(jià)值最大化

導(dǎo)語(yǔ):

當(dāng)中廠們乘上大模型的東風(fēng)。

正文:

2022年底開始,一場(chǎng)由 ChatGPT 引發(fā)的人工智能革命發(fā)展正如火如荼。從一眾業(yè)界、學(xué)界大佬紛紛下場(chǎng)加入大模型混戰(zhàn),到各路資本跟進(jìn)共計(jì)投出數(shù)百億人民幣,無(wú)不證明著:大模型 還可以有更大的想象空間。

一年多的時(shí)間以來(lái),諸多參與者已經(jīng)演化成了三大流派:

一派是互聯(lián)網(wǎng)大廠,家大業(yè)大、子彈充足,憑借固有的云實(shí)力,將大模型作為入口,以生態(tài)和云服務(wù)把客戶留住;

一派是新銳創(chuàng)業(yè)獨(dú)角獸,臺(tái)前是各路明星創(chuàng)業(yè)者和他們光鮮的故事,幕后是一眾投資機(jī)構(gòu)站臺(tái)支持,聚光燈投射之下,鮮花掌聲不斷;

而又一派,是已在各自領(lǐng)域中有所成就的“中廠”,表面上不比大廠有錢,做不了動(dòng)輒千億、萬(wàn)億規(guī)模的模型,也不及創(chuàng)業(yè)公司無(wú)牽無(wú)掛,難以放下一切激進(jìn)創(chuàng)新。

前兩派,通常都是賽道極盡關(guān)注的對(duì)象,而最后一派的中廠,似乎總被遺忘,但實(shí)則是影響大模型落地最后一公里的關(guān)鍵一步。中廠們積年累月形成的數(shù)據(jù)、場(chǎng)景、用戶優(yōu)勢(shì),讓大模型不再是高高在上的show case 和AI設(shè)想,成為切實(shí)可行的、能被千行百業(yè)真正用起來(lái)的技術(shù)。而這,也契合了2024年大模型行業(yè)的關(guān)鍵詞:商業(yè)化落地。

2024年,港股上市公司移卡(09923.HK),一家走過(guò)13個(gè)年頭的科技公司,面對(duì)呼嘯而來(lái)大的 大模型 浪潮,也在用新的AI技術(shù)賦能原有的業(yè)務(wù)場(chǎng)景。

作為無(wú)數(shù) AI 2.0 時(shí)代的“中廠”代表,移卡做大模型的策略,與大廠和獨(dú)角獸都有所不同——而這或許是中廠們走向大模型價(jià)值實(shí)現(xiàn)的“最短路徑”。

一、立足場(chǎng)景的“中廠”生態(tài)位

“沒(méi)必要和BAT、 AI 創(chuàng)業(yè)獨(dú)角獸去硬拼底層大模型技術(shù)。” 移卡執(zhí)行董事、CTO羅小輝如是說(shuō)道。

誠(chéng)然,無(wú)論是阿里、字節(jié)等手握大把資源的大廠,還是智譜、月之暗面等技術(shù)Driven的AI 獨(dú)角獸,都會(huì)在參數(shù)規(guī)模、模型性能等硬條件上發(fā)力,甚至可以說(shuō)這是他們所肩負(fù)的歷史使命。但這一條路,并不適合AI浪潮之下所有的科技企業(yè)。

一來(lái),做AI底層研發(fā)的投入之大,需要持續(xù)燒錢試錯(cuò),但結(jié)果并不一定如人意;二來(lái),這場(chǎng)AI之戰(zhàn)中,技術(shù)只是手段,最終是否能立住腳還得看在具體場(chǎng)景中的商業(yè)化應(yīng)用。換言之,大模型技術(shù)無(wú)論投入多少資源、性能有多強(qiáng),最終都要落到具體場(chǎng)景中切實(shí)產(chǎn)生價(jià)值。

歸根結(jié)底,對(duì)“中廠”生態(tài)位的企業(yè)來(lái)說(shuō),用大模型能力去維護(hù)基本盤、基于大模型做場(chǎng)景實(shí)現(xiàn),反而是更好的選擇。

事實(shí)上,在行業(yè)中,當(dāng)有真切需求的客戶真正將大模型用起來(lái)的時(shí)候,卻總發(fā)現(xiàn),AI 落地的“最后一公里”相當(dāng)難走——一方面,通用大模型泛化能力很強(qiáng),卻難以深入理解企業(yè)的 Knowhow,最后難免變成“一本正經(jīng)地胡說(shuō)八道”;另一方面,大廠所布局的“行業(yè)大模型”,即使號(hào)稱距離客戶企業(yè)更近,效率有所提升,但面對(duì)客戶基于原生業(yè)務(wù)場(chǎng)景的一系列需求,也仍然無(wú)法完美應(yīng)對(duì)。

橫亙?cè)?ldquo;技術(shù)”和“應(yīng)用”之間的鴻溝,對(duì)于所有玩家來(lái)說(shuō)都難以被迅速真正跨越。

面對(duì)這個(gè)問(wèn)題,移卡執(zhí)行董事、CTO 羅小輝坦言:“要跨越這一鴻溝,不能指望天降神兵,也很難找到行業(yè)外部的第三方去做這件事情,需要自己摸索技術(shù)和本地業(yè)務(wù)結(jié)合的方式,這是必經(jīng)之路,沒(méi)有捷徑可走。”

從移卡創(chuàng)始人、 CEO 劉穎麒到 CTO 羅小輝,都曾是騰訊體系內(nèi)技術(shù)線的中流砥柱,也是堅(jiān)定的 AI 技術(shù)自研派。2017年,他們就在公司里建立了人工智能實(shí)驗(yàn)室,尋求使用 AI 降本提效的機(jī)會(huì)。而到了22年底,大模型賽道被 ChatGPT 一朝引爆,移卡也真正開始摸著石頭過(guò)河,在洞察場(chǎng)景需要的基礎(chǔ)上一點(diǎn)點(diǎn)尋找AI和支付業(yè)務(wù)更好的結(jié)合方式。

但盡管AI賽道群強(qiáng)環(huán)伺,一眾“中廠”,卻也擁有著真正改變行業(yè)、用大模型實(shí)際為客戶提供生產(chǎn)力躍升的機(jī)會(huì)。在大模型賽道中如何找到生態(tài)位,羅小輝給出了一個(gè)很有趣的見解:

“我即是‘客戶’。”

二、拒絕拿來(lái)主義

To B 業(yè)務(wù)往往深陷一個(gè)困境——拿著技術(shù)去找客戶推銷推廣,但作為乙方,對(duì)甲方的了解需要時(shí)間和過(guò)程,即使是對(duì)場(chǎng)景理解得再熟稔,也必然有細(xì)節(jié)上的落差。

同樣是做產(chǎn)品,每家都有都有自己的一些特點(diǎn),非共識(shí)的部分始終存在——內(nèi)部的實(shí)現(xiàn)方式、業(yè)務(wù)開展的模式都有不同。這些差異中,有一些可以被總結(jié)出來(lái),而有些東西可能總結(jié)不出來(lái)。

“總結(jié)不出來(lái)的那一部分,其實(shí)就是最難跨越的鴻溝。”羅小輝說(shuō)道。“最好的能夠做出來(lái)的方法,就是結(jié)合業(yè)務(wù)特點(diǎn)自己投入研發(fā),不要奉行拿來(lái)主義,否則是做不深的。”

這樣一來(lái),甲方自己做技術(shù)產(chǎn)品,把積累起來(lái)的數(shù)據(jù)和 Knowhow 用起來(lái),讓大模型和場(chǎng)景結(jié)合得更加緊密,就可以更有針對(duì)性、更細(xì)致地解決掉行業(yè)用戶的隱痛。甚至,以此來(lái)打平技術(shù)差距,取得即使其他廠商做很長(zhǎng)時(shí)間也難以達(dá)到的效果。

在這個(gè)鏈路中,移卡就是傳統(tǒng) To B鏈路中的甲方——他們自己有場(chǎng)景,距離基層 B 端用戶更近,也自然擁有更多一手的優(yōu)質(zhì)數(shù)據(jù)和行業(yè)認(rèn)知,也就能在更落地的層面上,實(shí)際解決更多的 B 端需求。

于是,移卡也找到了距離原有業(yè)務(wù)更近的領(lǐng)域。在本地生活服務(wù)場(chǎng)景,針對(duì)日益增長(zhǎng)的圖片、文案生成,短視頻剪輯和轉(zhuǎn)場(chǎng)、特效生成的需求,移卡完成了一系列技術(shù)產(chǎn)品的支持,并應(yīng)用最一手的行業(yè)數(shù)據(jù),對(duì)文案生成、視頻云剪輯生成結(jié)果進(jìn)行了較大幅度的優(yōu)化,降低了90%內(nèi)容制作成本,內(nèi)容生成效率提升了70%。

AI 的另一典型場(chǎng)景,當(dāng)屬智能客服。人員成本不斷上升,而傳統(tǒng) NLP 技術(shù)也遇到了瓶頸。用客服提效,不少 AI 公司也都投入大量資源研發(fā),而結(jié)果卻良莠不齊。

不少公司給智能客服提供的解決方案,是用大模型技術(shù)理解用戶意圖,靈活生成結(jié)果,再用知識(shí)圖譜、搜索增強(qiáng)技術(shù)(RAG)去框定輸出內(nèi)容的范疇,降低幻覺。但要把圖譜和 RAG 用好,能否擁有優(yōu)質(zhì)的數(shù)據(jù)庫(kù),就成為了智能客服的“勝負(fù)手”。這方面,中廠有自己獨(dú)特的優(yōu)勢(shì)。

通過(guò)清洗、整理、調(diào)用過(guò)去10年間與客戶對(duì)話解決問(wèn)題留存的文字、語(yǔ)音數(shù)據(jù),移卡基于“大模型+RAG”框架開發(fā)的智能化客服系統(tǒng),在用戶體驗(yàn)上也是更上一層樓。上線半年,移卡客服系統(tǒng)的用戶自助率增長(zhǎng)超30%,達(dá)到近90%。

而移卡也并不急于將技術(shù)打包出售,做純技術(shù)輸出——而是基于與業(yè)務(wù)場(chǎng)景的結(jié)合,服務(wù)自己原有的生態(tài)伙伴,在基本盤上小步創(chuàng)新,把腳步踩穩(wěn)。場(chǎng)景化的數(shù)據(jù)是移卡得天獨(dú)厚的優(yōu)勢(shì),一旦激進(jìn)推廣,大模型產(chǎn)品的效果反而無(wú)法保證。

三、仍被需要的本地化部署

過(guò)去的 AI 1.0 時(shí)代,本地化部署一直是深受詬病的痛點(diǎn)——項(xiàng)目制、高定制化、勞動(dòng)密集型AI……種種因素,只要提起來(lái),總讓人想到上一代 AI 公司“賠本賺吆喝”的一地雞毛。

今天的 AI 2.0 時(shí)代,人們更愛談“標(biāo)品化”、談“開箱即用”、談大模型的泛化能力,儼然已經(jīng)覆蓋了過(guò)去 AI 產(chǎn)品的商業(yè)模式。

然而問(wèn)題是,所有人都在談“標(biāo)品”,但“標(biāo)品”到現(xiàn)在為止還沒(méi)有真正做起來(lái)。其背后的原因除了剛剛談及的數(shù)據(jù)稀缺性、行業(yè)Knowhow 等問(wèn)題之外,更是因?yàn)楫?dāng)下B端企業(yè)本地化部署的需求仍然存在。

以代碼生成 Copilot場(chǎng)景來(lái)看,羅小輝觀察到,要把作為自己“安身立命之本”的源代碼交出去,即使 AI 廠商把“數(shù)據(jù)安全”吹上天,不少 B 端用戶或許也仍然難以買賬。

行業(yè)口中的“標(biāo)品”輸出看起來(lái)近,但實(shí)際上路徑更遙遠(yuǎn)。而想讓客戶用得放心,就必須得回到本地化部署的邏輯。

去年年底,隨著大模型開源生態(tài)的日漸繁榮,移卡也終于看到了將代碼生成模型私有化部署的可能。

于是,移卡先在內(nèi)部小范圍試驗(yàn)推廣,再用私有化部署保證了數(shù)據(jù)安全的前提下,做了基于企業(yè)代碼庫(kù)的本地化訓(xùn)練,把代碼生成工具專有化的能力優(yōu)勢(shì)凸顯了出來(lái),并自研了一套“移卡AI編程助手”產(chǎn)品。

利用“移卡AI編程助手”的代碼生成、注釋、解釋、糾錯(cuò),智能問(wèn)答和單元測(cè)試等功能,平均代碼采納率已經(jīng)超過(guò)20%,也有程序員的代碼采納率達(dá)到了30% 以上。

子彈有限,大范圍的技術(shù)研究對(duì)于“中廠”來(lái)說(shuō)過(guò)于奢侈;他們的每一步棋都要能看到收效。做本地化部署,或許已經(jīng)是“中廠”把大模型業(yè)務(wù)落進(jìn)場(chǎng)景里的必選項(xiàng)。

而本地化部署,許多人都沒(méi)有看到,是“中廠”一個(gè)很具潛力的細(xì)分賽道:

大廠依托云平臺(tái),終歸要把客戶拉攏到自己的 PaaS 和 IaaS 產(chǎn)品上,本地化部署和他們邏輯不符;

創(chuàng)業(yè)獨(dú)角獸體量一般不大,To B 經(jīng)驗(yàn)也并不全都豐富,要從頭拉起幾個(gè)項(xiàng)目團(tuán)隊(duì),相比早就在 To B 領(lǐng)域摸爬滾打多年的“中廠”,也自然顯得不夠成熟。

認(rèn)清自身的生態(tài)位后,中廠們就需要挽起袖子下場(chǎng)做好本地化部署。就在不少?gòu)S商仍在猶豫是否該在大模型時(shí)代做本地化的時(shí)候,移卡較早地發(fā)現(xiàn)了這件事情并且付諸實(shí)際:

“只有本地化,才能夠把大模型的價(jià)值最大化,這就是我們秉持的一個(gè)基本的理念。”羅小輝如此總結(jié)道。

羅小輝關(guān)于技術(shù)發(fā)展路線的思考已經(jīng)開始落地,接下來(lái)一步,移卡將會(huì)用生成式AI技術(shù)提升幾個(gè)確定性較高的產(chǎn)品服務(wù):

一是聚焦移卡出海的一系列需求,比如用大模型解決語(yǔ)言相通的問(wèn)題以及Ai Agent應(yīng)用等,其中移卡投資的企業(yè)富匙科技,即將于東南亞地區(qū)推出針對(duì)餐飲行業(yè)的Ai Agent ;二是生成高質(zhì)量的業(yè)務(wù)素材,為到店電商直播業(yè)務(wù)AI賦能;三是繼續(xù)賦能內(nèi)部組織效率的賦能。

結(jié)語(yǔ):

“大模型的贏家更可能是本來(lái)就擁有明確場(chǎng)景的企業(yè)。”這在行業(yè)內(nèi)心照不宣。而中廠們有場(chǎng)景、有數(shù)據(jù)、有客戶、有生態(tài),恰好是這群已經(jīng)找到了釘子,再去尋找好用錘子的人。

“務(wù)實(shí)”是中廠們的關(guān)鍵詞?;谝延虚_源模型進(jìn)行應(yīng)用開發(fā),不僅成本較低,還能進(jìn)行本地化部署以確保內(nèi)部業(yè)務(wù)和用戶數(shù)據(jù)安全。如此一來(lái),既能服務(wù)于現(xiàn)有場(chǎng)景,也能在成本合理的范圍內(nèi)解決實(shí)際問(wèn)題,還能始終和前沿技術(shù)貼近,不至于閉門造車。

不僅是移卡,其他垂直行業(yè)的中廠,也在尋找用 AI 更好地賦能業(yè)務(wù)場(chǎng)景的方法。美圖秀秀、金山辦公等公司也在自己的垂直賽道耕耘并已取得不錯(cuò)成效。

但在成熟業(yè)務(wù)的基礎(chǔ)上進(jìn)行大量的、可能無(wú)法立見回報(bào)的創(chuàng)新技術(shù)投入,這也絕非易事。羅小輝表示,AI 的投入產(chǎn)出需要不斷磨合、把握,更需要有足夠堅(jiān)定的信念去支撐。

不少人曾問(wèn)羅小輝:外部供應(yīng)商一抓一把,為什么還要自己做大模型?

移卡當(dāng)然也問(wèn)過(guò)自己這個(gè)問(wèn)題,但他們的眼光卻更加長(zhǎng)遠(yuǎn)。

“這可能跟我們的企業(yè)基因有關(guān),”羅小輝說(shuō)道,“對(duì)于移卡來(lái)說(shuō),技術(shù)就是我們的安身立命之本。AI 的浪潮,會(huì)深刻地改變我們的行業(yè),盡管這個(gè)變化還尚不清楚,但無(wú)論怎么變,只要能掌握技術(shù),就能應(yīng)對(duì)這個(gè)浪潮到來(lái)的沖擊,或成為受益者。”

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )