從“可用”到“好用”，百度智能云如何做大模型的“超級工廠”？

科技云報到原創(chuàng)。

如果說，過去兩三年大模型處于造錘子階段，那么今年，更多的則是考驗釘釘子的能力，面對各類業(yè)務場景大模型是否能夠有的放矢、一擊必中，為千行百業(yè)深度賦能。

當前市場上，已經(jīng)有200多把這樣的錘子在瘋狂找釘子。但從實際應用來看，大模型在文生文、文生圖以及扮演初級的工作助理等方面還算合格，但要是真正落地到一線場景，解決業(yè)務痛點，提升生產(chǎn)和服務效率，還需要下更多功夫。

從最近幾個月的風向看，也不乏有人提出質疑，如此之多的大模型，其實用性到底有幾分？這里面是不是也存在著不小的“泡沫”？無須諱言，“泡沫”一定是有，為了大模型而大模型的企業(yè)甚至不在少數(shù)。

但不可否認是，業(yè)內也有以百度智能云為代表的實干者在持續(xù)探索大模型的實際價值，不斷推出可應用、可落地、可產(chǎn)生效益的大模型產(chǎn)品和解決方案，通過AI原生應用推動企業(yè)以及行業(yè)的創(chuàng)造力和生產(chǎn)力全面提升。

9月25日，2024百度云智大會正式舉行。本屆會議不僅圍繞基礎設施、大模型、開發(fā)工具鏈、AI原生應用等方面進行了多項全新發(fā)布，還為業(yè)界帶來了大模型產(chǎn)業(yè)落地的最佳實踐。

“云智一體”戰(zhàn)略牽引，為大模型鋪路筑基

當各行各業(yè)擁抱大模型之后，都會有一個共識，MaaS將是一種新的應用開發(fā)范式。在云計算時代，是基于PaaS做SaaS，再提供給用戶；智能化時代，則回歸到MaaS底座上，再結合千行百業(yè)的場景，打造智能化應用，提供用戶所需要的業(yè)務價值。

在“百模大戰(zhàn)”的行業(yè)大環(huán)境下，百度智能云事業(yè)群總裁沈抖曾表示，過去一年是大模型從技術變革走向產(chǎn)業(yè)變革的關鍵一年，而大模型和云計算緊密結合，正在成為新型的基礎設施。從1834年第一臺現(xiàn)代發(fā)電機誕生，到1882年美國建成全球第一座電廠，再到電力成為全球的能源基礎設施，每一次升級都能帶來生產(chǎn)力的巨大躍遷。而且一次比一次速度更快，影響更大。

面對AI浪潮席卷全球，百度智能云希望更多的創(chuàng)業(yè)者、企業(yè)用戶能夠繁榮大模型生態(tài)。去年10月，百度智能云將戰(zhàn)略升級為“AI原生時代的云智一體”，圍繞“云智一體，深入產(chǎn)業(yè)，生態(tài)繁榮，AI普惠”理念，聚焦更高效的算力基礎設施、更好用的一站式大模型平臺和AI原生應用開發(fā)平臺，以及更豐富的AI原生應用樣板間和行業(yè)解決方案，去滿足客戶在大模型時代的不同業(yè)務需求。

在“云智一體”戰(zhàn)略框架下，百度智能云自下而上推出一整套AI原生技術棧，包括異構算力基礎設施“百度·百舸AI異構計算平臺”、一站式大模型平臺“千帆ModelBuilder”和AI原生應用開發(fā)平臺“千帆AppBuilder”、AI生成式產(chǎn)品“文心大模型”，以及數(shù)字人、智能客服、超級助理、生成式BI等豐富的AI原生應用和行業(yè)解決方案，滿足各行各業(yè)在AI原生時代的不同業(yè)務需求，全力賦能千行百業(yè)，加速推進產(chǎn)業(yè)智能化。

百度智能云事業(yè)群總裁 沈抖

在IDC近日發(fā)布的《中國大模型平臺市場份額，2023：大模型元年——初局》報告中，百度智能云以19.9%的市場份額居中國大模型平臺市場第一。從應用角度看，百度智能云能夠連續(xù)多年保持領先優(yōu)勢主要得益于三方面的原因：一是布局全棧AI技術，形成端到端的AI優(yōu)化機制；二是在生成式AI、多模態(tài)、大模型應用場景、OCR、對話式AI等AI軟件方面具備明顯優(yōu)勢；三是擁有最大的AI及大模型產(chǎn)業(yè)落地規(guī)模，廣泛覆蓋金融、制造、能源、互聯(lián)網(wǎng)等行業(yè)。

作為AI時代的新型生產(chǎn)力，數(shù)據(jù)、算力和算法成為關鍵資源。在大規(guī)模前端產(chǎn)品落地后，算力建設能否及時跟上，成為AI大模型向各領域進一步滲透的關鍵因素。

面對大模型高昂的計算成本和算力資源供應短缺的問題，如何在大模型訓練推理上高效使用算力、擴大算力來源是業(yè)務的核心考驗。

沈抖指出，過去一年的最深感受就是大模型訓練的需求越來越大，需要的集群規(guī)模也越來越大。與此同時，行業(yè)對推理的成本下降的預期也越來越高。這些都對GPU管理的穩(wěn)定性和有效性提出了更高的要求。此次，百度智能云對百舸做了大幅升級。

目前，百度百舸AI異構算力平臺能夠對不同地點、規(guī)模、集群的智能算力進行統(tǒng)一管理，并基于芯片性能優(yōu)化、自動芯片選型、潮汐混部等技術，大幅提升智能算力效能，萬卡集群上的模型有效訓練時長占比超過99.5%。相同的大模型任務，百舸能夠幫助客戶將資源成本降低一半。

為了解決算力不足問題，“一云多芯”是中國企業(yè)的必然選擇。百舸已經(jīng)攻克了同一智算集群中混合使用不同廠商芯片的業(yè)界難題，幫助企業(yè)擺脫單一芯片依賴，打造更有性價比、更安全、更具彈性的供應鏈體系。百舸能夠在兼容昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片的同時，最大限度屏蔽硬件之間的差異，在多芯混合訓練任務中百卡規(guī)模性能損失不超過3%，萬卡規(guī)模性能損失不超過5%，均為業(yè)界最高水平。

基于強有力的算力平臺，百度智能云搭建起一站式企業(yè)級大模型平臺——千帆。該平臺不僅提供包括文心大模型4.0、4.0 Turbo和3.5三款旗艦模型、主流開源大模型在內的近80款大模型服務，還提供覆蓋開發(fā)大模型、AI原生應用全生命周期的工具鏈。同時，為進一步實現(xiàn)AI技術普惠，平臺還預置了ERNIE Speed、ERNIE Lite、ERNIE Tiny三款性價比較高的主力模型，幫助開發(fā)者和企業(yè)降低大模型使用門檻和試錯成本，加速業(yè)務創(chuàng)新。

為了進一步降低行業(yè)大模型的開發(fā)門檻，百度智能云推出了千帆·行業(yè)增強版，將通用大模型的理解、生成、邏輯、記憶能力，與行業(yè)模型的專業(yè)能力相結合，搭配體系化的工具和組件，支持從資源管理、大模型服務到應用開發(fā)的全過程，把企業(yè)定制化的部分從“最后一公里”縮短至“最后一百米”，讓行業(yè)的應用開發(fā)事半功倍。

目前，百度智能云的各類大模型產(chǎn)品已廣泛覆蓋交通、政務、教育、金融、制造、能源、互聯(lián)網(wǎng)等行業(yè)，并深入到“研、產(chǎn)、供、銷、服”的每個環(huán)節(jié)中，取得了顯著成效。

截至2024年Q2，千帆大模型平臺日調用量超過7億次，累計開發(fā)出了超過70萬個AI原生應用。

小切口大縱深，從實踐中來到實踐中去

大模型商業(yè)化應用的核心在于能否真正解決用戶問題。

在經(jīng)歷了“百模大戰(zhàn)”的錘煉之后，企業(yè)們的技術能力正變得越發(fā)強勁，大模型開始走向商業(yè)化落地。今年以來，中國10億參數(shù)規(guī)模以上的大模型數(shù)量已超100個，行業(yè)大模型深度賦能電子信息、醫(yī)療、交通等領域，形成上百種應用模式，賦能千行百業(yè)。

隨著技術迭代曲線放緩、基礎大模型賽道的競爭格局企穩(wěn)，生成式AI市場的性質正在發(fā)生變化，更多的創(chuàng)新和價值創(chuàng)造正在向應用層匯聚。沈抖曾表示，企業(yè)有多少業(yè)務場景，未來就有多少AI原生應用。這也印證了百度智能云正在通過對產(chǎn)業(yè)痛點的深入洞察和理解，將大模型與實體經(jīng)濟及行業(yè)應用全域融合，在服務產(chǎn)業(yè)的過程中，也進一步完善和提升了大模型的行業(yè)能力，形成互為反哺、相互促進的正向循環(huán)。

沿著這一邏輯，大模型一個最為前景的應用場景，就是垂直領域專業(yè)服務。越是復雜的問題，越是專業(yè)的領域，越能孕育出更具價值的商業(yè)化應用。最典型者如金融、政務、交通等行業(yè)。

在教育領域，教育龍頭企業(yè)好未來運用百度百舸·AI異構計算平臺，為其自研九章大模型（MathGPT）提供關鍵支撐。九章大模型在成功內測推出后，已經(jīng)成功在智能硬件學習機xPad實現(xiàn)了業(yè)務上線。九章大模型的“數(shù)學隨時問”功能可以實現(xiàn)對80%的數(shù)學題即問即答，暫時不能回答的最快可在一小時內上傳真人講解視頻、20分鐘內生成AI視頻解析。此外，好未來AI輔導工具xPad2 Pro系列還上線了自研的新功能“AI對話學”，該功能基于九章大模型的解題和講題能力，通過與學生進行啟發(fā)式的對話交流，打開題目的黑盒，快速分析出學生的薄弱點，從而使教育更具針對性。

面對快速增長的電動汽車智能座艙需求，蔚來汽車基于千帆平臺，在文心大模型的基礎上通過提示詞工程打造出了業(yè)內首家純端側部署的多模態(tài)感知大模型——NOMI GPT，助力客戶座艙場景體驗創(chuàng)新。

NOMI能夠自然地與用戶互動，成為一個更懂用戶、更聰明的座艙AI小助手。通過文心大模型，NOMI能夠對用戶的用車問題解答，還能實時監(jiān)測車況，支持用戶口語化模糊查找。比如用戶說出目的地城市，NOMI就能幫助用戶推薦景點游玩攻略、景點推介、食宿推薦等；用戶給出關鍵詞，NOMI可以給出理解并調整氛圍燈色調。此外，NOMI還能自定義角色陪聊，具備兒童百科問答、學習解惑、語言游戲等多種功能。目前，NOMI已經(jīng)陪伴了近20萬車主家庭，已經(jīng)成為有溫度的情感陪伴和移動的生活空間。

在港航領域，百度智能云與山東日照港聯(lián)合探索大模型港口應用場景，推動大模型試點應用，賦能港航領域產(chǎn)業(yè)鏈上下游企業(yè)和生態(tài)企業(yè)智能化轉型升級。2023年，日照港口貨物吞吐量達到5.93億噸，躍居全國第六、世界第七；全市臨港產(chǎn)業(yè)產(chǎn)值占規(guī)上工業(yè)總產(chǎn)值的比重達85%以上。和一般碼頭有點不一樣的是，這里專做件雜貨。

件雜貨，是對論件計數(shù)、形狀各異、大小不一的貨物的統(tǒng)稱。這類貨物的包裝形式、類別各不相同，無法使用集裝箱運輸，還存在不同的存放需求和上船時間要求，裝卸工具和方案各異，裝卸工藝流程復雜、人機交互頻繁。

相比集裝箱碼頭，件雜貨碼頭實現(xiàn)自動化和智能化的難度更高。由于件雜貨的獨特屬性，碼頭需要可靠、準確的圖像分析和智能算法，對貨物進行有效識別、定位并進行智能配載。

百度智能云運用人工智能技術，打造智能化系統(tǒng)，為件雜貨碼頭自動化、智能化升級探索可行路徑。通過百度智能云OCR視覺識別技術，在貨物即將進港時，工作人員就可識別貨單信息，將具象化的貨物實體轉化為算法支持的數(shù)學邏輯，從而避免人工錄入造成的失誤，提升數(shù)據(jù)錄入的準確性，降低貨運代理數(shù)據(jù)錄入工作量。

智能化系統(tǒng)可對整個港口的堆場進行厘米級的地理信息采集，實現(xiàn)人員、車輛、設備、貨物、場地、船舶等要素精準定位，形成一張“綜合地圖”。數(shù)字化堆場系統(tǒng)會從TOS系統(tǒng)(Terminal Operating System，碼頭智能生產(chǎn)管理控制系統(tǒng))中獲取各生產(chǎn)要素的實時信息，并在高精地圖中進行實時展示，助力業(yè)務人員遠程作業(yè)。

在實現(xiàn)多維生產(chǎn)要素和生產(chǎn)流程的數(shù)學建模的同時，智能化系統(tǒng)基于調度數(shù)據(jù)優(yōu)化大模型的調度算法，提供包括智能堆場計劃、智能泊位計劃和智能配載計劃等調度計劃策略，再通過實時的人員排班調度、港機作業(yè)調度和水平運輸車輛調度等，實現(xiàn)件雜貨碼頭自動化、智能化運轉。此外，調度優(yōu)化大模型還可以提高碼頭作業(yè)全流程的人機協(xié)同效率，將人工智能算法下沉到各類機械的調度和控制中，大大降低碼頭的整體運轉控制難度，提高控制精度，實現(xiàn)港口智能化再升級。

依托百度智能云打造的智能化系統(tǒng)，山東日照港件雜貨碼頭整體運轉效率提升10%，設備利用率提升20%，堆場周轉率提升20%，堆場利用率提升15%，并實現(xiàn)大模型在港航領域的成功應用。

從“可用”到“好用”，從“潮玩”到“普適”，大模型在千行百業(yè)的場景落地是結合場景定義、訓練、調優(yōu)、運維等多個步驟的螺旋式上升過程。作為AI時代的底座建設者，百度智能云正結合軟硬件能力，賦能開發(fā)者和生態(tài)伙伴，進一步釋放AI的創(chuàng)新潛能。

【關于科技云報到】企業(yè)級IT領域Top10新媒體。聚焦云計算、人工智能、大模型、網(wǎng)絡安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級科技領域。原創(chuàng)文章和視頻獲工信部權威認可，是世界人工智能大會、數(shù)博會、國家網(wǎng)安周、可信云大會與全球云計算等大型活動會議的官方指定傳播媒體之一。

生成海報

免責聲明：此文內容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關。文章僅供讀者參考，并請自行核實相關內容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。