自 ChatGPT 火爆出圈以來,各式大模型與生成式 AI 技術(shù)噴涌而出,醫(yī)療、金融、出行、消費(fèi)零售、互聯(lián)網(wǎng)等各個(gè)行業(yè)都在尋找利用生成式AI 技術(shù)賦能業(yè)務(wù)創(chuàng)新的方法。然而,從摸索到落地,企業(yè)在應(yīng)用用生成式 AI 技術(shù)尚存在門檻,使用現(xiàn)成的技術(shù)服務(wù)又會(huì)產(chǎn)生安全等方面的顧慮,比如業(yè)務(wù)數(shù)據(jù)泄漏等問題。一時(shí)間,許多企業(yè)陷入進(jìn)退兩難的境地。本篇就來說道說道企業(yè)在落地生成生式 AI 應(yīng)用過程中的那些事。
從模型選擇到業(yè)務(wù)安全,生成式 AI 應(yīng)用誕生的曲折
實(shí)際上,生成式 AI 市場經(jīng)過一年多快速的發(fā)展,一方面市場上涌現(xiàn)出很多大模型與配套服務(wù),另一方面,企業(yè)面臨的難題也在與日俱增。
首先,從模型的選擇開始,眼花繚亂的大模型就已經(jīng)夠廠家喝上一壺。5 月 28 日,由中國科學(xué)技術(shù)信息研究所、科技部新一代人工智能發(fā)展研究中心聯(lián)合相關(guān)研究機(jī)構(gòu)編寫的《中國人工智能大模型地圖研究報(bào)告》正式發(fā)布,報(bào)告顯示,我國 10 億參數(shù)規(guī)模以上大模型已發(fā)布近 80 個(gè)。再到 10 月中國新一代人工智能發(fā)展戰(zhàn)略研究院發(fā)布的《2023中國新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告》顯示,目前國內(nèi)大模型總數(shù)達(dá) 238 個(gè)。而據(jù)北京經(jīng)信局?jǐn)?shù)據(jù),截至 10 月初,北京發(fā)布大模型數(shù)量達(dá) 115 個(gè),其中通用大模型 12 個(gè),垂類大模型 103 個(gè)。
按照這個(gè)發(fā)展趨勢,“百模大戰(zhàn)”或許很快就會(huì)升級(jí)為“千模大戰(zhàn)”。而企業(yè)如何選擇大模型便會(huì)難上加難。在具體應(yīng)用場景中,企業(yè)需要在準(zhǔn)確性和性能平衡間作出衡量,有效地比較模型并根據(jù)其首選指標(biāo)找到最佳選擇,這就需要深厚的數(shù)據(jù)科學(xué)專業(yè)知識(shí),也會(huì)耗費(fèi)大量的人力時(shí)間成本。
而模型的選擇只是開始,確定模型之后,還需要結(jié)合自身業(yè)務(wù),做模型的精調(diào)、訓(xùn)練等工作。在這一步,公司的業(yè)務(wù)數(shù)據(jù)類型與大模型輸入所要求的數(shù)據(jù)類型需要做一定適配,同時(shí)輸入的數(shù)據(jù)需要具有代表性、多樣性、一致性和可靠性,這樣才能實(shí)現(xiàn)效果更佳的輸出,這便要求企業(yè)需要有既懂業(yè)務(wù),又懂大模型技術(shù)的工程師對(duì)數(shù)據(jù)進(jìn)行整理。
此外,大模型的精調(diào)也需要大量的算力,需要投入大量的資金和時(shí)間來購買和維護(hù)硬件設(shè)備,或者租用云服務(wù),同時(shí)基礎(chǔ)設(shè)施也需要長時(shí)間的維護(hù)。而大模型技術(shù)作為新興技術(shù),許多公司并沒有相應(yīng)的人才儲(chǔ)備與經(jīng)驗(yàn),這對(duì)企業(yè)來說也是不小的壓力。
模型本身的問題解決了之后,企業(yè)還要面臨安全隱患。比如很多使用方會(huì)擔(dān)心,用了某個(gè)大模型,那么自己的數(shù)據(jù)會(huì)不會(huì)都被模型方看到甚至泄露?會(huì)不會(huì)導(dǎo)致敏感信息泄漏,或是生成違規(guī)內(nèi)容等等?那么,企業(yè)就需要確保數(shù)據(jù)在傳輸、存儲(chǔ)和處理的過程中不會(huì)被泄露或者濫用,以免給業(yè)務(wù)和聲譽(yù)帶來損失。
亞馬遜云科技助力企業(yè)安全構(gòu)建生成式 AI 應(yīng)用
面對(duì)種種挑戰(zhàn),對(duì)于許企業(yè)來說,最佳選擇可以是給自己找一個(gè) AI 助手,全方面輔助完成 AI 能力的嵌入,最常見的便是云上大模型平臺(tái)和服務(wù)。
2023年11月28日,2023亞馬遜云科技 re:Invent 在美國拉斯維加斯盛大開啟,并于12月2日?qǐng)A滿落下帷幕。2023年12月12日起,2023亞馬遜云科技re:Invent 中國行城市巡展活動(dòng)將在10大城市開啟,覆蓋北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長沙10個(gè)城市!
作為全球云計(jì)算領(lǐng)域的年度風(fēng)向標(biāo),2023 亞馬遜云科技 re:Invent 為全球云計(jì)算愛好者和構(gòu)建者帶來了最新的產(chǎn)品和技術(shù)發(fā)布、最前沿的領(lǐng)導(dǎo)者洞察和全球云計(jì)算的最佳實(shí)踐。在今年 re:Invent 中,一系列重磅發(fā)布成為大會(huì)焦點(diǎn),從 Serverless、生成式AI時(shí)代的數(shù)據(jù)戰(zhàn)略、芯片與云底座創(chuàng)新,到 Amazon Bedrock 的重磅更新、企業(yè)級(jí)生成式AI 應(yīng)用 (Amazon Q) 的全新發(fā)布等等,系列組合拳為企業(yè)落地生成式 AI 應(yīng)用全方位護(hù)航。
在多個(gè)新發(fā)布的動(dòng)作中,一項(xiàng)全面托管服務(wù)的重磅更新引人注目——Amazon Bedrock 發(fā)布更多模型選擇和全新強(qiáng)大功能。
首先,Amazon Bedrock 上集成了 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜的多種行業(yè)領(lǐng)先大語言模型和其他模型,用戶可輕松訪問。不僅如此,為了幫助客戶在紛繁的模型中選擇更適合自己的,Amazon Bedrock 新功能可幫助客戶高效評(píng)估、比較和選擇最適合其應(yīng)用場景和業(yè)務(wù)需求的模型。
確定模型之后,企業(yè)往往需要針對(duì)模型做適配,或者說是擴(kuò)展調(diào)優(yōu),最大程度地釋放數(shù)據(jù)價(jià)值。針對(duì)這些部分,Amazon Bedrock 知識(shí)庫功能使用上下文和相關(guān)公司數(shù)據(jù)定制模型響應(yīng):組織希望使用專有數(shù)據(jù)補(bǔ)充現(xiàn)有模型,以獲得更相關(guān)和更準(zhǔn)確的響應(yīng)。針對(duì)模型調(diào)優(yōu),Amazon Bedrock 中的 Cohere Command、Meta Llama 2 和 Amazon Titan 模型支持調(diào)優(yōu),為客戶的模型定制提供更多選項(xiàng),Anthropic Claude 也即將支持調(diào)優(yōu)。
此外,Amazon Bedrock 也兼?zhèn)浯砉δ?可以自動(dòng)執(zhí)行,使用公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。雖然模型能夠有效地進(jìn)行對(duì)話和創(chuàng)建新內(nèi)容,但如果能夠執(zhí)行復(fù)雜的操作,例如解決問題以及與公司系統(tǒng)交互以完成任務(wù)(例如,旅行預(yù)定或訂購替換零件),它們可以提供更多價(jià)值。然而,這需要定制化地將模型與公司數(shù)據(jù)源、API以及內(nèi)部和外部系統(tǒng)集成起來。開發(fā)人員必須編寫代碼來協(xié)調(diào)模型、系統(tǒng)和用戶之間的交互,以便應(yīng)用程序可以按邏輯順序執(zhí)行一系列API調(diào)用。為了將模型與數(shù)據(jù)源連接起來,開發(fā)人員必須部署RAG,以便模型可以根據(jù)任務(wù)調(diào)整其響應(yīng)。最后,開發(fā)人員必須配置和管理必要的基礎(chǔ)設(shè)施,并制定數(shù)據(jù)安全和隱私策略。這些步驟非常耗時(shí)且需要專業(yè)知識(shí),從而減慢了生成式AI應(yīng)用程序的開發(fā)速度?，F(xiàn)在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI應(yīng)用程序能夠跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。
最后,在交互安全層面。雖然許多模型使用內(nèi)置控件來過濾不良和有害內(nèi)容,但企業(yè)希望進(jìn)一步定制交互,以保證話題始終與業(yè)務(wù)相關(guān),符合公司政策,并遵守“負(fù)責(zé)任的 AI”的原則。例如,銀行可能希望這樣設(shè)置其在線助手:避免查詢競爭對(duì)手、避免提供投資建議、以及限制有害內(nèi)容。此外,應(yīng)用戶要求,可能要變換或隱去用戶的個(gè)人身份信息(PII)以保證安全。企業(yè)希望以一種簡化的方式在生成AI應(yīng)用程序中強(qiáng)化關(guān)鍵策略和規(guī)則,以提供所答即所問的用戶體驗(yàn)并支持更安全地使用該技術(shù)。Amazon Bedrock 的 Guardrails 功能現(xiàn)已推出預(yù)覽版,使客戶能夠?yàn)樯墒?AI 應(yīng)用程序?qū)嵤┍Ｗo(hù)措施。借助Amazon Bedrock的Guardrails功能,客戶可以根據(jù)應(yīng)用程序要求和負(fù)責(zé)任的AI策略跨模型實(shí)施保護(hù)措施。這些應(yīng)用程序根據(jù)客戶應(yīng)用場景和“負(fù)責(zé)任的AI”原則進(jìn)行定制,因此這一功能可以增強(qiáng)用戶交互的安全性和隱私性。
目前,亞馬遜云科技已經(jīng)推出多款產(chǎn)品助力企業(yè)構(gòu)建生成式 AI 應(yīng)用,緩解 AI“焦慮”其中也不乏許多科技界合作伙伴。MongoDB首席產(chǎn)品官Sahir Azam表示:“各行各業(yè)越來越多的客戶希望利用生成式AI來構(gòu)建下一代應(yīng)用程序,但許多人擔(dān)心數(shù)據(jù)隱私以及人工智能驅(qū)動(dòng)的系統(tǒng)輸出的準(zhǔn)確性。為了滿足客戶的需求,我們將MongoDB Atlas作為Amazon Bedrock的知識(shí)庫,以便我們的共同客戶可以利用其運(yùn)營數(shù)據(jù)安全地構(gòu)建生成式AI應(yīng)用程序,以符合最終用戶期望的信任度和準(zhǔn)確性來創(chuàng)建個(gè)性化體驗(yàn)。通過這種集成,客戶可以訪問行業(yè)領(lǐng)先的基礎(chǔ)模型,并使用MongoDB Atlas Vector Search處理過的數(shù)據(jù)來創(chuàng)建應(yīng)用程序,在正確的上下文中提供更多相關(guān)的輸出。利用Amazon Bedrock知識(shí)庫中內(nèi)置的數(shù)據(jù)隱私最佳實(shí)踐,客戶可以節(jié)省在生成式AI運(yùn)營上花費(fèi)的時(shí)間,從而更專注于技術(shù)部署,以在 亞馬遜云科技上提供更有吸引力的最終用戶體驗(yàn)。”
當(dāng)然,除了 Amazon Bedrock,2023亞馬遜云科技 re:Inven還有許多重磅發(fā)布,并且在接下來的2023亞馬遜云科技 re:Invent 中國活動(dòng)中,亞馬遜云科技也將對(duì)各個(gè)新產(chǎn)品新功能做深入解讀。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
