紅帽企業(yè)Linux AI發(fā)布 目前已提供開發(fā)者預覽版

5月9日消息，ChatGPT的推出極大地激發(fā)了社會對生成式AI的興趣，自那以來，相關創(chuàng)新的步伐不斷加速。企業(yè)已從對生成式AI服務的初步評估轉向開發(fā)并啟用AI的應用程序。為了真正降低進入AI創(chuàng)新的門檻，企業(yè)需要擴大參與AI項目的人員范圍，同時控制相關成本。

日前，開源解決方案供應商紅帽公司宣布推出紅帽企業(yè)Linux AI（RHEL AI）。這是一個基礎模型平臺，能夠使用戶更加便捷地開發(fā)、測試和部署生成式人工智能（GenAI）模型。

RHEL AI整合了IBM研究院的開源授權Granite大型語言模型（LLM）系列、基于大規(guī)模對話機器人對齊（LAB）方法的InstructLab模型對齊工具，以及通過InstructLab項目實施的社區(qū)驅動模型開發(fā)方法。

該解決方案被封裝成一個優(yōu)化的、可啟動的RHEL鏡像，用于在混合云環(huán)境中部署單個服務器，并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機器學習運營（MLOps）平臺，能夠在分布式集群環(huán)境中大規(guī)模運行模型和InstructLab。

InstructLab是一個圍繞LAB方法和IBM開源Granite模型構建的開源社區(qū)。InstructLab項目的目標是使開發(fā)者通過簡化LLM的創(chuàng)建、構建和貢獻過程，像參與任何其他開源項目一樣，將LLM開發(fā)的權力交到開發(fā)者手中。

具體來看，RHEL AI包括：

1.紅帽支持和保障的開源許可Granite語言和代碼模型；

2.提供支持并具有生命周期管理的InstructLab分發(fā)版本，這是一種可擴展且成本效益高的解決方案，能夠增強大型語言模型（LLM）的功能，并使知識與技能的貢獻得到更廣泛的用戶接納。

3.通過RHEL鏡像方式提供的優(yōu)化可啟動模型運行實例，包括Granite模型和InstructLab工具包，及優(yōu)化的Pytorch運行時庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。

4.紅帽提供的完整企業(yè)支持和生命周期保證，從可信的企業(yè)產品分發(fā)開始，提供24小時全天候生產支持和擴展的生命周期支持。

紅帽高級副總裁兼首席產品官Ashesh Badani表示，對企業(yè)來說，生成式AI（GenAI）代表了一次革命性的飛躍，但這需要企業(yè)真正部署起來，并針對其具體業(yè)務需求使用AI模型。通過結合紅帽O(jiān)penShift AI的廣泛應用，RHEL AI和InstructLab項目旨在降低混合云中生成式AI所面臨的多種挑戰(zhàn)，從數(shù)據(jù)科學技能的限制到巨大的資源需求，同時促進企業(yè)的部署并推動上游社區(qū)的創(chuàng)新?！?/p>

據(jù)悉，紅帽O(jiān)penShift AI最新版本提供了：邊緣模型服務、增強型模型服務、采用Ray支持分布式工作負載、改進模型開發(fā)、模型監(jiān)控和可視化以及新的加速器配置文件。

目前，紅帽企業(yè)Linux AI已作為開發(fā)者預覽版提供。在IBM云上已建立的GPU基礎設施用于訓練Granite模型并支持InstructLab，現(xiàn)IBM云將增加對RHEL AI和OpenShift AI的支持。此整合將使企業(yè)能夠更輕松地將生成式AI部署至其關鍵任務應用程序中。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。