每經記者：楊卉 每經編輯：梁梟
7月24日，【每日經濟新聞】記者從輝達處獲悉，輝達推出了全新NVIDIA AI Foundry服務和NVIDIA NIM TM 推理微服務，與同樣剛推出的Llama 3.1系列開源模型一起，為全球企業提供生成式AI相關服務。
根據輝達方面的數據，Llama 3.1多語種大語言模型（LLM）集合是一個具有8B、70B和405B三種參數規模的生成式AI模型集合。當與適用於Llama 3.1 405B的NVIDIA NIM推理微服務結合使用時，NeMo Retriever NIM微服務可以為RAG工作流中的開放和商業文本問答帶來極高的檢索準確性。NVIDIA AI Foundry能提供一種可用於快速構建自訂超級模型的端到端服務。
根據輝達的說法，借助NVIDIA AI Foundry，企業能使用Llama 3.1模型和NVIDIA NeMo平台（包含在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward模型）建立自訂模型；還可以使用自有數據以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成數據，來訓練這些超級模型。
建立自訂模型後，企業可構建NVIDIA NIM推理微服務，以便在其首選的雲平台和全球伺服器制造商提供的NVIDIA認證系統上，使用自己選擇的最佳機器學習運維（MLOps）和人工智慧運維（AIOps）平台在生產中執行這些模型。
輝達創始人兼執行長黃仁勛提出，Llama 3.1開源模型標誌著全球企業采用生成式AI的關鍵時刻已經到來，Llama 3.1將掀起各個企業與行業建立先進生成式AI套用的浪潮。
Meta創始人兼執行長馬克·祖克柏則表示，全新的Llama 3.1模型是開源AI邁出的極其重要的一步，輝達還和Meta一起為Llama 3.1提供了一種提煉方法，供開發者為生成式AI套用建立更小的自訂模型。
每日經濟新聞
