TradingKey - 輝達CEO黃仁勳在CES 2025會上宣布了一系列新產品,TradingKey分析師Frank點評稱,輝達基於CUDA生態系統的高護城河進一步構建。
2025國際消費電子展(CES 2025)於1月7日~10日在拉斯維加斯舉行,預計將吸引超過13萬名與會者。在電子展舉行前一日,輝達CEO黃仁勳到達現場發表了主題演講。
黃仁勳表示,正在目睹各個技術層面發生的革命性變革,從手動編碼的CPU軟體工具到能夠在GPU上創建和優化神經網路的先進機器學習。
輝達在本次展會上預計將發布以下新產品:AI桌上電腦、汽車處理器Thor、智能體(AI Agent)以及AI語言模型Llama Nemotron語言基礎模型。
「在輝達Jansen演講中,重點提到Nvidia的Nvidia nim系統開發以及Liama nemotron language model的進展。」TradingKey 分析師Frank表示。
據黃仁勳介紹,NVIDIA NIM(NVIDIA Integrated Microservices),該服務可以將簡單的3D物件用作引導AI影像生成的工具。
Frank指出,NVIDIA NIM可為開發者提供自託管GPU 加速推理微服務,NIM允許組織在雲端、資料中心、工作站等環境中運行AI模型,提供了高效、靈活的解決方案,其在自動駕駛、智慧製造和醫藥方面有廣泛應用前景。
「Liama nemotron模型主要體現為語言模型技術的進步,黃仁勳尤其提到在準確性和高效性方面提升。」Frank說。
Llama Nemotron語言基礎模型,分為Nano、Super、Ultra三檔。
「輝達基於CUDA生態系統的高護城河進一步構建,Nim和Liama Nemotron開發非常依賴Cuda,該體系也為眾多企業用戶和開發者提供了非常多的平台資源,通過CUDA的並行計算能力,NIM能夠在GPU上高效運行大規模AI模型,顯著提升推理速度和效率,而Llama-Nemotron和CUDA系統的結合,使得AI模型的訓練和推理過程更加高效和靈活,而Llama-Nemotron提供標準化的API,會方便開發者將其集成到現有的AI應用中,並利用CUDA的計算能力進行優化。這些都可加深英偉達其實是硬件和軟件應用生態integrate者的觀點。」Frank進一步表示。