輝達宣布NVIDIA NIM可使用DeepSeek　讚其擁有「最先進推理能力」

記者洪宗荃／綜合報導

中國新創公司所發布的國產AI大型語言模型DeepSeek（深度求索），一推出後便引起全球的話題性，而就在今（31）日，輝達（NVIDIA）宣布可以在旗下平台NVIDIA NIM使用DeepSeek-R1。

對此， 輝達官網指出，DeepSeek-R1是一個擁有最先進推理能力的開放模型；且像這樣的模型，會對提問進行多次推理處理，並使用連鎖思維、共識和搜尋方法來生成最佳答案，而不是直接提供回應。

廣告 更多內容請繼續往下閱讀

輝達補充，DeepSeek-R1在執行推理處理的序列，並運用於尋找最佳答案方面，為「完美」的例子，同時也展示了為什麼加速運算對於代理式 AI 推理的需求相當的重要。同時，由於允許模型迭代、重複回饋過程地  「思考」 問題，它們會創建更多的輸出標記和更長的生成週期，因此模型品質將繼續擴展。

輝達也強調，開發人員可以使用應用程式介面 （API） 進行測試和實驗，該介面作為NVIDIA AI Enterprise軟體平台的一部分，預計將很快作為可下載的NIM微服務提供。

廣告 更多內容請繼續往下閱讀