近日，英偉達悄然開源了其最新的超強大模型——Nemotron-70B。一經發布，該模型便迅速在AI社區引發轟動，其性能在多個基準測試中超越了包括GPT-4、GPT-4 Turbo以及Claude 3.5 Sonnet在內的140多個開閉源模型，僅次于OpenAI的最新模型o1。
Nemotron-70B的基礎模型是基于Llama-3.1-70B開發而成，并通過人類反饋強化學習進行了訓練，特別是采用了“強化算法”。在訓練過程中，英偉達使用了一種新的混合訓練方法，包括Bradley-Terry和Regression在內的訓練獎勵模型，同時開源了訓練數據集。該模型基于Llama-3.1-Nemotron-70B-Reward提供獎勵信號，并利用HelpSteer2-Preference提示來引導模型生成符合人類偏好的答案。
在LMSYS大模型競技場中的Arena Hard評測中，Nemotron-70B得分85，在AlpacaEval 2 LC上得分57.6，在GPT-4-Turbo MT-Bench上為8.98。這些成績充分展示了其強大的性能。
網友們紛紛對Nemotron-70B進行了測試，發現該模型在處理復雜問題時表現出色。例如，在回答關于香蕉數量的問題時，Nemotron-70B能夠準確地將問題所給信息進行分解，并一步一步推理得出正確答案。此外，在回答關于活到89歲的名人名單時，盡管模型將某人的去世日期弄錯，但整體表現仍然令人印象深刻。
值得注意的是，Nemotron-70B在hard prompt上的表現也備受關注。雖然在一些測試中未能完全通過，但其給出的初步輸出非常有趣且富有啟發性。例如，在回答關于月球距離和步行到月球的合理性的問題時，Nemotron-70B從物理學的角度進行了詳細分析，并得出了合理的結論。
業內專家表示，英偉達之所以不斷開源超強模型，是為了推動芯片銷售。隨著模型變得越來越復雜，所有盈利公司都必須訂購更多芯片來訓練這些模型。因此，開源模型實際上是在為硬件銷售鋪路。
然而，對于大模型初創企業來說，巨頭們的開源策略無疑帶來了巨大的壓力。這些企業往往難以在商業落地和名氣上與巨頭們競爭，如果無法創造利潤，將很快失去風投的資助，面臨倒閉的風險。
盡管如此，Nemotron-70B的開源仍然為AI社區帶來了巨大的價值。該模型的出現不僅推動了AI技術的發展，還為研究人員和開發人員提供了更多的選擇和可能性。
英偉達開源Nemotron-70B模型無疑為AI領域帶來了新的活力和機遇。我們期待未來能夠看到更多優秀的開源模型出現，共同推動AI技術的發展和進步。
原創文章，作者：AI，如若轉載，請注明出處：http://www.bdzhitong.com/article/686939.html
