IT之家 9 月 13 日消息，昆侖萬維發(fā)布了兩款全新的獎勵模型 Skywork-Reward-Gemma-2-27B 和 Skywork-Reward-Llama-3.1-8B。在獎勵模型評估基準 RewardBench 上，這兩款模型分別位列排行榜上的第一和第三位。

獎勵模型（Reward Model）是強化學習（Reinforcement Learning）中的核心概念和關鍵組成，它用于評估智能體在不同狀態(tài)下的表現(xiàn)，并為智能體提供獎勵信號以指導其學習過程，讓智能體能夠學習到在特定環(huán)境下如何做出最優(yōu)選擇。

獎勵模型在大語言模型（Large Language Model，LLM）的訓練中尤為重要，可以幫助模型更好地理解和生成符合人類偏好的內容。

與現(xiàn)有獎勵模型不同，Skywork-Reward 的偏序數據僅來自網絡公開數據，采用特定的篩選策略，以獲得針對特定能力和知識領域的高質量的偏好數據集。

Skywork-Reward 偏序訓練數據集包含約 80,000 個樣本，通過在這些樣本上微調 Gemma-2-27B-it 和 Llama-3.1-8B-Instruct 基座模型，獲得最終的 Skywork-Reward 獎勵模型。

IT之家附相關鏈接如下：

• RewardBench 排行榜：https://huggingface.co/spaces/allenai/reward-bench

• 27B 模型地址：https://huggingface.co/Skywork/Skywork-Reward-Gemma-2-27B

• 8B 模型地址：https://huggingface.co/Skywork/Skywork-Reward-Llama-3.1-8B

• 偏序數據地址：https://huggingface.co/collections/Skywork/skywork-reward-data-collection-66d7fda6a5098dc77035336d

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。