1月16日，阿里云通義開源全新的數(shù)學(xué)推理過(guò)程獎(jiǎng)勵(lì)模型Qwen2.5-Math-PRM，72B及7B尺寸模型性能均大幅超越同類開源過(guò)程獎(jiǎng)勵(lì)模型；在識(shí)別推理錯(cuò)誤步驟能力上，Qwen2.5-Math-PRM以7B的小尺寸就超越了GPT-4o。同時(shí)，通義團(tuán)隊(duì)還開源首個(gè)步驟級(jí)的評(píng)估標(biāo)準(zhǔn) ProcessBench，填補(bǔ)了大模型推理過(guò)程錯(cuò)誤評(píng)估的空白。
在當(dāng)前大模型推理過(guò)程中，不時(shí)存在邏輯錯(cuò)誤或編造看似合理的推理步驟，如何準(zhǔn)確識(shí)破過(guò)程謬誤并減少它，對(duì)增強(qiáng)大模型推理能力、提升推理可信度尤為關(guān)鍵。過(guò)程獎(jiǎng)勵(lì)模型（Process Reward Model, PRM）為解決這一問(wèn)題提供了一種極有前景的新方法：PRM對(duì)推理過(guò)程中的每一步行為都進(jìn)行評(píng)估及反饋，幫助模型更好學(xué)習(xí)和優(yōu)化推理策略，最終提升大模型推理能力。
基于PRM的理念，通義團(tuán)隊(duì)提出了一種簡(jiǎn)單有效的過(guò)程獎(jiǎng)勵(lì)數(shù)據(jù)構(gòu)造方法，將PRM模型常用的蒙特卡洛估計(jì)方法（MC estimation）與大模型判斷（LLM-as-a-judge）創(chuàng)新融合，提供更可靠的推理過(guò)程反饋。通義團(tuán)隊(duì)基于Qwen2.5-Math-Instruct模型進(jìn)行微調(diào)，從而得到72B及7B的Qwen2.5-Math-PRM模型，模型的數(shù)據(jù)利用率和評(píng)測(cè)性能表現(xiàn)均顯著提高。
在包含GSM8K、MATH、Minerva Math等7個(gè)數(shù)學(xué)基準(zhǔn)測(cè)試的 Best-of-N 評(píng)測(cè)中，Qwen2.5-Math-PRM-7B性能表現(xiàn)超越了同尺寸的開源PRMs；Qwen2.5-Math-PRM-72B的整體性能在評(píng)測(cè)中拔得頭籌，優(yōu)于同尺寸ORM（Outcome Reward Model ）結(jié)果獎(jiǎng)勵(lì)模型Qwen2.5-Math-RM-72B。
同時(shí)，為更好衡量模型識(shí)別數(shù)學(xué)推理中錯(cuò)誤步驟的能力，通義團(tuán)隊(duì)提出了全新的評(píng)估標(biāo)準(zhǔn)ProcessBench。該基準(zhǔn)由3400個(gè)數(shù)學(xué)問(wèn)題測(cè)試案例組成，其中還包含奧賽難度的題目，每個(gè)案例都有人類專家標(biāo)注的逐步推理過(guò)程，可綜合全面評(píng)估模型識(shí)別錯(cuò)誤步驟能力。這一評(píng)估標(biāo)準(zhǔn)也已開源。
在ProcessBench上對(duì)錯(cuò)誤步驟的識(shí)別能力的評(píng)估中，72B及7B尺寸的Qwen2.5-Math-PRM均顯示出顯著的優(yōu)勢(shì)，7B版本的PRM模型不但超越同尺寸開源PRM模型，甚至超越了閉源GPT-4o-0806。這印證了過(guò)程獎(jiǎng)勵(lì)模型PRM可有效提升推理可靠性，對(duì)未來(lái)推理過(guò)程監(jiān)督技術(shù)的研發(fā)提供新思路。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
