6月7日消息,當下 GPT-4 模型最大的短板主要是算術能力,由于模型的邏輯推理能力尚待提升,因此即使是許多人認為相對簡單的計算問題,GPT-4 卻無法得出正確的結果。
據(jù)IT之家報道,近日,新加坡國立大學研究者推出了 Goat 模型,稱該模型“專門用于算術問題”。研究人員表示“在對 LLaMA 模型進行微調后,Goat 在算數(shù)上實現(xiàn)了比 GPT-4 更高的準確度與更出色的性能”。
研究人員提出了一種新辦法,將任務根據(jù)算數(shù)的可學習型進行分類,然后利用基本算術原理將不可學習的任務分解為一系列可以學習的任務(IT之家注:把復雜的計算過程分點拆解成簡單的步驟)后導入 AI 模型。
這種新方法可以令模型學習答題模式,并將過程泛化為看不見的數(shù)據(jù),而非僅僅依靠純粹的“權重記憶計算”,因此能夠有效地提高算數(shù)性能,可以在零樣本學習中以“近乎完美的精度”為大數(shù)加法和減法生成答案。
研究人員在具備 24 GB 顯存的 GPU 上進行訓練,并將最終得到的模型使用 BIG-bench 算數(shù)子任務進行測試,準確率結果較為出眾,領先于業(yè)內的 Bloom、GPT-NeoX、OPT 等模型。
其中零樣本的 Goat-7B 的準確率甚至一度超過了少樣本學習后的 PaLM-540 模型,在大數(shù)計算方面遠超 GPT-4。
- 特斯拉CEO馬斯克身家暴漲,穩(wěn)居全球首富寶座
- 阿里巴巴擬發(fā)行 26.5 億美元和 170 億人民幣債券
- 騰訊音樂Q3持續(xù)穩(wěn)健增長:總收入70.2億元,付費用戶數(shù)1.19億
- 蘋果Q4營收949億美元同比增6%,在華營收微降
- 三星電子Q3營收79萬億韓元,營業(yè)利潤受一次性成本影響下滑
- 賽力斯已向華為支付23億,購買引望10%股權
- 格力電器三季度營收同比降超15%,凈利潤逆勢增長
- 合合信息2024年前三季度業(yè)績穩(wěn)?。籂I收增長超21%,凈利潤增長超11%
- 臺積電四季度營收有望再攀高峰,預計超260億美元刷新紀錄
- 韓國三星電子決定退出LED業(yè)務,市值蒸發(fā)超4600億元
免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。