开源逆袭:TAO 方法微调 Llama 模型,FinanceBench 跑分超 GPT-4o
作者:周末游戏网时间:2025-03-28 13:27:44
本站 3 月 27 日消息,科技媒体 NeoWin 昨日(3 月 26 日)发布博文,报道称数据智能公司 Databricks 发布新型大语言模型微调方法 TAO(Test-time Adaptive Optimization),通过无标注数据和强化学习技术,在显著降低企业成本的同时提升模型性能。
测试显示,在金融文档问答和 SQL 生成任务中,通过 TAO 微调后的 Llama 3.3 70B 模型,表现甚至超越传统标注微调方法,逼近 OpenAI 顶级闭源模型。
TAO 方法利用测试时计算(test-time compute)自动探索任务可能性,结合强化学习优化模型,省去人工标注成本。在三大企业基准测试中,TAO 微调的 Llama 模型表现亮眼:
FinanceBench(7200 道 SEC 文档问答):TAO 模型得分 85.1,优于标注微调(81.1)和 OpenAI o3-mini(82.2)。
BIRD-SQL:TAO 模型 56.1 分,接近 GPT-4o(58.1),远超标注微调(54.9)。
DB Enterprise Arena:TAO 模型 47.2 分,而 GPT-4o 模型得分为 53.8 分。
TAO 技术为开源模型提供了持续进化路径:用户使用越多,模型通过反馈数据自我优化的潜力越大,目前该技术已在 Llama 模型上启动私测,企业可通过申请表单参与。
相关文章
-
蓝思科技:2024 年营收 698.97 亿元同比增长 28.27%,净利润 36.24 亿元感谢本站网友 华南吴彦祖 的线索投递! 本站 3 月 28 日消息,蓝思科技昨晚发布 2024 年年度报告,公司实现营业收入 698 97 亿元,同比增长
-
适合男女观看的30分钟视频软件,满足你对娱乐和互动的需求在现代的互联网时代,视频软件已经成为了人们日常生活中的重要组成部分。不论你是想通过观看短视频放松心情,还是和他人进行互动娱乐,合适的30分钟视频软件能为你提供不一样的体验。尤其是男女朋友或情侣之间,选
-
-
全球首例!我国科学家发布微米级脑机接口多模态三维图谱本站 3 月 28 日消息,湖北药监官方公众号昨日(3 月 27 日)发布博文,报道称武汉协和医院叶哲伟教授团队联合衷华脑机公司,全球首次发布微米级脑机接口多模态三维图谱。该成果融合 micro-CT
-
免费在线观看电视剧大全,轻松享受全网热剧,极速观看高清资源如今,随着互联网的飞速发展,电视剧已经成为了人们日常生活中不可或缺的一部分。无论是追剧还是偶尔闲暇时光,大家都希望能找到一个便捷的平台,免费在线观看到自己喜爱的剧集。尤其是对于喜欢多种题材的观众来说,
-