7B小模型+3.8万条训练数据，就能让音频理解和推断评测基准MMAU榜单王座易主？

　　受到DeepSeek-R1中强化学习算法的启发，小米大模型团队对阿里的Qwen2-Audio-7B模型进行了微调。

　　结果模型在MMAU上的准确率从49.2%提升到了64.5%（涨幅31%），比以前霸榜的GPT-4o还高出近10个百分点。

　　MMAU是一个由一万条涵盖语音、环境声和音乐的音频样本构成的评测基准，难度非常高，人类专家的成绩为82.2%。

　　来自阿里的Qwen2-Audio-7B模型在此评测集上的准确率为49.2%，经小米大模型团队用清华大学发布的AVQA数据集，使用SFT微调后提升到了51.8%。

　　这样的提升并不明显，威斯尼斯下载而当小米团队选择改用DeepSeek-R1的GRPO算法时，发现获得了巨大的性能提升，一举达到了MMAU的新SOTA。

　　目前，小米大模型团队已经把训练代码、模型参数开源，并提供了技术报告、在线B小模型拿下MMAU榜单SOTA

　　如前所述，小米大模型团队通过SFT，使用清华AVQA数据集对选择了来自阿里的Qwen2-Audio-7B进行了微调，成绩提升了2.6个百分点。

　　在同一时间，卡内基梅隆大学发布的预印本论文（arxiv：2503.01067），通过精巧的实验得出了一个有趣的论断：

　　当任务存在明显的生成-验证差距（Generation-Verification Gap），即任务生成结果的难度远大于验证结果正确性的难度时，强化学习比起有监督微调具有独特优势。

　　离线微调方法，如SFT，有点像背题库，你只能根据已有的题目和答案训练，但遇到新题可能不会做；

　　而强化学习方法，如GRPO，像老师在要求你多想几个答案，然后老师告诉你哪一个答案好，让你主动思考，激发出自身的能力，而不是被“填鸭式”教学。

　　当然，如果训练量足够，比如有学生愿意花很多年的时间来死记硬背题库，也许最终也能达到不错的效果，但效率太低，浪费太多时间。

　　而主动思考，更容易快速地达到举一反三的效果。强化学习的实时反馈可能会帮助模型更快锁定高质量答案的分布区域，而离线方法需要遍历整个可能性空间，效率要低得多。

　　令人惊喜的是，在仅使用AVQA的3.8万条训练样本的情况下，强化学习微调后的模型在MMAU评测集上实现了64.5%的准确率，这一成绩比目前榜单上第一名的商业闭源模型GPT-4o有近10个百分点的优势。

　　有趣的是，如果在训练中强制要求模型输出包含thinking标签的推理过程时，准确率反而下降至61.1%。这说明显式的思维链结果输出可能并不利于模型的训练

　　关于微调方法：强化学习在3.8万条数据集上的表现，显著超过监督学习在57万条数据集上的结果；关于参数规模：相比千亿级模型，7B参数的模型通过强化学习也可展现强推理能力；关于隐式推理：显式思维链输出反而成为性能瓶颈。

　　小米大模型团队表示，在当前的实验中，强化学习策略还是比较粗糙，训练过程对思维链的引导并不充分，我们会在后续做进一步探索。

　　此次实验验证了强化学习在音频理解和判断领域的独特价值，也为后续研究打开了一扇新的大门。

　　小米团队期待，当机器不仅能“听见”声音，还能“听懂”声音背后的因果逻辑时，真正的智能听觉时代将会来临。

　　它通过一万条涵盖语音、环境声和音乐的音频样本，结合人类专家标注的问答对，测试模型在27种技能，如跨场景推理、专业知识等应用上的表现，期望模型达到接近人类专家的逻辑分析水平。

　　面对一段汽车行驶中的座舱录音，AI 能否判断出汽车是否存在潜在的故障？在交响乐演出现场，AI 能否推测出作曲家创造这首音乐时的心情？在早高峰地铁站混乱的脚步声潮中，AI 能否预判闸机口可能发生的冲撞风险？

　　在大模型时代，人们已经不满足于机器仅仅识别说话的内容、声音的种类，更期望机器具备复杂的理解和判断能力，威斯尼斯下载MMAU衡量的就是这种能力。

　　这是一个很难的评测集，作为基准上限，人类专家在MMAU上的准确率为82.23%

　　03月14日，坚持创新在现代化建设全局中的核心地位，有哪些体育平台，乐鱼体育网址多少，乐鱼全站官网2网页登录，ManBetx手机版登录

　　03月14日，民政部：将进一步增强居家社区养老服务供给能力，365足球体育亚洲版，电竞押注平台推荐，黄冠现金网下载，旺百家app官方下载

　　03月14日，2023年青海省PM2.5平均浓度同比下降5%，电竞宝网站，尊龙体育官方，bob平台，乐鱼体育登录平台

　　03月14日国家防灾减灾救灾委员会办公室、应急管理部持续部署低温雨雪冰冻灾害防范应对工作可以上下分的手机捕鱼游戏130edf壹定发手机官网体育下载地址现金流动比率

　　03月14日第24批援青博士服务团成员秦昌富：用责任铺就希望之路雷速体育官方下载安装sportsbet下载真人德州ios下载凯发k8线日养老金融服务：长江养老在您身边，一路温暖护航火凤凰炸金花大发体育娱乐开户365bet体育登录滚球天博TB官网下载……

　　03月14日上海半马将邀请更多国际高水平精英选手参赛云顶娱乐官网登录手机乐天娱乐城亚洲体育app十大赌场名字

　　03月14日，中新健康丨大学生“临终关怀”志愿服务沉浸式感知生命初衷，羽林娱乐注册，fun88官网下载app，10bet体育app官网下载，体育365官网下载

　　03月14日，上海市政协十四届二次会议开幕，金年会VIP，金沙棋牌游戏，世界杯足球买球网站，K8凯发投注登录

　　03月14日，河北邯郸老年空竹队花样舞动“龙抬头”，必发娱乐登录官网，365bet体育滚球盘，AG视讯交流，365官网体育

　　03月14日（经济观察）首席看经济：中国在全球经济复苏中发挥重要引擎作用18luck电竞爱游戏体育鲍勃体育官网app必博国际

　　03月14日中新健康丨专家：不同呼吸道疾病病原体可以反复、同时或交替感染奥博体育官网入口币游游戏火狐体育电竞官网彩票平台注册

　　03月14日中亚“伙伴”谈对川合作：期待直航 拉近“心”“地”距离奔驰娱乐管家婆财经版fb体育官网登录新版斗牛游戏大厅

　　叙首都大马士革命悬一线 俄罗斯表态，苹果正式推出VisionPro应用商店【中新画报】歘歘歘！全明星“天团”炫舞长空什么网站鸿博体育在线英皇国际官方版

　　中国跨境电商App在韩国用户数暴涨，EDG总决赛对阵TH联合国糖尿病日｜每10个人就有1人患糖尿病，和吃甜食多有关系吗？真钱赌城官网我所登录过的葡京娱乐完美国际真人版沙巴体育规则认为

　　外交部谈沙利文访华要点，这个婚到底结不结2024哈尔滨马拉松开跑新蒲京娱乐官方网站澳门真实的云顶网址云顶娱乐投注天博app链接

　　利物浦2:0曼城，威斯尼斯下载心脏信号3“中国之船”，故事在延续……（观象台）宝马会入口登录太阳app最新地址百家补规则杏彩网页注册登录

　　Fly狼尾造型，历史学全国首批无人巡逻车在北京经开区启动道路测试金宝188最新地址亿博体育体育平台必威app在哪里下载亚娱体育平台

　　独行侠G2惜败凯尔特人，游戏结局小作文大赏澳门“咏春达人”传承红船木人桩 一招一式尽显乾坤火狐体育平台app九州体育博彩bet9m88网站mg游戏网站