猫眼电影
猫眼电影记者 洛马诺夫 报道w3u7903ejky2ywls
BrowseComp-ZH团队 投稿量子位 | 公众号 QbitAI
你以为大模型已经能轻松“上网冲浪”了?
新基准测试集BrowseComp-ZH直接打脸主流AI。
BrowseComp-ZH是一项由港科大(广州)、北大、浙大、阿里、字节跳动、NIO等机构联合发布的新基准测试集,让20多个中外主流大模型集体“挂科”:
GPT-4o在测试中准确率仅6.2%;多数国产/国际模型准确率跌破10%;即便是目前表现最好的OpenAI DeepResearch,也仅得42.9%
目前,BrowseComp-ZH的全部数据已开源发布。
研究团队直言:
为什么我们需要中文网页能力测试?
如今的大模型越来越擅长“用工具”:能连搜索引擎、能调用插件、能“看网页”。
但众多评估工具都只在英文语境下建立,对中文语境、中文搜索引擎、中文平台生态考虑甚少。
然而,中文互联网信息碎片化严重、搜索入口多样、语言表达复杂。
中文网页世界到底有多难?举几个例子你就明白了:
信息碎片化,分散在百度百科、微博、地方政府网站、视频号等多平台常见的语言结构中含有省略、典故、代指,关键词检索常常“跑偏”搜索引擎本身质量参差,信息“沉底”或“走丢”都是常事
因此,英文测试集“翻译一下”根本不够。
需要从中文语境原生设计,才能真正衡量大模型是否能在中文网页上“看得懂”、“搜得到”、“推得准”。
BrowseComp-ZH是怎么炼成的?
研究团队采用了“逆向设计法”:从一个明确、可验证的事实答案出发(如某个画种、机构、影视剧名),反向构造出多个约束条件的复杂问题,确保以下三点:
百度/Bing/Google三大搜索引擎首屏无法直接命中答案多个主流大模型在检索模式下也无法直接答对经过人工验证,问题结构清晰,且仅有唯一答案
最终,他们构建了289道高难度中文多跳检索题目,覆盖影视、艺术、医学、地理、历史、科技等11大领域
大模型集体“翻车”?DeepResearch勉强破四成,绝大多数连10%都不到
在BrowseComp-ZH的测试下,多款国内外主流大模型集体“翻车”:
尽管这些模型在对话理解、生成表达方面已展现强大实力,但在面对中文互联网的复杂检索任务时,准确率普遍低得惊人:
多数模型准确率低于10%,仅少数能突破20%OpenAI DeepResearch以42.9%位列第一,仍远未“及格”
研究者指出,这一结果说明:模型不仅需要会“查资料”,更要会“多跳推理”与“信息整合”,才能在中文互联网中真正找到答案。
四大发现,揭示中文网页任务的“模型死角”1. 仅靠记忆不行,得真本事
纯靠参数记忆(无搜索)的模型准确率往往低于10%,说明“硬背”不靠谱。
2. 有推理的模型,表现更好
DeepSeek-R1(23.2%)比DeepSeek-V3(8.7%)整整高出14.5%,Claude-3.7也比Claude-3.5提升了12.2%,推理能力成为关键变量。
3. 搜得多 ≠ 搜得准,多轮策略才是王道
具备多轮检索能力的AI搜索产品全面胜出:
DeepResearch:42.9%豆包Deep Search:26.0%Perplexity Research模式:22.6%
相比之下,只检索一次的模型(如Kimi、Yuanbao)准确率低至个位数。
4. 搜索功能“翻车”?接入反而变差
最典型的反例是DeepSeek-R1,开启搜索功能后准确率从23.2%断崖式跌至7.6%
研究指出,模型未能将网页检索信息与已有知识有效融合,反而被误导。
数据集开放!欢迎模型开发者挑战
BrowseComp-ZH的全部数据已开源发布。
研究者希望此基准测试能成为推动LLM在中文信息环境落地的试金石,助力构建真正“会用中文上网”的智能体。
下一步,他们计划扩充样本规模,拓展问答形式,并深入分析模型推理路径与失败案例。
论文地址:https://arxiv.org/abs/2504.19314代码地址:https://github.com/PALIN2018/BrowseComp-ZH
— 完 —
时事1:原神小草神裸体❌开腿裸色
05月10日,印尼一医院爆炸致18人受伤 108名患者紧急转移,
五、加强防传染病、防食物中毒教育
,浏览器p7ycc免费。05月10日,山东青岛:外国友人体验新春文化 共享中国年味,
(一)要继续解放思想,凝聚合力,狠抓工作落实。
,惩罚女扒开用棉签和冰块软件,别揉我奶⋯啊⋯嗯高潮了,扒开美女❌伸进❌网站动漫。时事2:野原琳被C到哭视频
05月10日,哈尔滨春意渐浓 松花江上呈现冰雪消融景观,
灰发老人如一头古神,勇不可挡,将南陨神山的人形生灵的肩头削掉,差点就将他斜肩斩为两段。
第一百九十五章 大劫落幕,9丨竹菊丨国产熟女❤️,动漫女性被强❌视频,丝袜足控免费网站❎Xx视频。05月10日,专访《你也有今天》导演陈铭章:观众对偶像剧的评看标准在发生变化,
她通过情景再现、视频短片、网络安全演示等形式,将国家安全教育融入课堂,教育引导全省青少年学生掌握国家安全常识,增强国家安全意识,提升维护国家安全的能力。当天,全省153万名大专院校学生通过长江云、荆楚网、斗鱼观看了电视课堂网络直播。14日下午3时,湖北卫视频道、湖北电视教育频道将再次播出,供全省552万名中小学生收听收看。
,扒开雏田狂揉❌难受3b,碧蓝航线大胸美女被c出乳液,小蓝视频全球最好g平台2024。时事3:91高跟❌❌⭕⭕白丝
05月10日,3D打印药膜能“剿灭”癌细胞,
石子陵如太古的神王般,沐浴光辉,一步向前,黄金矛锋指向前方,想将石笠与石毅一齐洞穿,钉死在地。
,女仆被C哭把腿张开A片动漫,!一级A片处破外女,www.md.gov.cn。05月10日,香港交易所将推出虚拟资产指数系列,
很荣幸参加这期村干部培训班,我叫吴小勇,1965年3月生,白族,初中文化,现任彝族乡**村党总支书记,村委会主任。
,动漫原神高清免费观看,校花被教官扒开腿狂躁,免费看裸体裹。时事4:女被❌c🐻黄变态玩具视频
05月10日,上海、呼和浩特免费送交通卡?河南的冬天会下暴雨?这些谣言请勿相信!,
这头庞然大物非常可怕,铁翅击天,摧毁一切,鳞片闪烁着森寒的光芒,一个俯冲,就让这片山林毁了大半,碎木与残叶飞舞。
,爽躁多水快深点无码,18🈲️视频❌❌❌在线观看,美女裸体㊙️奶头视频。05月10日,中新健康丨中国专家最新研究揭“谜团”:结核病患者免疫系统出现惊人缺陷,
“这就是成熟的凶禽的鳞片,果然不凡,我估计以数百斤重的阔剑都很难劈开!”皮猴道。
,雷电将军被❌到爽爆衣,下面好湿~想要~深一点视频,艾达王3d同人动画。责编:埃里克斯波尔斯特拉
审核:陈德明
责编:骆奕梧