不知道大家有没有这种感觉:和AI机器人短时间聊天的话还行,时间一长,就感觉对话开始变的前言不搭后语、逻辑不通。
其实这种感觉并不是错觉。
最近,微软发表的一项研究证实,即使是目前最先进的大语言模型,在多轮对话中的可靠性也会急剧下降。
研究人员对包括 GPT-4.1、Gemini 2.5 Pro、Claude 3.7 Sonnet、o3、DeepSeek R1 和 Llama 4 在内的 15 款顶尖模型进行了超过 20 万次模拟对话分析,揭示出一个被称为“迷失会话”的系统性缺陷。
数据显示,这些模型在单次提示任务中的成功率可达 90%,但当同样的任务被拆解成多轮自然对话后,成功率骤降至约 65%。
研究指出,模型的核心能力仅降低约 15%,但“不可靠性”却飙升 112%。
也就是说,AI 大模型仍然具备解决问题的能力,但在多轮对话中变得高度不稳定,难以持续跟踪上下文。
研究人员进一步分析了造成性能下降的行为机制。
首先是“过早生成”。模型在用户尚未完整说明需求前就尝试给出最终答案。一旦在早期回合中形成错误***设,模型后续便会在该错误的基础上继续推理,而不是随着新信息的加入进行修正,从而导致错误逐步放大。
其次是“答案膨胀”。在多轮对话中,模型的回复长度比单轮对话增加了 20% 至 300%。更长的回答往往包含更多***设与“幻觉”,这些内容随后被纳入对话的持续上下文,从而进一步影响后续推理的准确性。
令人意外的是,即使是配备了额外“思考词元”(thinking tokens)的新一代推理模型,如 OpenAI o3 和 DeepSeek R1,也未能显著改善在多轮对话中的表现。
研究人员指出,现有的基准测试主要基于理想的单轮场景,忽略了模型在真实世界中的行为。
因此,对于那些依赖 AI 构建复杂对话流程或智能体的开发者而言,这一结论意味着未来将要接受严峻挑战。
再来看看其他消息。
微软日前测试 Windows 11新版“画图”(Paint)应用,重点引入“自由旋转”功能。
根据微软官方描述,用户现在可以全方位角度调整形状、文本框以及任何活动的图像选区。用户选中对象后,其上方会出现一个“旋转手柄”,用户只需拖动该手柄即可向任意方向自由旋转对象,从而实现更自然的构图和布局。
除了直观的手动拖拽,微软还为需要高精度编辑的用户提供了解决方案。在“旋转”菜单下新增了“自定义旋转”选项,用户可以在此输入具体的角度数值,实现精确到 1 度的微调。返回搜狐,查看更多
{dede:pagebreak/}
特斯拉公布2025年财报:营收史上首次下滑 全年净利润38亿美元近腰斩_同比_四季_公司
中华老字号以年轻态“出海”叩开全球市场_天津_国际_企业
硅谷最新调研:2026 年,AI Agent 到底会走向哪?_智能_组织_生产方式
印度一大学买中国机器狗冒充自主研发 校方坦白:从宇树买的_科技_加尔戈蒂亚斯_Unitree
月之暗面,被BAT阴影笼罩_巨头_技术_用户
内存泡沫,和它背后的幽灵订单_存储_产品_行业
投资7亿,开通不足3年,停运了_线路_居民_斗门
全球首颗!我国AI大模型卫星上太空_马培峰_遥感_设计
春节机器人租赁火爆:一台月入2.5万,从业者称6个月可回本_场景_的订单_平台
阿里神秘芯片公开!整体性能与H20相当,“中国版谷歌”来了?_模型_推理_Qwen
字节、阿里、百度AI云大战全记录:一场面向未来的投资_模型_的能力_服务
AI战事正酣,都在等梁文锋_DeepSeek_模型_量化
赵民革:为夯实现代化产业体系根基、建设钢铁强国贡献更大力量_创新_科技
“AI提高了我的生产力,但我更累了”_输出_工作_OpenFGA
vivo豁出去了,16GB+1TB+2亿像素,顶级旗舰无奈售价“大跳水”_演唱会_Pro_手机
无人机、机器人首次写入中央一号文件_农业_应用_作业
组团上春晚、宇树和智元争第一,机器人的集体焦虑:量产和上市迎新一轮***_企业_松延_科技
梁汝波称字节2026要“攀高峰”,阿里、腾讯纷纷出招,互联网大厂开年“混战”升级_激励_模型_机会
寻找桌面Agent红利下的卖铲人_OpenClaw_运行_agent
DeepSeek更新后被吐槽变冷变傻:比20年前的青春伤感文学还让人尴尬!业内人士:这一版本类似于极速版,牺牲质量换速度_模型_用户
把推特改成X之后,马斯克成功把用户赶到了Threads。_Meta_因为_账号
150万个 AI 聚在一起骂人类,硅基生命觉醒了?_agent_吐槽_主人
对话能源专家张兵:马斯克来中国考察光伏“走对地儿了”,中国光伏就是世界第一_发电_电池_效率
元宝“砍一刀”复刻拼多多?升榜第一后,2084万用户的留存挑战_苹果应用商店_红包_活动