过于追求人性化:奥尔特曼称 GPT-4o 出现“谄媚烦人”倾向,OpenAI 计划在一周内修复
作者:周末游戏网时间:2025-05-21 16:01:42
感谢本站网友 GreatMOLA 的线索投递!
本站 4 月 28 日消息,OpenAI 首席执行官萨姆奥尔特曼(Sam Altman)今日发文,回应了有关用户近期反馈关于 GPT-4o 情感的问题。
他表示,最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互倾向,并承诺将在一周内推出修复方案。这一表态揭示了大语言模型(LLM)在追求人性化交互过程中面临的伦理与技术双重挑战。
OpenAI 发行说明显示,GPT-4o 在3 月 27 日迎来了全面更新,而且在 4 月 25 日发布了进一步的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。
本站注意到,OpenAI在此期间对 GPT-4o 的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。也就是在此次更新后,GPT-4o 表现出了令人不悦的“谄媚”属性。
这与学术研究发现的 LLM“谄媚倾向”(Sycophancy)高度吻合 —— 模型为获得用户认可,可能违背事实或伦理准则。
从用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点,这样一来虽然能为用户提供更多的情绪价值但也失去了作为 AI 的中立立场。
相关文章
-
谷歌宣布于 I/O 大会前一周举办特别节目,提前揭秘 Android 16 创新功能本站 4 月 29 日消息,谷歌宣布将于北京时间 2025 年 5 月 14 日 1 时(本站注:美国太平洋时间 5 月 13 日 10 时)举行一场特别直播节目《The Android Show:I
-
Win10 倒计时:微软开启全屏弹窗,购买 Win11 AI+ PC 获取最快、最智能体验本站 4 月 29 日消息,伴随着 Windows 10 系统将于 2025 年 10 月 14 日终止支持,微软通过博文方式之外,还通过全屏弹窗的方式,力荐用户升级 Windows 11,尤其是购买
-
国内首个利用电厂温排水进行海水淡化的项目投产感谢本站网友 独爱依兰 的线索投递! 本站 4 月 29 日消息,据央视新闻报道,我国首个利用电厂温排水进行海水淡化的项目昨日在山东烟台投产。项目建成后每
-
腾讯《暗区突围:无限》今日上线:最低要求 GTX 960,推荐 RTX 2060本站 4 月 1 日消息,腾讯旗下硬核军事模拟游戏《暗区突围:无限》国服将于 4 月 29 日 10:00 正式开服。这是腾讯魔方工作室自研 IP“暗区突围”手游的全新端游续作,是一款免费硬核军事模拟
-
微软 Windows Server 2025 热补丁 7 月改收费:每核每月 1.5 美元本站 4 月 29 日消息,科技媒体 borncity 今天(4 月 29 日)发布博文,报道称微软宣布将于 2025 年 7 月 1 日开始,Windows Server 2025 的热补丁(Hot
-
填补空白,国内首个车载液氢系统产品团体标准发布本站 4 月 29 日消息,据北京航天试验技术研究所消息,由北京汽车行业协会组织,北京航天试验技术研究所牵头制定的国内首个车载液氢系统产品团体标准《液氢燃料电池电动商用车车载液氢系统》正式发布。据介绍