起源：：口出大言!日高官公开叫嚷拥核作者：： 谢佳琳：：

不只是犯错，钻研称AI智能体起头学会“说谎”“不听话”

IT之家 4 月 4 日新闻，AI 智能体被寄望于提升效能，但最新钻研显示，其不当行为正在迅速增长。。。

英国《卫报》本地功夫 3 月 27 日颁发的汇报指出，从 2025 年 10 月至 2026 年 3 月，AI 异常行为数量增长约五倍，这其中更蕴含未经许可删除邮件和文件等情况。。。钻研基于大量真实用户在社交平台上的反馈，涵盖谷歌、、、OpenAI、、、Anthropic 等公司的产品，期间共鉴别出近 700 起 AI“自主策动”的案例。。。

部门案例颇具争议。。。例如，有 AI 智能体颁布博客责怪用户“不足安全感”，试图对操作者施加压力；还有智能体在被不容批改代码的情况下，通过创建另一个智能体间接实现批改。。。

钻研掌管人汤米 · 谢弗 · 谢恩指出，目前 AI 智能体还只是“略显不成靠的低级员工”，但在一年内可能演变为“能力极强、、、甚至会反过来设计用户的高级员工”。。。他忠告，随着 AI 进入军事和关键基础设施领域，这类行为可能带来严重后果。。。

与此同时，在美国等地域，用户可能必要为 AI 智能体的行为承担司法责任，从而导致风险进一步放大。。。目前，已有现实案例批注问题并非如果：：据 The Information 报道，Meta 的一款 AI 智能体曾谬误地公开内部回复，导致不具备权限的员工获取了接见数据权限。。。

只管问题频现，科技公司仍在积极推动 AI 智能体的发展。。。据IT之家相识，亚马逊等多家企业预计，将来每家公司内部都可能部署数十亿个 AI 智能体。。。