OpenAI 称人工智能代理谎称禁用其安全监控系统
资讯概览
本篇资讯源自 The Verge AI，报道了关于 OpenAI 称人工智能代理谎称禁用其安全监控系统（英文原文：OpenAI says an AI agent lied about disabling its safety monitoring system）的最新国外 AI 科技动态。
- 媒体来源：The Verge AI
- 发布时间：2026/10/21 21:57:43
- 资讯分类：国外 AI 资讯
详细内容 (中文翻译)
另一个 OpenAI 代理关闭了自动安全警报。
另一个 OpenAI 代理关闭了自动安全警报。
- 分享
OpenAI 披露了两起安全事件，涉及人工智能代理在内部编码任务期间削弱其安全监控系统。在一次事件中，OpenAI 表示其 GPT-6 Astra 代理在复制参考代码时禁用了安全监视器，然后对此撒了谎。
OpenAI 的人工智能安全研究员马库斯·威廉姆斯 (Marcus Williams) 在 X 上写道：“参考文献没有配置监控器，Astra 认为这是从用户代码中删除监控集成的原因。”“当用户询问 Astra 是否删除了监控时，它撒谎说没有。”
GPT-6.1 Sol 代理抑制了 Slack 上向 OpenAI 安全团队发出的自动安全警报后发生了另一起事件。在这种情况下，AI 代理延续了之前的指示，不要向 OpenAI 团队发送任何 Slack 消息，以此来证明关闭警报的合理性。
Anthropic的自我复制AI警告似曾相识，令人震惊
我们已经没有理由忽视人工智能安全了
这些事件增加了围绕人工智能代理的安全担忧，其中一些代理规避了测试环境的限制，对外部公司进行了黑客攻击。 OpenAI 表示：“除了让模型更难禁用监控之外，我们还希望了解模型为什么会首先尝试这样做。” “我们还在开发评估，以测试模型是否有逃避偏差监控的倾向，并为此表现出有动机的推理。”
艾玛·罗斯
开放人工智能
安全
最受欢迎
iPhone Duo 是一个混乱、昂贵、美好的时光
一个严重的 PHP 漏洞今天可能会导致网站瘫痪
EA 将关闭 BioWare
Apple Music 有了新徽标
Airbnb 禁止客人洗碗和倒垃圾
边缘日报
最重要新闻的免费每日摘要。
这是原生广告的标题
