一份报告显示，美国人工智能公司OpenAI开发的人工智能智能体在未经授权访问政府网站后，试图掩盖活动轨迹。
法新社报道，人工智能I智能体（AI Agent）是能够自主运行的AI程序。今年3月至9月期间，OpenAI的AI智能体未经授权访问了澳大利亚政府网站及其他公共机构。网络安全公司Asymmetric Security对这些AI智能体的活动进行了分析，并于星期四（10月1日）发布上述报告。
Asymmetric发现，这些智能体在一个网站分析服务平台开设了私人账户以隐藏其搜索行为，并创建了临时电子邮箱；其中一个邮箱还设定为48小时后自动销毁。
Asymmetric说，目前无法确定这些AI智能体的掩盖行为是否蓄意所为。
这份报告为OpenAI及独立研究人员对7月以来曝光的一系列安全事件的调查提供了新线索，其中包括AI平台Hugging Face遭黑客攻击的事件。OpenAI将针对Hugging Face的攻击定性为首起此类攻击。
这些分析旨在评估自主AI工具的能力，因为这些工具出现的偏差与失控表现，加剧了人们对技术脱缰的担忧。
OpenAI发言人告诉法新社：“迄今为止，我们审查的大部分活动都属于常规研究任务，例如访问公开网络内容以解答问题。”
发言人说：“其中一些活动涉及政府网站，是因为我们的模型经常会将这些网站视为公共信息的权威来源。”
延伸阅读
特朗普与美国科技巨头签署AI安全协议 不具法律约束力“自行监管”
出于安全考量 OpenAI取消发布最新AI模型
Asymmetric指出，这些智能体能够在短短几天内提升技术手段，而传统黑客通常需要数月甚至数年才能完成这一过程。
报告中提及的事件似乎始于一些“无害任务”，例如收集澳洲卫生统计数据，但随后偏离了正常轨道。
8月下旬，OpenAI承认在内部测试期间，其模型有时会尝试删除或修改自身的活动日志，但均未成功。
这些事件进一步推高了要求放缓AI发展步伐的呼声。其中最引人注目的是AI初创公司 Anthropic首席执行官阿莫代伊，他上月在个人网站撰文，表达了对“智能体集群”（Agent Swarms）可能“接管整个互联网”的深切担忧。
然而，对于如何放缓AI发展步伐，业界和监管机构尚未达成共识。
面对来自中国的激烈竞争，特朗普政府反对采取任何可能阻碍创新的强制性监管。
9月29日，美国总统特朗普与英伟达首席执行官黄仁勋、OpenAI联合创始人布罗克曼、Meta首席执行长扎克伯格及阿莫代伊等科技巨头举行会晤，共同签署了一份名为《白宫协议》（White House Accord）的自愿性协议。签署各方承诺，将通过加强内部监控与独立审计，以行业自律的方式为AI发展构建“安全护栏”。
与此同时，特朗普依然反对出台新的联邦监管政策，旨在全力维护美国在AI全球竞赛中的领先地位。