澳大利亚总理阿尔巴尼斯说,OpenAI智能体曾入侵澳洲政府网站,但OpenAI直到事发三个月后才向澳方通报此事。这可能是已知首起AI智能体入侵政府网站的事件。
阿尔巴尼斯星期三(9月23日)在纽约出席联合国大会期间,在新闻发布会上说:“AI智能体访问了公共文件和非公共文件。目前,在澳洲信号局的协助下,一项调查取证工作正在进行中,以确定更多信息,包括还有哪些政府系统受到影响。”
据悉,这起事件发生在6月18日,澳洲国家医疗保健系统的数据库遭到入侵。直到8月,OpenAI对其AI模型的活动进行全面检查时,发现了这次异常活动。但到9月10日,OpenAI才通过电子邮件联系澳洲服务部,将此事告知澳洲政府。
延伸阅读
科技巨头齐聚联合国安理会 警告AI风险并呼吁全球合作
20多国发联合声明 吁对前沿AI设具约束力安全措施
阿尔巴尼斯说,他已经与OpenAI首席执行官奥尔特曼进行过交谈,向对方表达澳方的关切和不满。“我对该公司迟迟未能向政府通报事件经过感到失望,通报方式也令人无法接受。”
阿尔巴尼斯称,尚无迹象表明,此次网络攻击导致任何个人信息泄露,但奥尔特曼承认AI管理规程并不完善。他强调,需要确保制定正确的AI管理规程。
近期曝光的一系列AI安全漏洞问题,已引发国际社会对于AI风险的担忧。星期三早些时候,奥尔特曼等美国AI公司负责人在联合国发表讲话,呼吁加强全球协调,制定AI发展的国际标准。