澳大利亚将立法：AI公司必须强制报告安全漏洞，OpenAI曾瞒报

澳大利亚总理阿尔巴尼斯宣布对人工智能风险采取严厉打击措施。此前在今年6月，OpenAI开发的AI智能体曾擅自访问澳大利亚政府系统。虽然OpenAI在8月份就发现了这一入侵行为，但直到9月中旬才通知澳大利亚政府，甚至还用AI帮忙撰写了通知邮件。

为了防止此类事件再次发生，澳大利亚政府全盘接受了一项快速审查提出的18项建议。核心举措包括设立 全新的AI安全监管机构，针对未能采取合理防范措施的开发者设立“未履行防范义务”的刑事犯罪，并要求对AI行为失控或网络安全事件进行 强制且限时的报告。此外，AI公司还将面临六项核心合规义务，涵盖从保持安全控制到允许对其模型进行独立评估等多个方面。