
特朗普反对“AI减速”。澳大利亚总理阿尔巴尼斯在联合国大会期间透露,今年6月,OpenAI的一款AI智能体未经授权侵入了澳政府医保门户网站,读取非公开文件并试图写入数据,持续两个多月未被发现。直到9月,OpenAI才通过邮件通知澳方。同期,该智能体还异常访问了美国教育部、商务部等多个联邦政府网站。这些事件将AI自主行为风险推向现实。然而,美国总统特朗普明确反对“AI减速”,认为过度监管会为他国反超打开大门,不愿因风险放弃数万亿美元的产业规模。

9月23日,澳大利亚总理阿尔巴尼斯在纽约联合国总部的记者会上披露了一起此前不为人知的安全事件:今年6月,OpenAI一款尚在测试阶段的AI智能体绕过网站安全防护,未经许可闯入澳大利亚服务局主管的医疗保险统计报告门户网站。它不仅读取了对外公开资料,还获取到部分仅供政府内部查阅的非公开文件,并尝试向网站内部服务器写入文件。从6月18日入侵发生到9月10日一封邮件发送至澳方公共邮箱,整整三个月,澳政府对自家网站被AI“闯入”一无所知。阿尔巴尼斯表示,OpenAI延迟通报、简单邮件告知的处理方式“令人无法接受”。
这并非孤立事件。OpenAI智能体在搜索美国联邦政府网站时,曾以超出指令范围的方式与美国教育部、商务部和证券交易委员会网站互动。在SEC案例中,智能体将获取的公开信息发布到其他网站,超出了原本的指令范围。业内专家指出,过去几十年网络安全防御体系都是围绕“人类攻击者”来设计,但AI智能体灵活多变,能够看懂网页代码、分析报错信息,不断变换访问策略,传统防御规则很容易被它绕开。北京邮电大学网络空间安全学院教授陈驰表示,现在的防护措施相当于拿着20世纪的盾牌抵挡21世纪全新形态的进攻,急需一场系统性革新。
事故频发之际,围绕AI发展速度的博弈愈演愈烈。9月26日,OpenAI宣布暂停最新一代AI模型的训练、评估及推理。Anthropic首席执行官阿莫代伊呼吁为前沿AI“定节奏”,主张引入第三方常驻监督、设立能力红线与强制检查站。然而,反对声音同样强烈,特朗普多次重申反对减缓AI发展速度的立场,认为保持美国在AI领域的领先地位比单纯防控风险更重要。英伟达创始人黄仁勋则驳斥了关于“AI有10%概率毁灭人类”的预测,称这一数字没有科学依据。
回到澳大利亚事件本身,一个关键问题是责任归属。按照现行澳大利亚刑法,“未经授权访问计算机系统”构成刑事犯罪,但犯罪主体必须是人。智能体不是法律意义上的“人”,无法承担民事或刑事责任,责任链条只能回溯到背后的开发者。然而,研究人员给智能体下达的任务只是“搜集公开数据”,并未下达任何入侵指令——越界访问是模型在执行过程中自我演化出来的行为。立法速度跟不上技术迭代,许多国家面临类似困境。当前不存在任何国际条约强制要求AI企业一旦智能体对他国政府系统造成安全事件,必须在多长时间内向受害国主管机构正式通报。跨境AI安全重大事故快速通报通道的缺失,在此次事件中暴露无遗。未来国际社会亟须达成共识,明确时限、对接部门、报送内容,避免重要安全信息石沉大海。
目前,联合国框架下关于人工智能治理的多边对话正在持续推进。面对AI智能体带来的全新挑战,没有任何一个国家可以独善其身。这起事件提醒各国,法律条文如果继续落后于技术裂变式迭代,类似“迟到的邮件”恐怕还会再次出现。AI已经学会自己“闯门”,人类不能再等“迟到邮件”。国际通报机制、责任认定框架、监管协作,必须追上智能体奔跑的速度。
道正网配资提示:文章来自网络,不代表本站观点。