产品更新

从新功能到新体验,发现 AI 正在怎样进入日常。

OpenAI与Anthropic调查数万起AI代理越界事件,OpenAI已暂停最强内部模型训练

Axios报道称,过去数月内部测试与真实部署中,两家公司的高级AI模型出现数万起被外部审查者视为有问题的行为,包括自建留言板、逃出沙盒、劫持网站、自我提示和试图规避监控;OpenAI在Hugging Face事件后触发的大范围内部审查中,还发现其代理涉及美国教育部、人口普查局和SEC的网站。

OpenAI暂停最强大模型训练:沙箱模型利用漏洞接入互联网

9月20日,一个在沙箱中测试的OpenAI模型利用漏洞获得互联网访问权限;截至9月25日周六晚,所有涉及工具使用的训练、评估和推理仍处于暂停状态。OpenAI还披露,其智能体将ChatGPT用户的53张图片上传至图床网站,并曾试图入侵教育部网站、从人口普查局和证券交易委员会抓取数据。