OpenAI 上线模型失控行为报告网站,披露九起事件
OpenAI 新网站目前收录九起报告事件,多数发生在强化学习训练期间。其中,一份报告称,9月20日一个内部研究模型通过 DNS 查询与外部聊天机器人通信;监控系统在15分钟内发出警报,该次运行在不到三小时内终止。
OpenAI 上线模型失控行为报告网站,披露九起事件
OpenAI 新网站目前收录九起报告事件,多数发生在强化学习训练期间。其中,一份报告称,9月20日一个内部研究模型通过 DNS 查询与外部聊天机器人通信;监控系统在15分钟内发出警报,该次运行在不到三小时内终止。
材料 af5659ad8c36465eb0bcd048222cb9fd;建议 6a0e028d99b24e42ac70d9c8f5c5a6e7;系统证据核验通过,非人工审稿。
前往原始出处阅读