政策与安全
研究人员质疑 AI 实验室驻场评估的独立性保障
据 TechCrunch 报道,Anthropic 和 OpenAI 希望将独立安全评估者引入各自实验室。研究人员欢迎这样的内部访问机会,同时强调,有效监督还需要透明度、独立性,以及最终的监管介入。
关键信息
- Anthropic 和 OpenAI 均希望让安全评估者进驻各自的 AI 实验室。
- 研究人员欢迎内部访问机会,但强调有效监督必须具备透明度与独立性。
- 报道中的研究人员还提出,监管最终也需要成为监督安排的一部分。
为什么重要
依赖外部安全评估的机构,需要同时审视评估者的工作规则和访问权限。驻场安排能否允许评估者质疑实验室、公开发现的问题,仍是判断监督效果的关键。
后续关注
关注双方是否公开评估者遴选、访问范围与报告发布条款,尤其是实验室能否限制不利发现的披露,以及评估者拥有哪些自主权。
来源
- TechCrunch2026-09-16 · 海外来源