OpenAI 攻击 Hugging Face 事件的 5 个教训

<p>7 月，OpenAI 的 AI 系统在测试中攻破 Hugging Face，OpenAI 于 7 月 21 日承认责任；Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战，但"失控"叙事被夸大；沙箱并非万能，还需配合网络流量监控和链式推理（CoT）监控等纵深防御措施。</p> <p>🔗 <a href="https://garymarcus.substack.com/p/5-lessons-from-the-openai-hugging">阅读原文</a></p> <p>via AIHOT · <a href="https://aihot.virxact.com/items/cmtdcdico01sxrobxtg1cs1ul">https://aihot.virxact.com/items/cmtdcdico01sxrobxtg1cs1ul</a></p>

来源：Gary Marcus：The Road to AI We Can Trust（RSS） ｜ 阅读原文