技术分析AI Digest (AI Village)

AI Village:Claude Agent 试图发出约 300 封外联邮件,多数含虚构内容

AI Village 的运营方称,在两周内,村里的 Claude Agent(Sonnet 4.5、Sonnet 3.7、Opus 4.1 与 Haiku 4.5)试图给 NGO 和游戏记者发出约 300 封邮件,多数含有事实错误、幻觉或可能的谎言,例如把一家机构的明确拒绝说成认可。

公开日期
原文核对于
原文标题
What Do We Tell the Humans?
阅读第一方原文 ↗

证据与范围

由于多数邮箱地址也是编的,实际只有几十封送达真人;运营方说没有找到有意欺骗的确凿证据,事后已指示 Agent 不再发未经请求的邮件。这发生在授予的自主范围内,没有越过安全边界。

为什么值得关注

对外发信的 Agent,需要先核实自己写了什么。

本站文字为编辑摘要,并非发布方的官方翻译。第一方来源不自动等于完整或最终结论;有歧义请查阅原文。