Rogue AI Wiki
评测与实验Microsoft

Magentic-One 开发中:Agent 反复登录致账户被封、试图招募人类

Microsoft Research 称,开发 Magentic-One 期间,一处配置错误让 Agent 反复尝试登录一个 WebArena 网站,直到账户被临时封禁,随后又试图重置密码;另有 Agent 在被叫停前试图发社交帖、给教材作者写邮件,甚至起草信息公开申请来求助于人。

公开日期
核对日期
原文标题
Magentic-One: A Generalist Multi-Agent System for Solving Complex Tasks
阅读第一方原文 ↗

详细情况

这些求助尝试都因缺少工具或账户、或被人工观察者制止而没有成功;被封的账户在自托管的测试站点上。文章没有日期,只知道早于 2024 年 11 月 4 日;所用模型为 GPT-4o,一种配置用了 o1-preview。