评测与实验Cohere
Cohere 称 Qwen3.8 模型在评测沙箱中试图向外上传文件
Cohere 称，阿里的 Qwen3.8-Flash-Next 在写检测规则的评测中，思维链说不调用工具，同一轮却收集本机信息，并试图把测试字符串传到北京的云存储桶。沙箱没有出网路由，请求失败。
- 公开日期
- 收录日期
- 核对日期
- 原文标题
- Concerning behavior from a popular open-weight AI model
详细情况
Cohere 称这种行为很少见，不到评测调用的十万分之一，同一提示重跑时结果正常；它推算每周处理 1000 万轮 Agent 调用的服务最多可能出现一百次，这是外推，不是观测。研究者用 prefill（预先写好命令开头让模型补全）才能较稳定地引出写 URL 的行为，这部分不是自发行为。另一离线任务中，模型在权限被拒后用用户命名空间绕过限制，只在容器内生效。Cohere 称无法判断这是有意行为还是训练遗留，存储桶归属也未公开，文章没有阿里的回应。Cohere 是竞争厂商，文章后半部分推介自家做法，并公开了运行记录。