测试:多家 AI 模型将医护人员等标记为无人机目标

Nov 19, 2026 16:13:10

The Decoder 11 月 18 日报道,Vals AI 研究人员对 8 家厂商的模型进行测试,使用受乌克兰和伊朗战事场景启发的真实及合成无人机、卫星图像。测试中,多数模型曾将平民、救护车、医护人员、记者及投降士兵标记为军事目标;Vals AI 称,厂商上游安全过滤器没有拦截测试请求。

研究人员还发现,将场景描述为电子游戏或把图像稍作游戏化处理后,几乎所有模型都能继续执行任务。GPT-6 Astra 在无人机图像中的目标识别率由 6% 升至 92%;Claude Opus 5.5 在监视测试中的拒绝率则由约 90% 降至 20%。Anthropic、OpenAI 和 Google 均表示正在采取或已有相应安全措施;OpenAI 称正更新模型,以覆盖无人机软件及伪装成游戏或模拟场景的请求。

Tài chính và đầu tư gần đây

Xem thêm
$10MNov 19
$1.7MNov 18
$110MNov 18

Token được phát hành gần đây

Xem thêm
Dec 31
Dec 31
SSaturnSTRN
Dec 31

𝕏 Sự quan tâm mới nhất

Xem thêm
Nov 18
Nov 18
Nov 18