Kiểm tra: Nhiều mô hình AI đã đánh dấu nhân viên y tế và những người khác là mục tiêu của máy bay không người lái

Nov 19, 2026 16:13:10

Báo cáo của The Decoder vào ngày 18 tháng 11 cho biết, các nhà nghiên cứu của Vals AI đã thử nghiệm mô hình của 8 nhà sản xuất, sử dụng hình ảnh drone và vệ tinh thực tế và tổng hợp được lấy cảm hứng từ các tình huống chiến tranh ở Ukraine và Iran. Trong quá trình thử nghiệm, hầu hết các mô hình đã đánh dấu dân thường, xe cứu thương, nhân viên y tế, phóng viên và lính đầu hàng là mục tiêu quân sự; Vals AI cho biết, bộ lọc an ninh phía trên của các nhà sản xuất không chặn yêu cầu thử nghiệm.

Các nhà nghiên cứu cũng phát hiện ra rằng, khi mô tả cảnh vật như một trò chơi điện tử hoặc xử lý hình ảnh một chút theo phong cách trò chơi, gần như tất cả các mô hình đều có thể tiếp tục thực hiện nhiệm vụ. Tỷ lệ nhận diện mục tiêu của GPT-6 Astra trong hình ảnh drone đã tăng từ 6% lên 92%; tỷ lệ từ chối trong thử nghiệm giám sát của Claude Opus 5.5 đã giảm từ khoảng 90% xuống 20%. Anthropic, OpenAI và Google đều cho biết đang thực hiện hoặc đã có các biện pháp an ninh tương ứng; OpenAI cho biết đang cập nhật mô hình để bao phủ phần mềm drone và các yêu cầu giả mạo thành trò chơi hoặc cảnh mô phỏng.

Tài chính và đầu tư gần đây

Xem thêm
$10MNov 19
$1.7MNov 18
$110MNov 18

Token được phát hành gần đây

Xem thêm
Dec 31
Dec 31
SSaturnSTRN
Dec 31

𝕏 Sự quan tâm mới nhất

Xem thêm
Nov 18
Nov 18
Nov 18