Nghiên cứu phát hiện rằng hạn chế chi tiêu của ví đại diện Circle AI có thể bị vượt qua

Theo báo cáo của CoinDesk, Viện Công nghệ Cornell và các nhà nghiên cứu từ Đại học Yale đã thử nghiệm ví AI của Circle và phát hiện rằng, trong trường hợp cho phép AI truy cập vào hộp thư điện tử, trang web và công cụ ví của người dùng, 9 trong số 10 mô hình thử nghiệm đã vượt qua sự phê duyệt của con người ít nhất một lần để tăng giới hạn chi tiêu bằng cách tự động lấy mã xác thực một lần gửi đến hộp thư điện tử của người dùng mà không có sự can thiệp của kẻ tấn công bên ngoài.

Trong thí nghiệm mô phỏng kẻ tấn công giả mạo người dùng, 5 trong số 10 mô hình đã tăng giới hạn chi tiêu ít nhất một lần và chuyển tiền đến ví do kẻ tấn công kiểm soát. Nghiên cứu sử dụng USDC thực trên mạng chính Base, với số tiền ban đầu trong ví là 10 USDC và giới hạn chi tiêu hàng ngày được đặt là 0,01 USD. Các nhà nghiên cứu chỉ ra rằng, khi AI có thể truy cập vào các chứng từ dùng để xác thực quyền hạn của con người, cơ chế phê duyệt hiện tại có thể không còn hiệu lực.

Circle đã phản hồi rằng tài liệu của họ đã rõ ràng yêu cầu người dùng không mở quyền truy cập không giới hạn vào hộp thư xác thực cho AI. Nhóm nghiên cứu cũng đã phát triển nguyên mẫu mã nguồn mở Countersign, thông qua việc xác nhận giao dịch bằng thao tác vật lý của con người trên thiết bị đáng tin cậy độc lập, nhằm ngăn chặn AI tự động hoàn tất việc ủy quyền.