Apple mở rộng việc kiểm duyệt App Store, các ứng dụng giả mạo sâu bằng AI vi phạm sẽ bị gỡ bỏ

Công ty Apple thông báo mở rộng quy tắc kiểm duyệt App Store, đưa hình ảnh thân mật không tự nguyện do AI tạo ra vào quản lý. Nền tảng trước đó đã cấm nội dung khiêu dâm, quy định mới yêu cầu các nhà phát triển chủ động ngăn chặn và xóa bỏ nội dung giả mạo sâu do AI tạo ra; nếu không thực hiện hành động hiệu quả, các ứng dụng chứa nội dung vi phạm sẽ bị buộc gỡ bỏ.

Điều khoản 1.2 cập nhật đặc biệt đề cập đến các ứng dụng tạo nội dung AI, và chỉ đích danh các sản phẩm gây tranh cãi như Grok. Trước đó, đã có người dùng khiếu nại rằng Grok thuộc xAI được sử dụng để tạo ra hình ảnh giả mạo khỏa thân và gợi ý tình dục. Đầu năm nay, Apple đã cảnh báo xAI rằng nếu cho phép nội dung như vậy lan truyền, Grok sẽ bị gỡ khỏi App Store; sau đó xAI đã triển khai các biện pháp an toàn, phiên bản cập nhật mới được phê duyệt.

Điều khoản 2.5.19 mới bổ sung nhắm vào cái gọi là "kế hoạch tráo đổi", nếu nhà phát triển ẩn chức năng hoặc mô-đun mới ngoài phiên bản đã nộp để kiểm duyệt, đặc biệt là kích hoạt các chức năng có hại như "cởi bỏ quần áo" chỉ sau khi được phê duyệt, có thể bị gỡ khỏi cả App Store và Chương trình Nhà phát triển Apple. Cập nhật phần 5 cũng sẽ mở rộng lệnh cấm đối với các ứng dụng buôn bán người hoặc khai thác trẻ em đến các kênh phân phối ứng dụng thay thế. Apple cho biết, khi các nhà phát triển vi phạm các nguyên tắc này, các ứng dụng liên quan sẽ bị gỡ bỏ và tư cách nhà phát triển sẽ bị chấm dứt.