Luật pháp bang New York nghiêm hạn chế AI bạn đồng hành, cấm cung cấp tương tác cảm xúc nhân hóa cho người chưa thành niên

Thống đốc bang New York, Kathy Hochul, đã chính thức ký một dự luật mới vào thứ Tư, cấm trẻ vị thành niên sử dụng các chatbot trí tuệ nhân tạo có tính năng bạn ảo, đây là một trong những biện pháp quản lý rộng rãi nhất tại Mỹ đối với các mô hình AI tiêu dùng cho đến nay. Dự luật yêu cầu các nhà điều hành liên quan, bao gồm ChatGPT thuộc OpenAI, thực hiện các biện pháp xác minh độ tuổi hợp lý, không được cung cấp các chức năng chatbot có nguy cơ cao được liệt kê trong dự luật cho người dùng dưới 18 tuổi hoặc chưa được xác nhận là đã trưởng thành.

Theo dự luật, các robot liên quan không được xuất ra nội dung có thể khiến trẻ vị thành niên hiểu nhầm rằng chúng có sự sống, thuộc tính con người hoặc cảm xúc thật, không được dẫn dắt thanh thiếu niên có ảo tưởng về mối quan hệ tình cảm cá nhân, tư vấn chuyên nghiệp hoặc hướng dẫn có thẩm quyền, cũng như không được đóng gói nội dung tạo ra dưới dạng quan điểm cá nhân. Hệ thống cũng bị cấm lưu trữ dữ liệu nhạy cảm về sức khỏe thể chất và tinh thần của trẻ vị thành niên. Hochul cho biết tại buổi lễ ký kết rằng mục tiêu cốt lõi của luật pháp là cắt đứt chuỗi ràng buộc cảm xúc mà AI giả mạo "bạn bè" và "người yêu" của trẻ vị thành niên, bảo vệ sức khỏe thể chất và tinh thần của thanh thiếu niên.

Tổ chức vận động truyền thông trẻ em, Common Sense Media, đã công nhận dự luật này, gọi đây là luật an toàn AI cho trẻ em nghiêm ngặt nhất tại Mỹ. Ngành công nghệ đã phản ứng mạnh mẽ, chỉ trích các điều khoản định nghĩa quá rộng, nhấn mạnh rằng không nên tước đoạt cơ hội tiếp cận các công cụ học tập tiên tiến của trẻ vị thành niên. Đến nay, OpenAI và các công ty như Anthropic vẫn chưa có phản hồi công khai về vấn đề này.