OpenAI và Anthropic sẽ lần đầu tiên thiết lập phòng chiến dịch cho cuộc bầu cử giữa kỳ ở Mỹ

Theo báo cáo của Semafor, OpenAI và Anthropic sẽ lần đầu tiên thiết lập một phòng chiến dịch đặc biệt cho cuộc bầu cử giữa kỳ ở Mỹ, nhằm đảm bảo rằng các nền tảng của họ cung cấp thông tin bầu cử chính xác. Người phát ngôn của Anthropic cho biết, các đội ngũ của công ty đã tăng cường bảo vệ liên quan đến bầu cử và thực hiện chính sách nền tảng trong suốt cả năm, và đội ngũ đặc biệt được thành lập trước cuộc bầu cử sẽ theo dõi tình trạng lạm dụng trên nền tảng và chuẩn bị ứng phó nhanh chóng với các sự cố bất ngờ.

Việc các nền tảng công nghệ thiết lập phòng chiến dịch bầu cử có thể được truy nguyên từ năm 2018, khi Meta lần đầu tiên thành lập các đội ngũ như vậy để đối phó với sự lan truyền thông tin sai lệch trong bầu cử. Hiện nay, các rủi ro liên quan còn bao gồm video giả mạo sâu và việc tìm kiếm AI phát tán thông tin sai lệch. Báo cáo đã đưa ra ví dụ rằng, Google AI Mode tuần trước không trả lời được câu hỏi ai đã thắng cuộc bầu cử tổng thống Mỹ năm 2020, Google cho biết đang sửa chữa.

Đầu ra của AI khó dự đoán, các vấn đề an ninh mạng gần đây, cũng như việc các công cụ tìm kiếm AI có xu hướng đáp ứng mong đợi của người dùng, đều sẽ làm tăng độ khó trong việc giám sát và ứng phó. Cựu giám đốc chính sách công của Meta, Katie Harbath, cho biết vai trò của phòng chiến dịch là có thể nhanh chóng đánh giá và phân loại xử lý theo quy trình đã định khi xuất hiện các vấn đề khó lường.