Giám đốc điều hành của Anthropic đã viết một bài dài để phản hồi những nghi ngờ về an toàn, cho rằng cần phải giữ công nghệ ở vị trí tiên tiến nhất
Gần đây, Anthropic đã nộp một dự thảo luật an toàn AI cho các nhà lập pháp Hoa Kỳ, bị các nhà bảo vệ an toàn AI của Mỹ nghi ngờ. Dự thảo đặt ra ngưỡng cao cho việc chính phủ khẩn cấp ngừng các mô hình nguy hiểm, rủi ro phải liên quan đến vũ khí sinh học, tấn công mạng hoặc AI mất kiểm soát, và có thể gây ra hơn 50 người chết hoặc bị thương nặng, hoặc thiệt hại trên 1 tỷ đô la; một số điều khoản cũng có thể hạn chế quyền giám sát của chính quyền bang.
Nathan Calvin, người đứng đầu chiến lược của tổ chức an toàn AI Encode, sau đó đã tổng hợp các quyết định của Anthropic trong năm qua. Vào tháng 2 năm nay, công ty đã sửa đổi chính sách an toàn nghiêm ngặt ban đầu: trước đây cam kết nếu các biện pháp an toàn không theo kịp khả năng của mô hình thì sẽ tạm dừng đào tạo hoặc phát hành, chính sách mới không còn yêu cầu công ty tự ngừng phát triển ở giai đoạn rủi ro cao hơn, lý do là đối thủ có thể tận dụng cơ hội vượt lên. Cùng thời điểm, công ty đã đầu tư khổng lồ vào sức mạnh tính toán, thành lập đội ngũ chip, và giao cho Claude đảm nhận nhiều nhiệm vụ phát triển AI hơn.
Vào ngày 21 tháng 10, CEO của Anthropic, Dario Amodei, đã đăng một bài viết dài trên X để phản bác. Ông thừa nhận công ty đã mắc một số sai lầm, nhưng khẳng định việc cạnh tranh để có được khả năng AI tiên tiến nhất không trái với sứ mệnh an toàn, và cho biết công ty theo đuổi cuộc đua lên phía trước, chỉ có giữ vững ở rìa công nghệ mới có khả năng thúc đẩy ngành nâng cao tiêu chuẩn an toàn. Ông đã liệt kê chín quyết định an toàn đã khiến công ty phải trả giá thương mại, bao gồm việc hạn chế mở cửa mô hình cấp Mythos trong nhiều tháng, cũng như hạn chế nghiêm ngặt các yêu cầu liên quan đến sinh học. Bản đồ an toàn được công ty cập nhật vào ngày 19 tháng 10 cho biết, chính sách hiện tại chủ yếu nhắm vào việc triển khai các mô hình nguy hiểm, trong tương lai có thể cần phải trực tiếp hạn chế tốc độ phát triển, và dự kiến sẽ đưa ra các đề xuất chính sách liên quan trước ngày 15 tháng 1 năm 2027, hoặc giải thích lý do tại sao không đưa ra.