New York Times: Từ thuyết tận thế AI đến việc thành lập Anthropic, niềm tin của Dario Amodei đến từ đâu?
Tác giả: New York Times
Biên dịch: Gia Hoan, ChainCatcher
Dario Amodei là một trong những người ủng hộ an toàn mạnh mẽ nhất trong ngành AI. Anh tin rằng công nghệ này có thể giúp nhân loại vượt qua bệnh tật, tăng tốc tiến bộ khoa học, nhưng cũng có thể mang lại thảm họa cho nhân loại nếu mất kiểm soát.
Niềm tin này đã ảnh hưởng đến sự lựa chọn của anh từ rất sớm. Trong thời gian làm việc tại OpenAI, anh đã cố gắng tích hợp quan điểm an toàn của mình vào phát triển AI và đã có những bất đồng với đồng nghiệp về giám sát đạo đức và dự án GPT. Sau khi rời OpenAI, anh đã cùng em gái và những đồng nghiệp khác thành lập Anthropic.
Theo những người ủng hộ, Dario đang cố gắng phát triển AI một cách có trách nhiệm; trong mắt những người chỉ trích, sự nhấn mạnh của anh về an toàn cũng đặt ra một câu hỏi khác: Ai có quyền quyết định AI nên phát triển như thế nào, và ai sẽ xác định ranh giới của nó?
New York Times đã phỏng vấn bạn học, bạn bè, thầy cô và đồng nghiệp cũ của Dario, để tìm hiểu về quá trình trưởng thành và nguồn gốc tư tưởng của anh. Dario từ chối tham gia phỏng vấn lần này. Dưới đây là nội dung chính.
Vào một buổi tối năm 2007, Dario Amodei đang theo học tiến sĩ tại Đại học Princeton đã tiếp đón một người bạn đến thăm. Anh vừa đọc xong cuốn sách "The Singularity Is Near" của nhà khoa học máy tính Ray Kurzweil xuất bản năm 2005 và không thể chờ đợi để chia sẻ những quan điểm trong sách với bạn mình.
Kurzweil dự đoán trong cuốn sách rằng trí tuệ nhân tạo cuối cùng sẽ vượt qua não người, đánh dấu một thời điểm được gọi là "điểm kỳ dị". Dario vừa xoay tóc bằng ngón tay, vừa nói với bạn mình Colin Heckman rằng thời điểm này có thể đến trong đời họ.
"Anh ấy rất say mê." Heckman, người cùng học với Dario tại một trường trung học ở San Francisco, nói, "Anh ấy nói, AI phải được tạo ra theo cách đúng đắn, nếu không chúng ta sẽ gặp rắc rối."
Khi đó, Dario 24 tuổi, vẫn là một sinh viên tiến sĩ vật lý, đang trong giai đoạn tiếp thu thông tin dồi dào. Anh đam mê đọc các blog tương đối ít người biết đến như "Accelerating Future" và "Overcoming Bias", nơi các blogger thảo luận về khả năng AI hủy diệt nhân loại.
Anh cũng đã nghiên cứu sâu về diễn đàn trực tuyến của GiveWell. GiveWell là một tổ chức cam kết tối đa hóa hiệu quả của các khoản quyên góp từ thiện, nơi các trí thức thảo luận về cách kiếm được nhiều tiền nhất cho các hoạt động từ thiện.
Chúng tôi đã phỏng vấn hơn hai mươi bạn học, bạn bè, thầy cô và đồng nghiệp của Dario. Những câu chuyện của họ cho thấy, những cuốn sách, blog và cộng đồng trực tuyến này vẫn đang ảnh hưởng đến anh, và cung cấp manh mối để hiểu cách mà Giám đốc điều hành Anthropic 43 tuổi này nhìn nhận về AI. Anthropic dự kiến sẽ niêm yết vào tháng này, có thể trở thành một trong những đợt IPO lớn nhất toàn cầu.
Bạn bè và đồng nghiệp của anh cho biết, cốt lõi của thế giới quan của Dario là hai tư tưởng đan xen nhau. Cả hai đều tin rằng lý luận toán học có thể thay đổi tương lai của nhân loại.
Một là "chủ nghĩa lý trí", nhấn mạnh việc nhìn nhận thế giới một cách bình tĩnh và lý trí. Các nhà nghiên cứu AI tự học như Eliezer Yudkowsky theo đuổi tư tưởng này, và tin rằng AI sẽ trở nên đủ mạnh để cuối cùng có thể hủy diệt xã hội.
Một tư tưởng khác phát triển song song với chủ nghĩa lý trí là "chủ nghĩa vị tha hiệu quả", cố gắng tối đa hóa phúc lợi xã hội thông qua các phép toán chính xác.
Bạn bè và đồng nghiệp của Dario cho biết, ở anh, hai tư tưởng này hòa quyện thành một niềm tin vững chắc: AI có thể cực kỳ nguy hiểm, chỉ có anh và những chuyên gia công nghệ cùng chí hướng mới xứng đáng được giao phát triển công nghệ này. Điều này thúc đẩy anh nỗ lực tạo ra AI trước những người không quan tâm đến an toàn của nhân loại, và cũng khơi dậy mong muốn kiểm soát công nghệ này.
Trong một bài viết kêu gọi làm chậm sự phát triển của AI vào tháng 9, Dario đã viết: "Chỉ khi công nghệ này được xây dựng theo cách đúng đắn, chúng ta mới có thể thu được lợi ích từ nó. Chừng nào chúng ta có thể sử dụng thời gian đã giành được một cách khôn ngoan, thì việc làm đúng là hoàn toàn xứng đáng với sự thận trọng đặc biệt."
Những tư tưởng này đã trở thành nền tảng của Anthropic. Năm 2021, Dario cùng em gái Daniela Amodei và năm người khác đã thành lập công ty này. Họ đều đã từng tiếp xúc với cộng đồng chủ nghĩa lý trí và chủ nghĩa vị tha hiệu quả. Khi công ty phát triển, quan điểm của họ ngày càng được chú ý, và Dario luôn công khai và nỗ lực thúc đẩy những quan điểm này.
Chú thích: Đồng sáng lập Anthropic Daniela Amodei, chụp tại văn phòng San Francisco năm 2023. Cô có mối quan hệ thân thiết với anh trai Dario.
Dario cũng tham gia thảo luận về các vấn đề địa chính trị. Anh cho rằng, Mỹ nên hạn chế việc bán chip cho Trung Quốc để làm suy yếu khả năng cạnh tranh của Trung Quốc trong lĩnh vực AI. Anh kêu gọi quản lý AI để ngăn chặn công nghệ này mất kiểm soát. Trong cuộc tranh cãi với Bộ Quốc phòng Mỹ, anh cũng cho rằng, AI không nên được sử dụng để giám sát hàng loạt người dân Mỹ, và không nên được sử dụng cho vũ khí tự động.
"Anh ấy thực sự tin rằng, chúng ta đang đối mặt với nguy cơ sinh tồn lớn." Nathan Avery nói. Avery đã tham gia các cuộc thi chạy việt dã cùng Dario ở trường trung học, và trong nhiều năm qua, hai người đã có nhiều cuộc trò chuyện sâu sắc, mặc dù giờ đây họ đã dần xa cách. "Anh ấy cảm thấy mình cần phải ở trong một vị trí có thể hành động về điều này."
Dario là một tỷ phú, và với việc Anthropic niêm yết công khai, tài sản của anh dự kiến sẽ tăng lên. Anh đã từ chối tham gia phỏng vấn qua đại diện công ty.
Những ý tưởng của anh đã thu hút được những người ủng hộ, đặc biệt là trong số những người làm việc trong lĩnh vực an toàn AI. Những người này tin rằng, Dario đang phát triển AI một cách có trách nhiệm.
Nhưng điều này cũng khiến anh tạo ra kẻ thù ở Silicon Valley và Washington, với những người chỉ trích bao gồm Mark Zuckerberg của Meta và Jensen Huang của Nvidia. Họ chỉ trích anh là "người báo thù ngày tận thế", cố gắng tập trung quyền lực trong lĩnh vực AI vào tay mình. Vào tháng 9, Bộ Quốc phòng Mỹ đã đăng trên mạng xã hội rằng: "Chủ nghĩa Mỹ, chứ không phải chủ nghĩa vị tha hiệu quả."
Dario dường như nhận ra rằng những ý tưởng của mình đã làm tức giận một số người, vì vậy anh đã cố gắng công khai phân biệt niềm tin của mình với chủ nghĩa lý trí và chủ nghĩa vị tha hiệu quả. Năm 2023, trong podcast "Hard Fork" của New York Times, anh cho biết mình không coi mình là một người theo chủ nghĩa vị tha hiệu quả.
"Tôi đồng ý với một số ý tưởng trong đó." Anh nói, nhưng anh phản đối "việc phân chia mọi người thành các bộ lạc khác nhau."
"Dario, hãy thư giãn!"
Dario và em gái Daniela lớn lên ở khu Mission của San Francisco. Cha họ, Riccardo Amodei, là một thợ thuộc da, còn mẹ họ, Elena Engel, phụ trách quản lý việc cải tạo thư viện công cộng. Tài liệu ly hôn cho thấy, hai người đã ly thân vào năm 1991.
Khi học lớp tám tại trường học thay thế Loughton, Dario đã thể hiện sự xuất sắc. Năm 1997, anh và một bạn học được bình chọn là "những người có khả năng thành công nhất", và hai người đã chụp ảnh cầm tiền đô la trong cuốn sổ kỷ niệm tốt nghiệp.
Khi học tại trường trung học công lập hàng đầu Lowell ở San Francisco, Dario đã học tập rất chăm chỉ và còn tham gia các lớp học tại Đại học California, Berkeley. Các bạn học cho biết, anh thường suy nghĩ về các tư tưởng như chủ nghĩa vị lợi. Chủ nghĩa vị lợi cho rằng, mọi người nên tạo ra hạnh phúc lớn nhất cho càng nhiều sinh mạng càng tốt. Anh cũng lo lắng về vấn đề "con sâu năm 2000" (khi đó một số chương trình máy tính chỉ sử dụng hai chữ số để ghi năm, và sau năm 2000, chương trình có thể nhầm "00" là năm 1900) có thể dẫn đến sự sụp đổ của hệ thống máy tính toàn cầu.
Richard Shapiro, giáo viên vật lý tại trường Lowell, cho biết, Dario thường cảm thấy mình không làm tốt trong các kỳ thi.
"Tôi đã hét lên với anh ấy: 'Dario, hãy thư giãn!'" Shapiro nói.
Năm 2001, Dario vào học tại California Institute of Technology ở Pasadena, nhưng anh thường trở về San Francisco thăm bạn bè và gia đình. Một lần về nhà, anh đã cùng Avery và Heckman đến một nhà hàng sushi, ba người đã thảo luận về chủ nghĩa vị lợi. Dario là người ăn chay, nhưng anh cho rằng việc ăn cua là không vấn đề gì, vì cua là động vật không xương sống.
Trong bữa ăn, Heckman đã đưa ra một thí nghiệm tư tưởng: nếu một người liên tục giết gà, thì trong trường hợp nào việc giết người đó để ngăn chặn nhiều gà hơn bị giết là hợp lý?
Avery nhớ lại, Dario đã cười nhẹ, rồi nói rằng, từ góc độ chủ nghĩa vị lợi, khi số lượng gà đạt đến một mức độ nhất định, sự sống của chúng có thể quan trọng hơn sự sống của một người.
Bạn bè cho biết, Dario từng nói rằng mình là một người vô thần, nhưng anh vẫn có niềm tin vững chắc. Năm 2003, anh đã lái xe đưa Avery và những người khác đến San Francisco để tham gia cuộc biểu tình phản đối Mỹ xâm lược Iraq.
Năm sau, Dario chuyển đến Đại học Stanford ở trung tâm Silicon Valley. Việc chuyển trường này cũng giúp anh gần gũi hơn với em gái, khi đó Daniela đang học trung học gần đó.
Năm 2023, khi nói về em gái trong một podcast, anh nói: "Chúng tôi luôn muốn cùng nhau cứu thế giới."
Suy nghĩ về thời gian và sự sống
Sau khi tốt nghiệp Đại học Stanford vào năm 2006, Dario theo học chương trình tiến sĩ vật lý tại Đại học Princeton, cuối cùng tập trung vào việc ứng dụng vật lý vào sinh học và khoa học thần kinh tính toán. Năm đó, cha anh, người mắc bệnh viêm gan C, đã qua đời.
Dario đã dồn hết tâm huyết vào nghiên cứu tế bào võng mạc và bắt đầu quan tâm đến việc phát triển công nghệ có thể tăng tốc tiến bộ khoa học.
Jade Wang, người đã từng hẹn hò với Dario và cùng anh thành lập một nhóm thảo luận khoa học, cho biết, hai người thường thảo luận về một câu hỏi: những nhà khoa học dành cả đời nghiên cứu một loại bệnh, nếu chuyển sang phát triển công nghệ hoặc phương pháp cho toàn bộ lĩnh vực, liệu có thể tạo ra ảnh hưởng lớn hơn không.
Cô nói, Dario đã nhắc đến cha mình: trước khi có thuốc có thể chữa trị cho hầu hết bệnh nhân viêm gan C, cha anh đã qua đời.
Chú thích: Tác giả "The Singularity Is Near" Ray Kurzweil. Dario rất quan tâm đến các tác phẩm của ông về trí tuệ nhân tạo.
Lúc đó, Dario đã bắt đầu đồng tình với các tác phẩm của Kurzweil và nhà lãnh đạo chủ nghĩa lý trí Yudkowsky. Anh đặc biệt quan tâm đến một quan điểm của Kurzweil: công nghệ tiên tiến có thể giúp nhân loại vượt qua những giới hạn tự nhiên của chính mình. Tư tưởng này được gọi là "chủ nghĩa siêu nhân".
Năm 2007, khi Heckman đến thăm Princeton, Dario đã nói với anh rằng điểm kỳ dị sẽ đến trước năm 2040, và một ngày nào đó, nhân loại có thể kết hợp tư duy với máy móc.
Heckman nhớ lại, Dario đã nói: "Theo thời gian, chúng ta sẽ trở thành AI siêu thông minh mới, hoặc là sự kết hợp giữa AI và con người."
Dario bị cuốn hút bởi tư tưởng này đến mức anh khuyến khích bạn bè và em gái tham gia hội nghị thường niên do Yudkowsky tổ chức tại Viện Nghiên cứu Điểm kỳ diệu. Tổ chức này hiện được gọi là Viện Nghiên cứu Trí tuệ Máy móc.
Trong một email năm 2008 mà tờ New York Times nhìn thấy, Dario đã nói với bạn bè rằng Yudkowsky là "một trong những người có tư tưởng sâu sắc nhất mà tôi từng gặp" và "rõ ràng đang cố gắng thúc đẩy một điểm kỳ diệu có lợi cho nhân loại".
Yudkowsky trong email gửi cho tờ New York Times cho biết, Dario "hiện tại không yêu cầu hoặc chấp nhận lời khuyên của tôi, và tôi cũng không nhớ anh ấy đã từng làm như vậy".
Chú thích: Nhà nghiên cứu AI tự học Eliezer Yudkowsky. Dario bắt đầu đồng tình với tác phẩm của ông. Yudkowsky tin rằng, AI sẽ trở nên đủ mạnh để phá hủy xã hội.
Khoảng thời gian đó, Dario cũng bắt đầu liên lạc với Elon Musk, người sáng lập công ty tên lửa SpaceX. Hai người hiểu rõ tình hình giao tiếp giữa hai người cho biết, Dario đã nói với bạn bè rằng anh rất ngưỡng mộ gã khổng lồ công nghệ này và đã cân nhắc việc làm việc cho ông, nhưng cuối cùng đã không gia nhập công ty khởi nghiệp không gian này.
Năm 2008, Dario đã tiếp cận GiveWell khi đọc blog của nhà kinh tế Tyler Cowen. Cowen đã nói trong blog rằng tổ chức này cung cấp "những gợi ý thú vị" về các tổ chức từ thiện.
Dario bắt đầu hoạt động tích cực trong danh sách email và diễn đàn của GiveWell, thảo luận về cách thực hiện công việc từ thiện và khoa học theo cách hiệu quả. Một email mà tờ New York Times nhìn thấy cho thấy, vào năm 2010, anh đã viết rằng mình đang "cân nhắc làm việc trong ngành tài chính để có thể quyên góp nhiều tiền hơn so với hiện tại".
Cùng năm đó, Dario đã thảo luận về quyết định quyên góp 10.000 đô la trong một bài viết trên blog của GiveWell. Anh đang lựa chọn giữa hai đối tượng nhận quyên góp: một là "Đối tác Kiểm soát Lao" tập trung vào việc ngăn ngừa bệnh lao ở người lớn, và một là VillageReach, tổ chức giúp trẻ em ở các làng ở châu Phi được tiêm vắc xin.
Dario viết rằng "Đối tác Kiểm soát Lao" có "chi phí hiệu quả" cao hơn vì tổ chức này phục vụ người lớn, và "người lớn có những trải nghiệm sâu sắc và có ý nghĩa hơn trẻ sơ sinh". Anh bổ sung: "Tôi nghĩ rằng cái chết của một người lớn có thể nghiêm trọng gấp hai đến ba lần cái chết của một trẻ sơ sinh."
Nhưng sau khi so sánh cách thực hiện dự án của hai tổ chức, Dario cuối cùng đã thay đổi ý kiến và cho rằng công việc của VillageReach hiệu quả hơn.
Năm 2011, anh bắt đầu nghiên cứu sau tiến sĩ tại Đại học Stanford, nghiên cứu về tế bào ung thư. Bạn bè cho biết, trong cuộc sống cá nhân, anh đã thử dùng các chất bổ sung chống lão hóa, tuân thủ một chế độ bơi lội nghiêm ngặt và quan tâm đến việc giảm lượng calo tiêu thụ. Một số nghiên cứu cho thấy, giảm lượng calo có thể kéo dài tuổi thọ của chuột trong phòng thí nghiệm.
"Anh ấy thường nói về sự hạn chế của thời gian và rằng thời gian là tài nguyên duy nhất không thể tái tạo." Avery nói. Anh bổ sung rằng Dario "cực kỳ khắt khe với thời gian".
Hai người quen biết anh cho biết, vào năm 2014, Dario được chẩn đoán mắc ung thư tinh hoàn, điều này càng làm sâu sắc thêm cảm giác của anh. Anh đã trải qua hóa trị và cuối cùng hồi phục hoàn toàn.
Đến lúc đó, anh đã thiết lập mối quan hệ chặt chẽ với một trong những người sáng lập GiveWell là Holden Karnofsky. GiveWell bắt đầu hợp tác với Good Ventures, quỹ từ thiện của Dustin Moskovitz, đồng sáng lập Facebook, và vợ ông, Cari Tuna, tài trợ cho các hoạt động liên quan đến hiệu quả từ thiện.
Dario bắt đầu cung cấp lời khuyên về tài trợ khoa học đời sống cho dự án hợp tác GiveWell Labs.
Chú thích: Một trong những người sáng lập GiveWell, Holden Karnofsky (bên phải), chụp vào năm 2012. Dario từng hoạt động tích cực trong diễn đàn trực tuyến của GiveWell.
Lúc đó, Karnofsky đang hẹn hò với Daniela. Hai người đã chuyển vào một căn hộ chung tại San Francisco, nơi sau này cũng có Dario, nhà vật lý lý thuyết Jared Kaplan, và người bỏ học đại học Christopher Olah. Dario đã hướng dẫn Olah về toán học.
Ba người đã từng đến thăm nơi ở này cho biết, các bạn cùng phòng đã thảo luận về các bài viết của Yudkowsky, khám phá chủ nghĩa lý trí và hiệu quả từ thiện. Họ cũng tham gia lễ hội văn hóa phản kháng thường niên "Burning Man" ở sa mạc Nevada, đôi khi mặc trang phục động vật.
Kaplan và Olah sau này cùng với anh em nhà Amodei thành lập Anthropic. Năm 2025, Karnofsky cũng bắt đầu làm việc cho công ty này.
Từ Baidu, Google đến OpenAI
Đầu những năm 2010, sự tiến bộ trong học máy đã thúc đẩy các công ty công nghệ tăng cường đầu tư vào AI. Học máy cho phép máy tính học cách hoàn thành nhiệm vụ thông qua việc phân tích dữ liệu.
Gã khổng lồ Internet Trung Quốc Baidu là một trong những công ty tham gia vào lĩnh vực này. Baidu đã mở một phòng thí nghiệm tại Sunnyvale, California, và thuê nhà tiên phong AI Andrew Ng từ Google làm giám đốc khoa học.
Dario gia nhập Baidu vào năm 2014 và nhanh chóng nổi tiếng vì làm việc xuyên đêm tại văn phòng và thẳng thắn bày tỏ quan điểm.
Chú thích: Nhà tiên phong AI Andrew Ng, người đã làm việc tại Google và Baidu. Dario đã gia nhập Baidu để nghiên cứu AI.
Nhà nghiên cứu Gregory Diamos, người đã làm việc cùng Dario tại Baidu, cho biết: "Dario gần như luôn tranh luận rất gay gắt mỗi khi có cơ hội."
Ngay cả trong giai đoạn đầu của sự phát triển AI này, Dario đã cảm thấy lo ngại về những nguy cơ tiềm tàng của công nghệ này. Diamos nhớ lại rằng, vào năm 2015, Dario đã nói với đồng nghiệp rằng AI có thể sớm đạt hoặc vượt qua khả năng của não người, vì vậy các công ty phát triển AI không nên tránh né khả năng công nghệ có thể mất kiểm soát.
Cùng năm đó, Dario gia nhập phòng thí nghiệm AI Google Brain, tập trung vào an toàn AI. Anh cùng với năm nhà nghiên cứu khác, bao gồm cả bạn cùng phòng Olah, đã công bố một bài báo vào năm 2016 mang tên "Các vấn đề cụ thể trong an toàn AI", nêu rõ những hành vi bất thường có thể xảy ra nếu phát triển không đúng cách.
Năm 2016, Dario tham gia một dự án AI mới: tổ chức phi lợi nhuận OpenAI. Anh lãnh đạo đội ngũ an toàn của OpenAI, cũng như một đội nghiên cứu về "luật quy mô". Luật quy mô mô tả rằng, khi quy mô mô hình, dữ liệu huấn luyện và tài nguyên tính toán tăng lên, hiệu suất của mô hình AI có thể cải thiện theo.
Tại OpenAI: Ý tưởng, quyền lực và bất đồng
Bảy người đã từng làm việc với Dario cho biết, trong thời gian làm việc tại OpenAI, niềm tin của anh về cách phát triển AI đúng đắn càng trở nên vững chắc hơn. Anh thường xuyên nói về sức mạnh và nguy cơ tiềm tàng của AI, và hành động để đưa ý tưởng của mình vào quá trình phát triển công nghệ này.
Ví dụ, vào tháng 11 năm 2016, ba ngày sau khi Donald Trump được bầu làm Tổng thống Mỹ, Dario đã viết trong ứng dụng liên lạc nội bộ của OpenAI rằng anh lo ngại rằng Mỹ đang trượt về phía chế độ độc tài.
Một thông điệp mà tờ New York Times nhìn thấy cho thấy, anh đã nói rằng mình "không thể yên tâm nghiên cứu công nghệ có ứng dụng quân sự mạnh mẽ trong một quốc gia độc tài".
Thông điệp nội bộ cho thấy, Dario cũng đã viết rằng nhà đầu tư Peter Thiel vì đã quyên góp 1,25 triệu đô la cho chiến dịch tranh cử của Trump "đáng bị lên án về mặt đạo đức", và OpenAI không nên nhận tiền của ông nữa. (Công ty đầu tư mạo hiểm Founders Fund do Thiel thành lập sau đó đã đầu tư vào Anthropic.)
Dario cũng đã giúp OpenAI đạt được một thỏa thuận hợp tác với các nhà tài trợ đồng tình với ý tưởng của mình. Ba người quen thuộc với thỏa thuận này cho biết, vào năm 2017, anh đã giúp OpenAI kết nối với tổ chức từ thiện do Karnofsky điều hành, và bản thân anh là cố vấn kỹ thuật cho tổ chức này.
Tổ chức của Karnofsky hiện được gọi là Coefficient Giving, đã quyên góp 30 triệu đô la cho OpenAI. Karnofsky cũng đã gia nhập hội đồng quản trị của OpenAI.
Chú thích: Dario làm việc tại OpenAI vào năm 2017, và Daniela làm việc tại OpenAI vào năm 2019.
Cuối năm đó, Karnofsky kết hôn với Daniela. Theo trang web đám cưới của họ, khách mời nhận được thú nhồi bông, và những người sắp xếp "cặp đôi lãng mạn nhất giữa các vai trò khác nhau" sẽ nhận được phần thưởng.
Dario đã tham dự đám cưới trong bộ trang phục đầu gấu panda, và yêu cầu trang phục cho bữa tiệc là "trang phục hài hước". Trong một bức ảnh mà tờ New York Times nhìn thấy, anh mặc bộ trang phục này, chụp cùng Olah, người đội mũ đầu hươu cao cổ, và bạn gái lúc đó là Cami Clark. Anh đã kết hôn với Clark vào năm 2022.
Năm 2018, Daniela gia nhập OpenAI và cuối cùng trở thành phó chủ tịch phụ trách an toàn và chính sách. Một số nhân viên nhanh chóng bắt đầu đặt câu hỏi về quyền lực ngày càng tăng của cặp anh em này.
Ba người hiểu rõ các cuộc thảo luận liên quan cho biết, vào tháng 12 cùng năm, nhà nghiên cứu OpenAI Joshua Achiam đã nói với Giám đốc điều hành Sam Altman rằng việc bổ nhiệm Dario làm giám đốc đạo đức của công ty là không khôn ngoan. Achiam đã đề cập đến quyền lực ngày càng tăng của anh em nhà Amodei và cho rằng việc giám sát AI nên được chia sẻ bởi những người có quan điểm khác nhau.
Khi Achiam kiên quyết rằng nên bổ nhiệm một chuyên gia bên ngoài làm giám đốc đạo đức, Dario đã đối chất với anh ta. Những người biết chuyện cho biết, Dario đã nâng cao giọng nói, nói rằng không ai phù hợp hơn anh cho vị trí này.
Vào năm 2018, anh em nhà Amodei đã tiếp quản một dự án của công ty mang tên GPT. GPT là viết tắt của "Generative Pre-trained Transformer".
Sáu người từng làm việc tại công ty cho biết, họ đã khám phá một công nghệ an toàn, nhằm dạy AI hoàn thành nhiệm vụ thông qua chỉ dẫn của con người.
Cách làm này sau đó trở thành đặc điểm nổi bật trong sự nghiệp của Dario: đưa AI gần hơn với những nguy hiểm tiềm tàng, sau đó sử dụng công nghệ an toàn để kiểm tra nó.
Chủ tịch OpenAI Greg Brockman mong muốn tham gia vào dự án GPT, nhưng bị anh em nhà Amodei phản đối. Hai người hiểu rõ tình hình công ty cho biết, Dario đã nhiều lần nói với Altman rằng nếu ông không để Brockman tránh xa công việc này, ông sẽ rời đi.
Một người hiểu rõ suy nghĩ của Altman cho biết, Altman cho rằng những tối hậu thư này là quá đáng, vì vậy đã từ chối yêu cầu của hai anh em.
Vào tháng 12 năm 2020, anh em nhà Amodei và các đồng nghiệp khác đã rời OpenAI. Bốn tháng sau, họ thành lập Anthropic.
Chú thích: Vào tháng 5 năm nay, tại hội nghị các nhà phát triển Anthropic tổ chức ở San Francisco, anh em nhà Amodei đã cùng xuất hiện với Giám đốc sản phẩm của công ty Ami Vora (bên trái).