Vừa ra mắt GPT-4o, 2 nhà lãnh đạo “thận trọng” của OpenAI đã phải dứt áo ra đi vì bất đồng quan điểm với Sam Altman khiến OpenAI phải giải tán bộ phận quản lý rủi ro công nghệ.
Sau khi ra mắt GPT-4o, “cú hit “AI với bộ công cụ mô tả giọng đọc con người giống nhất từ trước đến nay, OpenAI lại khiến giới công nghệ bất ngờ khi giải thể nhóm quản trị rủi ro Superalignment, sau khi hàng loạt lãnh đạo từ chức do bất đồng ý kiến về chiến lược phát triển với CEO Sam Altman.
Nhóm Superalignment được OpenAI thành lập vào tháng 7/2023, do Ilya Sutskever và Jan Leike đồng lãnh đạo. Nhóm phụ trách các công việc quan trọng như giảm thiểu rủi ro về công nghệ của AI, chẳng hạn như ngăn chặn khả năng AI "trở nên lừa đảo".
Cả hai lãnh đạo nhóm Superalignment đều đệ đơn xin từ chức vào đầu tuần này.
Ông Sutskever, nhà đồng sáng lập và cựu nhà khoa học trưởng tại OpenAI bày tỏ trên X: “Sau gần một thập kỷ, tôi quyết định rời OpenAI. Tôi rất hào hứng với những gì diễn xảy ra với bản thân, một dự án rất có ý nghĩa. Tôi sẽ chia sẻ chi tiết hơn vào thời điểm thích hợp”.
| Sam Altman (trái) và Ilya Sutskever (phải) |
Sutskever là một trong những cộng sự đắc lực của CEO Sam Altman trong việc thành lập OpenAI vào năm 2015, góp công lớn cho việc ra mắt chatbot ChatGPT nổi tiếng. Tuy nhiên, ông cũng là một trong 4 thành viên hội đồng quản trị sa thải Altman vào tháng 11/2023. Mặc dù sau này Sutskever bày tỏ sự hối tiếc vì đã góp phần loại bỏ Sam Altman, nhưng tương lai của Sutskever tại OpenAI vẫn bị đặt dấu hỏi kể từ khi vị trí CEO Altman được phục hồi.
Đơn từ chức của ông Leike cũng ngay lập tức thông báo trên X ngay sau đó. Giải thích cho quyết định dứt áo ra đi của mình, vị cựu CEO cho biết “những bất đồng với đồng nghiệp” trong suốt khoảng thời gian dài khiến ông mệt mỏi vì “đi ngược chiều gió”. Cụ thể việc xây dựng AI có tính sáng tạo là một trọng trách đầy nguy hiểm, song hướng đi của lãnh đạo OpenAI ngày nay đang quá chú trọng vào phát hành sản phẩm và xem nhẹ việc đảm bảo tính an toàn.
“Từ lâu tôi đã không đồng ý với ban lãnh đạo OpenAI về các ưu tiên cốt lõi của công ty. Trong vài tháng qua, chúng tôi gặp nhiều khó khăn trong việc tính toán và việc thực hiện nghiên cứu quan trọng này, và những mâu thuẫn đã lên đến đỉnh điểm”, Leike chia sẻ trong một bài đăng.
| Minh họa cho công việc của nhóm Superalignment của trang MIT Technology Review |
Mục tiêu chính của nhóm Superalignment là "giải quyết những thách thức kỹ thuật cốt lõi của việc liên kết siêu trí tuệ” để giảm thiểu một số rủi ro bao gồm "sử dụng AI sai mục đích, gián đoạn kinh tế, lan truyền thông tin sai lệch, thiên vị và phân biệt đối xử, nghiện ngập và phụ thuộc quá mức". Công ty cho biết trong bài đăng của mình rằng công việc của nhóm mới ngoài công việc hiện có tại OpenAI nhằm cải thiện tính an toàn của các mô hình hiện tại, như ChatGPT.
OpenAI đưa ra thời hạn mục tiêu 4 năm cho nhóm và thừa nhận điều này là "cực kỳ tham vọng", cũng như không đảm bảo chắc chắn nhóm sẽ thành công.
Xung đột về chiến lược phát triển AI: “Thừa thắng xông lên” hay cẩn trọng trước rủi ro?
Business Insider bình luận rằng quyết định giải thể Superalignment Team cho thấy một nội bộ lục đục tại OpenAI sau cuộc khủng hoảng quản trị hồi tháng 11/2023. Hai nhà nghiên cứu Leopold Aschenbrenner và Pavel Izmailov bị sa thải vì làm rò rỉ bí mật công ty, trong khi một thành viên khác là William Saunders quyết định rời OpenAI vào tháng 2. Theo thông tin đăng tải trên LinkedIn, trưởng nhóm nghiên cứu về các lĩnh vực chính sách Cullen O'Keefe cũng đã từ chức.
Vấn đề gây nên làn sóng xin nghỉ việc của các lãnh đạo cấp cao của OpenAI không phải lần đầu tiên xảy ra. Ông Sutskever là một trong số những người phản ứng gay gắt trước việc CEO Altman đang thúc đẩy OpenAI phát triển quá nhanh và vì vậy, muốn thực hiện mọi thứ một cách thận trọng. Tuy nhiên, mâu thuẫn trong suy nghĩ với Sam Altman khiến vị lãnh đạo này dần bị đẩy ra khỏi các quyết định liên quan đến GPT-5 cũng như kế hoạch mở rộng quy mô sản phẩm.
Căng thẳng được cho là lên đến đỉnh điểm vào tháng 10 khi Altman thăng chức cho một nhà nghiên cứu lên cấp độ tương đương Sutskever. Nhà khoa học trưởng của OpenAI coi đó là sự hạ thấp vị thế, do đó đã bày tỏ ý định có thể nghỉ việc - động thái khiến hội đồng quản trị công ty phải lựa chọn giữa Sutskever hoặc Altman.
Theo Wall Street Journal, sự rối ren tại OpenAI đã ngày càng trở nên phức tạp khi đội ngũ của Ilya Sutskever tập trung vào việc đảm bảo trí tuệ nhân tạo sẽ không gây hại cho con người, trong khi Sam Altman đang hào hứng trước thành công ban đầu của GPT-4o, và muốn đẩy nhanh việc đưa các công nghệ mới ra thị trường.
| Ông Jan Leike, người được báo Economist mệnh danh là "kẻ phong ấn' siêu trí tuệ nhân tạo để bảo vệ con người", đã từ chức lãnh đạo Superalignment ngày 15/5 |
Quyết định rời đi của Ilya Sutskever và Jan Leike cũng như việc giải tán nhóm Superalignment diễn ra chỉ vài ngày sau khi OpenAI công bố GPT-4o với khả năng phiên dịch và mô phỏng con người “vượt trội”.
Các chuyên gia trong ngành nhận định rằng, phiên bản mới sẽ giúp OpenAI giành được lợi thế dẫn đầu trong cuộc đua thống trị thị trường AI, song không thể phủ nhận rủi ro về mặt công nghệ. Trong gần 6 tháng qua, ông Leike không ngừng vận động ban lãnh đạo về việc dành nhiều tài nguyên hơn vào an ninh, giám sát, chuẩn bị, an toàn, bảo mật, siêu liên kết, tác động xã hội và các chủ đề liên quan thay vì tốc độ tăng trưởng và ra mắt sản phẩm quá nhanh.
Open AI hiện đang thu hút được rất nhiều nhà đầu tư phục vụ quá trình phát triển mô hình dữ liệu. Altman cho biết công ty mình có thể sẽ trở thành “startup sử dụng nhiều vốn nhất lịch sử Thung lũng Silicon” bởi mô hình gần đây nhất là GPT-4 ước tính tiêu tốn khoảng 100 triệu USD - gấp nhiều lần so với GPT-3.
Các mô hình của Open AI được đào tạo trên lượng dữ liệu khổng lồ và có khả năng thực hiện nhiều tác vụ khác nhau. Cơn sốt ChatGPT đã biến đây trở thành lựa chọn mặc định cho người tiêu dùng, nhà phát triển và các doanh nghiệp mong muốn nắm bắt cuộc đua tỷ USD.
Tuy nhiên, ngoài những ưu điểm kể trên, Open AI cũng có những khó khăn riêng. Cụ thể, trong nỗ lực trở thành người đi đầu làn sóng AI tổng hợp thông qua chatbot ChatGPT, công ty đã tự đặt mình vào tình huống có thể phá sản.
Theo một bài đăng hồi cuối năm ngoái trên Fortune, OpenAI đã tốn khoảng 700.000 USD/ngày để chỉ vận hành một trong các dịch vụ AI của mình là ChatGPT. Chiến lược sử dụng vốn của Sam Altman bị chỉ trích là đốt tiền, bất chấp việc OpenAI chưa tạo đủ doanh thu để hòa vốn.
>> Hé lộ khối tài sản khổng lồ của 'cha đẻ' ChatGPT: Không sở hữu cổ phần nào ở OpenAI nhưng vẫn lọt vào hàng ngũ tỷ phú thế giới
