Giám đốc cấp cao OpenAI từ chức, tuyên bố bảo mật không còn là ưu tiên hàng đầu của công ty

Trong nhiều tháng, OpenAI đã mất đi những nhân viên vốn quan tâm sâu sắc đến việc đảm bảo trí tuệ nhân tạo (AI) được an toàn. Giờ đây, việc Jan Leike từ chức khỏi OpenAI lại là một diễn biến quan trọng khác, làm nổi bật những thách thức và căng thẳng đang diễn ra trong cộng đồng nghiên cứu AI giai đoạn hiện nay.

Trong diễn biến mới nhất, Jan Leike, đồng giám đốc nhóm Superalignment của OpenAI, đã tuyên bố từ chức khỏi công ty. Động thái này là một đòn giáng mạnh vào OpenAI (công ty đã và đang đi đầu trong nghiên cứu và phát triển trí tuệ nhân tạo).

OpenAI đã thành lập nhóm Superalignment vào tháng 7/2023 với mục tiêu chính là đảm bảo rằng, các hệ thống AI có “siêu trí tuệ” và “thông minh hơn con người” có thể tuân theo ý định của con người. Vào thời điểm mới thành lập, OpenAI cam kết đầu tư 20% sức mạnh tính toán của mình trong 4 năm tới để đảm bảo tính bảo mật cho các mô hình AI. Sáng kiến ​​này được coi là một bước đi quan trọng hướng tới việc phát triển các công nghệ AI an toàn và có trách nhiệm hơn.

Sự ra đi của Leike đặc biệt đáng chú ý, bởi anh vốn đảm nhiệm vai trò đảm bảo sự an toàn và liên kết của các hệ thống AI với mục đích sử dụng của con người tại OpenAI. Trong tuyên bố chia tay của mình, Leike bày tỏ mối quan ngại sâu sắc về sự thay đổi ưu tiên của OpenAI. Anh cho rằng, công ty đã bỏ qua văn hóa nội bộ, các nguyên tắc an toàn, bảo mật không còn là ưu tiên hàng đầu và OpenAI hiện đang tập trung hơn vào việc tung ra các sản phẩm bắt mắt với tốc độ cao.

Là một nhà nghiên cứu AI, Leike cho biết anh ấy tin rằng, cần tập trung hơn vào việc chuẩn bị cho các thế hệ mô hình AI tiếp theo, bao gồm những thứ như an toàn và phân tích tác động xã hội của những công nghệ đó. Anh cho biết, việc xây dựng những cỗ máy thông minh hơn con người là một nỗ lực vốn đã nguy hiểm và công ty đang thay mặt toàn thể nhân loại gánh một trách nhiệm to lớn.

Sự hỗn loạn gần đây tại OpenAI

Việc Leike từ chức diễn ra ngay sau thời kỳ hỗn loạn tại OpenAI. Vào tháng 11/2023, gần như toàn bộ nhân viên của OpenAI dọa nghỉ việc và theo nhà lãnh đạo bị lật đổ Sam Altman về Microsoft làm việc. Động thái này nhằm đáp lại quyết định của hội đồng quản trị về việc loại bỏ Altman khỏi vị trí Giám đốc điều hành.

Vào thời điểm đó, hội đồng quản trị cho rằng, Sam Altman thiếu trung thực trong giao tiếp với hội đồng quản trị. Tình hình cuối cùng đã được giải quyết với việc Altman trở lại làm Giám đốc điều hành, kèm theo sự thay đổi trong ban giám đốc của công ty.

Phản hồi từ Lãnh đạo OpenAI

Đáp lại những lo ngại của Leike, Greg Brockman và Sam Altman của OpenAI đã cùng tuyên bố rằng, họ đã nâng cao nhận thức về rủi ro AI, và sẽ tiếp tục cải thiện công tác bảo mật trong tương lai để giải quyết các vấn đề của từng mô hình AI mới. Phản hồi này cho thấy, OpenAI nhận thức được tầm quan trọng của an toàn AI và sẽ giải quyết những lo ngại này.

Tuy nhiên, việc Leike từ chức và việc giải tán nhóm Superalignment đã đặt ra câu hỏi về khả năng của công ty trong việc ưu tiên an toàn, và bảo mật trong hành trình theo đuổi những tiến bộ về AI.

Một đoạn trích từ phản hồi chung của họ có nội dung được trích dẫn như sau: “Chúng tôi rất biết ơn về tất cả những gì Jan Leike đã làm cho OpenAI, chúng tôi biết anh ấy sẽ tiếp tục đóng góp cho sứ mệnh AI ở bên ngoài công ty. Trước một số câu hỏi được đặt ra sau sự ra đi của anh ấy, chúng tôi muốn giải thích suy nghĩ của chúng tôi về chiến lược tổng thể của mình.

Đầu tiên, chúng tôi đã nâng cao nhận thức về các rủi ro và cơ hội của trí tuệ nhân tạo để thế giới được chuẩn bị tốt hơn về chúng. Chúng tôi đã nhiều lần chứng minh, cũng như đưa ra các lời kêu gọi quốc tế về quản trị AI, tiến hành nghiên cứu trong lĩnh vực khoa học nhằm đánh giá rủi ro thảm khốc của hệ thống AI.

Thứ hai, chúng tôi đang đặt nền tảng cho việc triển khai các hệ thống AI an toàn ngày càng trở nên mạnh mẽ. Làm cho công nghệ mới an toàn lần đầu tiên không phải là điều dễ dàng. Ví dụ: nhóm của chúng tôi đã làm rất nhiều việc để đưa GPT-4 ra thế giới một cách an toàn, và từ đó đã tiếp tục cải thiện hành vi mô hình, giám sát tình trạng lạm dụng để đáp ứng các bài học rút ra từ quá trình triển khai công nghệ.

Thứ ba, tương lai sẽ khó khăn hơn quá khứ. Chúng ta cần liên tục cải thiện các nỗ lực bảo mật của mình để phù hợp với rủi ro của từng mô hình AI mới. Năm ngoái chúng tôi đã áp dụng một khuôn khổ sẵn sàng để hệ thống hóa cách tiếp cận công nghệ AI của mình…”.

Dù thế nào đi nữa, khi công nghệ AI tiếp tục phát triển với tốc độ nhanh chóng, các công ty như OpenAI phải ưu tiên sự an toàn. Những thương hiệu này cũng nên duy trì tính bảo mật cao để đảm bảo rằng, các công nghệ này hoạt động một cách có trách nhiệm. Những lo ngại của Leike về sự thay đổi ưu tiên của OpenAI đóng vai trò như một lời nhắc nhở về sự cần thiết của tính minh bạch và trách nhiệm giải trình. Các thương hiệu AI cần thể hiện cam kết thực hành đạo đức trong nghiên cứu và phát triển AI.