Elon Musk và các chuyên gia ký thư ngỏ cảnh báo rủi ro cho nhân loại nếu chạy đua AI

Elon Musk và nhiều chuyên gia đã ký một bức thư bày tỏ lo ngại về sự phát triển của AI. Ảnh: @AFP.

Các chuyên gia AI và một số lãnh đạo công ty đã ký một bức thư ngỏ kêu gọi tạm dừng phát triển AI. Bức thư của Future of Life Institute (Viện Cuộc sống Tương lai) đã cảnh báo về một cuộc chạy đua mất kiểm soát để triển khai công nghệ AI mới. Dưới đây là 4 điểm chính của thư ngỏ.

Cụ thể tính tới 10 giờ sáng ngày 30/3, ngoài CEO Tesla, kiêm tỷ phú Elon Musk, còn có 1.343 người khác bao gồm Steve Wozniak, Evan Sharp đồng sáng lập Pinterest và Giám đốc điều hành Emad Mostaque đều đã thêm chữ ký của họ vào một bức thư ngỏ của Future of Life Institute- một tổ chức phi lợi nhuận hoạt động nhằm giảm thiểu rủi ro tồn tại từ các công nghệ mạnh mẽ.

Bức thư cảnh báo rằng, các hệ thống AI như GPT-4 của OpenAI đang trở nên cạnh tranh với con người trong các nhiệm vụ chung, và gây ra rủi ro tiềm ẩn cho nhân loại và xã hội. Bức thư kêu gọi các phòng thí nghiệm AI tạm dừng đào tạo bất kỳ công nghệ nào mạnh hơn GPT-4 trong sáu tháng tới, trong khi sự nguy hiểm của công nghệ mới này chỉ đang được đánh giá ở mức sơ khai.

Các chuyên gia trong ngành như Yoshua Bengio, còn được mệnh danh là “bố già của AI” và nhà khoa học máy tính có ảnh hưởng Stuart Russell cũng đưa ra ý kiến ​​của họ đằng sau bức thư này. Tại thời điểm xuất bản bức thư ngỏ, không có đại diện nào từ OpenAI ký vào bức thư.

Bức thư trích dẫn những lo ngại về sự lan truyền thông tin sai lệch, nguy cơ tự động hóa trong thị trường lao động và khả năng mất kiểm soát của nền văn minh. Dưới đây là các điểm mấu chốt:


Trí tuệ nhân tạo (AI) ngoài tầm kiểm soát

Tổ chức phi lợi nhuận đưa ra khả năng các nhà phát triển mất quyền kiểm soát các hệ thống AI mới mạnh mẽ, và tác động dự kiến ​​của chúng đối với nền văn minh. Nó cho thấy các công ty đang chạy đua để phát triển công nghệ AI tiên tiến đến mức ngay cả những người sáng tạo cũng không thể hiểu, dự đoán hoặc kiểm soát công nghệ này một cách đáng tin cậy.

Bức thư nêu rõ: “Các hệ thống AI có trí tuệ cạnh tranh với con người có thể gây ra rủi ro sâu sắc cho xã hội và nhân loại, như đã được chỉ ra trong các nghiên cứu sâu rộng thuộc ngành, và được các phòng thí nghiệm AI hàng đầu thừa nhận. Như đã nêu trong Nguyên tắc AI của Asilomar đã được chứng thực rộng rãi, AI tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất, và cần được lên kế hoạch cũng như quản lý với sự quan tâm và nguồn lực tương xứng; Thật không may, mức độ lập kế hoạch và quản lý này không xảy ra, mặc dù những tháng gần đây đã chứng kiến ​​các phòng thí nghiệm AI bị cuốn vào một cuộc chạy đua mất kiểm soát để phát triển và triển khai những bộ óc kỹ thuật số mạnh mẽ hơn bao giờ hết mà không ai – kể cả những người tạo ra chúng – có thể hiểu được dự đoán hoặc kiểm soát một cách đáng tin cậy”.

“Chúng ta có nên mạo hiểm mất quyền kiểm soát nền văn minh của mình không? Những quyết định như vậy không nên được giao cho các nhà lãnh đạo công nghệ không được bầu chọn trong ngành”, bức thư chỉ rõ.

Một cuộc đua nguy hiểm
Bức thư cảnh báo rằng, các công ty AI đang bị mắc kẹt trong một cuộc đua mất kiểm soát để phát triển và triển khai các hệ thống công nghệ AI tiên tiến mới. Trong những tháng gần đây, sự phổ biến lan truyền của ChatGPT của OpenAI đã xuất hiện để thúc đẩy các công ty khác phát hành các sản phẩm chatbot AI của riêng họ.

Tự động hóa AI và thông tin sai lệch
Bức thư nhấn mạnh một số rủi ro của công nghệ mới, bao gồm khả năng những bộ óc phi nhân loại cuối cùng sẽ đông hơn, thông minh hơn, cũng dễ sớm lỗi thời và thay thế chúng ta.

Bức thư ngỏ còn cho thấy, các hệ thống AI đang trở nên cạnh tranh với con người trong một số nhiệm vụ, và trích dẫn những lo ngại xung quanh thông tin sai lệch và tự động hóa lao động: “Chúng ta có nên để máy móc tràn ngập các kênh thông tin của mình bằng tuyên truyền và sai sự thật không? Chúng ta có nên tự động hóa tất cả các công việc?”.

Elon Musk và các chuyên gia ký thư ngỏ cảnh báo rủi ro cho nhân loại nếu chạy đua AI - AI
Các bên ký kết trong bức thư đã kêu gọi tạm dừng 6 tháng đối với việc đào tạo các hệ thống AI nào mạnh hơn GPT-4. Ảnh: @AFP.

Tạm dừng sáu tháng

“Chúng tôi kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức tạm dừng ít nhất 6 tháng việc đào tạo các hệ thống AI nào khác mạnh hơn GPT-4 . Việc tạm dừng này phải được công khai và có thể kiểm chứng, đồng thời bao gồm tất cả các tác nhân chính. Nếu việc tạm dừng như vậy không thể được ban hành nhanh chóng, các chính phủ nên can thiệp và đưa ra lệnh cấm”.

Bức thư ngỏ yêu cầu các nhà phát triển AI làm việc với các nhà hoạch định chính sách để tạo ra các hệ thống quản trị AI, nhấn mạnh sự cần thiết của các cơ quan quản lý, cũng như hệ thống phân định sản phẩm AI để giúp mọi người phân biệt giữa nội dung do con người tạo ra và nội dung do AI tạo ra.

Các phòng thí nghiệm AI và các chuyên gia độc lập nên tận dụng khoảng thời gian tạm dừng này để cùng phát triển và triển khai một bộ giao thức an toàn dùng chung cho thiết kế và phát triển AI tiên tiến, được kiểm tra và giám sát chặt chẽ bởi các chuyên gia độc lập bên ngoài. Bức thư cũng gợi ý sự cần thiết của các tổ chức có nguồn lực tốt để đối phó với những gián đoạn kinh tế và chính trị do AI gây ra.

Huỳnh Dũng- Theo Businessinsider/Futureoflife

Có thể bạn quan tâm
Nokia sẽ phát internet 4G trên… mặt trăng vào cuối năm nay

Gần ba năm sau khi thông báo về việc đã được NASA chọn để xây dựng mạng di động đầu tiên trên mặt trăng, Nokia cuối cùng đã tìm ra cách hoàn thành công việc của mình.

OPPO Find N2 Flip, điện thoại gập hoàn thiện nhất, giá dưới 20 triệu đồng

“Gương thần” OPPO Find N2 Flip có màn hình ngoài lớn nhất trên thị trường hiện tại, sở hữu nếp gấp tàng hình, nhiếp ảnh cao cấp cùng viên pin bền bỉ.

Bộ Nội vụ chính thức ra mắt trang Zalo sau 3 tháng thử nghiệm

Sau 3 tháng thử nghiệm, trang Zalo “Bộ Nội vụ” đã thu hút hơn 11.000 lượt người quan tâm, đăng tải hơn 350 tin bài truyền thông giúp người dân, công chức, viên chức tiếp cận các thông tin hữu ích liên quan đến lĩnh vực Nội vụ nhanh chóng, dễ dàng.

Viettel hoàn thành chiến lược Việt Nam hóa mạng lõi viễn thông với hệ thống IMS

Tổng Công ty Công nghiệp công nghệ cao Viettel (Viettel High Tech – VHT) và Tổng Công ty mạng lưới Viettel (Viettel Network) vừa công bố triển khai thành công hệ thống tổng đài thoại cho mạng 4G/5G (hệ thống IMS).

Người khai sinh Định luật Moore qua đời

Gordon Moore, đồng sáng lập và cựu Giám đốc điều hành của Intel, đã qua đời ở tuổi 94. Ông được biết đến là người khai sinh ra Định luật Moore nổi tiếng.

Viettel đưa cấu thành mạng lõi 4G/5G “Make in Viet Nam” vào mạng lưới

Viettel triển khai thành công hệ thống tổng đài thoại cho mạng 4G/5G (hệ thống IMS) do chính Viettel High Tech nghiên cứu, sản xuất.

Việt Nam giảm đáng kể số vụ tấn công mạng trong 5 năm qua

Số liệu mới nhất từ ​​Kaspersky Security Network (KSN), năm 2022 là năm thứ 5 liên tiếp Việt Nam chứng kiến ​​sự sụt giảm về số lượng các vụ tấn công mạng đã được ngăn chặn. Các mối đe dọa từ Internet cũng như ngoại tuyến cũng thấp nhất trong vòng nửa thập kỷ qua.

Huawei P60 Series trình làng – sự trở lại của ông hoàng nhiếp ảnh di động

Huawei P60 Series vừa chính thức ra mắt và đánh dấu sự trở lại của nhà vô địch nhiếp ảnh di động, sau 2 năm dài chờ đợi.

Cuộc khẩu chiến giữa CEO TikTok trong phiên điều trần trước Quốc hội Mỹ

CEO TikTok Shou Zi Chew vừa xuất hiện lần đầu tiên trước Quốc hội Mỹ, với tư cách là nhân chứng một mình trong phiên điều trần về sự nguy hiểm của ứng dụng video dạng ngắn này.

Ra mắt máy in đa năng HP LaserJet Pro 4000 linh hoạt dành cho doanh nghiệp nhỏ

HP Việt Nam vừa ra mắt máy in đa chức năng HP LaserJet Pro 4000 có độ linh hoạt cao, tốc độ in hai mặt tự động nhanh, kèm với tính năng quản lý từ xa.