Thành lập diễn đàn giám sát sự phát triển của AI

Anthropic, Google, Microsoft và OpenAI vừa thông báo về việc thành lập một diễn đàn mới. Nó sẽ là một tổ chức mới trong ngành trí tuệ nhân tạo (AI) để tập trung vào việc đảm bảo sự phát triển an toàn và có trách nhiệm của các mô hình AI tiên tiến. Diễn đàn này cũng sẽ hoạt động dựa trên chuyên môn kỹ thuật, và khả năng vận hành của các công ty thành viên để mang lại lợi ích cho toàn bộ hệ sinh thái AI.

Các nhà lãnh đạo ngành AI gần đây đã cảnh báo rằng, mặc dù AI là những mô hình nền tảng có năng lực cao, nhưng chúng có thể có những khả năng nguy hiểm đủ để gây rủi ro nghiêm trọng cho an toàn công cộng.

Vì thế, để đáp lại những lời kêu gọi giám sát AI theo quy định ngày càng tăng, bốn trong số các công ty có ảnh hưởng nhất về trí tuệ nhân tạo đã công bố thành lập một diễn đàn để giám sát sự phát triển an toàn của các mô hình AI tiên tiến nhất.

Cụ thể, các công ty như OpenAI, Microsoft, Google và Anthropic vừa cho ra mắt một diễn đàn để hỗ trợ việc phát triển an toàn, và có trách nhiệm các mô hình máy học lớn, các nhà lãnh đạo hàng đầu trong ngành trí tuệ nhân tạo (AI) vừa cho biết hôm 26/7.

Diễn đàn này có tên chính thức Frontier Model Forum. Các mục tiêu cốt lõi của Diễn đàn này bao gồm:

Thứ nhất, đẩy mạnh nghiên cứu an toàn AI để thúc đẩy sự phát triển có trách nhiệm của các mô hình AI tiên tiến, giảm thiểu rủi ro và cho phép đánh giá độc lập, tiêu chuẩn hóa các khả năng phát triển, vận hành và kiểm soát mức độ an toàn của công nghệ này.

Diễn đàn cũng sẽ hỗ trợ hệ sinh thái AI an toàn, bằng cách xác định các câu hỏi nghiên cứu mở quan trọng nhất về an toàn AI. Bên cạnh đó, diễn đàn sẽ phối hợp nghiên cứu và tập trung mạnh vào việc phát triển, và chia sẻ một thư viện công cộng về các đánh giá kỹ thuật và điểm chuẩn cho các mô hình AI tiên tiến.

Thứ hai, diễn đàn sẽ xác định các phương pháp hay nhất để phát triển và triển khai các mô hình AI tiên tiến một cách có trách nhiệm, giúp công chúng hiểu được bản chất, khả năng, hạn chế và tác động của công nghệ này.

Thứ ba, diễn đàn sẽ cộng tác với các nhà hoạch định chính sách, học giả, xã hội dân sự và các công ty AI, công nghệ để chia sẻ kiến ​​thức về các rủi ro, về lòng tin và mức an toàn đối với công nghệ trí tuệ nhân tạo.

Ở đây, diễn đàn sẽ thúc đẩy chia sẻ kiến ​​thức và các phương pháp hay nhất giữa các ngành, chính phủ, xã hội dân sự và học viện, tập trung vào các tiêu chuẩn an toàn và thực hành an toàn để giảm thiểu nhiều rủi ro tiềm ẩn.

Cuối cùng, diễn đàn này cũng sẽ là nơi hỗ trợ các nỗ lực phát triển các ứng dụng công nghệ AI có thể giúp đáp ứng những thách thức lớn nhất của xã hội, chẳng hạn như giảm thiểu và thích ứng với biến đổi khí hậu, phát hiện và ngăn ngừa ung thư sớm, cũng như chống lại các mối đe dọa trên mạng.

Kent Walker, Chủ tịch phụ trách các vấn đề toàn cầu của Google & Alphabet cho biết: “Chúng tôi rất vui mừng được hợp tác với các công ty hàng đầu khác, chia sẻ chuyên môn kỹ thuật để thúc đẩy đổi mới AI có trách nhiệm. Sự tham gia của các công ty, chính phủ và xã hội dân sự sẽ là điều cần thiết để thực hiện lời hứa về việc công nghệ AI mang lại lợi ích cho tất cả mọi người”.

Anna Makanju, Phó chủ tịch phụ trách các vấn đề toàn cầu của OpenAI cho biết: “Các mô hình AI tiên tiến có tiềm năng mang lại lợi ích sâu sắc cho xã hội và khả năng đạt được tiềm năng này đòi hỏi phải có sự giám sát và quản trị tốt. phù hợp, hiệu quả. Điều quan trọng là các công ty AI (đặc biệt là những công ty đang làm việc trên các mô hình AI mạnh mẽ nhất) phải thống nhất trên cơ sở chung, và thúc đẩy các biện pháp an toàn chu đáo và có thể thích ứng để đảm bảo các công cụ AI mạnh mẽ mang lại lợi ích lớn nhất có thể. Đây là công việc khẩn cấp và diễn đàn này được định vị tốt để hành động nhanh chóng nhằm nâng cao tình trạng an toàn cho AI”.

Còn Dario Amodei, Giám đốc điều hành của Anthropic cho biết: “Anthropic tin rằng, AI có khả năng thay đổi căn bản cách thế giới vận hành. Chúng tôi rất vui mừng được hợp tác với ngành công nghiệp, xã hội dân sự, chính phủ và học viện để thúc đẩy sự phát triển an toàn và có trách nhiệm của công nghệ. Diễn đàn này sẽ đóng một vai trò quan trọng trong việc điều phối các phương pháp hay nhất và chia sẻ nghiên cứu về công nghệ AI an toàn”.

Diễn đàn Frontier Model Forum sẽ hoạt động như thế nào?

Trong những tháng tới, diễn đàn này sẽ thành lập một Ban Cố vấn để giúp định hướng chiến lược, và các ưu tiên của mình, họ sẽ đại diện cho nhiều nền tảng AI dựa trên các quan điểm, luận thuyết khác nhau.

Các công ty sáng lập Diễn đàn Frontier Model Forum cũng sẽ thiết lập các thỏa thuận thể chế quan trọng bao gồm điều lệ, quản trị và tài trợ với một nhóm làm việc và ban điều hành để lãnh đạo những nỗ lực này. Họ dự định sẽ tham khảo ý kiến ​​của xã hội dân sự và các chính phủ trong những tuần tới để nâng cao cấu trúc hoàn chỉnh của diễn đàn này, và về những cách hợp tác có ý nghĩa.

Diễn đàn cũng sẽ tìm cách hoạt động, vận hành dựa trên giá trị của ngành công nghiệp hiện có, của xã hội dân sự và sẽ khám phá các cách cộng tác, hỗ trợ những sáng kiến, cũng như các nỗ lực có giá trị của nhiều bên liên quan khác. Vì thế mà diễn đàn hoan nghênh sự tham gia của các tổ chức khác đang phát triển các mô hình AI hàng đầu sẵn sàng hợp tác để hướng tới sự tiến bộ an toàn của các mô hình này.

Sáng kiến ​​này mang lĩnh vực công nghệ AI hội tụ lại với nhau trong việc thúc đẩy AI một cách có trách nhiệm, giải quyết các thách thức để nó mang lại lợi ích cho toàn nhân loại

Mặc dù có rất nhiều trường hợp sử dụng các mô hình AI tiên tiến khác nhau trong giai đoạn hiện nay, nhưng các cơ quan chính phủ bao gồm Liên minh Châu Âu và các nhà lãnh đạo ngành bao gồm Giám đốc điều hành của OpenAI, Sam Altman đã nói rằng, các biện pháp bảo vệ thích hợp sẽ là cần thiết để giải quyết các rủi ro do AI gây ra.

Một phát ngôn viên của OpenAI cho biết, công ty này sẽ không tham gia vận động hành lang để chủ đích phát triển ngành, thay vào đó, họ sẽ tập trung sớm vào việc phát triển và chia sẻ một thư viện công cộng về các điểm chuẩn và đánh giá kỹ thuật cho các mô hình AI tiên phong.

Còn Brad Smith, chủ tịch của Microsoft cho biết: “Các công ty tạo ra công nghệ AI có trách nhiệm đảm bảo rằng nó an toàn, bảo mật và nằm trong tầm kiểm soát của con người. Sáng kiến ​​này là một bước quan trọng để mang lĩnh vực công nghệ AI hội tụ lại với nhau trong việc thúc đẩy AI một cách có trách nhiệm và giải quyết các thách thức để nó mang lại lợi ích cho toàn nhân loại”.

Theo Reuters/Theguardian/Microsoft