Giới khoa học toàn cầu đoàn kết ngăn chặn mối đe dọa vũ khí sinh học được hỗ trợ bởi AI

Hơn 90 nhà khoa học quốc tế đã cam kết chống lại rủi ro vũ khí sinh học được hỗ trợ bởi trí tuệ nhân tạo (AI), nhấn mạnh nghiên cứu có trách nhiệm và thực hành có đạo đức.

Trong một bước phát triển đột phá, các nhà khoa học đến từ nhiều viện nghiên cứu khác nhau trên thế giới đã cùng nhau giải quyết mối đe dọa tiềm tàng của vũ khí sinh học được hỗ trợ bởi AI. Hàng chục nhà nghiên cứu hàng đầu trong lĩnh vực AI, đặc biệt là các nhà thiết kế protein, đã ký một lá thư cam kết tuân thủ các nguyên tắc đạo đức và hành vi có trách nhiệm. Một số người tham gia đáng chú ý bao gồm các nhà nghiên cứu thuộc Ivy League (tên gọi của nhóm 8 trường Đại học tư thục nổi tiếng nằm tại khu vực Đông Bắc nước Mỹ) và Giám đốc khoa học của Microsoft.

Các nhà khoa học thừa nhận những cơ hội chưa từng có mà những đột phá trong AI mang lại cho nghiên cứu khoa học đời sống, đặc biệt là trong việc thiết kế các phân tử sinh học đa chức năng, chẳng hạn như protein. Việc ứng dụng AI trong thiết kế protein có tiềm năng to lớn để nâng cao hiểu biết của chúng ta về thế giới, và giải quyết các thách thức toàn cầu quan trọng, bao gồm bùng phát dịch bệnh truyền nhiễm, nhiều loại bệnh tật, nguồn năng lượng bền vững và cả biến đổi khí hậu.

Cam kết của các nhà khoa học xoay quanh một tập hợp các giá trị, bao gồm tính an toàn, an ninh, công bằng, hợp tác quốc tế, cởi mở, trách nhiệm và cam kết nghiên cứu vì lợi ích xã hội. Họ cam kết tiến hành các nghiên cứu tránh gây tổn hại hay tạo điều kiện cho công nghệ của họ bị lạm dụng.

Trọng tâm chính trong cam kết của họ là đóng góp cho sự thịnh vượng toàn cầu, bằng cách phát triển các biện pháp đảm bảo an toàn và hiệu quả trong chẩn đoán, chế tạo thuốc và vaccine, đồng thời hỗ trợ các sáng kiến ​​liên quan. Các nhà khoa học nhấn mạnh tầm quan trọng của việc sử dụng các dịch vụ tổng hợp DNA tuân thủ các phương pháp sàng lọc an toàn sinh học theo tiêu chuẩn công nghiệp, để xác định kịp thời các phân tử sinh học nguy hiểm trong quá trình sản xuất.

Để đảm bảo sự phát triển có trách nhiệm của các công cụ AI, nhằm phát hiện các phân tử sinh học có khả năng gây hại, các nhà nghiên cứu cam kết sẽ liên tục đánh giá và giảm thiểu rủi ro về an toàn, bảo mật liên quan đến phần mềm thiết kế protein của họ. Họ cũng bày tỏ cam kết tăng cường các phương pháp đánh giá phần mềm của mình để xác định các rủi ro tốt nhất.

Duy trì tính minh bạch và hành vi có trách nhiệm là một khía cạnh quan trọng trong cam kết của họ. Các nhà khoa học cam kết xem xét khả năng và rủi ro trong lĩnh vực của họ tại các cuộc họp an toàn, thường xuyên có sự tham gia của các nhà khoa học, đại diện quản l, các bên liên quan khác. Họ cam kết sẽ báo cáo mọi hoạt động nghiên cứu liên quan, tuân thủ các tiêu chuẩn đạo đức, báo cáo khẩn cấp nếu có trường hợp lạm dụng thiết kế protein để gây hại.

Để hướng tới trách nhiệm giải trình, các nhà nghiên cứu hứa sẽ truyền đạt những lợi ích lẫn rủi ro trong nghiên cứu của họ một cách cởi mở, và sẵn sàng sửa đổi các nguyên tắc và cam kết của họ khi cần thiết. Họ cũng cam kết chia sẻ những nguyên tắc này với các thành viên mới trong lĩnh vực này.

Nỗ lực hợp tác này của các nhà khoa học toàn cầu đánh dấu một bước quan trọng trong việc đảm bảo việc sử dụng AI có trách nhiệm trong khoa học đời sống, ngăn chặn khả năng lạm dụng các công nghệ AI tiên tiến cho các mục đích có hại. Mặt trận cam kết do các nhà nghiên cứu này đưa ra sẽ gửi đi một thông điệp mạnh mẽ về cam kết đối với các hoạt động khoa học có đạo đức và có trách nhiệm.

Các chính sách cam kết này gây được tiếng vang với nhiều người, vì các nhà khoa học cá nhân từ các tổ chức như Harvard và các tổ chức khác ở các quốc gia như Đức và Nhật Bản cũng đã tán thành thỏa thuận. Đáng chú ý, Giám đốc khoa học của Microsoft, Eric Horvitz, cùng với các chuyên gia từ các công ty như ProteinQure, Menten AI và Profluent Bio cũng đã ký cam kết.