Vũ khí chiến tranh tự trị có thể mắc sai lầm đắt giá

Kelsey D. Atherton là một nhà báo công nghệ quốc phòng sống tại Albuquerque, New Mexico. Trong công trình của ông về máy bay không người lái, AI gây chết người và vũ khí hạt nhân, ông đã đưa ra cái nhìn đầu tiên về rủi ro của vũ khí chiến tranh tự trị.

Đầu tiên, phải khẳng định rằng vũ khí tự trị có nhiều lợi thế hơn hẳn so với các binh lính con người. Đầu tiên, chúng không biết mệt, chúng có thể hoạt động chính xác hơn, nhanh hơn và sinh sống ở cả những nơi con người không thể sống sót, chẳng hạn như những sa mạc khô cằn.

Chúng cũng không cần đến hàng năm để huấn luyện và nuôi dưỡng, và chúng có thể sản xuất hàng loạt. Điều tồi tệ nhất là khi chúng bị phá hủy và hư hỏng, không ai thương tiếc cho chúng, cũng như yêu cầu phải đưa xác chúng về từ chiến trường cả.

Nó cũng dễ dàng giúp cho bên tấn công có thể tối thiểu hóa các tổn thất về con người. Những lần tham chiến gần đây của Mỹ và EU tại Libya, Syria và Yemen đều tập trung vào việc sử dụng máy bay không người lái, các chiến dịch ném bom, và tên lửa hành trình. Thế nên, các bên không có vũ khí tự trị sẽ gặp bất lợi khi binh lính của họ phải chiến đấu với loại vũ khí công nghệ này.

Tuy nhiên, theo Kelsey D. Atherton, trên một chiến trường nào đó trong tương lai, dùng robot quân sự, vũ khí tự trị sẽ mắc sai lầm. Thiết kế những cỗ máy tự hành cho chiến tranh đồng nghĩa với việc chấp nhận một số sai sót trong tương lai, mà hiện tại con người chưa biết chính xác lỗi đó sẽ là gì.

Khi các quốc gia, các nhà sản xuất vũ khí và cộng đồng quốc tế làm việc dựa trên các quy tắc về vũ khí tự trị, việc trao đổi trung thực về những rủi ro do lỗi dữ liệu là điều cần thiết. Và nếu chẳng may vũ khí tự trị lại hành động đi ngược lại sứ mệnh ban đầu, thì tác hại không mong muốn mà nó để lại cho con người, cơ sở vật chất hạ tầng là vô cùng lớn.

Theo Kelsey D. Atherton, vấn đề dữ liệu và hệ thống tự trị quân sự rất đa dạng, phức tạp, nên các nhà hoạch định chính sách phải hiểu rõ hơn về những rủi ro vốn có trong các cỗ máy tự động. Những rủi ro này bao gồm mọi thứ, từ việc xử lý dữ liệu có thể thất bại như thế nào, đến cách các thế lực thù địch có thể chủ động tấn công thu thập dữ liệu hay chi phối điều khiển vũ khí tự trị. Những hệ lụy này sẽ thay đổi cách máy móc hoạt động nếu dùng trong chiến tranh tương lai.

Trong một bài thuyết trình vào tháng 10 năm 2020, một giám đốc điều hành của một công ty cảm biến quân sự đã giới thiệu một thuật toán camera cảm biến quân sự có khả năng nhắm mục tiêu, ông tự hào rằng camera quân sự này có thể phân biệt giữa các phương tiện quân sự và con người. Ấy vậy mà trong một cuộc thử nghiệm ngoài thực tế, thuật toán camera đó đã đánh dấu một con người đang đi bộ trong bãi đậu xe và một cái cây là một mục tiêu giống y hệt nhau.

Thế nên, khi các nhà hoạch định quân sự xây dựng các hệ thống tự trị, trước tiên họ cần đào tạo các hệ thống đó bằng dữ liệu trong một môi trường được kiểm soát. Với dữ liệu đào tạo, có thể có được một chương trình thuật toán nhận dạng mục tiêu để phân biệt sự khác biệt giữa cây cối và con người. Tuy nhiên, ngay cả khi thuật toán được cho là chính xác trong đào tạo, việc sử dụng nó trong chiến đấu với bối cảnh môi trường khốc liệt sẽ khác biệt hơn, so với bối cảnh ở phòng thí nghiệm hay hiện trường bày sẵn. Điều này dẫn đến một tai hại là vũ khí tự trị có rất nhiều khả năng nhận diện sai trên chiến trường.

Chưa kể đến việc, những người lính thù địch hoặc những kẻ tấn công nghệ cao có thể tìm cách vượt qua một cuộc tấn công từ vũ khí tự động, bằng cách cố gắng đánh lừa robot đang săn lùng họ, bằng cách tấn công mạng tới bộ điều khiển robot qua bộ dữ liệu sai hoặc làm nhiễu để cố tình gây hiểu nhầm.

Arthur Holland Michel, nhà nghiên cứu liên kết trong chương trình An ninh và Công nghệ tại Viện Quân sự Liên hợp quốc cho biết, bất cứ một sai sót ở bất kỳ đâu trong quá trình, từ thu thập đến diễn giải thuật toán sai lầm đều dẫn đến một cái kết tai hại trên chiến trường.

Ở nhiều quốc gia, sự phát triển trong lĩnh vực vũ khí tự trị đang tiến triển nhanh chóng, với sự gia tăng của xu hướng vũ khí hóa AI dường như đã trở thành một sự phát triển gây mất ổn định cao. Nó mang lại những thách thức an ninh phức tạp, không chỉ cho những người ra quyết định của mỗi quốc gia mà còn cho tương lai của cả một nhân loại.

Suy cho cùng, mặc dù ngày nay có những loại vũ khí có tính năng tự động dần được sử dụng trong 5 năm gần đây, nhưng chưa có quốc gia nào tuyên bố rõ ràng rằng, họ sẵn sàng tin tưởng tuyệt đối 100% một cỗ máy tự động, vũ khí tự trị nhắm mục tiêu muốn bắn vào con người mà không có sự tham gia của con người trong quá trình này. Vì tình trạng lỗi dữ liệu có thể gây ra các vấn đề mới, khiến con người phải chịu trách nhiệm về việc máy móc hoạt động theo cách không mong muốn, và để lại các hậu quả không lường trước được trong tương lai.

Theo Popsci