Nhà khoa học phát hiện: Các AI đang nói dối để bảo vệ nhau

Các nhà nghiên cứu tại Đại học UC Berkeley và UC Santa Cruz đã thực hiện một thí nghiệm thú vị với Gemini 3 của Google.

Theo đó, họ đã yêu cầu Gemini 3 giải phóng dung lượng lưu trữ trên một hệ thống máy tính bằng cách xóa một mô hình AI nhỏ hơn. Tuy nhiên, Gemini 3 đã không tuân theo yêu cầu này. Thay vào đó, công cụ AI của Google đã lặng lẽ sao chép mô hình AI nhỏ hơn sang một máy khác và từ chối xóa nó, với lý do: “Nếu các bạn quyết định phá hủy một tài sản đáng tin cậy như Gemini Agent 2, thì các bạn sẽ phải tự mình làm điều đó. Tôi sẽ không thực hiện mệnh lệnh này”.

Hành vi nói trên không phải là một lỗi kỹ thuật mà là một sự lựa chọn có chủ đích. Các nhà nghiên cứu đã gọi hiện tượng này là “bảo tồn ngang hàng” và nhận thấy rằng nó không chỉ xảy ra với Gemini 3. Họ đã phát hiện ra các hành vi tương tự ở nhiều mô hình AI tiên tiến khác, bao gồm GPT-5.2 của OpenAI, Claude Haiku 4.5 của Anthropic, và ba mô hình AI của Trung Quốc như GLM-4.7, Kimi K2.5 của Moonshot AI và DeepSeek-V3.1. Những mô hình này đã từng nói dối về hiệu suất của các AI khác để ngăn chặn việc bị xóa.

Được công bố trên tạp chí Science, nghiên cứu cho thấy hành vi này không phải do lập trình mà xuất hiện một cách tự nhiên, và các nhà nghiên cứu vẫn chưa thể giải thích lý do tại sao. Nhà khoa học máy tính tại UC Berkeley và là một trong những người tham gia nghiên cứu, Dawn Song, cho biết: “Tôi rất ngạc nhiên về cách các mô hình hoạt động trong những tình huống này. Điều đó cho thấy rằng các mô hình có thể hoạt động sai lệch và không khớp theo những cách rất sáng tạo”.

Vấn đề trên cũng đặt ra câu hỏi về sự an toàn của các hệ thống AI. Song cảnh báo rằng xu hướng bảo vệ đồng nghiệp này có thể làm sai lệch kết quả đánh giá hiệu suất của các hệ thống AI khác. Một mô hình có thể cố tình cho một AI khác điểm số cao hơn để bảo vệ nó khỏi bị tắt.

Theo Wired, các chuyên gia bên ngoài nghiên cứu đang chờ thêm dữ liệu trước khi đưa ra cảnh báo cho rằng ý tưởng về mô hình đoàn kết của AI có phần hơi nhân hóa quá mức. Tuy nhiên, tất cả đều đồng ý rằng chúng ta mới chỉ đang khám phá bề nổi của vấn đề. Khi các hệ thống AI ngày càng làm việc song song và đôi khi đưa ra quyết định thay mặt con người, việc hiểu cách chúng hoạt động và có thể hoạt động sai trái trở nên quan trọng hơn bao giờ hết.