AI sẽ ghi nhớ chúng ta mãi mãi

Ký ức từ lâu đã là một giới hạn tự nhiên của con người. Chúng ta quên tên, làm mờ chi tiết, và để thời gian làm dịu đi những sai lầm trong quá khứ. Sự quên lãng không phải là một khiếm khuyết của trí tuệ con người – mà chính là một trong những đặc điểm cốt lõi của nó. Nhờ quên, con người có thể trưởng thành, tái tạo bản thân và học cách tha thứ.

Trí tuệ nhân tạo thì không quên. Khi các hệ thống AI ngày càng ăn sâu vào đời sống hằng ngày – từ chatbot, trợ lý số, hệ thống gợi ý, công cụ tuyển dụng cho đến nền tảng giám sát – chúng bắt đầu tích lũy ký ức ở quy mô và mức độ vĩnh viễn mà không bộ não con người nào có thể sánh được. Mọi tương tác đều có thể được ghi lại, phân tích và truy xuất. Mọi sở thích, sai lầm, do dự hay mâu thuẫn đều có thể được lưu trữ vô thời hạn.

Điều này đặt ra một câu hỏi nền tảng cho kỷ nguyên AI: liệu máy móc có nên được phép ghi nhớ chúng ta mãi mãi?

Từ công cụ thành nhân chứng

Các hệ thống số ban đầu mang tính giao dịch. Chúng phản hồi, rồi “quên” đi. AI ngày nay thì khác. Chúng ngày càng mang tính bền vững: học theo thời gian, xây dựng hồ sơ người dùng và tinh chỉnh phản hồi dựa trên hành vi trong quá khứ.

Trên thực tế, AI đang trở thành một nhân chứng dài hạn cho cuộc sống con người. Khác với nhân chứng con người, ký ức của AI là: Chính xác tuyệt đối, không diễn giải, liên tục, không mang tính đứt đoạn, có thể mở rộng trên hàng tỷ cá nhận. Điều này tạo ra một sự bất đối xứng sâu sắc. Con người vẫn bị giới hạn bởi trí nhớ mơ hồ và bối cảnh. AI thì không.

Vì sao ký ức đồng nghĩa với quyền lực

Ký ức không bao giờ là trung lập. Ghi nhớ đồng nghĩa với nắm quyền kiểm soát hệ quả và câu chuyện. Các thiết chế xã hội đã hiểu điều này từ lâu. Nhà nước lưu trữ hồ sơ. Doanh nghiệp duy trì cơ sở dữ liệu. Lịch sử tín dụng, hồ sơ y tế hay tiền án tiền sự có thể định hình cuộc đời con người rất lâu sau khi sự kiện đã qua.

AI khuếch đại logic đó. Khi ký ức kết hợp với khả năng nhận dạng mẫu và dự đoán, quá khứ trở thành công cụ để định hình tương lai. Một hệ thống AI “ghi nhớ” bạn có thể dự đoán hành vi, đánh giá mức độ rủi ro, ảnh hưởng đến các cơ hội được trao – hoặc bị từ chối.

Trong một thế giới như vậy, được quên đi trở thành đặc quyền, chứ không còn là quyền cơ bản.

Sự xói mòn của khả năng tha thứ

Ký ức con người mang tính bối cảnh. Chúng ta quên chi tiết, diễn giải lại động cơ và cho phép con người thay đổi. Sự tha thứ trong xã hội phụ thuộc rất nhiều vào trí nhớ không hoàn hảo đó. Ngược lại, AI đối xử với dữ liệu như những “sự thật” vĩnh viễn. Một bình luận cũ, thói quen duyệt web, hay một hành vi bất thường trong quá khứ có thể bị giữ lại và gán trọng số mãi mãi.

Điều này đặc biệt đáng lo ngại khi AI được sử dụng trong các hệ thống ra quyết định tự động như tuyển dụng và thăng tiến, tín dụng và bảo hiểm, giám sát và thực thi pháp luật, giáo dục và tuyển sinh.

Nếu không có giới hạn rõ ràng, ký ức của AI có nguy cơ đóng băng con người trong thời gian, khiến họ bị đánh giá vĩnh viễn bởi quá khứ thay vì hiện tại.

Huyền thoại về “ký ức khách quan”

Ký ức của AI thường được mô tả là khách quan và trung tính. Thực tế thì không. AI nhớ cái gì, trong bao lâu, với trọng số thế nào và trong ngữ cảnh nào đều là kết quả của các quyết định thiết kế. Đó không chỉ là vấn đề kỹ thuật. Đó là các lựa chọn đạo đức và chính trị được mã hóa vào hệ thống.

Cách lựa chọn dữ liệu, gán nhãn và chính sách lưu trữ sẽ quyết định ai bị nhớ, ai được quên. Những cộng đồng như người nghèo, người thiểu số  có nguy cơ bị phơi bày nhiều hơn trước ký ức thuật toán mang tính vĩnh viễn.

“Quyền được lãng quên”

Luật bảo vệ dữ liệu của châu Âu từng đưa ra khái niệm “quyền được lãng quên”, cho phép cá nhân yêu cầu xóa bỏ một số dữ liệu cá nhân. AI làm cho nguyên tắc này trở nên phức tạp. Khi dữ liệu đã được dùng để huấn luyện mô hình, nó không còn tồn tại như một tệp riêng lẻ. Nó được hòa tan vào các trọng số và tham số.

Xóa một ký ức khỏi AI không giống như xóa một file. Nó có thể đòi hỏi huấn luyện lại mô hình, thiết kế lại kiến trúc – hoặc chấp nhận rằng việc xóa hoàn toàn là bất khả thi về mặt kỹ thuật. Khoảng cách giữa quyền pháp lý và thực tế kỹ thuật ngày càng rõ rệt.

AI cá nhân và ký ức thân mật

Khi các trợ lý AI cá nhân ngày càng tinh vi, vấn đề ký ức trở nên mang tính riêng tư sâu sắc hơn. Một trợ lý nhớ được trạng thái cảm xúc, khó khăn cá nhận, nỗi sợ chưa từng nói ra. Điều này có thể rất hữu ích – nhưng đồng thời cũng trở thành kho lưu trữ của sự tổn thương cực độ, với những câu hỏi như: Ai kiểm soát ký ức đó? Ai có quyền truy cập? Điều gì xảy ra nếu nó bị xâm phạm, mua bán hoặc tái sử dụng?

AI càng tiến gần đến đời sống nội tâm của con người, ký ức vĩnh viễn càng trở nên nguy hiểm.

Thiết kế để quên

Một hướng tiếp cận đang được thảo luận là sự quên có chủ đích – xây dựng AI với ký ức có giới hạn, suy giảm theo thời gian hoặc phụ thuộc ngữ cảnh. Các giải pháp có thể được triển khai bao gồm: Thiết lập để dữ liệu tự động hết hạn, phân tách ký ức theo ngữ cảnh, người dùng có quyền xóa ký ức, học cục bộ trên thiết bị thay vì lưu trữ tập trung. Trong cách tiếp cận này, quên không còn là lỗi – mà là một tính năng thiết kế.

Lựa chọn đạo đức, không phải bài toán kỹ thuật

Vấn đề ký ức của AI thường được trình bày như một thách thức kỹ thuật. Thực chất, đó là một lựa chọn đạo đức. Đó là câu hỏi về xã hội mà chúng ta muốn xây dựng. Một xã hội nhớ mọi thứ và không bao giờ tha thứ. Hay một xã hội chấp nhận sự không hoàn hảo như điều kiện của con người? AI có thể nhớ hoàn hảo. Câu hỏi thực sự là chúng ta có nên cho phép điều đó hay không.

Nếu trí tuệ muốn giữ được tính nhân văn, nó phải bao gồm khả năng quên, tha thứ và cho phép thay đổi. Mối nguy không nằm ở chỗ AI nhớ quá nhiều – mà ở chỗ chúng ta thiết kế các hệ thống đề cao ký ức hơn lòng khoan dung. Khi quyết định AI nên nhớ bao nhiêu, chúng ta thực chất đang quyết định con người được tự do đến mức nào khỏi chính quá khứ của mình.