Kiềm chế sự thiên vị vô thức trong AI

Khi việc sử dụng trí tuệ nhân tạo (AI) trở nên phổ biến hơn, các doanh nghiệp vẫn đang phải vật lộn để giải quyết câu chuyện thiên vị phổ biến có trong công nghệ này.

Thiên vị vô thức trong AI thực sự có nghĩa là gì?

Sức mạnh đổi mới của trí tuệ nhân tạo là không thể bỏ qua. Từ chăm sóc sức khỏe đến giao thông vận tải và mọi ngành liên quan, các công ty tận dụng AI để thúc đẩy thay đổi tích cực và dẫn đầu các đối thủ. Một số đã sử dụng công nghệ này trong nhiều năm qua, trong khi những người khác mới chỉ bắt đầu khai thác tiềm năng to lớn của công nghệ này.

Không có gì ngạc nhiên khi AI thu hút đầu tư đáng kể. Công ty Forrester dự đoán thị trường phần mềm AI sẽ đạt 64 tỷ USD vào năm 2025. Những con số này không có gì đáng ngạc nhiên, nhưng việc hiện thực hóa chúng sẽ đòi hỏi ngành phải giải quyết tốt hơn các vấn đề mà chúng ta đã phải vật lộn trong nhiều thập kỷ.

Hiệu quả của AI phụ thuộc vào chất lượng dữ liệu đầu vào được dùng để đào tạo cho các thuật toán. Việc dữ liệu kém, hay thao tác nhập dữ liệu đào tạo đầu vào không được kiểm soát sẽ ngay lập tức có vấn đề. Trong phạm vi mà chúng ta coi AI là đại diện cho ý thức của con người, một trong những vấn đề ngấm ngầm nhất đó là sự thiên vị vô thức có trong công nghệ này.

Khi AI ngày càng được tích hợp vào công nghệ hàng ngày, nhiều người đồng ý rằng giải quyết sự thiên vị trong AI là một vấn đề quan trọng. Nhưng thiên vị vô thức trong AI thực sự có nghĩa là gì?

Các nhà khoa học máy tính cho biết, một mô hình AI bị đào tạo sai lệch sẽ ngay lập tức tạo ra kết quả sai lệch. Một trong những kết quả này có thể thể hiện thành kiến ​​đối với các cá nhân hoặc nhóm, hoặc không phù hợp với các giá trị tích cực của con người như sự công bằng và sự thật, hay cả các chuẩn mực xã hội.

Thậm chí, những thành kiến ​​dường như nhỏ nhưng cũng có thể được khuếch đại bởi công nghệ AI tổng quát và gây ra hậu quả sâu rộng.

Xu hướng thiên vị trong các hệ thống AI có thể đến từ nhiều nguồn khác nhau

Dữ liệu đào tạo đầu vào có vấn đề có thể liên kết một số nghề nghiệp nhất định với giới tính cụ thể hoặc duy trì thành kiến ​​​​chủng tộc. Qua quá trình xử lý thuật toán, các hệ thống AI sau đó khuếch đại các sai lệch hiện có trong dữ liệu đầu vào.

Một phần khác vì có các hệ thống AI được xây dựng bởi cá nhân, nhóm chuyên gia, tổ chức với những thành kiến ​​tự nhiên của riêng họ, mang yếu tố chủ quan, ưu tiên quan điểm cá nhân để đưa vào các thuật toán đào tạo. Vì thế, kết quả dữ liệu đầu ra cũng không mang tính khách quan, thậm chí nó còn mang theo nhiều hệ lụy sau đó.

Một trường hợp điển hình là ChatGPT. Khi một công ty dựa vào ChatGPT để giúp đưa ra các quyết định kinh doanh, các điểm không chính xác và thành kiến, thiên vị trong dữ liệu đầu ra ​​có thể xuất hiện, dẫn đến hiện tượng được gọi là ảo giác trong quá trình ra quyết định.

Khi mô hình AI học hỏi từ dữ liệu kém chất lượng hoặc chưa được kiểm chứng, nó có thể tiếp tục duy trì những thành kiến ​​​​có hại như phân biệt giới tính, và bất bình đẳng chủng tộc, hay thiên vị đạo đức. Kết quả là, bất kỳ sự thiên vị nào có trong dữ liệu gốc đầu vào cho đến kết quả đầu ra cũng sẽ chỉ được củng cố, làm trầm trọng thêm các vấn đề thách thức trong AI hiện nay.

Tác động kinh doanh của sự thiên vị trong AI có thể rất lớn, đặc biệt là trong các ngành được quản lý. Bất kỳ sai sót nào cũng có thể dẫn đến bị phạt hoặc có thể gây rủi ro cho danh tiếng của công ty. Về mặt xã hội, các kết quả đầu ra mang tính thiên vị từ AI có thể gây phẫn nộ, tranh chấp, đặc biệt là khuếch đại nghiêm trọng những hành kiến đã có trước đây.

Những hạn chế của AI đã làm giảm lợi ích của nó. Các công ty có thể làm gì để hạn chế sự thiên vị của AI?

Để đảm bảo kết quả công bằng và không thiên vị nhất, trước tiên các công ty AI phải hiểu dữ liệu đào tạo của mô hình đầu vào được lấy từ đâu, và liệu nó có đáng tin cậy hay không. Sau đó, họ nên cung cấp các công cụ mà con người (ở đây nhà khoa học dữ liệu) có thể sử dụng để theo dõi thử nghiệm kết quả đầu ra của AI một cách hiệu quả. Điều này được gọi là giám sát chức năng dữ liệu trong AI.

Các công ty cũng nên công bố các thuật toán AI, và nếu có thể, họ cũng nên tiết lộ các bộ dữ liệu đầu vào được sử dụng để đào tạo mô hình AI của mình. Trình bày từng kết quả một cách nhất quán và có hệ thống để kiểm tra xem có tồn tại sự thiên vị trong dữ liệu đầu vào lẫn đầu ra hay không.

Các công ty phải giải quyết sự thiên vị vô thức trong AI ngay từ đầu

Rajat Taneja, chủ tịch công nghệ của mạng lưới thẻ Visa Inc, cho biết điều quan trọng là các công ty phải giải quyết sự thiên vị ngay từ đầu. Ông nói: “Việc sử dụng AI một cách có đạo đức và có trách nhiệm, sau đó là quản trị và giám sát tốt nó, đó là những điều vô cùng quan trọng. Và các công ty đang trải qua cuộc hành trình phải rất ý thức về sự thiên vị vô thức trong AI, và nắm lấy nó ngay từ đầu, vì việc bổ sung giải quyết nó để sau này sẽ khiến việc thực hiện quản lý, kiểm sóat, áp dụng AI trở nên khó khăn hơn nhiều”.

Ông Taneja còn cho biết, trước khi bất kỳ mô hình nào được triển khai tại Visa, nó đều được đánh giá bởi một tổ chức quản lý rủi ro mô hình, và một nhóm kiểm tra các tác động ngoài ý muốn tiềm ẩn, đồng thời đảm bảo mô hình tuân thủ các nguyên tắc AI có trách nhiệm và đạo đức của Visa.

Ngoài ra, cũng cần phải có nhận thức rõ hơn về sự thiên vị trong AI. Các nhà khoa học dữ liệu phải được đào tạo để nhận ra sớm, rõ, sâu sắc điều này, và đưa câu chuyện này vào trong lĩnh vực nghiên cứu ở các chương trình khoa học dữ liệu tại các trường đại học và giáo dục điều hành. Điều này có thể đóng một vai trò quan trọng trong việc đạt được mục tiêu giải quyết tình trạng thiên vị vô thức trong AI.

Tất nhiên, thách thức với hầu hết công nghệ AI là một thế giới thực đầy rẫy những biến số không thể đoán trước và gây nhiễu rất nhiều. Chu kỳ đổi mới AI đã đạt đến một thời điểm quan trọng.

Tuy nhiên, công nghệ này vẫn có những khiếm khuyết có thể gây ra hậu quả tai hại nếu không được quản lý hiệu quả. Chỉ những công ty AI nào thực hiện tốt công tác kiểm tra và cân bằng, chẳng hạn như giám sát cả dữ liệu đầu vào và đầu ra mới được hưởng lợi từ tiềm năng của AI, mà không rơi vào tình trạng thiên vị vô thức tiềm ẩn gây họa.

Theo Forbes/Theconversation/Hbr/Wsj