Công nghệ AI bị điểm mù về nhận diện chủng tộc?

Sinh viên thuộc Viện Công nghệ Massachusetts (Massachusetts Institute of Technology- viết tắt là MIT) Rona Wang đã yêu cầu một ứng dụng tạo ảnh trí tuệ nhân tạo (AI) có tên là Playground AI làm cho bức ảnh của cô ấy trông chuyên nghiệp hơn. Kết quả là nó mang lại cho cô ấy làn da trắng nhạt và đôi mắt xanh, đồng thời khiến cô ấy trông giống người da trắng hơn hẳn.

Rona Wang, Sinh viên mới tốt nghiệp Khoa Khoa học Máy tính của MIT cho biết, kinh nghiệm của cô cho thấy công nghệ AI mới nổi có thể có những điểm mù về phân biệt chủng tộc như thế nào.

Trong thực tế, Rona Wang không xa lạ gì với việc sử dụng các công cụ trí tuệ nhân tạo (AI) khác nhau. Wang, 24 tuổi, mới tốt nghiệp Viện MIT, đã thử nghiệm nhiều loại công cụ hình ảnh và ngôn ngữ AI mới xuất hiện trong vài năm qua, và cô bị thu hút tò mò bởi những cách mà công nghệ này cho ra kết quả sai lệch, hoặc kỳ quặc đến nổi không ai ngờ tới. Cô ấy thậm chí còn viết về sự mâu thuẫn của mình đối với công nghệ AI trên trang web của Viện MIT.

Trong câu chuyện chia sẻ mới nhất, Rona Wang kể lại rằng, gần đây cô đã tạo ảnh hồ sơ LinkedIn của mình bằng công cụ tạo ảnh chân dung AI, và đã nhận được một số kết quả kỳ lạ như hình ảnh của cô ấy với các ngón tay rời rạc, hay các đặc điểm trên khuôn mặt bị biến dạng.

Nhưng vào ngày 14/7 tuần trước, khi sử dụng công cụ AI của một công ty khởi nghiệp, kết quả mà cô ấy nhận được khá nổi bật và kỳ quặc so với các kết quả trước đây mà cô ấy thử nghiệm.

Wang đã tải một bức ảnh cô ấy đang cười và mặc một chiếc áo len màu đỏ của MIT lên một công cụ tạo hình ảnh có tên là Playground AI, và yêu cầu nó biến hình ảnh này thành ảnh hồ sơ LinkedIn chuyên nghiệp.

Chỉ trong vài giây, nó đã tạo ra một hình ảnh gần giống với bức ảnh selfie ban đầu của cô ấy, ngoại trừ vẻ ngoài của Wang đã bị thay đổi. Nó làm cho nước da của cô ấy trông sáng trắng hơn và một đôi mắt xanh dương.

Wang thừa nhận rằng, khi thử sử dụng công cụ AI đặc biệt này, ban đầu cô đã phải bật cười trước kết quả. “Thật là buồn cười”, cô nói.

“Những đặc điểm này khiến tôi trông giống người da trắng. Chà, tôi không biết liệu công cụ này có phải đang nghĩ rằng, tôi nên trở thành người da trắng để trở nên chuyên nghiệp hơn hay không?”, Wang, một người Mỹ gốc Á chia sẻ.

Bức ảnh đã thu hút được sự chú ý trên cộng đồng trực tuyến, sau khi Wang chia sẻ nó trên mạng xã hội Twitter, và tất cả đã làm dấy lên các cuộc trò chuyện, thảo luận về những thiếu sót của các công cụ trí tuệ nhân tạo (AI) khi nói đến cuộc đua trong giai đoạn hiện tại.

Nó thậm chí còn thu hút sự chú ý của người sáng lập công ty đứng sau công cụ Playground AI, phản hồi lại người này nói rằng, ông ấy hy vọng sẽ sớm giải quyết được vấn đề.

Hiện tại, Rona Wang nghĩ rằng trải nghiệm của mình với AI có thể là một câu chuyện cảnh báo cho những người khác sử dụng công nghệ tương tự, hoặc theo đuổi sự nghiệp trong lĩnh vực này.

Dòng tweet lan truyền của Wang xuất hiện trong bối cảnh trong xu hướng TikTok gần đây, nơi mọi người đang thoải mái sử dụng các sản phẩm AI để làm nổi bật ảnh hồ sơ LinkedIn của họ, tạo ra những hình ảnh giúp họ mặc trang phục chuyên nghiệp, diện mạo thân thiện với công ty tuyển dụng.

Rona Wang cũng đề cập đến một vấn đề mà cô ấy đã gặp nhiều lần với các công cụ AI, đó là đôi khi nó có thể tạo ra kết quả đáng lo ngại, khi người dùng thử nghiệm chúng. Rõ ràng, Wang nói rằng điều đó không có nghĩa là công nghệ AI là độc hại.

Cô ấy nói: “Nói như trên thì hơi xúc phạm, nhưng tôi cũng không muốn kết luận rằng công cụ AI này đang mắc phải tình trạng phân biệt chủng tộc thực sự”.

Gần đây, các chuyên gia cũng đã nói rằng, sự thiên vị của AI có thể tồn tại và đã được quan sát trong nhiều năm qua, nhưng đang trong thực trạng nan giải. Họ cho biết, các kho dữ liệu được AI sử dụng để đưa ra kết quả có thể không phải lúc nào cũng phản ánh chính xác các nhóm chủng tộc và dân tộc khác nhau, hoặc có thể tái tạo các thành kiến ​​chủng tộc hiện có.

Wang, người theo học hai chuyên ngành toán học và khoa học máy tính sẽ trở lại MIT vào mùa thu này để theo học chương trình sau đại học, cho biết bức ảnh được chia sẻ rộng rãi của cô có thể chỉ là một đốm sáng cảnh báo.

Cô giải thích nguyên nhân, có thể chương trình AI đã ngẫu nhiên tạo ra các đặc điểm trên khuôn mặt của một phụ nữ da trắng, hoặc công cụ AI có thể đã được đào tạo bằng quan điểm rằng, phần lớn những người được mô tả trên LinkedIn có tính chuyên nghiệp sẽ là người da trắng.

Điều này khiến cô ấy nghĩ về những hậu quả có thể xảy ra, nếu một sai lầm tương tự xuất hiện trong một tình huống có tính rủi ro cao hơn, chẳng hạn như nếu một công ty sử dụng công cụ AI để chọn những ứng viên chuyên nghiệp nhất cho một công việc, thì liệu nó có nghiêng về những người có vẻ ngoài da trắng hay không.

“Tôi chắc chắn nghĩ rằng, đó là một vấn đề”, Wang nói. “Tôi hy vọng những người đang làm phần mềm AI nên nhận thức được những thành kiến ​​này, và suy nghĩ về các cách để giảm thiểu chúng”.

Wang cho biết cô hy vọng trải nghiệm của mình như một lời nhắc nhở rằng, mặc dù các công cụ AI đang ngày càng trở nên phổ biến, nhưng mọi người nên thận trọng khi sử dụng chúng.

Cô ấy nói: “Trong tư duy sử dụng công nghệ hiện có, thì có một số người đã và đang thực sự đặt nhiều niềm tin mãnh liệt vào AI. Vì vậy, sau sự cố này tôi nghĩ thật tuyệt khi nó sẽ khiến những người đó suy nghĩ lại về điều này, đặc biệt là những người có thể từng nghĩ rằng sự thiên vị của AI đã đi vào dĩ vãng”.

Theo Bostonglobe