Dư luận dậy sóng việc AI tạo ảnh khỏa thân giả các bé gái vị thành niên

Ít nhất 20 cô gái tuổi teen Tây Ban Nha cho biết, họ đã nhìn thấy những bức ảnh khỏa thân giả do công nghệ trí tuệ nhân tạo (AI) tạo ra. Và một cuộc điều tra đang được tiến hành, sau khi phụ huynh các nạn nhân nộp đơn khiếu nại tố cáo về vấn nạn này.

Theo giới truyền thông Tây Ban Nha đưa tin, có ít nhất 20 cô gái tuổi teen ở Tây Ban Nha đã và đang nhìn thấy những bức ảnh khỏa thân giả của họ do AI tạo ra, lan truyền trên khắp mạng xã hội và trường học.

Isabel, 14 tuổi (người đã được đổi tên theo yêu cầu của người mẹ), nói với tờ báo Tây Ban Nha, El País rằng, những bức ảnh khỏa thân giả của cô ấy do AI tạo ra đã được lan truyền khắp trường học, và trở thành trung tâm thảo luận của đám đông các học sinh.

Isabel kể lại, sáng hôm đó, Isabel bước vào sân trường thì đã phát hiện tin đồn lan từ nhóm này sang nhóm khác. Đây là tất cả những gì mọi người đang bàn tán lúc đó: Có những bức ảnh các bạn nữ khỏa thân cùng lớp được truyền qua điện thoại của mọi người.

Sau đó, Isabel ra ngoài chơi cùng các bạn và cuối cùng họ bị sốc. Đột nhiên, một chàng trai trong trường đến gần Isabel và nói: “Anh đã thấy một bức ảnh khỏa thân của em”. Isabel trẻ sợ hãi. Tan học, cô bé trở về nhà, việc đầu tiên cô làm là kể cho mẹ mình nghe. Isabel nói: “Mẹ ơi, họ nói có một bức ảnh khỏa thân của con lan truyền đi khắp nơi”.

Theo giới truyền thông Tây Ban Nha, cô gái 14 tuổi này là 1 trong ít nhất 20 cô gái tuổi teen ở thị trấn Almendralejo đã nhìn thấy những bức ảnh khỏa thân giả về họ, do AI tạo ra lan truyền trên các mạng xã hội.

Mẹ của các cô gái nạn nhân này cho biết, số nạn nhân trong câu chuyện này ngày càng tăng, sau khi họ gọi điện cho nhau, và chia sẻ câu chuyện các con của họ trong nhóm WhatsApp mà một thành viên trong số họ đã tạo.

Tính đến ngày 19/9, có ít nhất 7 người đã nộp đơn khiếu nại tố cáo lên cảnh sát địa phương, theo tờ El País. Phía cảnh sát địa phương cho tờ báo biết, Văn phòng Công tố viên vị thành niên địa phương hiện đã mở cuộc điều tra và đã xác định được một số nghi phạm.

Fátima Gómez, mẹ của một bé gái 12 tuổi, nói với đài truyền hình khu vực Canal Extremadura rằng, bà đã nộp đơn khiếu nại đầu tiên vào ngày 15/9 tuần trước, sau khi phát hiện ra những bức ảnh con mình trên mạng.

Gómez cho biết thêm rằng, một cậu bé đã gửi cho con gái của bà một bức ảnh khỏa thân giả con gái mình do AI tạo ra qua Instagram, sau khi con bà từ chối đưa tiền cho cậu ta, và còn dọa sẽ đăng công khai trên Instagram, theo đài truyền hình khu vực.

Fátima Gómez còn nói với đài truyền hình rằng, con gái bà đã chặn hồ sơ tài khoản của cậu bé kia, và phía cảnh sát địa phương tin rằng, hồ sơ tài khoản này có thể là giả mạo.

Còn Miriam Al Adib, mẹ của 4 cô con gái tuổi teen, nói với El País rằng, trái tim bà bỗng nhiên loạn nhịp khi cô con gái 14 tuổi cho bà xem một bức ảnh khỏa thân giả do AI tạo ra.

Bà nói với tờ báo Tây Ban Nha: “Tôi trở về sau một chuyến đi và con gái tôi kể cho tôi nghe về điều đó, và tôi rất lo lắng. Nếu tôi không quan sát, tìm hiểu kỹ thì bức ảnh này thoạt đầu trông có vẻ giống thật”.

Trong một video trên Instagram, Al Adib cho biết cảnh sát nói với bà rằng, thủ phạm có thể đã tải những bức ảnh lên nền tảng OnlyFans hoặc các trang web khiêu dâm trẻ em.

Al Adib kêu gọi những người chịu trách nhiệm hợp tác để khắc phục sự cố và cho biết, có lo ngại rằng những hình ảnh này có thể được tải lên các trang web khiêu dâm. Bà viết trong một chú thích: “Sử dụng ảnh của người khác cho hành vi tàn bạo này, và gửi chúng đi khắp nơi là một tội ác rất nghiêm trọng”.

“Điều này sẽ không được dung thứ. Hãy dừng lại ngay. Và các cô gái, đừng ngại báo cáo những hành vi như vậy. Hãy nói với mẹ của các bạn. Các bà mẹ có con mình bị ảnh hưởng, hãy nói cho tôi biết, để các bạn có thể gia nhập nhóm WhatsApp mà chúng tôi đã tạo ra”, Miriam Al Adib nói thêm.

Bức ảnh của một trong những cô gái nạn nhân được cho là có đóng dấu biểu tượng logo con ruồi, logo đặc thù của ứng dụng tên là Clothingoff, ứng dụng này được hỗ trợ bởi AI để tạo ra các bức ảnh nhạy cảm này. Ứng dụng còn dẫn quảng cáo các dịch vụ của mình với khẩu hiệu: “Cởi đồ cho bất kỳ ai bằng dịch vụ miễn phí của chúng tôi!”.

Phía nhà phát triển ứng dụng Clothingoff đã không trả lời ngay lập tức yêu cầu bình luận nào của tờ Businessinsider về câu chuyện này. Nhưng phần mô tả đại diện của ứng dụng Clothingoff cho biết, họ không chịu bất kỳ trách nhiệm nào đối với những hình ảnh được tạo bằng ứng dụng AI của mình.

Theo Bộ luật Hình sự của Tây Ban Nha, việc bán, phân phối, triển lãm, cung cấp và tạo điều kiện lan truyền các tài liệu khiêu dâm trẻ em có thể bị phạt tới 9 năm tù.
Fernando Cumbres, một luật sư chuyên về luật hình sự, gia đình, dân sự và hành chính, nói với Canal Extremadura rằng, kẻ dùng app, các công cụ AI hỗ trợ tạo ra những hình ảnh khiêu dâm do AI tạo ra ở trên đều nằm trong luật này.

Còn Công tố viên cấp cao của Extremadura, Francisco Javier Montero, đã mô tả việc sử dụng trí tuệ nhân tạo trong lĩnh vực tội phạm tình dục là đáng báo động, vì danh tính bị mạo danh, thông qua thao tác xử lý ảnh chụp, xâm phạm quyền riêng tư phi pháp.

Francisco Mendoza, một quan chức chính quyền khu vực, nói với hãng truyền thông địa phương Canal Extremadura rằng, cảnh sát đã xác định được một số thanh niên có thể liên quan đến việc tạo ra những hình ảnh này. Người phát ngôn của tòa án công lý tối cao ở Extremadura nói với Đài CNN rằng, một cuộc điều tra của cảnh sát đang diễn ra.

Theo Businessinsider/Adenaser