ByteDance gây sốc với AI tạo video deepfake gần như hoàn hảo

Các nhà nghiên cứu từ ByteDance vừa giới thiệu một hệ thống AI mới mang tên OmniHuman-1 có khả năng tạo ra những video deepfake chân thực.

Mặc dù đã có nhiều ứng dụng deepfake cho phép chèn hình ảnh hoặc âm thanh của một người vào video nhưng hầu hết các sản phẩm này vẫn để lại dấu hiệu nhận biết rõ ràng về sự can thiệp của AI. Tuy nhiên, với OmniHuman-1, điều này dường như không còn là vấn đề.

Trong một buổi trình diễn, nhóm nghiên cứu đến từ công ty mẹ của TikTok đã giới thiệu các video giả mạo, bao gồm một bài phát biểu chưa từng diễn ra của Taylor Swift và một bài giảng giả mạo của Albert Einstein. Theo thông tin từ ByteDance, OmniHuman-1 chỉ cần một hình ảnh và một đoạn âm thanh duy nhất để tạo ra video với độ dài tùy ý. Hệ thống này có khả năng điều chỉnh tỷ lệ khung hình và tỷ lệ cơ thể của nhân vật trong video, cho phép tạo ra những cảnh quay rất thuyết phục. Xem video tại đây.

Mặc dù OmniHuman-1 có nhiều ưu điểm nhưng nó vẫn không hoàn hảo. Nhóm nghiên cứu cho biết hình ảnh tham chiếu chất lượng thấp có thể ảnh hưởng đến kết quả, và hệ thống gặp khó khăn với một số tư thế nhất định. Tuy nhiên, khả năng của OmniHuman-1 vượt trội hơn hẳn so với các kỹ thuật deepfake trước đây và mở ra những tiềm năng mới trong lĩnh vực này.

Sự phát triển của công nghệ deepfake cũng đặt ra nhiều lo ngại. Năm ngoái, các video deepfake đã được sử dụng để lan truyền thông tin sai lệch trong các cuộc bầu cử ở Đài Loan và Moldova, cũng như trong các vụ lừa đảo tài chính. Theo báo cáo của Deloitte, nội dung do AI tạo ra đã gây thiệt hại hơn 12 tỷ USD do gian lận trong năm 2023, và con số này có thể lên tới 40 tỷ đô la vào năm 2027 tại Mỹ.

Trong bối cảnh này, nhiều chuyên gia trong cộng đồng AI đã kêu gọi các quy định nghiêm ngặt hơn về deepfake. Mặc dù hiện tại chưa có luật liên bang nào tại Mỹ để xử lý vấn đề này, một số tiểu bang đã ban hành luật chống lại hành vi mạo danh bằng AI. Ví dụ luật của California (hiện đang bị đình trệ) sẽ là luật đầu tiên cho phép thẩm phán yêu cầu gỡ bỏ các video deepfake hoặc đối mặt với hình phạt tiền.

Tuy nhiên, việc phát hiện deepfake vẫn là một thách thức lớn. Mặc dù một số mạng xã hội và công cụ tìm kiếm đã thực hiện các biện pháp để hạn chế sự lây lan của chúng nhưng số lượng nội dung deepfake trực tuyến vẫn tiếp tục gia tăng. Một cuộc khảo sát gần đây cho thấy 60% người tham gia đã gặp phải deepfake trong năm qua, và 72% bày tỏ lo ngại về khả năng bị lừa đảo bởi công nghệ này. Rõ ràng, sự phát triển của deepfake đang đặt ra nhiều thách thức cho xã hội và cần có những biện pháp pháp lý kịp thời để bảo vệ người tiêu dùng.