Người đàn ông Trung Quốc bị bắt vì sử dụng ChatGPT để tạo tin tức giả về tai nạn tàu hỏa

Trung Quốc đã thực hiện vụ bắt giữ đầu tiên được biết đến trong một vụ án liên quan đến việc một người đàn ông lạm dụng ChatGPT để tạo ra tin tức giả về một vụ tai nạn tàu hỏa. Ảnh: @AFP.

Cảnh sát ở Trung Quốc đã bắt giữ một người đàn ông họ Hong đã sử dụng ChatGPT để tạo tin tức giả mạo, và phát tán nó lên mạng. Đây là vụ án hình sự đầu tiên của đất nước này liên quan đến chatbot AI.

Theo một tuyên bố từ cảnh sát ở tỉnh Cam Túc phía tây bắc Trung Quốc, thì nghi phạm được cho là đã sử dụng ChatGPT để tạo loạt các báo cáo không có thật về một vụ tai nạn tàu hỏa, sau đó anh ta đăng lên mạng để kiếm tương tác.

Hong bị buộc tội gây gổ và gây rắc rối, đây là tội danh áp dụng chung cho tội gây rối trật tự công cộng và bao gồm cả việc tung tin thất thiệt trên internet, cũng là một tội danh thường có mức án tối đa 5 năm, theo sở cảnh sát Cam Túc. Tuy nhiên, trong trường hợp đặc biệt nghiêm trọng nếu điều tra thêm có bằng chứng khác liên quan, người phạm tội có thể bị phạt tù 10 năm và kèm hình phạt bổ sung khác.

ChatGPT, được phát triển bởi OpenAI do Microsoft hậu thuẫn, bị cấm ở Trung Quốc, mặc dù người dùng internet có thể sử dụng mạng riêng ảo (VPN) để truy cập nó. Chính quyền Cam Túc cho biết nghi phạm họ Hong đã bị thẩm vấn tại thành phố Đông Quan, tỉnh Quảng Đông, miền nam Trung Quốc vào ngày 5/5.

Nghi phạm bị cáo buộc sử dụng chatbot của OpenAI để tạo các bài báo mô tả một vụ tai nạn tàu hỏa chết người mà các quan chức cho rằng đó là thông tin sai lệch, theo một tuyên bố của cảnh sát được tờ South China Morning Post đưa tin.

Sau khi phát hiện ra bài báo vào ngày 25/4, các nhà chức trách đã tìm thấy nhiều phiên bản hơi khác của cùng một câu chuyện với các địa điểm xảy ra tai nạn khác nhau đã được đăng đồng thời lên 20 tài khoản khác trên nền tảng blog Baijiahao thuộc sở hữu của Baidu. Chính quyền Cam Túc lần ra các bài báo này dẫn đến một công ty độc lập do Hong điều hành, chủ yếu là điều hành một số cửa hàng dạng blog.

Trong kết quả điều tra ban đầu, cảnh sát địa phương tuyên bố Hong thừa nhận đã sử dụng ChatGPT để viết lại các bài báo giả mạo lan truyền hiện có nhằm tránh các bộ lọc nội dung trùng lặp của nền tảng blog Baijiahao, sau đó đăng chúng lên mạng sau khi bạn bè chỉ cho anh ta cách kiếm tiền thông qua lưu lượng truy cập internet. Các bài báo sai sự thật đã được xem hơn 15.000 lần trước khi bị xóa. “Hong đã sử dụng công nghệ hiện đại để bịa đặt thông tin sai lệch, phát tán nó trên internet và được phổ biến rộng rãi”, cảnh sát Cam Túc cho biết trong một tuyên bố.

Phía cảnh sát còn cho biết đây là vụ bắt giữ đầu tiên ở Cam Túc kể từ khi Cục quản lý không gian mạng của Trung Quốc ban hành các quy định mới vào tháng 1/2023 để hạn chế việc sử dụng deep fake, cũng như đề xuất phải gỡ bỏ nội dung bị coi là sai lệch hoặc có hại, cùng phương án xử lý sai phạm rõ ràng. Đài truyền hình nhà nước CGTN cũng cho biết đây là vụ bắt giữ đầu tiên ở nước này đối với một người bị cáo buộc sử dụng ChatGPT để bịa đặt và lan truyền tin tức giả mạo.

Vụ bắt giữ mới này cũng diễn ra trong bối cảnh một chiến dịch kéo dài 100 ngày do chi nhánh internet của Bộ Công an Trung Quốc phát động vào tháng 3 nhằm trấn áp việc lan truyền tin đồn trên mạng.

Kể từ đầu năm, những công ty internet khổng lồ Trung Quốc như Baidu và Alibaba đã tìm cách bắt kịp OpenAI, tung ra các phiên bản dịch vụ tương tự ChatGPT của riêng họ. Baidu đã tiết lộ các nền tảng tương tự ChatGPT như “Wenxin Yiyan” hay “ERNIE Bot” vào tháng 3. Hai tháng sau, Alibaba ra mắt “Tongyi Qianwen”, tạm dịch là tìm kiếm sự thật bằng cách hỏi hàng nghìn câu hỏi.

Người đàn ông Trung Quốc bị bắt vì sử dụng ChatGPT để tạo tin tức giả về tai nạn tàu hỏa - ChatGPT 1
Cảnh sát khám xét căn hộ của nghi phạm ở Đông Quan, tỉnh Quảng Đông, Trung Quốc vào ngày 5/5 năm 2023. Ảnh: @Sở Cảnh Sát Cam Túc.

Phía Cơ quan quản lý internet của Trung Quốc lo ngại việc sử dụng công nghệ tổng hợp sâu deep fake trong các trò gian lận hoặc phỉ báng trực tuyến. Tăng trưởng thực trạng này không được kiểm soát là một mối quan tâm đối với cơ quan quản lý.

Quan trọng hơn, các cơ quan thực thi pháp luật của Trung Quốc đã bày tỏ lo ngại và cảnh báo về ChatGPT khi nó trở nên phổ biến trong những tháng gần đây. Cảnh sát Trung Quốc tại Bắc Kinh đã cảnh báo công chúng về tin đồn do ChatGPT tạo ra.

Trong dự thảo hướng dẫn được ban hành vào tháng trước để thu hút phản hồi của công chúng, cơ quan quản lý không gian mạng của Trung Quốc cho biết các dịch vụ AI tổng quát sẽ được yêu cầu trải qua đánh giá bảo mật trước khi chúng có thể hoạt động ngoài thực tế.

Thậm chí, các nhà cung cấp dịch vụ cũng sẽ được yêu cầu xác minh danh tính thực của người dùng, cũng như cung cấp thông tin chi tiết về quy mô và loại dữ liệu họ sử dụng, các thuật toán cơ bản và thông tin kỹ thuật khác.

Thông tin xuyên tạc và sai lệch do AI tạo ra không chỉ dành riêng cho Trung Quốc, các chuyên gia về AI, các công ty truyền thông xã hội và các quan chức chính phủ ở Mỹ đều lo ngại như nhau về khả năng thông tin sai lệch do công nghệ AI tổng quát lan truyền.

Vào tháng 4, Đảng Cộng Hòa đã phát hành một quảng cáo do AI tạo ra tưởng tượng, nếu Tổng thống Biden tái đắc cử lần nữa, cho thấy làn sóng nhập cư ồ ạt ở biên giới Mỹ với Mexico và sự sụp đổ của nền văn minh ở San Francisco. Mặc dù quảng cáo này được gắn nhãn là do AI tạo ra, nhưng hình ảnh chân thực về các sự kiện giả có thể dễ dàng khiến mọi người lầm tưởng rằng các cảnh đó là thật.

Theo CNN/Theverge/Vice

Có thể bạn quan tâm
Gần 1.200 thí sinh tranh tài tại cuộc thi lập trình Da Nang Code League 2023

Vòng chung kết Cuộc thi lập trình Da Nang Code League 2023 vừa diễn ra tại khuôn viên của campus CodeCation FPT Complex, Đà Nẵng. Sau 4 tiếng cạnh tranh, ba bảng đấu dành cho kỹ sư, sinh viên công nghệ và học sinh đam mê lập trình đã chọn ra các nhóm chiến thắng giành tổng giải thưởng 200 triệu đồng.

iPhone 14 gây thất vọng với nhiều người dùng

Cuộc khảo sát đánh giá sản phẩm trên trang web perfectrec gần đây cho thấy dòng iPhone 14 khiến mức độ hài lòng của khách hàng sử dụng sụt giảm nhất đối với iPhone, kể từ năm 2012.

Mastercard loại bỏ nhựa PVC khỏi thẻ thanh toán vào năm 2028

Mastercard vừa công bố kế hoạch đẩy mạnh loại bỏ nhựa PVC khỏi thẻ thanh toán thuộc mạng lưới toàn cầu của mình vào năm 2028.

EU cảnh báo sẽ cấm Apple bán iPhone 15 nếu sử dụng chip hạn chế chức năng cổng sạc USB-C

Gần đây, đã có những tin đồn dự đoán về cổng sạc USB-C của Apple trên iPhone 15 sắp ra mắt sẽ bị hạn chế về dữ liệu và tốc độ sạc đối với cáp không có chứng nhận Made for iPhone (MFi). Cố gắng ngăn chặn điều đó, phía EU đã đưa ra lời cảnh báo cực gắt cho Apple.

AI tạo sinh, cuộc chơi bắt đầu!

Trên blog của mình, Swami Sivasubramanian, Phó Chủ tịch phụ trách cơ sở dữ liệu, phân tích và máy học của AWS đã chia sẻ những công nghệ đột phá sẽ sớm ra mắt nhằm hỗ trợ ứng dụng AI tạo sinh mà thế giới đang bắt đầu bước vào.

Meta bị đề xuất cấm kiếm tiền từ dữ liệu trẻ em và không được mời vị thành niên tham gia Metaverse

Ủy ban Thương mại Liên bang (Federal Trade Commission- viết tắt FTC) của Mỹ cho biết, Meta đã vi phạm lệnh bảo mật về quyền riêng tư năm 2020, khi gây hiểu lầm cho các bậc cha mẹ, và không bảo vệ trẻ em sử dụng ứng dụng Messenger Kids của Facebook.

Mỹ và Liên minh châu Âu bắt tay chặn đà tăng trưởng của Huawei?

Với những gì mà Huawei đã đạt được trong thời gian gần đây, chính phủ Mỹ được cho là đang làm nhiều điều hơn nữa nhằm chặn đà tăng trưởng của công ty Trung Quốc này.

Thương hiệu phím cơ MIKIT gia nhập thị trường Việt Nam

MIKIT, công ty chuyên sản xuất các dòng bàn phím cơ, đã bắt tay cùng nhà phân phối Network Hub để mang đến cho người dùng Việt thêm nhiều lựa chọn bàn phím cơ mới với thiết kế độc lạ, màu sắc trẻ trung, chất lượng, đa kết nối và mức giá cạnh tranh.

Microsoft tiếp tục công bố loạt cải tiến mới của AI trong Bing và Edge

Cách đây ba tháng, Microsoft đã giới thiệu công cụ Microsoft Bing và Edge mới có tích hợp trí tuệ nhân tạo (AI) giúp thay đổi cách mọi người tìm kiếm thông tin. Và nay hãng tiếp tục công bố đưa vào loạt thiết kế và tính năng mới.

Apple cập nhật giá trị trao đổi cho các thiết bị của mình

Apple đã cung cấp các lựa chọn trao đổi khi mua một sản phẩm mới trong gần 10 năm nay và thường xuyên cập nhật các giá trị trao đổi cho các sản phẩm cũ của mình.