Bị lừa 21.000 USD sau khi nhận cuộc gọi do AI giả giọng người con trai

Hình thức lừa đảo sử dụng giọng nói AI bắt chước những người thân yêu đang gặp nạn cần chuyển một số tiền gấp. Ảnh minh họa: @Blitz.

Sự trỗi dậy của AI đang giúp những kẻ lừa đảo dễ dàng tạo ra những cuộc gọi khiến mọi người nghĩ rằng, họ đang nói chuyện với những người thân yêu thực sự.

Mới đây, một cặp vợ chồng ở Canada được cho là đã bị lừa 21.000 USD, sau khi họ nhận được 2 cuộc gọi tự xưng, nói rằng con trai họ đang ngồi tù vì giết một nhà ngoại giao trong một vụ tai nạn xe hơi.

Người con trai của gia đình nạn nhân này, tên là Benjamin Perkin kể lại với tờ The Washington Post rằng, người gọi tự xưng đã sử dụng một giọng nói do AI tạo ra nghe giống như anh ấy nói chuyện điện thoại với cha mẹ anh ấy để đòi tiền. Sau đó, một người tự xưng là luật sư bị cáo buộc đã gọi lại cho cha mẹ anh ấy sau cuộc gọi đầu tiên và nói với họ rằng, Benjamin Perkin cần 21.000 USD cho phí pháp lý trước khi ra tòa.
Perkin nói với tờ The Washington Postt rằng: “Giọng nói ở cuộc gọi đầu tiên “đủ giống để bố mẹ tôi thực sự tin rằng họ đã nói chuyện với tôi”.

Cha mẹ của Benjamin Perkin đã thu gom tiền mặt có được rồi chuyển đổi, gửi tiền cho kẻ lừa đảo thông qua tiền điện tử Bitcoin, Perkin cho biết, nhưng sau đó họ thừa nhận rằng, họ nghĩ cuộc điện thoại nghe có vẻ kỳ lạ. Họ chính thức nhận ra mình đã bị lừa sau khi Benjamin Perkin gọi điện về nhà ngay tối hôm đó, sau khi chuyển tiền.

Anh ấy còn nói rằng, gia đình anh ấy đã trình báo sự việc lên sở cảnh sát với chính quyền Canada, nhưng tự thân anh ấy và gia đình cũng hiểu rằng: “Tiền đã biến mất. Không có bảo hiểm cho khoản tài chính đó. Khó thể nào lấy lại được”. Sau sự cố, Perkin không biết làm thế nào những kẻ lừa đảo tìm thấy và giả được tiếng nói của anh ấy.

Đúc kết lại, anh ấy nhận định rằng, công nghệ đang giúp những kẻ xấu bắt chước giọng nói dễ dàng và rẻ hơn, thuyết phục mọi người, thường là người già, các bậc cha mẹ, phụ huynh rằng những người thân yêu của họ đang gặp nạn.

Sự gia tăng của các công cụ AI mạnh mẽ hơn đang diễn ra đồng thời với sự gia tăng các vụ lừa đảo liên quan đến những người mạo danh người khác. Vào năm 2022, lừa đảo của các kẻ mạo danh là trò lừa đảo phổ biến thứ hai ở riêng Mỹ, với hơn 36.000 báo cáo về việc mọi người bị lừa bởi những kẻ giả danh bạn bè và gia đình, theo dữ liệu từ Ủy ban Thương mại Liên bang Mỹ. Các quan chức Ủy ban này cho biết, hơn 5.100 sự cố đã xảy ra chỉ riêng qua điện thoại, gây thiệt hại hơn 11 triệu USD vào năm ngoái.

Thực tế, trào lưu lừa đảo liên quan đến công nghệ AI có trước sự xuất hiện của ChatGPT và các chatbot AI khác hiện đang lan truyền mạnh mẽ. Vào năm 2019, giám đốc điều hành của một công ty năng lượng của Anh được cho là đã chuyển hơn 240.000 USD vào một tài khoản ở Hungary, sau khi anh ta nghĩ rằng sếp của mình đã yêu cầu anh ta làm như vậy trong một cuộc điện thoại.

Vào tháng 1/2023, ElevenLabs, một phòng thí nghiệm nghiên cứu khám phá công cụ sao chép giọng nói và giọng nói tổng hợp, đã chia sẻ một chủ đề trên Twitter đề cập đến những người sử dụng công nghệ họ cho mục đích xấu. Đại diện phát ngôn của Công ty khởi nghiệp đã viết dòng tweet rằng, họ đã phát hành một công cụ cho phép mọi người xác minh xem một mẫu âm thanh có được tạo bằng công nghệ của công ty hay không, và công cụ VoiceLab của họ sẽ chỉ có thể truy cập được sau khi thanh toán.

Một ngày trước khi viết chủ đề này, ElevenLabs đã tweet rằng, họ đã biết về ngày càng nhiều trường hợp lạm dụng nhân bản giọng nói, sau khi phát hành nền tảng Beta của công cụ. Tờ Motherboard phát hiện ra rằng, các thành viên trên trang web ẩn danh, 4chan, đang sử dụng công nghệ của ElevenLabs để tạo ra giọng nói giống như những người nổi tiếng để nói những điều phân biệt chủng tộc và không phù hợp.

Những bằng chứng này cho thấy, những tiến bộ trong trí tuệ nhân tạo đã thêm một lớp mới đáng sợ, cho phép những kẻ xấu sao chép giọng nói chỉ bằng một mẫu âm thanh của một vài câu. Được hỗ trợ bởi AI, một loạt công cụ trực tuyến giá rẻ có thể dịch tệp âm thanh thành bản sao của giọng nói, cho phép kẻ lừa đảo tha hồ dùng đó làm mồi nhử.
Phần mềm tạo giọng nói AI có thể phân tích yếu tố dữ liệu giọng nói đầu vào của một người bao gồm tuổi tác, giới tính và giọng nói, đồng thời tìm kiếm cơ sở dữ liệu khổng lồ về các giọng nói để tìm những giọng nói tương tự và dự đoán các mẫu.

Sau đó, các công cụ này có thể tạo lại cao độ, âm vực và âm thanh riêng lẻ của giọng nói đặc trưng của một người để tạo ra hiệu ứng tổng thể tương tự. Điều tiên quyết là phải có mẫu âm thanh ngắn đầu vào, chúng có thể được lấy từ những nơi như YouTube, podcast, quảng cáo, video TikTok, Instagram hoặc Facebook…

Mặc dù lừa đảo của kẻ mạo danh có nhiều hình thức, nhưng về cơ bản chúng hoạt động theo cùng một cách: kẻ lừa đảo mạo danh một người đáng tin cậy — trẻ em, người yêu hoặc bạn bè, con cái gia đình và thuyết phục nạn nhân gửi tiền cho họ vì họ đang gặp khó khăn.

Nhưng công nghệ giọng nói được tạo ra một cách giả tạo đang làm cho mưu mẹo của những kẻ lừa đảo mạo danh này trở nên thuyết phục hơn. Bởi nhiều nạn nhân báo cáo rằng, họ phản ứng với nỗi kinh hoàng khi nghe những người thân yêu gặp nguy hiểm.

Bị lừa 21.000 USD sau khi nhận cuộc gọi do AI giả giọng người con trai - AI 1
Các mô hình AI được thiết kế để mô phỏng chặt chẽ giọng nói của một người đang giúp những kẻ xấu dễ dàng bắt chước những người thân yêu hơn và lừa đảo những người dễ bị tổn thương hàng nghìn đô la. Ảnh: @AFP.

Hiện tại, Ủy ban Thương mại Liên bang Mỹ đã thành lập Văn phòng Công nghệ mới để điều tra các ứng dụng tiềm năng của AI mà các công ty đang hứa hẹn và để xem liệu các công ty có đang giảm thiểu rủi ro mà sản phẩm của họ có thể gây ra hay không. Người phát ngôn Ủy ban này, Juliana Gruenwald lên tiếng: “Chúng tôi cũng lo ngại về nguy cơ deepfake và các phương tiện tổng hợp dựa trên AI khác đang trở nên dễ tạo và phổ biến hơn, sẽ được sử dụng để lừa đảo” .

Gruenwald cũng nói rằng, Ủy ban Thương mại Liên bang Mỹ đã chứng kiến ​​sự gia tăng đáng kinh ngạc của các vụ lừa đảo tương tự này trên mạng xã hội. Cô nói: “Các công cụ AI tạo ra video, ảnh, âm thanh và văn bản giống như thật có thể thúc đẩy xu hướng này, cho phép những kẻ lừa đảo có phạm vi tiếp cận và tốc độ lừa đảo tinh vi càng lớn hơn nữa”.

Mặt khác, các chuyên gia cho biết các cơ quan quản lý liên bang, cơ quan thực thi pháp luật và tòa án không được trang bị đầy đủ phương tiện cơ sở, dữ liệu, luật pháp lý để kiềm chế nạn lừa đảo mạo danh dưới lớp vỏ công nghệ tinh vi này. Trong khi đó, hầu hết các nạn nhân đều có ít manh mối để xác định thủ phạm và cảnh sát rất khó theo dõi các cuộc gọi và tiền từ những kẻ lừa đảo hoạt động trên khắp thế giới. Và hiện cũng có rất ít tiền lệ pháp lý để các tòa án buộc các công ty sản xuất các công cụ AI giả giọng nói phải chịu trách nhiệm về việc sử dụng chúng.

Theo Businessinsider

Có thể bạn quan tâm
Đúng như tin đồn, Apple đã chính thức ra mắt iPhone 14 màu vàng

Apple vừa trình làng một màu mới cho iPhone 14 hứa hẹn lôi kéo người dùng đến với các mẫu thông thường này.

Verichains cảnh báo về lỗ hổng có thể gây thiệt hại hàng tỷ USD của thư viện Tendermint

Công ty bảo mật blockchain Verichains đã kêu gọi các dự án sử dụng thư viện xác minh chứng thực IAVL của Tendermint có hành động phù hợp để bảo vệ tài sản của họ và giảm thiểu rủi ro bị khai thác sau khi phát hiện một số lỗ hổng đáng kể.

Home Credit triển khai gói vay vốn 0% lãi suất hỗ trợ phụ nữ khó khăn tỉnh Yên Bái

Nhân Ngày Phụ nữ quốc tế 8/3, dự án Home for Life của Home Credit hỗ trợ phụ nữ có hoàn cảnh khó khăn chính thức ra mắt sau 3 tháng đầu tiên triển khai tại tỉnh Yên Bái.

Công bố 10 đội vào Chung kết Thử thách Đổi mới Sáng tạo – Qualcomm Việt Nam 2023

Danh sách những công ty cùng với sản phẩm dự thi lọt vào vòng ươm tạo của chương trình “Thử thách đổi mới sáng tạo Qualcomm Việt Nam 2023” (Qualcomm Vietnam Innovation Challenge 2022 – QVIC 2023) vừa được công bố hôm nay 6/3/2023.

Vì sao số vụ tấn công mạng của Việt Nam giảm mạnh trong năm 2022?

Báo cáo mới nhất từ ​​hãng an ninh mạng Kaspersky cho thấy tình hình an ninh mạng Việt Nam đang có những chuyển biến tích cực, đặc biệt trong giai đoạn phục hồi sau đại dịch.

Apple sẽ nghiêm túc tung phiên bản iPhone 14 màu vàng trong tuần này

Khi ra mắt vào tháng 9/2022, các mẫu iPhone 14 và 14 Plus có 5 tùy chọn màu sắc là Midnight, Xanh lam, Starlight, Tím và Đỏ. Tuy nhiên, con số này có thể sắp tăng lên.

Sony có thêm ống kính full-frame nhỏ gọn FE 50mm F1.4 GM

Sự bổ sung mới nhất cho dải sản phẩm G Master™ của Sony mang đến độ phân giải vượt trội, bokeh tuyệt đẹp và khả năng lấy nét tự động nhanh trong một thiết kế nhỏ gọn.

Tây Ninh ra mắt mini app trên Zalo

Nhằm đơn giản hoá thao tác sử dụng, giúp người dân và doanh nghiệp dễ tiếp cận các tiện ích công do chính quyền cung cấp. Tỉnh Tây Ninh cho ra mắt phiên bản mini app “Tây Ninh Smart” ngay trên nền tảng công nghệ Zalo.

Những hành động công nghệ bảo vệ nguồn nước sạch bền vững

Loại bỏ khí cacbon ra khỏi đại dương, biến amoniac thành nguồn nhiên liệu sạch, sử dụng cây mọng nước cung cấp năng lượng điện và công nghệ sạc không dây cho xe điện… là các giải pháp nổi bật mà các nhà khoa học đang cố gắng đưa vào thực tiễn.

Xbox công bố chương trình Hội nghị dành cho các nhà phát triển trò chơi 2023

Hội nghị Các nhà phát triển trò chơi 2023 (Game Developers Conference 2023) sẽ diễn ra từ ngày 20-24/3 dành cho các nhà phát triển đến với Xbox.