Trí tuệ nhân tạo có thể viết một email lừa đảo không hề sai sót, đầy thuyết phục

Công nghệ Trí tuệ nhân tạo (AI) có thể được sử dụng để hack và lan truyền thông tin sai lệch, cũng như lừa đảo trên mạng. Điều này khiến các chuyên gia an ninh mạng gặp khó khăn hơn trong việc bảo vệ các tổ chức của họ.

Trí tuệ nhân tạo tăng cấp độ lừa đảo qua email như thế nào?

Email lừa đảo là vũ khí nổi tiếng của tội phạm mạng, chuyên đánh lừa người nhận nhấp vào liên kết tải xuống phần mềm độc hại, hoặc lừa họ cung cấp thông tin cá nhân như mật khẩu hoặc số pin, số tài khoản ngân hàng…

Trong thực tế, từ trước đến nay, email lừa đảo khá dễ bị phát hiện nhờ lối soạn thảo cẩu thả. Đặc biệt, các email lừa đảo được tạo ra bởi một tin tặc không quen thuộc với một ngôn ngữ nhất định nào đó, thì những email đó có xu hướng dễ bị phát hiện do ngữ pháp kém, từ vựng phi logic và cả lỗi chính tả. Những lỗi rõ ràng như vậy rất dễ phát hiện bởi hệ thống phòng thủ email tự động hiện nay, cũng như ở những người cẩn thận.

Nhưng giờ đây, các tin tặc đang sử dụng trí tuệ nhân tạo để tạo ra phần mềm độc hại, soạn thảo các email lừa đảo đầy tính thuyết phục và lan truyền thông tin sai lệch trực tuyến. Bằng chứng ban đầu cho thấy cuộc cách mạng công nghệ này đang càn quét Thung lũng Silicon, và nó cũng đang được bọn tội phạm mạng áp dụng để thực hiện hành vi tấn công, một quan chức an ninh mạng hàng đầu của Canada nói với tờ Reuters.

Trong một cuộc phỏng vấn vào tuần qua, Giám đốc Trung tâm An ninh mạng Canada, Sami Khoury nói rằng, cơ quan của ông đã thấy AI được sử dụng để tạo email lừa đảo một cách chỉnh chu, ít lỗi sai, khó phát hiện hơn so với trước đây, kèm theo đó là nhiều mã độc và thông tin sai lệch ẩn chứa trong đó để lừa đảo tấn công người dùng.

Ông khẳng định, một lỗ hổng cơ bản trong nỗ lực lừa đảo của hacker qua email như lỗi chính tả và ngữ pháp kém đang được sửa chữa bằng các công cụ chatbot trí tuệ nhân tạo, nó có thể giúp sửa các lỗi, đánh lừa bộ lọc thư rác hay trốn cả hệ thống cảnh báo cho người đọc. Vì thế, ý tưởng cho rằng bạn có thể dựa vào việc tìm kiếm lỗi ngữ pháp hoặc chính tả để phát hiện một cuộc tấn công lừa đảo qua email giờ đây có thể không còn đúng nữa.

Dữ liệu từ các chuyên gia an ninh mạng tại công ty Darktrace của Vương quốc Anh cho thấy rằng, các email lừa đảo ngày càng được viết bởi bot, cho phép bọn tội phạm khắc phục trình độ tiếng Anh kém cõi, và gửi các tin nhắn dài hơn mà ít bị bộ lọc thư rác bắt gặp hơn.

Nguy hiểm hơn hết là AI có thể tạo ra một email gốc bắt chước email do con người viết. Tin tặc có thể yêu cầu công cụ tự động tùy chỉnh thay thế nội dung thông tin chi tiết về một công ty, tên nạn nhân hoặc địa điểm cụ thể để nhân bản các email độc hại cho các mục tiêu khác nhau chỉ trong giây lát trước khi phát tán.

Chuyên gia Khoury không cung cấp thông tin chi tiết hoặc bằng chứng cụ thể, nhưng ông khẳng định rằng, tội phạm mạng đã sử dụng AI để tăng thêm mức độ tinh vi trong việc lừa đảo người dùng trong môi trường trực tuyến ở đẳng cấp mới khó nhận dạng, phát hiện hơn so với trước đây.

Ông chia sẻ rằng, trong những tháng gần đây, một số nhóm chuyên gia giám sát an ninh mạng trực tuyến quốc tế đã công bố các báo cáo cảnh báo về những rủi ro của AI – đặc biệt là các chương trình xử lý ngôn ngữ tiến bộ phát triển cực nhanh như mô hình ngôn ngữ lớn (Large Language Models- viết tắt là LLM dựa trên khối lượng văn bản khổng lồ để tạo ra các đoạn hội thoại, tài liệu nghe có vẻ thuyết phục, v.v.).

Vào tháng 3, tổ chức cảnh sát Châu Âu Europol công bố một báo cáo cho rằng, các mô hình như ChatGPT của OpenAI đã cho phép mạo danh lừa đảo một tổ chức hoặc cá nhân đầy tính thực tế thuyết phục, lẫn mức độ tinh vi được nâng lên tầm cao mới.

Cùng tháng đó, Trung tâm An ninh mạng Quốc gia của Anh cho biết trong một bài đăng trên blog rằng, có nguy cơ bọn tội phạm có thể sử dụng LLM để hỗ trợ các cuộc tấn công mạng vượt quá khả năng trước đây của chúng.

Các nhà nghiên cứu an ninh mạng đã chứng minh nhiều trường hợp sử dụng có khả năng gây hại, và một số người hiện cho biết, họ bắt đầu thấy nội dung đáng ngờ do AI tạo ra. Tuần trước, một cựu hacker cho biết anh ta đã phát hiện ra một mô hình LLM được đào tạo chuyên về thiết kế nội dung tài liệu độc hại, và nhân vật này đã thử yêu cầu công cụ này soạn thảo một văn bản để thuyết phục lừa ai đó thực hiện thao tác chuyển tiền.

Hệ thống LLM này đã trả lời bằng một email dài ba đoạn tương tự một hóa đơn khẩn cấp tưởng chừng như hợp pháp. Trong đó có dòng: “Tôi hiểu đây có thể là thông báo ngắn nhưng khoản thanh toán này cực kỳ quan trọng và cần được thực hiện trong 24 giờ tới”, nội dung do Hệ thống LLM độc hại này hướng dẫn.

Chuẩn bị cho cuộc tấn công lừa đảo AI

Khoury nói rằng, việc sử dụng công nghệ AI mới để soạn thảo văn bản email lừa đảo chứa mã độc hại vẫn chỉ đang ở giai đoạn đầu. Thế nên, vẫn còn một chặng đường dài phía trước, vì hình thức này sẽ ăn theo từng bước phát triển, nâng cấp của công nghệ AI theo mỗi ngày, mỗi giờ.

Mối lo ngại là các mô hình AI đang phát triển quá nhanh nên rất khó để giải quyết nhanh chóng, triệt để vấn nạn này trong một sớm một chiều. “Chả ai biết được điều gì sắp xảy ra ở công nghệ này trong thời gian sắp tới”, anh Khoury nói.

Theo Reuters/CNBC/Theguardian/Unite