ChatGPT vừa thú vị, vừa đáng sợ với an ninh mạng

ChatGPT và các công nghệ Chatbot AI mới đang tác động hai chiều đến an ninh mạng theo những cách thú vị lẫn đáng sợ.

Gần đây, các nhóm công nghệ đã báo trước sự bùng nổ của AI như một cơ hội để nâng cao hiệu quả của người lao động và cắt giảm chi phí. Nhưng cũng có mối lo ngại ngày càng tăng về việc công nghệ này bị tin tặc sử dụng làm vũ khí để thực hiện các cuộc tấn công mạng tàn khốc.

Khi OpenAI ra mắt mô hình ngôn ngữ lớn (Large Language Models- viết tắt là LLM) mang tính cách mạng như ChatGPT vào tháng 11/2022, hàng triệu người dùng đã rất ngạc nhiên trước khả năng của nó. Tuy nhiên, đối với nhiều người, sự tò mò nhanh chóng nhường chỗ cho mối lo ngại thực sự xung quanh tiềm năng của công cụ này trong việc thúc đẩy các âm mưu của kẻ xấu.

Được hỗ trợ bởi các mô hình ngôn ngữ lớn (Large Language Models- viết tắt là LLM), công nghệ AI tổng quát như ChatGPT cho phép máy tính tạo ra nội dung phức tạp, chẳng hạn như văn bản, âm thanh, video và âm nhạc từ những lời nhắc truy vấn đầu vào đơn giản của con người. Công nghệ này đã bùng nổ trong nhận thức của công chúng vào cuối năm ngoái.

Mặt khác, công nghệ này cũng đã chiếm được sự quan tâm, dòm ngó nhất định của giới tin tặc. Sau khi ChatGPT đi vào hoạt động, số lượng bài đăng trên các diễn đàn dark web về cách khai thác công cụ này để tấn công mạng đã tăng vọt từ 120 vào tháng 1 lên 870 vào tháng 2/2023, tăng 625% theo báo cáo của NordVPN.

Trong thực tế, ChatGPT thành thạo trong việc tạo mã lập trình và các công cụ lập trình máy tính khác, nhưng nền tảng Chatbot AI này được lập trình để không tạo mã mà nó cho là độc hại hoặc nhằm mục đích để hack. Nếu lời yêu cầu viết mã hack được đưa vào, ChatGPT sẽ thông báo cho người dùng rằng mục đích của nó là “hỗ trợ các nhiệm vụ hữu ích và có đạo đức trong khi tuân thủ các nguyên tắc và chính sách về đạo đức”. Tuy nhiên, việc thao túng ChatGPT là điều chắc chắn xảy ra với đủ sự chọc phá và thúc giục sáng tạo, nghĩa là bằng mọi cách, những kẻ xấu có thể lừa AI tạo ra mã hack. Trên thực tế, tin tặc đã âm mưu đạt được mục đích này.

Ví dụ, công ty bảo mật Check Point của Israel gần đây đã phát hiện ra một chủ đề trên một diễn đàn hack ngầm nổi tiếng của một hacker, chủ đề này tuyên bố đang thử nghiệm chatbot để tạo ra các chủng phần mềm độc hại.

Mặt khác, hầu hết các mô hình LLM đều có bộ lọc để chặn đầu vào của những lời nhắc có hại từ con người. Nhưng hiện tại, các tin tặc tìm cách vượt qua các bộ lọc này, từ đó khiến hệ thống AI tạo ra lời nói căm thù hoặc tuyên truyền, chia sẻ thông tin bí mật hoặc thậm chí viết mã độc.

Sandra Joyce, phó chủ tịch của Mandiant Intelligence, một phần của Google Cloud cho biết, tin tặc đang thử nghiệm công nghệ và tìm các dịch vụ trên dark web để giúp vượt qua bộ lọc của một số hệ thống chatbot AI nhất định.

Hàng trăm sự cố can thiệp này từ tin tặc đã được báo cáo, khiến cả tin tặc và các nhà nghiên cứu công nghệ đã và đang cố gắng tìm hiểu xem liệu hệ thống AI tổng quát có thể viết phần mềm độc hại và tạo ransomware lây nhiễm cho máy tính hay không.

Mackenzie Jackson, nhà phát triển tại nhóm an ninh mạng GitGuardian cho biết rằng, phần mềm độc hại cho đến nay có thể được viết khá cơ bản, nhưng chính công nghệ AI tổng quát như ChatGPT đang thay đổi khả năng của người trong việc viết phần mềm độc hại. Điều này đang tạo ra một thế hệ mới của cái mà ông gọi là “tin tặc AI”, những tội phạm mạng biết cách sử dụng những công cụ sẵn có như AI tổng quát để thực hiện hành vi phạm pháp của mình.

Còn Eran Shimony, nhà nghiên cứu bảo mật chính tại CyberArk, đã tìm ra cách mà giới tội phạm mạng có thể dùng những công cụ như ChatGPT để tự động tạo ra các nhóm tấn công mạng và loại phần mềm độc hại mới. Ông giải thích: “Tin tặc có thể yêu cầu ChatGPT thay thế và biến đổi mọi phần của phần mềm độc hại, từ đó tạo ra phần mềm độc hại đa hình tướng, phức tạp, nguy hiểm hơn, hoặc tự biến đổi để trốn tránh các hệ thống phát hiện.

Ngoài ra, ChatGPT sẽ cung cấp cho tin tặc từ khắp nơi trên thế giới khả năng dùng tiếng Anh gần như thông thạo để hỗ trợ các chiến dịch lừa đảo. Từ đó, công cụ Chatbot AI này giúp tội phạm mạng tự động hóa các cuộc tấn công, quét các bề mặt tấn công và tạo ra nội dung phù hợp với các khu vực địa lý và nhân khẩu học khác nhau, cho phép chúng nhắm mục tiêu vào nhiều nạn nhân tiềm năng hơn ở các quốc gia khác nhau.

Shimony nói rằng, hiện đang có một trò chơi “mèo vờn chuột” giữa tin tặc và chủ sở hữu chatbot AI, chẳng hạn như ChatGPT, trong đó chủ sở hữu đang tìm cách vá các lỗ hổng trong các hệ thống này. “Chúng tôi nghĩ xu hướng này sẽ gia tăng trong tương lai”, Shimony cho biết thêm.

Hiện tại, không có cách nào để ngăn chặn điều này, theo một bài đăng trên blog vào tháng 8 từ Trung tâm An ninh Mạng Quốc gia Mỹ. Bài đăng cho biết: “Đây có thể là một vấn đề cố hữu với công nghệ LLM. Nhiều nghiên cứu cũng đang được tiến hành để tìm ra các biện pháp giảm thiểu khả thi, và có một số chiến lược có thể khiến việc triển khai kịp thời vấn nạn này trở nên khó khăn hơn, nhưng vẫn chưa có biện pháp giảm thiểu chắc chắn nào cả”.

Ngoài ra, các dữ liệu đầu vào được sử dụng để phát triển công nghệ AI mã nguồn mở có khả năng bị tội phạm mạng chiếm giữ và thay đổi. Từ đó, một hacker có thể tìm cách cung cấp cho một mô hình AI nào đó các khối dữ liệu đào tạo độc hại, và từ đó thao túng những gì được tạo ra thông qua các công cụ AI, cái được gọi là đầu độc dữ liệu.

Nói tóm lại, việc bảo vệ chống lại các vụ hack do AI hỗ trợ trong tương lai sẽ đòi hỏi sự cảnh giác và kiểm tra cao hơn. Nhưng công nghệ AI cũng đã được sử dụng để phát hiện phần mềm độc hại trên máy tính, bằng cách phát hiện các hành vi và kiểu mẫu bất thường mà con người có thể bỏ qua.

Một số người hiện đang đề xuất triển khai công nghệ AI rộng rãi hơn trong phòng thủ mạng. Một báo cáo gần đây của Gartner kêu gọi các chuyên gia mạng nên nhận nhiệm vụ khai thác các cơ hội GenAI (GenAI là thế hệ AI tiên tiến đang làm mưa làm gió dưới hình thức các chatbot như chatGPT của OpenAI hay các đối thủ tiềm năng của nó là Brad của Google, Ernie của Baidu…) để cải thiện bảo mật và quản lý rủi ro, tối ưu hóa tài nguyên, và bảo vệ khỏi các kỹ thuật tấn công mới nổi”.

Nhìn về lâu dài, các nhà nghiên cứu đang khám phá tiềm năng phòng thủ không gian mạng hoàn toàn tự động, nhờ đó các công cụ AI có thể phát hiện phần mềm độc hại mới, và ngay lập tức ngăn chặn nó lây lan hoặc gây hại.

Sandra Joyce, phó chủ tịch của Mandiant Intelligence, một phần của Google Cloud, cho biết: “Cơ hội của chúng ta bây giờ là vượt qua các tin tặc. Đây là lần đầu tiên chúng ta có một công nghệ mang lại lợi thế vốn có cho người phòng thủ”. Tuy nhiên, Sandra Joyce cũng cảnh báo rằng sẽ có một chặng đường lâu dài, 5 năm tới sẽ là một thách thức thực sự đối với các đội an ninh mạng.

Và khi AI ngày càng hòa nhập với xã hội, điều quan trọng là các nhà lập pháp, thẩm phán và những người ra quyết định khác phải hiểu được công nghệ và ý nghĩa của nó. Xây dựng liên minh mạnh mẽ giữa các chuyên gia kỹ thuật và các nhà hoạch định chính sách sẽ rất quan trọng trong việc định hướng tương lai của AI trong việc săn lùng, ngăn chặn mối đe dọa và nhiều hơn thế nữa.

Các cơ hội, thách thức và cân nhắc về mặt đạo đức của AI trong an ninh mạng rất phức tạp và đang phát triển. Đảm bảo các mô hình AI không thiên vị và duy trì sự tham gia của con người vào việc ra quyết định sẽ giúp quản lý các thách thức về đạo đức. Sự cảnh giác, hợp tác và hiểu biết rõ ràng về công nghệ sẽ rất quan trọng trong việc giải quyết các mối đe dọa lâu dài tiềm ẩn của máy móc có độ thông minh cao.

Theo FT/HBR/Znet