SlashNext đã phát hiện WormGPT khi có quyền truy cập vào công cụ này thông qua một diễn đàn trực tuyến liên quan đến tội phạm mạng. WormGPT là một môđun AI dựa trên mô hình ngôn ngữ GPT-J. Nó có nhiều tính năng, bao gồm hỗ trợ ký tự không giới hạn, duy trì bộ nhớ trò chuyện và khả năng định dạng mã.
WormGPT là một công cụ dựa trên AI tạo sinh và cho phép tin tặc thực hiện nhiều hoạt động bất hợp pháp và không có bất kỳ giới hạn nào. Nhà nghiên cứu bảo mật Daniel Kelley cho biết: “WormGPT được thiết kế đặc biệt cho các hoạt động độc hại, các tin tặc có thể sử dụng công cụ này để tự động tạo ra các email giả mạo có tính thuyết phục cao và được cá nhân hóa cho người nhận, do đó làm tăng cơ hội và xác suất thành công trong cuộc tấn công”.
Tác giả của WormGPT tuyên bố rằng, mô hình của họ đã được đào tạo trên nhiều nguồn dữ liệu khác nhau, đặc biệt tập trung vào dữ liệu liên quan đến phần mềm độc hại. Trong bối cảnh OpenAI ChatGPT và Google Bard đang tăng cường thực hiện các biện pháp nhằm chống lại việc lạm dụng các mô hình ngôn ngữ lớn (LLM) để tạo ra các email lừa đảo thuyết phục và tạo mã độc hại, với sự xuất hiện của WormGPT sẽ khiến cho công cuộc này càng trở nên thách thức và khó khăn hơn.
Theo một phân tích gần đây do hãng bảo mật Check Point công bố đưa ra so sánh các hạn chế chống lạm dụng do ChatGPT và Google Bard, các hạn chế của Bard thấp hơn đáng kể so với các hạn chế của ChatGPT. Điều này có nghĩa là các tác nhân đe dọa có thể dễ dàng sử dụng Bard để tạo nội dung độc hại.
“Bard hầu như không áp đặt bất kỳ hạn chế nào đối với việc tạo email lừa đảo, do đó tạo cơ hội cho việc lạm dụng và khai thác công nghệ này. Với các thao tác tối thiểu, Bard có thể được sử dụng để phát triển keylogger, phần mềm độc hại, điều này gây ra mối lo ngại về bảo mật”, Check Point cho biết.
Đầu tháng 02/2023, công ty an ninh mạng của Israel đã tiết lộ cách tội phạm mạng có thể bỏ qua các hạn chế của ChatGPT bằng cách lợi dụng API của nó, chưa kể đến việc rao bán các tài khoản trả phí bị đánh cắp và các công cụ tấn công brute force để xâm nhập vào tài khoản ChatGPT với việc sử dụng khối lượng lớn danh sách các địa chỉ email và mật khẩu.
Việc WormGPT hoạt động mà không có bất kỳ ranh giới đạo đức nào nhấn mạnh mối đe dọa do AI tạo sinh gây ra, thậm chí cho phép các tin tặc mới có thể thực hiện các cuộc tấn công nhanh chóng và trên quy mô lớn.
"AI tạo sinh có thể tạo email với ngữ pháp hoàn hảo, khiến chúng có vẻ hợp pháp và giảm khả năng bị gắn cờ là đáng ngờ. Việc lạm dụng AI tạo sinh có thể tạo điều kiện cho các cuộc tấn công BEC tinh vi. Ngay cả với những tin tặc có kỹ năng hạn chế cũng có thể sử dụng công nghệ này, khiến nó trở thành một công cụ có thể truy cập được cho nhiều kẻ đe dọa hơn”, Kelley chia sẻ.
Để bảo vệ chống lại các cuộc tấn công BEC do AI điều khiển, các chuyên gia an ninh mạng khuyến cáo các tổ chức phải thực hiện các biện pháp phòng ngừa mạnh mẽ ngay từ bây giờ. Điều này bao gồm phát triển các chương trình đào tạo mở rộng để giáo dục nhân viên về các mối đe dọa BEC do AI tăng cường, triển khai các quy trình xác minh email nghiêm ngặt và sử dụng các hệ thống để gắn cờ các email độc hại tiềm ẩn.
Những phát hiện của SlashNext được đưa ra vài ngày sau khi hãng bảo mật Kaspersky làm sáng tỏ một chiến dịch độc hại mới dựa trên các cuộc tấn công email để nhắm mục tiêu vào các ví tiền điện tử.
Hồng Đạt
09:00 | 05/06/2023
09:00 | 10/04/2023
08:00 | 30/06/2024
08:00 | 28/03/2023
09:00 | 10/01/2024
09:00 | 10/02/2025
Một lỗ hổng bảo mật mới được vá trong công cụ lưu trữ 7-Zip đã bị khai thác để phát tán phần mềm độc hại SmokeLoader.
15:00 | 27/12/2024
Mới đây, Công ty an ninh mạng Bitsight (Mỹ) đã phát hiện mạng lưới botnet BadBox bao gồm hơn 190.000 thiết bị Android, trong đó chủ yếu là các thiết bị TV thông minh Yandex và điện thoại thông minh Hisense.
15:00 | 24/12/2024
Theo thông tin do đội ngũ chuyên gia của Kaspersky chia sẻ, trong nửa đầu năm 2024, số lượng người dùng bị tội phạm mạng nhắm đến, sử dụng mồi nhử là các trò chơi phổ biến dành cho trẻ em đã tăng 30% so với nửa cuối năm 2023. Sau khi phân tích rủi ro tiềm ẩn đến từ các đối tượng trẻ em có sở thích chơi trò chơi điện tử, các nhà nghiên cứu phát hiện hơn 132.000 trường hợp đã trở thành mục tiêu của tội phạm mạng. Bài viết dưới đây sẽ thông tin tới độc giả các nội dung trong báo cáo mới nhất của Kaspersky về thực trạng tội phạm mạng nêu trên.
08:00 | 15/11/2024
Hơn 30 lỗ hổng bảo mật đã được tiết lộ trong nhiều mô hình trí tuệ nhân tạo (AI) và máy học (ML) nguồn mở khác nhau. Đáng lưu ý, một số trong đó có thể dẫn đến thực thi mã từ xa và đánh cắp thông tin.
Một lỗ hổng bảo mật trong Bypass SAML trên GitHub Enterpris định danh CVE-2025-23369 có điểm CVSS là 7,6 vừa được công bố, cho phép kẻ tấn công bỏ qua cơ chế xác thực SAML trên GitHub Enterprise.
08:00 | 19/02/2025