Tội phạm mạng khai thác Grok AI của X để phát tán phần mềm độc hại người dùng

[Starlink]

Các nhà nghiên cứu an ninh mạng đã phát hiện ra một kỹ thuật mới mà tội phạm mạng đã áp dụng để vượt qua các biện pháp bảo vệ chống quảng cáo độc hại của nền tảng truyền thông xã hội X và phát tán các liên kết độc hại bằng trợ lý trí tuệ nhân tạo (AI) Grok.

Những phát hiện này đã được Nati Tal, người đứng đầu Guardio Labs, nêu bật trong một loạt bài đăng trên X. Kỹ thuật này có tên mã là Grokking.

Phương pháp này được thiết kế để khắc phục những hạn chế do X áp đặt trong Quảng cáo được quảng cáo, cho phép người dùng chỉ đưa văn bản, hình ảnh hoặc video vào và sau đó khuếch đại chúng đến đối tượng rộng hơn, thu hút hàng trăm nghìn lượt hiển thị thông qua quảng cáo trả phí.

Để đạt được điều này, những kẻ quảng cáo độc hại đã phát hiện ra rằng chúng chạy các bài đăng được quảng cáo bằng card màn hình có nội dung dành cho người lớn làm mồi nhử, với liên kết giả mạo ẩn trong trường siêu dữ liệu "Từ:" bên dưới trình phát video mà dường như nền tảng mạng xã hội không quét được.

Ở bước tiếp theo, những kẻ lừa đảo gắn thẻ Grok trong phần trả lời bài đăng, hỏi những câu hỏi tương tự như "video này từ đâu ra?", khiến chatbot AI hiển thị rõ ràng liên kết để phản hồi.

"Thêm vào đó, nó hiện được khuếch đại trong SEO và danh tiếng tên miền - sau cùng, nó đã được Grok nhắc lại trong một bài đăng có hàng triệu lượt hiển thị", Tal cho biết.

"Một liên kết độc hại mà X cấm rõ ràng trong quảng cáo (và lẽ ra phải bị chặn hoàn toàn!) đột nhiên xuất hiện trong bài đăng của tài khoản Grok được hệ thống tin cậy, nằm dưới một chủ đề được quảng cáo lan truyền và lan truyền thẳng đến hàng triệu nguồn cấp dữ liệu và kết quả tìm kiếm!"

Guardio cho biết các liên kết này dẫn người dùng đến các mạng quảng cáo đáng ngờ, đưa họ đến các liên kết độc hại đẩy các trò lừa đảo CAPTCHA giả mạo, phần mềm độc hại đánh cắp thông tin và các nội dung đáng ngờ khác thông qua hình thức kiếm tiền từ liên kết trực tiếp (hay còn gọi là liên kết thông minh ).

Các tên miền được đánh giá là một phần của cùng một Hệ thống phân phối lưu lượng truy cập (TDS), thường được các nhà cung cấp công nghệ quảng cáo độc hại sử dụng để định tuyến lưu lượng truy cập đến nội dung có hại hoặc lừa đảo.

Công ty an ninh mạng chia sẻ với The Hacker News rằng họ đã phát hiện hàng trăm tài khoản có hành vi này trong vài ngày qua, mỗi tài khoản đều đăng hàng trăm hoặc thậm chí hàng nghìn bài đăng tương tự.

"Họ dường như đăng bài liên tục trong nhiều ngày cho đến khi tài khoản bị đình chỉ vì vi phạm chính sách của nền tảng", bài viết nói thêm. "Vậy nên chắc chắn là có rất nhiều người như vậy và trông rất có tổ chức."