VietNetwork.Vn

Hôm thứ Tư, OpenAI cho biết họ đã phá vỡ hơn 20 hoạt động và mạng lưới lừa đảo trên toàn thế giới cố gắng sử dụng nền tảng của họ cho mục đích xấu kể từ đầu năm.

Hoạt động này bao gồm gỡ lỗi phần mềm độc hại, viết bài cho các trang web, tạo tiểu sử cho các tài khoản mạng xã hội và tạo ảnh đại diện do AI tạo ra cho các tài khoản giả trên X.


Công ty trí tuệ nhân tạo (AI) cho biết : "Những tác nhân đe dọa vẫn tiếp tục phát triển và thử nghiệm với các mô hình của chúng tôi, nhưng chúng tôi chưa thấy bằng chứng nào cho thấy điều này sẽ dẫn đến những đột phá có ý nghĩa trong khả năng tạo ra phần mềm độc hại mới đáng kể hoặc xây dựng nhóm đối tượng lan truyền".

Báo cáo cũng cho biết nó đã làm gián đoạn hoạt động tạo ra nội dung truyền thông xã hội liên quan đến các cuộc bầu cử ở Hoa Kỳ, Rwanda và ở mức độ thấp hơn là Ấn Độ và Liên minh châu Âu, và không có mạng nào trong số này thu hút được sự tương tác lan truyền hoặc lượng khán giả ổn định.

Điều này bao gồm những nỗ lực được thực hiện bởi một công ty thương mại của Israel có tên STOIC (còn gọi là Zero Zeno) nhằm tạo ra các bình luận trên mạng xã hội về cuộc bầu cử ở Ấn Độ, như Meta và OpenAI đã tiết lộ trước đó vào đầu tháng 5 này.

Sau đây là một số hoạt động mạng được OpenAI nêu bật:

• SweetSpecter, một đối thủ bị nghi ngờ có trụ sở tại Trung Quốc đã tận dụng các dịch vụ của OpenAI để trinh sát thông tin LLM, nghiên cứu lỗ hổng, hỗ trợ viết kịch bản, tránh phát hiện bất thường và phát triển. Người ta cũng phát hiện thấy nó thực hiện các nỗ lực lừa đảo không thành công đối với nhân viên OpenAI để cung cấp SugarGh0st RAT.
• Cyber Av3ngers, một nhóm liên kết với Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC) đã sử dụng các mô hình của mình để tiến hành nghiên cứu về bộ điều khiển logic lập trình.
• Storm-0817, một tác nhân đe dọa từ Iran đã sử dụng mô hình của mình để gỡ lỗi phần mềm độc hại Android có khả năng thu thập thông tin nhạy cảm, xây dựng công cụ để thu thập thông tin hồ sơ Instagram thông qua Selenium và dịch hồ sơ LinkedIn sang tiếng Ba Tư.

Ở nơi khác, công ty cho biết họ đã thực hiện các bước để chặn một số nhóm, bao gồm một hoạt động gây ảnh hưởng có tên mã là A2Z và Stop News, đối với các tài khoản tạo nội dung bằng tiếng Anh và tiếng Pháp để đăng sau đó trên một số trang web và tài khoản mạng xã hội trên nhiều nền tảng khác nhau.

"[Stop News] sử dụng hình ảnh một cách bất thường", các nhà nghiên cứu Ben Nimmo và Michael Flossman cho biết. "Nhiều bài viết và tweet trên web của họ đi kèm với hình ảnh được tạo bằng DALL·E. Những hình ảnh này thường theo phong cách hoạt hình và sử dụng bảng màu sáng hoặc tông màu ấn tượng để thu hút sự chú ý".

Hai mạng lưới khác được OpenAI Bet Bot và Corrupt Comment xác định đã sử dụng API của họ để tạo ra các cuộc trò chuyện với người dùng trên X và gửi cho họ các liên kết đến các trang web cờ bạc, cũng như tạo ra các bình luận sau đó được đăng trên X.

Việc tiết lộ này được đưa ra gần hai tháng sau khi OpenAI cấm một loạt tài khoản có liên quan đến hoạt động gây ảnh hưởng bí mật của Iran có tên Storm-2035, hoạt động này đã tận dụng ChatGPT để tạo ra nội dung tập trung vào cuộc bầu cử tổng thống Hoa Kỳ sắp tới.

Nimmo và Flossman viết: "Những kẻ đe dọa thường sử dụng mô hình của chúng tôi để thực hiện các nhiệm vụ trong một giai đoạn hoạt động trung gian cụ thể — sau khi chúng có được các công cụ cơ bản như quyền truy cập internet, địa chỉ email và tài khoản mạng xã hội, nhưng trước khi chúng triển khai các sản phẩm 'hoàn thiện' như bài đăng trên mạng xã hội hoặc phần mềm độc hại trên internet thông qua nhiều kênh phân phối".

Trong báo cáo công bố tuần trước, công ty an ninh mạng Sophos cho biết AI tạo sinh có thể bị lạm dụng để phát tán thông tin sai lệch thông qua các email có mục tiêu cụ thể.

Điều này đòi hỏi phải lạm dụng các mô hình AI để tạo ra các trang web vận động chính trị, các nhân vật do AI tạo ra trên toàn bộ quang phổ chính trị và các email nhắm mục tiêu cụ thể vào họ dựa trên các điểm chiến dịch, do đó tạo ra một cấp độ tự động hóa mới giúp có thể phát tán thông tin sai lệch ở quy mô lớn.

Các nhà nghiên cứu Ben Gelman và Adarsh Kyadige cho biết : "Điều này có nghĩa là người dùng có thể tạo ra bất cứ thứ gì, từ tài liệu chiến dịch vô hại đến thông tin sai lệch cố ý và các mối đe dọa độc hại chỉ bằng một vài thay đổi nhỏ".

"Có thể liên kết bất kỳ phong trào chính trị thực sự hoặc ứng cử viên nào với việc ủng hộ bất kỳ chính sách nào, ngay cả khi họ không đồng ý. Thông tin sai lệch cố ý như thế này có thể khiến mọi người liên kết với một ứng cử viên mà họ không ủng hộ hoặc không đồng ý với một ứng cử viên mà họ nghĩ rằng họ thích."