VietNetwork.Vn

OpenAI hôm thứ Sáu cho biết họ đã cấm một nhóm tài khoản có liên quan đến hoạt động gây ảnh hưởng bí mật của Iran nhằm lợi dụng ChatGPT để tạo ra nội dung, cùng với những nội dung khác, tập trung vào cuộc bầu cử tổng thống Mỹ sắp tới.

OpenAI cho biết : "Tuần này, chúng tôi đã xác định và gỡ bỏ một nhóm tài khoản ChatGPT đang tạo nội dung cho một hoạt động gây ảnh hưởng bí mật của Iran được xác định là Storm-2035".


"Hoạt động này đã sử dụng ChatGPT để tạo nội dung tập trung vào một số chủ đề - bao gồm cả bình luận về các ứng cử viên của cả hai bên trong cuộc bầu cử tổng thống Hoa Kỳ - sau đó được chia sẻ qua các tài khoản và trang web truyền thông xã hội."

Công ty trí tuệ nhân tạo (AI) cho biết nội dung này không đạt được bất kỳ sự tương tác có ý nghĩa nào, với phần lớn các bài đăng trên mạng xã hội không nhận được lượt thích, lượt chia sẻ và bình luận nào. Họ lưu ý thêm rằng họ tìm thấy rất ít bằng chứng cho thấy các bài báo dài được tạo bằng ChatGPT đã được chia sẻ trên các nền tảng truyền thông xã hội.

Các bài báo phục vụ cho chính trị Hoa Kỳ và các sự kiện toàn cầu, đồng thời được xuất bản trên năm trang web khác nhau được coi là các hãng tin tức tiến bộ và bảo thủ, cho thấy nỗ lực nhắm mục tiêu vào những người ở hai phía đối lập với quang phổ chính trị.

OpenAI cho biết công cụ ChatGPT của họ đã được sử dụng để tạo bình luận bằng tiếng Anh và tiếng Tây Ban Nha, sau đó đăng lên hàng chục tài khoản trên X và một tài khoản trên Instagram. Một số bình luận này được tạo ra bằng cách yêu cầu các mô hình AI của nó viết lại các bình luận được đăng bởi những người dùng mạng xã hội khác.

"Hoạt động này tạo ra nội dung về một số chủ đề: chủ yếu là xung đột ở Gaza, sự hiện diện của Israel tại Thế vận hội Olympic và cuộc bầu cử tổng thống Hoa Kỳ—và ở mức độ thấp hơn là chính trị ở Venezuela, quyền của các cộng đồng Latinx ở Hoa Kỳ (cả bằng tiếng Tây Ban Nha) và tiếng Anh), và nền độc lập của Scotland", OpenAI nói.

"Họ xen kẽ nội dung chính trị của mình với những bình luận về thời trang và sắc đẹp, có thể để trông chân thực hơn hoặc nhằm mục đích xây dựng lượng người theo dõi."

Storm-2035 cũng là một trong những cụm hoạt động đe dọa được Microsoft nhấn mạnh vào tuần trước, mô tả đây là một mạng lưới của Iran "tích cực thu hút các nhóm cử tri Hoa Kỳ ở các phe đối lập trong phổ chính trị bằng thông điệp phân cực về các vấn đề như ứng cử viên tổng thống Mỹ, LGBTQ quyền và xung đột Israel-Hamas."

Một số trang tin tức và bình luận giả mạo do nhóm này thành lập bao gồm EvenPolitics, Nio Thinker, Savannah Time, Teorator và Westland Sun. Người ta cũng quan sát thấy những trang web này sử dụng các dịch vụ hỗ trợ AI để đạo văn một phần nội dung của họ từ các ấn phẩm của Hoa Kỳ. Nhóm này được cho là sẽ hoạt động từ năm 2020.

Microsoft đã cảnh báo thêm về sự gia tăng hoạt động gây ảnh hưởng xấu từ nước ngoài nhắm vào cuộc bầu cử Hoa Kỳ trong sáu tháng qua từ cả các mạng của Iran và Nga, mạng sau này được truy nguyên từ các cụm được theo dõi là Ruza Flood (còn gọi là Doppelganger), Storm-1516 và Storm-1841 (còn gọi là Rybar).

" Doppelganger lan truyền và khuếch đại thông tin bịa đặt, giả mạo hoặc thậm chí hợp pháp trên mạng xã hội", công ty an ninh mạng HarfangLab của Pháp cho biết. "Để làm như vậy, các tài khoản mạng xã hội đăng các liên kết bắt đầu một chuỗi chuyển hướng khó hiểu dẫn đến các trang web có nội dung cuối cùng."


Tuy nhiên, có dấu hiệu cho thấy mạng lưới tuyên truyền đang thay đổi chiến thuật để đáp lại việc thực thi quyết liệt, ngày càng sử dụng các bài đăng và quảng cáo phi chính trị cũng như giả mạo các hãng tin tức phi chính trị và giải trí như Cosmopolitan, The New Yorker và Entertainment Weekly nhằm trốn tránh bị phát hiện., theo Meta.

Các bài đăng chứa các liên kết mà khi nhấn vào sẽ chuyển hướng người dùng đến một bài viết liên quan đến chiến tranh hoặc địa chính trị của Nga trên một trong những miền giả mạo bắt chước các ấn phẩm giải trí hoặc y tế. Quảng cáo được tạo bằng cách sử dụng tài khoản bị xâm nhập.

Công ty truyền thông xã hội này đã làm gián đoạn 39 hoạt động gây ảnh hưởng từ Nga, 30 từ Iran và 11 từ Trung Quốc kể từ năm 2017 trên các nền tảng của mình, cho biết họ đã phát hiện ra sáu mạng mới từ Nga (4), Việt Nam (1) và Mỹ (1) vào quý 2 năm 2024.

Meta cho biết : "Kể từ tháng 5, Doppelganger đã tiếp tục nỗ lực chia sẻ liên kết đến các tên miền của mình, nhưng với tốc độ thấp hơn nhiều". "Chúng tôi cũng thấy họ thử nghiệm nhiều bước chuyển hướng bao gồm dịch vụ rút ngắn liên kết của TinyURL để ẩn đích cuối cùng đằng sau các liên kết và đánh lừa cả Meta và người dùng của chúng tôi nhằm tránh bị phát hiện và dẫn mọi người đến các trang web ngoài nền tảng của họ."

Diễn biến này diễn ra khi Nhóm phân tích mối đe dọa (TAG) của Google cũng cho biết trong tuần này rằng họ đã phát hiện và ngăn chặn các nỗ lực lừa đảo trực tuyến do Iran hậu thuẫn nhằm xâm phạm tài khoản cá nhân của những người dùng cao cấp ở Israel và Mỹ, bao gồm cả những tài khoản liên quan đến Các chiến dịch tranh cử tổng thống Mỹ.

Hoạt động này được cho là do một kẻ đe dọa có tên mã là APT42, một nhóm hack được nhà nước bảo trợ có liên kết với Lực lượng Vệ binh Cách mạng Hồi giáo Iran (IRGC). Nó được biết là có sự trùng lặp với một nhóm xâm nhập khác có tên là Charming Kitten (hay còn gọi là Bão cát Mint).

"APT42 sử dụng nhiều chiến thuật khác nhau như một phần của chiến dịch lừa đảo qua email của họ – bao gồm lưu trữ phần mềm độc hại, trang lừa đảo và chuyển hướng độc hại", gã khổng lồ công nghệ cho biết. "Họ thường cố gắng lạm dụng các dịch vụ như Google (tức là Sites, Drive, Gmail và các dịch vụ khác), Dropbox, OneDrive và các dịch vụ khác cho những mục đích này."

Chiến lược rộng rãi là giành được sự tin tưởng của mục tiêu bằng cách sử dụng các kỹ thuật lừa đảo xã hội phức tạp với mục tiêu đưa họ ra khỏi email và truy cập các kênh nhắn tin tức thời như Signal, Telegram hoặc WhatsApp, trước khi đẩy các liên kết không có thật được thiết kế để thu thập thông tin đăng nhập của họ.

Google lưu ý rằng các cuộc tấn công lừa đảo có đặc điểm là sử dụng các công cụ như GCollection (còn gọi là LCollection hoặc YCollection) và DWP để thu thập thông tin xác thực từ người dùng Google, Hotmail và Yahoo, Google lưu ý, nhấn mạnh "sự hiểu biết sâu sắc của APT42 về các nhà cung cấp dịch vụ email mà họ nhắm mục tiêu".

"Sau khi APT42 có được quyền truy cập vào tài khoản, chúng thường thêm các cơ chế truy cập bổ sung bao gồm thay đổi địa chỉ email khôi phục và sử dụng các tính năng cho phép các ứng dụng không hỗ trợ xác thực đa yếu tố như mật khẩu dành riêng cho ứng dụng trong Gmail và mật khẩu ứng dụng của bên thứ ba." trong Yahoo," nó nói thêm.