VietNetwork.Vn

Dưới đây là cách thức và những điều cần chú ý. Nhìn đã không còn tin nữa.

• Những kẻ lừa đảo ngày càng sáng tạo hơn với các sản phẩm giả mạo và giọng nói do AI tạo ra để thu hút những người mua không nghi ngờ.
• Những kẻ lừa đảo ứng dụng hẹn hò sử dụng chatbot AI để nhắm mục tiêu vào nạn nhân; đánh giá giả mạo trở nên dễ dàng hơn với các mô hình ngôn ngữ lớn.
• Khi công nghệ AI được cải thiện, việc phân biệt nội dung thật và giả sẽ khó hơn; luôn nghiên cứu trước khi mua hàng trực tuyến.

Thuật ngữ "lừa đảo" áp dụng cho mọi thứ, từ một cuộc tấn công có mục tiêu phức tạp đến một quảng cáo tinh vi ở đầu video trên trang web phát video yêu thích của bạn. Tin xấu là kỹ thuật lừa đảo này ngày càng dễ dàng hơn.

1. Dân chủ hóa hình ảnh giả

Có một ranh giới rõ ràng giữa lừa đảo và thư rác, nhưng hai lĩnh vực này thường xuyên chồng chéo lên nhau. Điều này đặc biệt đúng khi nói đến quảng cáo trực tuyến, cho dù bạn đang duyệt web hay lướt qua mạng xã hội. Các nhà quảng cáo không phê duyệt mọi quảng cáo họ hiển thị, thay vào đó họ dựa vào báo cáo của người dùng để loại bỏ những tác nhân xấu.

Nếu bạn dành nhiều thời gian trực tuyến, có thể bạn đang lướt qua vô số quảng cáo tinh vi mỗi ngày. Có lẽ điều thú vị nhất trong số này là những sản phẩm không tồn tại mà thay vào đó là những sản phẩm được chế tạo bằng tay hoặc sử dụng AI tổng hợp như DALL-E hoặc Midjourney.

Việc lôi kéo những người mua tiềm năng bằng các sản phẩm giả không có gì mới, nhưng ngày xưa, bạn cần có tầm nhìn, một số kỹ năng Photoshop và một chút thời gian rảnh rỗi. Với sự xuất hiện của trình tạo chuyển văn bản thành hình ảnh, bạn có thể dành ít hoặc nhiều thời gian tùy thích để đưa lời nhắc vào trình tạo hình ảnh cho đến khi nhận được kết quả mong đợi. Bầu trời là giới hạn khi nói đến các loại sản phẩm bạn có thể nghĩ ra.


Vào tháng 4 năm 2024, Snopes đã báo cáo rằng một số lượng lớn các vụ lừa đảo "Cat's Eye Dazzle" đang tấn công mạng xã hội như một cơn bão. Vụ lừa đảo liên quan đến việc tạo ra những bông hoa giả trông giống mèo để thu hút người dùng trên các mạng xã hội như Facebook. Danh sách eBay xuất hiện để lấy hạt giống, trong khi các "nhà cung cấp" khác sử dụng cổng mua sắm tự lưu trữ để rút tiền.

Đối với một số người, việc những bông hoa này là hàng giả do AI tạo ra là điều hiển nhiên ngay lập tức. Những trò lừa đảo tương tự khác không quá xa vời. Kênh YouTube Atomic Tôm đã tạo một video ghi lại hiện tượng này, khám phá các danh sách nghe có vẻ hợp lý hơn về hoa hồng xanh và hoa hướng dương "thật sự", cả hai đều không tồn tại.

Những bông hoa trông giống như những con mèo và những cái cây có màu sắc không thể tin được chỉ là hai ví dụ về những trò lừa đảo dường như đã thu hút hàng trăm, nếu không muốn nói là hàng nghìn người. Những hình ảnh này mất vài giây để tạo và thêm vài giây nữa để đăng lên Facebook.

2. Giọng nói AI mang lại độ tin cậy cho video

Có lẽ bạn đã nhận thức rõ về sự gia tăng của các tính năng chuyển văn bản thành giọng nói, với các nền tảng xã hội như TikTok giúp bạn dễ dàng tạo giọng thuyết minh nghe có vẻ tự nhiên nhưng cũng dễ hiểu. Hiện tại, tiếng nói của "TikTok lady" nói nhiều về thương hiệu của TikTok vì nó là một công cụ hữu ích cho người sáng tạo nội dung.

Nhưng giọng nói của AI còn làm được nhiều điều hơn thế. ChatGPT có thể tạo giọng nói nếu bạn trả tiền cho cấp cao cấp và các dịch vụ như ElevenLabs đều có sẵn các cấp miễn phí. Tôi đã thấy các kênh YouTube nhỏ hơn do những người sáng tạo không cảm thấy thoải mái khi nói trước máy quay điều hành đã chuyển sang sử dụng giọng nói do AI tạo ra. Điều này có thể gây khó chịu nhưng ít nhất là có cơ sở vì mục đích tốt.

Điểm mấu chốt chính là phần lồng tiếng sẽ mang lại độ tin cậy cho video của bạn. Một vài năm trước, bạn cần dành thời gian, công sức hoặc kinh phí để thêm giọng thuyết minh vào video của mình. Bạn sẽ cần thiết bị và luyện tập hoặc thuê một diễn viên lồng tiếng. Giờ đây, việc này đơn giản chỉ cần viết một kịch bản mà bạn hài lòng và chọn giọng nói mà bạn muốn sử dụng.

Điều này làm cho những quảng cáo lừa đảo về kế hoạch làm giàu nhanh chóng và các sản phẩm được bán qua trung gian trở nên đáng tin cậy hơn. Nếu quảng cáo nghe có vẻ giống hàng thật thì bạn có thể có xu hướng đặt niềm tin nhiều hơn vào sản phẩm. Những người chạy những quảng cáo này biết điều này, đó là lý do tại sao phong trào này lại bùng nổ trong năm qua.

Hiện tại, không quá khó để nhận biết phần lồng tiếng do AI tạo ra. Các biến tố và cách phát âm có thể nghe hơi giống máy móc và nhịp điệu tự nhiên trong lời nói của con người không hoàn toàn như vậy. Hãy thắt dây an toàn vì những công cụ này sẽ chỉ được cải thiện và cuối cùng bạn sẽ không thể nhận ra sự khác biệt.

3. Những kẻ lừa đảo ứng dụng hẹn hò đã tạo ra mạng lưới rộng hơn

Bị dụ dỗ bằng các sản phẩm giả và thuyết minh bằng robot là một chuyện, nhưng còn một trò lừa đảo nhắm vào cá nhân bạn thì sao? Đó chính xác là những gì đang diễn ra trong không gian hẹn hò trực tuyến trên quy mô lớn, nhờ sức mạnh của các mô hình ngôn ngữ lớn có thể trò chuyện như người thật (à, đủ gần).

Bằng cách sử dụng các chatbot được hỗ trợ bởi AI, những kẻ lừa đảo có thể tạo ra một mạng lưới rộng khắp để gài bẫy nạn nhân bằng phần mềm có thể duy trì cuộc trò chuyện đủ lâu một cách hiệu quả để thu hút sự chú ý của ai đó. Có một số cách mà tính năng này đang được sử dụng và tất cả chúng đều có cảm giác xâm lấn.

Một số người đang sử dụng chatbot để nhắn tin cho rất nhiều người và sau đó theo dõi với hy vọng gặp được người mà họ thực sự thích. Đầu năm 2024, có vô số báo cáo về việc một người đàn ông gặp vợ bằng chiêu này. Cho dù bạn có tin hay không, có một số lượng lớn các ứng dụng và dịch vụ dành cho thiết bị di động hứa hẹn sẽ trò chuyện với các đối tác tiềm năng cho bạn (tất nhiên là có tính phí).


Mọi thứ trở nên nham hiểm hơn khi những công cụ này được sử dụng để tìm mục tiêu cho các vụ lừa đảo tài chính. Những kẻ lừa đảo trực tuyến từ lâu đã khai thác mong muốn có bạn đồng hành cơ bản của con người nhằm mục đích moi tiền từ nhãn hiệu của chúng. Giờ đây, họ có thể sử dụng chatbot để làm việc cho mình, tiếp quản khi họ cảm thấy cần thiết.

Kết hợp tính năng này với trình tạo hình ảnh AI cho phép bạn truy cập vào nhiều khuôn mặt xinh đẹp ban đầu như bạn muốn và những kẻ lừa đảo thậm chí không cần phải ăn cắp ảnh hồ sơ hẹn hò của người khác nữa.

4. Video AI đang trên đà phát triển

Tính năng chuyển văn bản thành video thuyết phục chưa được phổ biến rộng rãi tại thời điểm viết bài này, nhưng với các công cụ như OpenAI SORA sắp ra mắt, nó sẽ trở thành một thế lực đáng được tính đến. Chỉ với một lời nhắc, công cụ của OpenAI có thể tạo ra các hình ảnh chuyển động trông như thật (tuy nhiên, nếu xem xét kỹ, bạn có thể phát hiện ra những sai sót).


Nếu không có gì hơn, video do AI tạo ra sẽ chỉ làm trầm trọng thêm các vấn đề do nội dung do AI khác tạo ra. Thông qua việc sử dụng trí tuệ nhân tạo ngày càng cải tiến, không khó để tưởng tượng một tương lai nơi bạn có thể tạo ra hình ảnh sản phẩm giả, video về sản phẩm đó được những người "thật" sử dụng ở những địa điểm có liên quan và lồng tiếng cho video mà bạn có thể sử dụng để quảng cáo nó.

Nếu bạn cảm thấy đặc biệt dám nghĩ dám làm, thì bạn có thể sử dụng mô hình ngôn ngữ rộng lớn để nâng cao vị thế của sản phẩm...

5. AI thậm chí có thể đánh giá sai

Đánh giá giả không có gì mới. Tất cả chúng ta đều đã nhìn thấy chúng và nhiều người trong chúng ta đã phải lòng chúng (dù chúng ta có biết hay không). Nhưng chỉ cách đây vài năm, những đánh giá giả mạo đòi hỏi phải có nỗ lực. Với sự ra đời của các mô hình ngôn ngữ lớn, các đánh giá giả mạo có thể tự viết ra trên quy mô lớn theo đúng nghĩa đen.

Việc lạm dụng các mô hình ngôn ngữ lớn để tạo ra các đánh giá và quảng bá sản phẩm hoặc doanh nghiệp là một chuyện, nhưng công nghệ này hoạt động theo cả hai cách. Còn việc sử dụng công nghệ này để tạo ra những đánh giá chỉ trích một cách không công bằng sản phẩm của đối thủ thì sao? Việc tạo lớp nền tiêu cực chưa bao giờ dễ dàng hơn thế, ngay cả khi bạn phải tự mình sao chép-dán nó.

Kết hợp các bài đánh giá do AI tạo ra với các trò lừa đảo đánh răng truyền thống hơn và bạn sẽ có được độ tin cậy của nhãn "mua hàng đã được xác minh" để khởi động. Cuối cùng, trách nhiệm của chủ sở hữu nền tảng là chống lại làn sóng nội dung trực tuyến gây hiểu lầm mới này.

6. Mọi thứ chỉ có thể trở nên tốt hơn

Những công cụ này sẽ trở nên tốt hơn theo thời gian, khiến việc phân biệt giữa thực và ảo trở nên khó khăn hơn. Bạn sẽ cần phải khôn ngoan với công nghệ nếu muốn tránh xa những kẻ lừa đảo. Nếu bạn hiểu điều gì có thể xảy ra, bạn sẽ được trang bị tốt hơn để hiểu điều gì là thật và điều gì không.

Facebook đặc biệt đầy rẫy những hình ảnh do AI tạo ra, vì vậy hiểu cách phát hiện những hình ảnh giả mạo do AI tạo ra là một kỹ năng quý giá. Bạn phải luôn cảnh giác với các quảng cáo trực tuyến, cho dù bạn phát hiện ra chúng trên các trang web yêu thích hay mạng xã hội.

Luôn nghiên cứu trước khi mua thứ gì đó, cho dù đó là một món đồ công nghệ hay một gói hạt giống bạn thấy trên Facebook. Trớ trêu thay, bạn cũng có thể yêu cầu chatbot yêu thích của mình tìm nguồn xác nhận quyền sở hữu của nó.