Tôi thực sự lo lắng về việc mọi người trích dẫn AI để tranh luận trực tuyến

[Starlink]

Đây là lý do.

    Mọi người đang sử dụng các chương trình trò chuyện AI không đáng tin cậy như ChatGPT làm nguồn thông tin trong các cuộc tranh luận trực tuyến.
    Các bot AI như GPT-4.5 và 4o có điểm chính xác từ 38% đến 63%.
    Đừng sử dụng bot AI làm nguồn thông tin chính, hãy xác minh thông tin và phản đối những người dựa vào chúng trực tuyến.

Không còn nghi ngờ gì nữa, việc công chúng tiếp cận các chatbot AI tinh vi sẽ có một số tác động sâu sắc đến xã hội—cả tích cực lẫn tiêu cực. Không mất nhiều thời gian để mọi người bắt đầu phụ thuộc vào các bot AI cho những thứ mà có lẽ họ không nên, và bây giờ tôi thấy nó tràn lan trên phương tiện truyền thông xã hội.

Cho dù trên Facebook, Instagram, X hay phần bình luận của các bài viết trực tuyến, bạn sẽ thấy mọi người đăng bình luận do AI viết hoặc sử dụng thông tin do AI cung cấp và đây là điều tôi thực sự quan ngại.

1. Mọi người đang sử dụng AI để giành chiến thắng trong các cuộc tranh luận trực tuyến

Bất cứ khi nào tôi doomscroll X những ngày này, tôi không thể tránh khỏi việc thấy mọi người tranh cãi với nhau. Cho đến nay, điều đó là bình thường đối với internet. Điều không bình thường là lời cầu nguyện điện tử nhỏ bé để xin sự khôn ngoan hiện được đưa ra dường như ít nhất là sau mỗi ba hoặc bốn câu trả lời—@grok.

Đánh dấu chatbot AI của X hoạt động như một lời nhắc và là một cách nhanh chóng và dễ dàng để gọi bot trả lời câu hỏi của bạn. Vì vậy, bạn có thể hỏi liệu bài đăng ở trên có đúng không hoặc liệu ai đó có đúng không. Ngoài ra, bạn sẽ thấy ảnh chụp màn hình được đăng về các cuộc trò chuyện với bot như ChatGPT và Claude. Được đăng làm bằng chứng để hỗ trợ cho các điểm mà ai đó đang cố gắng đưa ra hoặc để bác bỏ các điểm của người đối thoại.

2. Điều này có nghĩa là họ không biết AI Bot không đáng tin cậy như thế nào

Là người sử dụng chatbot AI hàng ngày và theo dõi chặt chẽ sự phát triển và khả năng của chúng, tôi thấy điều này thật kinh khủng. Tôi sẽ không bao giờ, không bao giờ sử dụng thông tin do một trong những chatbot này cung cấp nguyên văn làm nguồn cho bất kỳ điều gì. Để tóm tắt thông tin đã xác minh? Chắc chắn rồi. Để đưa ra các bản tổng quan chỉ cho tôi đến các nguồn gốc? Chắc chắn rồi.

Nhưng đó không phải là những gì đang diễn ra trên phương tiện truyền thông xã hội. Tôi thấy người dùng trên các trang web này tuân theo AI và chỉ chấp nhận bất cứ điều gì nó nói. Ngay cả khi thông tin rõ ràng là không chính xác. Hãy xem kết quả chuẩn độ chính xác SimpleQA này từ trang web của OpenAI.

Kết quả tốt nhất là đối với GPT-4o với quyền truy cập web ở mức 90%. Nghe có vẻ ổn, nhưng tôi chắc chắn sẽ kiểm tra mọi tuyên bố về bất kỳ điều gì có độ chính xác 10%! Đối với các mô hình mà mọi người có nhiều khả năng sử dụng hơn, chẳng hạn như GPT-4.5 hoặc 4o, điểm chính xác tốt hơn hoặc kém hơn 50% một chút, với lần lượt là 63% và 38%. Thậm chí còn liên quan hơn, BBC phát hiện ra rằng các chatbot AI kém trong việc tóm tắt và trình bày chính xác các sự kiện hiện tại. Sau khi đánh giá, 51% câu trả lời do các AI khác nhau được thử nghiệm đưa ra có "độ chính xác đáng kể", theo nghiên cứu

Vì vậy, sự tiện lợi khi có AI phản hồi thông tin nhanh chóng trong một cuộc tranh luận trực tuyến bị lu mờ bởi khả năng thông tin đó có độ chính xác như tung đồng xu!

3. Xin đừng sử dụng AI làm nguồn chính

Có lẽ sẽ đến một ngày mà các chatbot AI đáng tin cậy như các tổ chức như Associated Press, nhưng ngày đó không phải là hôm nay và khó có thể thấy điều đó trở thành sự thật trong thời gian tới. Ngay cả khi các bot này chính xác 99%, bạn vẫn phải kiểm tra bất kỳ tuyên bố nào được đưa ra bằng nguồn của bên thứ ba.

Vì vậy, tôi thực tế đang cầu xin bạn không sử dụng đầu ra trực tiếp của một chatbot làm đạn dược cho bất kỳ loại thảo luận trực tuyến nào. Tốt nhất, bạn sẽ chỉ khiến mình trông ngớ ngẩn; Tệ nhất, bạn có thể lan truyền thông tin sai lệch nguy hiểm. Đây là một vấn đề đủ lớn trước khi bot AI trở nên phổ biến, vì vậy bạn có thể tưởng tượng tình hình hiện tại tồi tệ như thế nào.

Nếu bạn sử dụng các phiên bản hỗ trợ web của các bot AI này, hãy nhớ thêm yêu cầu vào lời nhắc về nguồn. Sau đó, hãy kiểm tra các nguồn mà AI trích dẫn trước, trước khi sử dụng thông tin đó thêm nữa. Đừng cảm thấy tự tin chỉ vì AI cung cấp nguồn, vì chúng thậm chí có thể tạo ra các liên kết trang web, tên nguồn hoặc trình bày sai nội dung của nguồn đó.

Nhiều sản phẩm mà bot AI tạo ra có vẻ ngoài là có thẩm quyền và hợp pháp, nhưng nếu bạn áp dụng bất kỳ kiểu tư duy phản biện nào vào đó, chúng sẽ nhanh chóng sụp đổ.

4. Đẩy lùi những người sử dụng AI làm nguồn trực tuyến

Ngay cả khi bạn không sử dụng AI làm nguồn trong các cuộc thảo luận, bạn vẫn sẽ gặp rất nhiều người trực tuyến sử dụng. Trong hầu hết các trường hợp, tôi nghi ngờ họ sẽ không biết rằng những con bot này không đáng tin cậy và câu trả lời của chúng cần được xác minh cẩn thận. Vì vậy, nếu bất kỳ ai cố gắng phản bác bạn bằng "@grok" cũ hoặc bằng ảnh chụp màn hình từ ChatGPT, bạn nên phản đối lại.

Làm rõ rằng chatbot AI không phải là nguồn thông tin hợp pháp và thay vào đó là nguồn thông tin sai lệch đáng kể. Nếu mọi người có thể thách thức Wikipedia như một nguồn (có trang thảo luận biên tập minh bạch mà bất kỳ ai cũng có thể đọc) thì họ hoàn toàn nên thách thức việc sử dụng AI trong bất kỳ cuộc thảo luận trực tuyến nào.

Tôi hiểu rằng bạn có thể cảm thấy thích thú khi thêm một đồng đội AI vào để giúp tăng điểm, nhưng trong trận đấu này, một số người chơi có thể gian lận và bạn không muốn bị dính líu vào điều đó.