VietNetwork.Vn

Niềm Tin Số 1 (Hoặc 0).

• Các công cụ tìm kiếm AI tổng hợp có thể đưa ra những câu trả lời hữu ích, nhưng niềm tin là một vấn đề quan trọng do tính khó đoán trước.
• Sự giám sát của con người vẫn rất quan trọng trong kết quả tìm kiếm để đảm bảo độ tin cậy và độ chính xác.
• Ngay cả với AI tiên tiến, niềm tin vào công nghệ vẫn quan trọng hơn số hiệu suất.

AI sáng tạo, ít nhất là ở mức tiên tiến, có hiệu quả trong việc tìm kiếm, tiếp thu và trình bày thông tin theo cách hữu ích cho những người đang tìm kiếm câu trả lời. Tuy nhiên, liệu chúng ta có thể thực sự tin tưởng vào công nghệ này như hiện tại không? Về nguyên tắc, chúng ta có thể tin tưởng nó không?

1. Các công cụ tìm kiếm AI sáng tạo đang đưa ra kết quả đáng lo ngại

Mọi người dường như đang thêm AI vào các sản phẩm tìm kiếm của mình. Một số, chẳng hạn như Perplexity AI, đã xây dựng toàn bộ hệ thống của họ xung quanh AI tổng quát và Mô hình ngôn ngữ lớn (LLM). Các công ty tìm kiếm có uy tín, đặc biệt là Bing và Google, đã thêm các công nghệ này vào các công cụ tìm kiếm hiện có của họ.

Ví dụ: Google hiện cung cấp các bản tóm tắt AI trong đó LLM sẽ đọc các trang web để bạn không cần phải làm vậy và cung cấp cho bạn câu trả lời trực tiếp cho câu hỏi của bạn. Đặt sang một bên cách thức này cắt bỏ các trang web thực tế tạo ra nội dung ngoài vòng lặp, khi nó hoạt động thì nó cực kỳ hữu ích. Tuy nhiên, cũng giống như chatbot AI rất dễ mắc phải " ảo giác " hoặc mắc lỗi logic, lý luận.

Điều này đã dẫn đến việc AI tìm kiếm của Google gợi ý những việc như thêm keo vào bánh pizza và ăn đá cũng như có mèo trên mặt trăng. Về phần mình, Google đang nhanh chóng tiến hành loại bỏ những lỗi này, nhưng điều đó không giải quyết được vấn đề cơ bản—sự tin tưởng.

2. Ai đó phải chịu trách nhiệm về thông tin trong kết quả tìm kiếm

Dù bạn có tin hay không thì tùy, tôi là một con người thực sự đang ngồi trước bàn phím này, gõ những từ mà bạn sắp đọc. Điều đó có nghĩa là nếu bạn đọc nội dung nào đó ở đây không có ý nghĩa, sai sự thật hoặc có thể gây hại thì bạn đã có người có thể chịu trách nhiệm về điều đó. Tương tự như vậy, nếu tôi sử dụng thông tin từ, chẳng hạn như Associated Press, và tài liệu đó có sai sót thực tế nghiêm trọng, tôi có quyền truy đòi vì một người nào đó ở tuyến dưới đã phạm sai lầm hoặc điều gì đó khác đã xảy ra khi giải thích vấn đề.

Chúng tôi biết thông tin được tạo ra như thế nào và chúng tôi biết ai chịu trách nhiệm. Việc sơ suất sẽ gây ra hậu quả và có những hệ thống sẵn sàng (như biên tập viên con người và chính sách biên tập) nhằm phát hiện vấn đề trước khi chúng được xuất bản. Tất nhiên, không có hệ thống nào trong số này là hoàn hảo, nhưng luôn có ai đó chịu trách nhiệm.

Cho đến nay, các hệ thống AI có xu hướng hoạt động theo những cách mà ngay cả người sáng tạo ra chúng cũng không thể dự đoán được. Những mô hình tỷ hoặc thậm chí nghìn tỷ tham số này giống như những hộp đen nơi không ai biết chính xác điều gì đang diễn ra bên trong. Đó cũng là lý do tại sao họ nắm giữ rất nhiều hứa hẹn và quyền lực, nhưng điều đó có nghĩa là rất khó để tạo ra một giải pháp an toàn và đáng tin cậy.

Ngay cả những thứ như Gemini của Google có độ chính xác và đáng tin cậy đến 99%, chúng tôi vẫn gặp sự cố. Tất nhiên, bản thân con người hiếm khi đáng tin cậy như vậy, nhưng chúng ta cũng hiếm khi có tốc độ và quy mô để các lỗi của mình có thể gây ra thiệt hại lớn. Hãy xem xét rằng Google xử lý khoảng 8,5 tỷ lượt tìm kiếm mỗi ngày. Nếu chỉ 1% trong số những tìm kiếm đó chứa thông tin hoặc lời khuyên có thể gây hại, thì điều đó vẫn khiến bạn có 85 triệu người được cho ăn thứ gì đó có vấn đề. Hằng ngày!

Nói cách khác, các tiêu chuẩn cần thiết để những hệ thống như thế này đưa ra lời khuyên và thông tin mà không có sự tham gia của con người là rất cao, đến mức trên thực tế điều đó có thể là không thể.

3. Nếu mọi người không tin tưởng vào kết quả tìm kiếm của AI thì công nghệ không thành vấn đề

Tuy nhiên, chúng ta có thể nói về con số hiệu suất của các hệ thống AI này cả ngày và sẽ không có gì khác biệt nếu chúng không được coi là đáng tin cậy. Có rất nhiều công nghệ đầy hứa hẹn đã bị bỏ quên do thiếu sự tin tưởng của công chúng. Tai nạn hạt nhân đã khiến người dân cảnh giác với năng lượng hạt nhân. Thảm kịch Hindenburg đã đặt chiếc đinh cuối cùng vào quan tài đối với khí cầu, mặc dù việc chuyển từ hydro sang khí heli sẽ khiến điều đó không thể lặp lại. Một khi công nghệ của bạn bị coi là không đáng tin cậy thì gần như không thể sửa chữa nhận thức đó, ngay cả khi bạn thực sự khắc phục được vấn đề.

4. Giữ con người trong vòng lặp là điều không thể tránh khỏi cho dù máy móc thông minh có như thế nào

Cho dù công nghệ AI có tốt đến đâu thì chúng cũng không bao giờ có thể đủ tốt để biện minh cho việc loại bỏ hoàn toàn sự giám sát của con người. Không phải vì con người nhất thiết sẽ làm công việc tốt hơn mà vì tôi tin rằng con người sẽ không bao giờ hoàn toàn tin tưởng họ. Chúng ta có xu hướng tập trung vào các trường hợp ngoại lệ hơn là quy tắc, đó là lý do tại sao mọi người chơi xổ số!

Cuối cùng, những người tạo ra những hệ thống như thế này không thể rũ bỏ trách nhiệm khi những hệ thống đó gây hại. Con ngựa phải dừng lại ở đâu đó và con người sẽ phải chịu trách nhiệm theo một cách nào đó. Các trang web riêng lẻ có thể phải chịu trách nhiệm về nội dung của mình và cho đến khi các công cụ tìm kiếm thực hiện tốt công việc đưa các trang web đáng tin cậy nhất lên đầu danh sách. Đó là một chu trình có đạo đức trong đó chúng tôi cố gắng cung cấp nội dung đáng tin cậy, chất lượng cao nhất có thể và các công cụ tìm kiếm thưởng cho chúng tôi lưu lượng truy cập, giúp tài trợ cho nhiều nội dung hơn, v.v.

Giờ đây, các bản tóm tắt AI của nội dung đó có nguy cơ phá vỡ chu trình tạo ra nội dung chất lượng, đáng tin cậy, đồng thời cũng có khả năng giới thiệu hoặc lặp lại thông tin nguy hiểm hoặc gây hiểu lầm. Một khi bạn biến việc tìm kiếm thông tin trên web thành một trò chơi roulette kiểu Nga một cách hiệu quả, đừng mong đợi những người đến gõ cửa nhà bạn sẽ sẵn sàng chơi.