VietNetwork.Vn

Tính năng AI này có vẻ khá hữu ích phải không? Cái gì có thể đi sai?

• Google tiết lộ tính năng phát hiện cuộc gọi lừa đảo AI (Scam Call Detection) để bảo vệ người dùng khỏi các trò lừa đảo qua điện thoại trong thời gian thực.
• Tính năng này do Gemini Nano cung cấp, cảnh báo người dùng về những trò gian lận tiềm ẩn trong các cuộc gọi.
• Những lo ngại về lỗ hổng bảo mật, lạm dụng và thông báo sai có thể hạn chế việc áp dụng tính năng này.

Hội nghị I/O 2024 gần đây của Google hoàn toàn là về AI—công ty đã tự hào nói "AI" 124" trong suốt bài phát biểu quan trọng của mình (vâng, bạn đọc đúng rồi). Trong khi gã khổng lồ Mountain View giới thiệu rất nhiều cải tiến cho Gemini—nhóm sản phẩm của họ Các mô hình AI—một tính năng khiến chúng tôi chú ý vì tính hữu ích trong thế giới thực của nó: phát hiện cuộc gọi lừa đảo do AI cung cấp.

Hãy đối mặt với sự thật: lừa đảo qua điện thoại là một điều đau đớn. Từ những cuộc gọi tự động gây phiền nhiễu cho đến những kẻ mạo danh lén lút đóng giả bộ phận hỗ trợ kỹ thuật hoặc ngân hàng của bạn, những trò lừa đảo này có thể đánh lừa ngay cả những người dùng thông thái nhất. Tính năng mới của Google nhằm mục đích thay đổi điều đó bằng cách phân tích các cuộc gọi trong thời gian thực và thông báo cho bạn nếu có điều gì đó đáng ngờ.

1. Bản demo trên sân khấu của Google thật tuyệt vời

Dave Burke, Phó Giám đốc Kỹ thuật của Google, đã trình bày cách thức hoạt động của nó trong sự kiện I/O (video có dấu thời gian bên dưới). Trên sân khấu, anh nhận được cuộc gọi từ một người giả làm ngân hàng, yêu cầu anh chuyển tiền tiết kiệm sang tài khoản mới để đảm bảo an toàn. Điện thoại của Burke hiện lên một thông báo có nội dung: "Có khả năng là lừa đảo: Các ngân hàng sẽ không bao giờ yêu cầu bạn chuyển tiền của mình để giữ an toàn," kèm theo tùy chọn gác máy. Burke tiếp tục giải thích rằng tính năng này được cung cấp bởi Gemini Nano, hoạt động trên thiết bị mà không cần kết nối internet. Khá ấn tượng phải không?

Vậy ai sẽ được hưởng lợi nhiều nhất từ công nghệ này? Vâng, khá nhiều tất cả mọi người!

• Mọi người : Tính năng phát hiện lừa đảo theo thời gian thực giúp bạn thận trọng hơn trong các cuộc gọi và tránh bị lừa.
• Nhóm dân số dễ bị tổn thương: Người già và những người ít quen thuộc với công nghệ là mục tiêu hàng đầu của những kẻ lừa đảo. Tính năng bảo vệ AI này có thể bổ sung thêm một lớp bảo mật.
• Mọi người dễ bị thao túng cảm xúc: Những kẻ lừa đảo thường sử dụng nỗi sợ hãi và sự cấp bách để gây áp lực cho nạn nhân. Cảnh báo AI có thể phá vỡ chiến thuật của chúng, giúp bạn có cơ hội hít thở và tránh rơi vào con mồi.

3. Nhược điểm tiềm ẩn và sử dụng sai

Tất nhiên, với bất kỳ công nghệ mới nào có khả năng phân tích các cuộc hội thoại, quyền riêng tư đều là một dấu hỏi lớn. Mặc dù Google cho biết mọi thứ vẫn còn trên thiết bị của bạn nhưng một số chuyên gia lo lắng về các lỗ hổng tiềm ẩn:

• Hacking: Mặc dù quá trình xử lý diễn ra trên thiết bị nhưng vẫn có lo ngại rằng tin tặc hoặc cá nhân có quyền truy cập vật lý vào điện thoại có thể khai thác tính năng này.
• Rủi ro về chính phủ và giám sát: Những người ủng hộ quyền riêng tư cảnh báo rằng các cơ quan chính phủ hoặc công ty giám sát có thể lạm dụng công nghệ đó để nghe lén các cuộc trò chuyện riêng tư.
• Cảnh báo sai: Cũng có nguy cơ các cuộc gọi hợp pháp bị gắn cờ là lừa đảo, gây ra cảnh báo không cần thiết và tiềm ẩn sự bất tiện.

Albert Fox Cahn, giám đốc điều hành của Dự án Giám sát Công nghệ Giám sát, đã bày tỏ mối quan ngại chi tiết về khả năng lạm dụng tính năng phát hiện lừa đảo AI của Google. Ông nhấn mạnh rằng mặc dù công nghệ này được thiết kế chú trọng đến tính bảo mật nhưng nó có thể mở ra một hộp thoại về các vấn đề về giám sát và quyền riêng tư của Pandora.

Cahn chỉ ra những rủi ro đối với những nhóm dân cư dễ bị tổn thương, bao gồm cả những người nổi dậy chính trị và những cá nhân đang tìm kiếm quyền riêng tư về y tế, chẳng hạn như những người phá thai. Ông cảnh báo rằng ngay cả quá trình xử lý trên thiết bị cũng có thể dễ bị xâm nhập, gây ra mối lo ngại nghiêm trọng về mức độ an toàn và riêng tư thực sự của các cuộc trò chuyện qua điện thoại của chúng ta.

4. Google cần đảm bảo rằng tính năng này không phải là cơn ác mộng về quyền riêng tư

Vấn đề là: lừa đảo qua điện thoại là một mối đe dọa nghiêm trọng và việc phát hiện theo thời gian thực có thể là yếu tố thay đổi cuộc chơi. Hãy tưởng tượng cảm giác yên tâm khi biết rằng điện thoại của bạn về cơ bản sẽ nói với bạn rằng: "Đợi đã, nghe có vẻ tanh quá!" Tính năng AI này có rất nhiều tiềm năng. Nếu Google có thể tạo thêm niềm tin cho chúng ta bằng cách chứng minh rằng tính năng này thực sự an toàn và tiết lộ thêm thông tin về hoạt động của nó, thì điều đó có thể thực sự cách mạng hóa cuộc chiến chống lừa đảo qua điện thoại.

5. Vậy khi nào chúng ta có thể có được công nghệ chống lừa đảo này?

Thật không may, Google vẫn chưa tiết lộ ngày phát hành chính xác cho tính năng phát hiện cuộc gọi lừa đảo AI. Họ đã đề cập rằng nó sẽ được chọn tham gia, nghĩa là bạn sẽ có quyền kiểm soát xem mình có kích hoạt nó hay không. Theo Google, chúng tôi có thể mong đợi thêm thông tin về tính khả dụng và cách kích hoạt nó "vào cuối năm nay".