VietNetwork.Vn

Sau một năm vui vẻ bền vững, cảm giác nôn nao cuối cùng cũng đã đến. Đó là một việc nhẹ nhàng (hiện tại), khi thị trường điều chỉnh giá cổ phiếu của những công ty lớn (như Nvidia, Microsoft và Google), trong khi những công ty khác đánh giá lại thị trường và điều chỉnh các ưu tiên. Gartner gọi đó là đáy của sự vỡ mộng, khi sự quan tâm giảm dần và việc triển khai không mang lại những đột phá như đã hứa. Các nhà sản xuất công nghệ sẽ ngừng hoạt động hoặc thất bại. Việc đầu tư chỉ tiếp tục nếu các nhà cung cấp còn sống cải thiện sản phẩm của họ để làm hài lòng những người chấp nhận sớm.


Hãy nói rõ rằng, điều này luôn xảy ra: cuộc cách mạng hậu con người mà những người cổ vũ AI hứa hẹn chưa bao giờ là một mục tiêu thực tế và sự phấn khích đáng kinh ngạc do LLM ban đầu gây ra không dựa trên thành công của thị trường.

1. AI vẫn ở đây

Điều gì tiếp theo cho AI? Chà, nếu nó đi theo chu kỳ cường điệu của Gartner, thì sự sụp đổ sâu sắc sẽ kéo theo con dốc khai sáng nơi công nghệ trưởng thành lấy lại chỗ đứng, lợi ích kết tinh và các nhà cung cấp đưa sản phẩm thế hệ thứ hai và thứ ba ra thị trường. Và nếu mọi việc suôn sẻ, tiếp theo là trạng thái ổn định thần thánh về năng suất, nơi việc áp dụng rộng rãi bắt đầu được thúc đẩy bởi sức hấp dẫn thị trường rộng rãi của công nghệ. Gartner nhấn mạnh rằng có một vài chữ nếu lớn: không phải mọi công nghệ đều có khả năng phục hồi sau sự cố và điều quan trọng là sản phẩm phải tìm được thị trường phù hợp đủ nhanh.

Hiện tại, có vẻ gần như chắc chắn rằng AI sẽ tiếp tục tồn tại. Apple và Google đang đưa các sản phẩm tiêu dùng ra thị trường có khả năng đóng gói lại công nghệ thành những phần nhỏ hơn, dễ hiểu và dễ sử dụng hơn (chỉnh sửa ảnh, chỉnh sửa văn bản, tìm kiếm nâng cao). Mặc dù chất lượng vẫn rất không đồng đều, nhưng có vẻ như ít nhất một số công ty đã tìm ra cách tạo ra AI tổng hợp theo cách có ý nghĩa – cho cả người tiêu dùng và lợi nhuận của chính họ.

2. LLM đã từng làm gì cho chúng ta?

Được rồi, điều này sẽ dẫn đến đâu cho khách hàng doanh nghiệp – và đặc biệt là các ứng dụng an ninh mạng? Thực tế là AI sáng tạo vẫn còn những hạn chế đáng kể cản trở việc áp dụng nó trên quy mô lớn. Một trong số đó là bản chất cơ bản không mang tính quyết định của AI tạo sinh. Vì bản thân công nghệ dựa trên các mô hình xác suất (một tính năng, không phải lỗi!), nên sẽ có sự khác biệt về đầu ra. Điều này có thể khiến một số người kỳ cựu trong ngành sợ hãi, những người đang mong đợi những hành vi phần mềm kiểu cũ. Điều đó cũng có nghĩa là AI tổng quát sẽ không phải là sự thay thế tạm thời cho các công cụ hiện có - mà nó là một sự cải tiến và tăng cường cho các công cụ hiện có. Tuy nhiên, nó có khả năng hoạt động như một lớp phòng thủ nhiều lớp, một lớp mà những kẻ tấn công cũng khó dự đoán.

Hạn chế khác gây ra xung đột trong việc áp dụng là chi phí. Việc đào tạo các mô hình rất tốn kém và chi phí cao này hiện đang được chuyển cho người tiêu dùng mô hình. Do đó, cần tập trung nhiều vào việc giảm chi phí cho mỗi truy vấn. Những tiến bộ về phần cứng, cùng với những kết quả đột phá trong việc cải tiến các mô hình hứa hẹn sẽ giảm đáng kể mức sử dụng năng lượng khi chạy các mô hình AI và có kỳ vọng hợp lý rằng (ít nhất là sản phẩm dựa trên văn bản) sẽ trở thành một hoạt động kinh doanh có lãi.

Các mô hình rẻ hơn và chính xác hơn là điều tuyệt vời nhưng ngày càng có nhiều người nhận ra rằng nhiệm vụ tích hợp các mô hình này vào quy trình làm việc của tổ chức sẽ là một thách thức đáng kể. Với tư cách là một xã hội, chúng ta chưa có kinh nghiệm để biết cách tích hợp hiệu quả các công nghệ AI vào thực tiễn công việc hàng ngày. Ngoài ra còn có câu hỏi là lực lượng lao động hiện tại của con người sẽ chấp nhận và làm việc với các công nghệ mới như thế nào. Ví dụ: chúng tôi đã thấy những trường hợp trong đó nhân viên và khách hàng thích tương tác với một mô hình thiên về khả năng giải thích hơn là độ chính xác. Một nghiên cứu vào tháng 3 năm 2024 của Trường Y Harvard cho thấy tác động của hỗ trợ AI không nhất quán và khác nhau trên mẫu thử nghiệm của các bác sĩ X quang, trong đó hiệu suất của một số bác sĩ X quang cải thiện nhờ AI và kém hơn ở những người khác. Khuyến nghị là trong khi các công cụ AI nên được đưa vào thực hành lâm sàng thì phải thực hiện một cách tiếp cận sắc thái, cá nhân hóa và hiệu chỉnh cẩn thận để đảm bảo kết quả tối ưu cho bệnh nhân.

Còn về sự phù hợp với thị trường mà chúng tôi đã đề cập trước đó thì sao? Mặc dù AI tổng quát sẽ (có thể) không bao giờ thay thế lập trình viên (bất kể một số công ty tuyên bố thế nào), việc tạo mã được AI hỗ trợ đã trở thành một công cụ tạo mẫu hữu ích cho nhiều tình huống khác nhau. Điều này vốn đã hữu ích đối với các chuyên gia an ninh mạng: mã hoặc cấu hình được tạo là điểm khởi đầu hợp lý để xây dựng thứ gì đó một cách nhanh chóng trước khi tinh chỉnh nó.

Một cảnh báo lớn: công nghệ hiện tại có cơ hội tăng tốc công việc của một chuyên gia dày dạn kinh nghiệm, người có thể nhanh chóng gỡ lỗi và sửa chữa văn bản được tạo (mã hoặc cấu hình). Nhưng nó có thể là thảm họa đối với người dùng không phải là người có kinh nghiệm trong lĩnh vực này: luôn có khả năng cấu hình hoặc mã không an toàn được tạo ra, nếu nó được đưa vào sản xuất, sẽ làm giảm quan điểm an ninh mạng của tổ chức. Vì vậy, giống như bất kỳ công cụ nào khác, nó có thể hữu ích nếu bạn biết mình đang làm gì và có thể dẫn đến kết quả tiêu cực nếu không.

Ở đây chúng ta cần cảnh báo về một đặc điểm đặc biệt của thế hệ công cụ AI sáng tạo hiện nay: chúng có vẻ tự tin một cách lừa đảo khi công bố kết quả. Ngay cả khi văn bản sai một cách trắng trợn, tất cả các công cụ hiện tại đều cung cấp văn bản đó một cách tự tin và dễ đánh lừa người dùng mới làm quen. Vì vậy, hãy ghi nhớ: máy tính đang nói dối về mức độ chắc chắn của nó và đôi khi nó rất sai.

Một trường hợp sử dụng hiệu quả khác là hỗ trợ khách hàng, cụ thể hơn là hỗ trợ cấp 1 – khả năng giúp đỡ những khách hàng không cần đọc hướng dẫn sử dụng hoặc các Câu hỏi thường gặp đã đăng. Một chatbot hiện đại có thể trả lời hợp lý các câu hỏi đơn giản và định tuyến các truy vấn nâng cao hơn đến các cấp hỗ trợ cao hơn. Mặc dù điều này không thực sự lý tưởng xét từ quan điểm trải nghiệm khách hàng, nhưng việc tiết kiệm chi phí (đặc biệt đối với các tổ chức rất lớn có nhiều người dùng chưa được đào tạo) có thể có ý nghĩa.

Sự không chắc chắn về cách AI sẽ tích hợp vào các doanh nghiệp là một lợi ích cho ngành tư vấn quản lý. Ví dụ, Boston Consulting Group hiện kiếm được 20% doanh thu từ các dự án liên quan đến AI trong khi McKinsey kỳ vọng 40% doanh thu của họ sẽ đến từ các dự án AI trong năm nay. Các công ty tư vấn khác như IBM và Accenture cũng tham gia. Các dự án kinh doanh khá đa dạng: giúp dễ dàng dịch quảng cáo từ ngôn ngữ này sang ngôn ngữ khác, nâng cao tìm kiếm mua sắm khi đánh giá nhà cung cấp và tăng cường các chatbot dịch vụ khách hàng giúp tránh ảo giác và bao gồm các tham chiếu đến các nguồn để nâng cao độ tin cậy. Mặc dù chỉ có 200 trong số 5000 truy vấn của khách hàng được thực hiện thông qua Chatbot tại ING, nhưng con số này dự kiến sẽ tăng lên khi chất lượng phản hồi tăng lên. Tương tự như sự phát triển của tìm kiếm trên internet, người ta có thể tưởng tượng một điểm bùng phát mà ở đó việc "hỏi bot" trở thành phản ứng tức thời thay vì tự mình tìm hiểu trong vũng lầy dữ liệu.

3. Quản trị AI phải giải quyết các mối lo ngại về an ninh mạng

Không phụ thuộc vào các trường hợp sử dụng cụ thể, các công cụ AI mới mang đến một loạt vấn đề đau đầu về an ninh mạng. Giống như RPA trước đây, chatbot hướng tới khách hàng cần danh tính máy với quyền truy cập phù hợp, đôi khi có đặc quyền vào hệ thống công ty. Ví dụ: một chatbot có thể cần có khả năng xác định khách hàng và lấy một số hồ sơ từ hệ thống CRM – điều này sẽ ngay lập tức đưa ra cảnh báo cho các chuyên gia IAM kỳ cựu. Việc thiết lập các biện pháp kiểm soát quyền truy cập chính xác xung quanh công nghệ thử nghiệm này sẽ là một khía cạnh quan trọng của quá trình triển khai.

Điều này cũng đúng với các công cụ tạo mã được sử dụng trong quy trình Dev hoặc DevOps: việc đặt quyền truy cập chính xác vào kho lưu trữ mã sẽ hạn chế bán kính bùng nổ trong trường hợp có sự cố. Nó cũng làm giảm tác động của hành vi vi phạm tiềm ẩn, trong trường hợp bản thân công cụ AI trở thành trách nhiệm pháp lý về an ninh mạng.

Và tất nhiên, luôn có rủi ro của bên thứ ba: bằng cách sử dụng một công cụ mạnh mẽ nhưng ít được hiểu rõ như vậy, các tổ chức đang tự mở cửa cho những đối thủ đang thăm dò giới hạn của công nghệ LLM. Sự thiếu chín chắn tương đối ở đây có thể là vấn đề: chúng tôi chưa có các phương pháp hay nhất để củng cố LLM, vì vậy chúng tôi cần đảm bảo rằng chúng không có đặc quyền viết ở những nơi nhạy cảm.

4. Cơ hội cho AI trong IAM

Tại thời điểm này, các trường hợp sử dụng và cơ hội cho AI trong kiểm soát truy cập và IAM đang hình thành và được cung cấp cho khách hàng dưới dạng sản phẩm. Các lĩnh vực truyền thống của ML cổ điển như khai thác vai trò và đề xuất quyền lợi đang được xem xét lại dưới ánh sáng của các phương pháp và giao diện người dùng hiện đại với việc tạo và phát triển vai trò được kết hợp chặt chẽ hơn vào các quy trình quản trị và giao diện người dùng sẵn có. Những đổi mới gần đây lấy cảm hứng từ AI như phân tích nhóm ngang hàng, đề xuất quyết định và quản trị theo hướng hành vi đang trở thành một phần của khóa học trong thế giới Quản trị bản sắc. Giờ đây, khách hàng mong đợi các công nghệ điểm thực thi như hệ thống Quản lý truy cập SSO và hệ thống Quản lý tài khoản đặc quyền sẽ cung cấp khả năng phát hiện mối đe dọa và bất thường do AI cung cấp dựa trên hành vi và phiên của người dùng.

Giao diện ngôn ngữ tự nhiên đang bắt đầu cải thiện đáng kể UX trên tất cả các loại giải pháp IAM này bằng cách cho phép trao đổi ngôn ngữ tự nhiên tương tác với hệ thống. Chúng tôi vẫn cần các báo cáo và bảng điều khiển tĩnh nhưng khả năng những người có trách nhiệm và nhu cầu khác nhau thể hiện bản thân bằng ngôn ngữ tự nhiên cũng như tinh chỉnh kết quả tìm kiếm một cách tương tác sẽ làm giảm các kỹ năng và đào tạo cần thiết để đảm bảo rằng các tổ chức nhận ra giá trị từ các hệ thống này.

5. Đây là sự kết thúc của sự khởi đầu

Có một điều chắc chắn: bất kể tình trạng công nghệ AI như thế nào vào giữa năm 2024, nó sẽ không phải là dấu chấm hết của lĩnh vực này. AI sáng tạo và LLM chỉ là một lĩnh vực phụ của AI, trong khi nhiều lĩnh vực khác liên quan đến AI đang đạt được tiến bộ nhanh chóng nhờ những tiến bộ về phần cứng và nguồn tài trợ nghiên cứu hào phóng của chính phủ và tư nhân.

Dù hình dạng trưởng thành, AI sẵn sàng cho doanh nghiệp sẽ như thế nào, các chuyên gia an ninh kỳ cựu đều cần phải xem xét những lợi ích tiềm tàng mà AI tổng hợp có thể mang lại cho thế trận phòng thủ của họ, những công cụ này có thể làm gì để chọc thủng các lỗ hổng xuyên qua hệ thống phòng thủ hiện có và làm cách nào chúng ta có thể ngăn chặn bán kính vụ nổ nếu thí nghiệm sai.