'Con người phải giữ quyền kiểm soát tối cao với AI tự chủ'

Ông Kumar, Phó chủ tịch khu vực châu Á Thái Bình Dương của ManageEngine, bộ phận chuyên cung cấp giải pháp phần mềm quản lý, giám sát công nghệ thông tin thuộc tập đoàn Zoho Corporation (Ấn Độ). Ông chia sẻ với VnExpress về làn sóng AI tự chủ cũng như những rào cản bảo mật dữ liệu đối với doanh nghiệp Việt Nam.

- Điều gì đang thúc đẩy làn sóng chuyển dịch từ "AI trợ lý" sang "AI tự chủ" - có khả năng tự ra quyết định và thực thi tác vụ trong doanh nghiệp?

- Động lực cốt lõi là tình trạng quá tải dữ liệu và áp lực vận hành thời gian thực. Mô hình trợ lý truyền thống đòi hỏi sự can thiệp, phê duyệt và kích hoạt lệnh từ con người, vô tình tạo "nút thắt cổ chai" khi quy mô mở rộng. Doanh nghiệp hiện cần tối ưu hóa hiệu suất quy trình làm việc. Những tác vụ lặp lại, từ giám sát mạng lưới đến vá lỗ hổng bảo mật, cần được xử lý lập tức mà không bị vướng mắc do sự chậm trễ từ con người.

Sự trưởng thành của mô hình ngôn ngữ lớn (LLM) kết hợp tác nhân AI có khả năng thấu hiểu ngữ cảnh chuyên sâu chính là bệ phóng giúp AI tự chủ vượt ra ngoài giới hạn của việc chỉ đưa ra gợi ý, cho phép hệ thống tự tin ra quyết định và độc lập thực thi hành động trong ranh giới an toàn đã thiết lập sẵn. Gartner dự báo đến năm 2028, 33% phần mềm doanh nghiệp sẽ được tích hợp tính năng tự chủ, tăng mạnh so với mức chưa đầy 1% năm 2024.

- AI tự chủ thay đổi cách doanh nghiệp quản lý hệ thống IT và xử lý sự cố kỹ thuật phức tạp thế nào so với phương pháp truyền thống?

- AI tự chủ sẽ chuyển đổi mô hình quản lý công nghệ thông tin từ giám sát mang tính phản ứng sang vận hành tự phục hồi và chủ động. Các hệ thống có thể nhận thức môi trường phức tạp, đưa ra quyết định và hành động theo thời gian thực với sự can thiệp tối thiểu hoặc hoàn toàn không cần đến con người.

Kết quả, tác nhân hoạt động 24/7 không cần con người phê duyệt, đồng thời đưa ra quyết định hiệu quả hơn so với điều hành viên là con người khi xét ở cùng một tốc độ và quy mô. Kể cả khi xảy ra sự cố nghiêm trọng, AI tự chủ sở hữu khả năng đối chiếu dữ liệu toàn diện, tự động phân tích nguyên nhân gốc rễ và thực thi các quy trình khắc phục chỉ trong vài giây, từ đó giảm thời gian gián đoạn hệ thống.

- Ông đánh giá mức độ sẵn sàng của doanh nghiệp Việt Nam trong việc cho phép AI tự động xử lý tác vụ liên quan đến bảo mật đến đâu?

- Doanh nghiệp Việt Nam nắm rõ về mặt lý thuyết, nhưng rất thận trọng khi đưa vào thực tế. Phần lớn có tư duy cởi mở và sẵn sàng cho phép AI tự động hóa tác vụ bảo mật mang tính chất giám sát, phân loại và cô lập ở cấp độ cơ bản như tự động tổng hợp, phân tích dữ liệu nhật ký để phát hiện hành vi bất thường, hoặc tự động phân loại mức độ nghiêm trọng của các cảnh báo an ninh mạng.

Tuy nhiên, ở hoạt động cốt lõi, nơi quyết định của AI có thể làm gián đoạn hoạt động kinh doanh, mức độ sẵn sàng lại giảm đi rõ rệt. Sự thận trọng này của doanh nghiệp Việt Nam không phải nhược điểm. Ngược lại, đó là tư duy quản trị rủi ro lành mạnh, giúp xây dựng một hệ thống AI an toàn với các ranh giới rõ ràng.

- Khi làm việc với khách hàng Việt Nam nói riêng và Đông Nam Á nói chung, ông nhận thấy nỗi sợ lớn nhất của doanh nghiệp khi triển khai AI là gì?

- Có ba thách thức lớn đang kìm hãm hành trình triển khai AI. Mất kiểm soát dữ liệu và rủi ro bảo mật là mối quan tâm hàng đầu, với lo ngại việc đưa dữ liệu nội bộ, thông tin khách hàng hoặc bí mật kinh doanh vào mô hình AI có thể vô tình làm rò rỉ ra bên ngoài, hoặc vi phạm quy định nghiêm ngặt về quyền riêng tư.

Nỗi sợ tiếp theo liên quan đến sai lệch và "ảo giác". Trong quản lý và vận hành, một quyết định sai lầm có thể làm sập toàn bộ hệ thống hoặc gây tổn thất tài chính khổng lồ. Chủ doanh nghiệp hiện ngần ngại giao quyền cho AI, trừ khi có cơ chế xác thực rõ ràng để hiểu các quyết định của nó.

Thiếu hụt nhân lực trình độ cao và chi phí ẩn cũng là vấn đề lớn đối với doanh nghiệp. Họ lo ngại đội ngũ kỹ sư hiện tại chưa đủ năng lực làm chủ, tùy biến và bảo trì hệ thống AI phức tạp. Áp lực về chi phí hạ tầng, phí bản quyền phần mềm và nỗi sợ phụ thuộc vào nhà cung cấp cũng khiến họ phải cân nhắc kỹ lưỡng.

Thị trường Việt Nam đang bước từ giai đoạn nhận thức, thử nghiệm sang ứng dụng AI thực tiễn. Doanh nghiệp trong nước có lợi thế về tư duy cởi mở, khả năng tiếp cận công nghệ nhanh và được thúc đẩy bởi Chương trình Chuyển đổi số Quốc gia. Nhiều doanh nghiệp lớn và vừa đã vượt qua giai đoạn thử nghiệm công cụ AI cơ bản. Báo cáo năm 2025 của Amazon cho thấy, hơn 18% doanh nghiệp Việt đã ứng dụng AI, tăng 39% so với năm trước, dù 74% vẫn chủ yếu sử dụng AI ở mức cơ bản.

- Nhiều doanh nghiệp Việt muốn triển khai AI nhanh, nhưng sợ mất kiểm soát hệ thống. Đâu là ranh giới giữa tự động hóa thông minh và trao quá nhiều quyền cho AI?

- Cần duy trì cơ chế "rào chắn" giúp con người giám sát. AI có thể tự thực hiện các tác vụ vận hành thông thường, nhưng với quyết định chiến lược hoặc tác động lớn đến hệ thống, AI chỉ nên đưa ra khuyến nghị, còn quyền quyết định cuối cùng phải do kỹ sư hoặc người vận hành đảm nhiệm.

Trong cuộc đua số, tốc độ là lợi thế. Nhưng nếu một hệ thống AI vận hành với tốc độ chóng mặt mà thiếu sự giám sát, nó có thể phóng đại một lỗi cấu hình nhỏ thành sự cố sập hệ thống trên diện rộng trong vài giây.

Yếu tố quan trọng nhất với doanh nghiệp Việt là xây dựng niềm tin và bảo đảm an toàn khi ứng dụng AI. Doanh nghiệp khó tận dụng hiệu quả công nghệ nếu nhân sự vẫn lo ngại và thiếu tin tưởng AI. Nên bắt đầu từ tác vụ nội bộ có rủi ro thấp, từng bước mở rộng phạm vi tự chủ của AI. Đồng thời, ưu tiên giải pháp AI có khả năng giải thích quá trình đưa ra quyết định, giúp nhà quản lý hiểu rõ nguyên nhân đằng sau mỗi hành động của AI và dần xây dựng niềm tin trong tổ chức.

- Làm sao tránh kịch bản "AI xử lý nhầm nhưng không ai phát hiện"?

- Triển khai nhanh chóng hệ thống AI trên khắp bộ phận chức năng của doanh nghiệp đang đặt ra thách thức kép cho nhà lãnh đạo: đổi mới sáng tạo đi đôi với quản trị rủi ro.

Doanh nghiệp cần có những thiết lập nhằm phát hiện điểm bất thường, cho phép kỹ sư kiểm định quy trình tư duy của AI ngay lập tức; thiết lập ngưỡng giới hạn, bắt buộc kích hoạt cơ chế phê duyệt có con người; giám sát chéo, tức cần một lớp giám sát độc lập để kiểm soát hành vi của AI, mọi tác vụ phải được tự động ghi lại trong các nhật ký hệ thống không thể sửa đổi.

Trong làn sóng bùng nổ AI, do tâm lý sợ bị bỏ lại phía sau (FOMO), nhiều doanh nghiệp vội tích hợp khi chưa chuẩn bị kỹ lưỡng, dẫn đến những sai lầm đáng tiếc khi triển khai, phổ biến nhất là huấn luyện AI trên nguồn dữ liệu "rác". Hệ quả, AI học theo thói quen vận hành lỗi thời hoặc đưa ra quyết định sai lệch do dữ liệu đầu vào bị nhiễu.

Nhiều doanh nghiệp còn gặp sai lầm "cài đặt xong là bỏ mặc". Nếu để AI tự vận hành mà không có quy trình bảo trì bài bản, đánh giá hiệu suất và tái huấn luyện định kỳ, mô hình AI sẽ giảm chất lượng theo thời gian và đưa ra quyết định vận hành không chính xác.

Sai lầm phổ biến khác là xem nhẹ vai trò của con người, khi cho rằng chỉ cần đầu tư công cụ AI là có thể thay thế nhân sự hoặc giao toàn bộ công việc cho máy móc. Nếu đội ngũ không được đào tạo về cách phối hợp, giám sát và làm việc với AI, họ dễ rơi vào tâm lý hoặc quá phụ thuộc, hoặc thiếu tin tưởng công nghệ. Cả hai đều làm giảm hiệu quả triển khai AI.

- Với vấn đề ảo giác vận hành, nên đặt giới hạn đỏ nào mà AI không được phép vượt qua?

- AI không phải công cụ bất khả xâm phạm. Các mô hình vẫn có xu hướng nói quá, "bịa chuyện" hoặc mắc sai lầm, đặc biệt trong các kịch bản hoàn toàn mới nằm ngoài tập dữ liệu huấn luyện của chúng.

Doanh nghiệp cần thiết lập cơ chế giám sát đa tầng, kiểm toán độc lập và xác thực chéo. Tuyệt đối không cho phép tác nhân AI tự báo cáo về hiệu suất hoạt động của chính nó. Luôn đối chiếu hành động đã thực thi với nhật ký hệ thống nhằm phát hiện sớm dấu hiệu suy luận sai lệch của AI trước khi dẫn đến hậu quả nghiêm trọng.

Để giữ tác nhân AI trong tầm kiểm soát, doanh nghiệp cần đặt ra lằn ranh cụ thể, như cấm tuyệt đối việc tự ý thay đổi kiến trúc mạng và chính sách bảo mật gốc; cấm tự động thanh toán hóa đơn hoặc thu mua tài nguyên vượt hạn mức ngân sách đã cấu hình trước; chặn đặc quyền tự xóa dữ liệu sao lưu hoặc di chuyển thông tin nhạy cảm. Quan trọng hơn, luôn có một nút tắt khẩn cấp, tước quyền AI ngay lập tức, đưa hệ thống trở lại trạng thái quản trị thủ công an toàn nếu có sự cố xảy ra.

- Khi AI phát triển quá nhanh, khung pháp lý có đang chạy chậm hơn công nghệ?

- Chắc chắn có, bản chất của luật pháp luôn cần thời gian quan sát, đánh giá tác động và xây dựng sự đồng thuận. AI đang tiến hóa nhanh hơn tốc độ hoàn thiện của pháp luật. Dù Đông Nam Á đã có nhiều nỗ lực về AI an toàn và bảo vệ dữ liệu cá nhân, khu vực vẫn cần thêm thời gian xây dựng khung pháp lý nhằm xác định rõ trách nhiệm khi AI đưa ra quyết định sai lầm.

Dù có luật hoặc chưa, doanh nghiệp cũng cần chủ động thiết lập cơ chế quản trị rõ ràng, coi chủ quyền dữ liệu là yêu cầu bắt buộc, tối ưu hóa hạ tầng công nghệ, nâng cao năng lực đội ngũ và đồng hành cùng đối tác có tầm nhìn dài hạn.

Nguồn: vnexpress.net