Vì sao CEO Microsoft muốn AI có phanh khẩn cấp?

CEO Microsoft Satya Nadella đề xuất thiết lập cơ chế kiểm soát độc lập và 'phanh khẩn cấp' cho các hệ thống trí tuệ nhân tạo tiên tiến, cho phép con người can thiệp, tạm dừng hoặc vô hiệu hóa AI khi xuất hiện nguy cơ mất kiểm soát.

Vì sao CEO Microsoft muốn AI có phanh khẩn cấp? Ảnh minh họa: Getty.

CEO Microsoft Satya Nadella đề xuất thiết lập cơ chế kiểm soát độc lập và "phanh khẩn cấp" cho các hệ thống trí tuệ nhân tạo tiên tiến, cho phép con người can thiệp, tạm dừng hoặc vô hiệu hóa AI khi xuất hiện nguy cơ mất kiểm soát.

Chủ tịch kiêm Giám đốc điều hành Microsoft, ông Satya Nadella, vừa đưa ra lời kêu gọi xây dựng các hệ thống trí tuệ nhân tạo (AI) với khả năng kiểm soát độc lập, trong đó con người phải giữ quyền quyết định cuối cùng đối với việc vận hành và dừng hệ thống.

Trong bài viết đăng trên mạng xã hội X ngày 10/10, ông Nadella nhấn mạnh rằng các mô hình AI tiên tiến cần được đặt trong một cấu trúc vận hành có thể giám sát, kiểm toán và can thiệp khi cần thiết.

Quan điểm này xuất hiện giữa lúc những tập đoàn công nghệ lớn đang đẩy nhanh phát triển AI có khả năng tự thực hiện nhiều nhiệm vụ, đồng thời giới nghiên cứu tiếp tục tranh luận về mức độ an toàn và khả năng kiểm soát công nghệ.

Vì sao AI cần một cơ chế dừng khẩn cấp?

Theo ông Nadella, các mô hình AI hiện đại có tính phi xác định, nghĩa là cùng một yêu cầu đầu vào không phải lúc nào cũng tạo ra kết quả hoàn toàn giống nhau. Đặc điểm này khiến việc dự đoán và kiểm soát mọi hành vi của AI trở nên khó khăn.

Thay vì chỉ tập trung cải thiện độ tin cậy của từng mô hình, Microsoft cho rằng cần xây dựng một hệ thống kiểm soát bao quanh, với những quy tắc vận hành rõ ràng và có thể kiểm chứng.

Ông Nadella viết rằng các mô hình phi xác định phải được đặt trong một thiết kế hệ thống xác định, có sự kiểm soát của con người và những quy trình vận hành đáng tin cậy. Ngành công nghệ cũng cần thiết lập các tiêu chuẩn mới ở những lĩnh vực mà quy định hiện hành chưa đáp ứng được.

Một trong những đề xuất trọng tâm là cơ chế "phanh khẩn cấp", cho phép người có thẩm quyền tạm dừng hoặc tắt mô hình AI ngay trong quá trình hoạt động.

Về mặt kỹ thuật, cơ chế này có thể được hiểu là một lớp kiểm soát độc lập với mô hình. Khi phát hiện dấu hiệu bất thường, hệ thống hoặc người vận hành có thể ngăn AI tiếp tục thực hiện nhiệm vụ, thay vì chờ mô hình tự nhận biết và khắc phục sai sót.

Điều này trở nên quan trọng khi AI được kết nối với cơ sở dữ liệu, phần mềm doanh nghiệp, hệ thống thanh toán hoặc các công cụ tự động thực hiện hành động trong môi trường thực tế.

Chẳng hạn, một tác nhân AI được giao quyền xử lý giao dịch có thể tạo ra hậu quả nếu thực hiện sai chỉ dẫn. Trong trường hợp đó, việc có thể thu hồi quyền truy cập, dừng giao dịch hoặc ngắt kết nối hệ thống sẽ giúp hạn chế rủi ro.

Tuy nhiên, đây là ví dụ về nguyên lý kiểm soát, không phải một sự cố cụ thể được Microsoft công bố.

Sáu nguyên tắc để con người duy trì quyền kiểm soát AI

Trong bài viết, ông Nadella đề xuất thiết kế các hệ thống AI dựa trên khả năng quan sát và kiểm chứng hoạt động.

Trước hết là đa dạng hóa mô hình. Thay vì phụ thuộc hoàn toàn vào một mô hình AI duy nhất, hệ thống có thể sử dụng nhiều mô hình để kiểm tra, đối chiếu hoặc hỗ trợ phát hiện kết quả bất thường.

Nguyên tắc thứ hai là duy trì dấu vết hoạt động dễ hiểu đối với con người. Những quyết định, hành động và kết quả do AI tạo ra cần được ghi nhận để người vận hành có thể kiểm tra khi xảy ra vấn đề.

Thứ ba là kiểm thử liên tục. AI không nên chỉ được đánh giá trước khi đưa vào sử dụng mà còn phải được theo dõi trong suốt quá trình vận hành, bởi hành vi của hệ thống có thể thay đổi khi dữ liệu, công cụ hoặc môi trường sử dụng thay đổi.

Thứ tư là thiết lập cơ chế kiểm soát và kiểm toán độc lập. Bộ phận đánh giá an toàn cần có khả năng kiểm tra hệ thống mà không phụ thuộc hoàn toàn vào chính mô hình đang được giám sát.

Thứ năm là khả năng ngăn chặn. Khi xuất hiện rủi ro, hệ thống cần có phương án cô lập, giới hạn quyền truy cập hoặc dừng hoạt động để tránh sự cố lan rộng.

Cuối cùng là công khai sự cố. Việc ghi nhận và chia sẻ thông tin về các vấn đề an toàn có thể giúp những tổ chức khác nhận diện nguy cơ tương tự và cải thiện quy trình quản trị AI.

Ông Nadella cũng đề xuất coi các mô hình AI tiên tiến, dù có trọng số mở hay đóng, như một nguồn rủi ro nội bộ cần kiểm soát. Cách tiếp cận này không đồng nghĩa với việc mặc định AI có hành vi nguy hiểm. Nó yêu cầu doanh nghiệp thiết kế hệ thống theo nguyên tắc không trao sự tin tưởng tuyệt đối cho bất kỳ thành phần công nghệ nào.

Tranh luận về an toàn AI ngày càng gay gắt

Lời kêu gọi của lãnh đạo Microsoft được đưa ra trong bối cảnh nhiều nhân vật có ảnh hưởng trong ngành công nghệ liên tục cảnh báo về nguy cơ phát triển AI nhanh hơn khả năng kiểm soát.

Những người từng lên tiếng về vấn đề này gồm đồng sáng lập Microsoft Bill Gates, Giám đốc điều hành Anthropic Dario Amodei, CEO OpenAI Sam Altman và CEO SpaceX Elon Musk.

Các quan điểm có sự khác biệt về mức độ rủi ro, nhưng đều đặt ra câu hỏi về việc làm thế nào để duy trì khả năng giám sát những hệ thống AI ngày càng mạnh.

Theo thông tin được CNBC dẫn lại, một nhà nghiên cứu AI rời Anthropic vào tháng 9/2026 đã cáo buộc các doanh nghiệp phát triển AI đang đặt nhân loại trước những rủi ro nghiêm trọng.

Một nhân sự phụ trách an toàn AI tại Anthropic cũng đưa ra nhận định về khả năng xảy ra hậu quả mang tính thảm họa trong thập kỷ tới. Đây là những đánh giá rủi ro của cá nhân, không phải kết luận khoa học đã được xác nhận. Những dự báo về nguy cơ AI gây tuyệt chủng cho nhân loại hiện vẫn là chủ đề tranh luận.

Ở chiều ngược lại, Tổng thống Mỹ Donald Trump nhiều lần bác bỏ quan điểm cho rằng AI có thể dẫn đến sự tuyệt chủng của con người. Chính quyền Mỹ ưu tiên thúc đẩy năng lực công nghệ nhằm duy trì lợi thế cạnh tranh trước Trung Quốc.

Sự khác biệt này phản ánh bài toán mà ngành AI đang đối mặt: vừa đẩy nhanh đổi mới sáng tạo, vừa thiết lập những giới hạn đủ mạnh để giảm nguy cơ từ công nghệ.

Doanh nghiệp Việt Nam cần chuẩn bị gì?

Đối với Việt Nam, đề xuất của CEO Microsoft đặt ra một vấn đề thực tế khi AI ngày càng được tích hợp vào hoạt động quản trị doanh nghiệp, tài chính, chăm sóc khách hàng và vận hành hệ thống công nghệ thông tin.

Khi AI chỉ đóng vai trò hỗ trợ soạn thảo văn bản hoặc tổng hợp thông tin, người dùng có thể kiểm tra kết quả trước khi sử dụng. Tuy nhiên, khi doanh nghiệp trao quyền cho AI tự động truy cập dữ liệu, gửi thông báo, xử lý đơn hàng hoặc thực hiện giao dịch, sai sót có thể phát sinh trước khi con người kịp phát hiện.

Vì vậy, doanh nghiệp cần phân định rõ những nhiệm vụ AI được phép thực hiện độc lập và những hoạt động bắt buộc phải có người phê duyệt.

Một hệ thống AI phục vụ khách hàng có thể tự động giải đáp câu hỏi thông thường, nhưng các quyết định liên quan đến hoàn tiền, thay đổi thông tin tài khoản hoặc cung cấp dữ liệu nhạy cảm cần được đặt dưới cơ chế kiểm soát chặt chẽ hơn.

Tương tự, trong lĩnh vực tài chính, doanh nghiệp có thể ứng dụng AI để phát hiện giao dịch bất thường, song việc cho phép AI tự động phong tỏa tài khoản hoặc thực hiện giao dịch cần được đánh giá theo mức độ rủi ro và quy định áp dụng.

Với các doanh nghiệp đang phát triển tác nhân AI, khả năng thu hồi quyền truy cập, lưu nhật ký hoạt động và dừng tác vụ có thể trở thành những tiêu chí quan trọng khi lựa chọn nền tảng công nghệ.

Ở góc độ chính sách, Việt Nam cũng cần quan tâm đến việc xây dựng yêu cầu kỹ thuật và trách nhiệm giải trình đối với các hệ thống AI được triển khai trong những lĩnh vực có ảnh hưởng trực tiếp đến quyền lợi người dân.

Các biện pháp này cần được thiết kế tương xứng với mức độ rủi ro, tránh áp dụng cùng một yêu cầu kiểm soát cho mọi ứng dụng AI.

Niềm tin vào AI phải đến từ khả năng kiểm soát

Thông điệp của ông Nadella cho thấy một thay đổi trong cách tiếp cận an toàn AI: thay vì chỉ cố gắng tạo ra mô hình luôn đưa ra câu trả lời đúng, nhà phát triển cần bảo đảm hệ thống vẫn an toàn ngay cả khi mô hình mắc lỗi.

Điều đó đòi hỏi các lớp kiểm soát hoạt động độc lập, có thể kiểm chứng và không phụ thuộc hoàn toàn vào khả năng tự đánh giá của AI.

Một mô hình có thể đạt kết quả cao trong các bài kiểm thử nhưng vẫn tạo ra sai sót khi được triển khai trong môi trường thực tế. Vì vậy, khả năng phát hiện, giới hạn và xử lý lỗi cần trở thành một phần của thiết kế hệ thống ngay từ đầu.

Kết luận bài viết trên X, ông Nadella đưa ra thông điệp: Hệ thống siêu trí tuệ đáng tin cậy nhất không phải hệ thống sở hữu mô hình được tin tưởng nhiều nhất, mà là hệ thống được thiết kế để con người ít phải phụ thuộc vào niềm tin đối với mô hình đó nhất.

Quan điểm này nhấn mạnh rằng mức độ an toàn của AI không thể chỉ được đánh giá qua năng lực của mô hình. Nó còn phụ thuộc vào khả năng giám sát, kiểm toán và quyền can thiệp thực chất của con người.

Nguồn: Điện tử & Ứng dụng