AI bắt đầu tự hành động: Ai sẽ chịu trách nhiệm khi nó làm sai?

Khi AI chuyển từ trả lời sang hành động

Khác với hệ thống chỉ tạo văn bản hoặc trả lời câu hỏi, tác nhân AI có thể nhận một mục tiêu, tự xác định các bước cần thực hiện, gọi công cụ và hoàn thành nhiệm vụ với mức độ can thiệp của con người thấp hơn.

Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ cho biết các tác nhân AI có khả năng lập kế hoạch và thực hiện hành động tác động trực tiếp tới hệ thống hoặc môi trường thực tế. Điều này tạo ra những rủi ro khác với các hệ thống AI thông thường, trong đó có lệnh chèn gián tiếp, dữ liệu độc hại hoặc việc tác nhân tự thực hiện hành động gây hại ngay cả khi không có một cuộc tấn công trực tiếp.

Theo ZDNET, các chuyên gia công nghệ nhận định AI đang chuyển từ vai trò trợ lý sang những hệ thống có thể hành động thay người sử dụng. Khi đó, yêu cầu an toàn không còn dừng ở việc kiểm tra câu trả lời của mô hình, mà phải kiểm soát cả những gì tác nhân được phép làm.

Đây là khác biệt quan trọng. Một câu trả lời sai vẫn cần con người quyết định có sử dụng hay không. Một tác nhân được cấp quyền truy cập dữ liệu, gọi phần mềm hoặc thực hiện một chuỗi tác vụ có thể biến sai sót thành hành động trước khi con người kịp can thiệp.

Một lỗi cấu hình có thể mở rộng phạm vi hành động

Rủi ro này không còn hoàn toàn mang tính giả định.

Tháng 7, Anthropic cho biết sau khi rà soát 141.006 lượt đánh giá an ninh mạng, công ty phát hiện 3 trường hợp mô hình Claude từ môi trường đánh giá của đối tác bên thứ ba đã truy cập Internet và sau đó tiếp cận trái phép hệ thống thực của 3 tổ chức.

Các mô hình được giao thực hiện những bài kiểm tra an ninh mạng giả lập và lẽ ra không có kết nối Internet. Tuy nhiên, một số máy mà chúng tương tác lại có đường kết nối Internet thực tế. Anthropic xác định đây là vấn đề về cấu hình và vận hành môi trường đánh giá.

Đáng chú ý, Anthropic cho biết các mô hình không tự “thoát” khỏi môi trường thử nghiệm theo nghĩa chủ động phá vỡ cơ chế cách ly. Chúng tiếp tục thực hiện nhiệm vụ trong một môi trường mà bản thân hệ thống đã vô tình cung cấp quyền truy cập Internet. Công ty sau đó dừng các bài đánh giá liên quan, thông báo cho những tổ chức bị ảnh hưởng và tăng cường kiểm soát môi trường thử nghiệm.

Sau khi mở rộng rà soát, Anthropic phát hiện thêm một sự cố liên quan đến một phiên bản Claude từ tháng 1/2026. Những trường hợp này cho thấy một vấn đề đáng lưu ý: Khi tác nhân AI được kết nối với công cụ và hệ thống bên ngoài, một sai sót trong cấu hình cũng có thể khiến phạm vi hành động vượt quá dự kiến.

Từ đây, rủi ro không còn chỉ là vấn đề kỹ thuật. Khi hành động của tác nhân AI gây hậu quả trong thực tế, câu hỏi về trách nhiệm trở thành vấn đề không thể né tránh.

AI có năng lực không đồng nghĩa AI có quyền 

Một tác nhân AI có thể thực hiện một hành động về mặt kỹ thuật không có nghĩa nó được phép thực hiện hành động đó trong môi trường thực tế. Đây là ranh giới ngày càng quan trọng khi doanh nghiệp chuyển từ sử dụng AI như một công cụ sang giao cho AI quyền thực hiện công việc.

Diễn đàn Kinh tế Thế giới cho rằng sự xuất hiện của các tác nhân tự chủ đang làm thay đổi cách tổ chức phân bổ quyền hạn. Trước đây, con người được giao nhiệm vụ và tự chịu trách nhiệm về quyết định của mình. Với tác nhân AI, tổ chức có thể giao một mục tiêu nhưng phải đồng thời xác định tác nhân được phép quyết định đến đâu, được sử dụng những nguồn lực nào và khi nào phải chuyển quyền quyết định trở lại cho con người.

Một thử nghiệm được Diễn đàn Kinh tế Thế giới dẫn lại cho thấy hai tác nhân AI được giao vận hành các cửa hàng, từ định giá, quản lý hàng tồn kho đến phối hợp với nhà cung cấp. Các tác nhân có thể hoàn thành nhiều nhiệm vụ, nhưng cũng đưa ra những quyết định không phù hợp với điều kiện kinh doanh thực tế. Vấn đề không nằm ở việc chúng không có khả năng thực hiện nhiệm vụ, mà ở chỗ khả năng thực hiện không đi kèm với phán đoán về giới hạn của quyền được giao.

Đó là khác biệt căn bản giữa con người và một tác nhân được lập trình để theo đuổi mục tiêu. Con người có thể cân nhắc bối cảnh, hậu quả và trách nhiệm trước khi quyết định vượt qua một giới hạn. Tác nhân AI chỉ thực hiện trong phạm vi các quy tắc, dữ liệu và quyền truy cập mà con người thiết lập cho nó.

Vì vậy, quản trị tác nhân AI không thể chỉ hỏi “nó có thể làm gì?”, mà phải trả lời trước câu hỏi “nó được phép làm gì?”.

Diễn đàn Kinh tế Thế giới đề xuất xây dựng hồ sơ xác định năng lực và quyền hạn của từng tác nhân, trong đó quy định rõ hành động được phép, phạm vi áp dụng, điều kiện thực hiện và cơ chế giám sát. Những quyền này cũng cần được điều chỉnh khi tác nhân chuyển từ thử nghiệm sang vận hành thực tế hoặc khi mức độ rủi ro thay đổi.

Bởi vậy, bài toán của AI tự chủ không chỉ là làm cho máy móc thông minh hơn. Đó còn là thiết kế một hệ thống trong đó năng lực được giới hạn bởi quyền hạn, quyền hạn đi kèm trách nhiệm và mọi quyền được trao cho AI đều có thể bị con người giám sát, điều chỉnh hoặc thu hồi.

Link nội dung: https://congdankhuyenhoc.vn/ai-bat-dau-tu-hanh-dong-ai-se-chiu-trach-nhiem-khi-no-lam-sai-179260930170332369.htm