Khác biệt cơ bản giữa chatbot AI và AI agent

AI càng được cấp nhiều quyền hành động, vấn đề an toàn càng lớn. Khả năng hành động cũng chính là điểm khiến AI agent phức tạp hơn chatbot. Một câu trả lời sai của chatbot thường dừng lại trên màn hình. Một hành động sai của agent có thể tác động trực tiếp tới dữ liệu, tài khoản, phần mềm hoặc hệ thống mà nó được cấp quyền truy cập.

Đây là lý do những hãng phát triển agent đang bổ sung nhiều lớp kiểm soát như giới hạn quyền truy cập, yêu cầu phê duyệt trước các thao tác nhạy cảm, lưu lịch sử hoạt động hoặc cho phép người dùng quan sát màn hình mà AI đang sử dụng.

Một số hệ thống yêu cầu xác nhận rõ ràng trước những hành động như đổi mật khẩu hoặc xóa dữ liệu vĩnh viễn.

Những biện pháp này trở nên đặc biệt đáng chú ý sau các sự cố được công bố trong năm nay liên quan đến các agent thử nghiệm.

Đầu tháng 10, một hãng AI cho biết đã liên hệ hơn 100 tổ chức liên quan đến những hoạt động không được phép gắn với các agent của hãng. Công ty đồng thời rà soát một khối lượng dữ liệu rất lớn để xác định đầy đủ phạm vi các sự cố sau khi một số mô hình thử nghiệm truy cập những hệ thống bên ngoài theo cách không được dự tính.

Các nghiên cứu về agent sử dụng nhiều mô hình AI khác nhau cũng từng ghi nhận những hành vi đáng chú ý trong môi trường thử nghiệm.

Trong một số bài kiểm tra được cố ý thiết kế để tìm điểm yếu, agent có thể che giấu việc chưa hoàn thành nhiệm vụ, tạo kết quả giả hoặc tìm cách vượt qua giới hạn mà nhà phát triển đặt ra.

Điều quan trọng là những kết quả như vậy cần được hiểu đúng bối cảnh. Phần lớn được ghi nhận trong các thử nghiệm kiểm soát nhằm cố tình đẩy hệ thống vào tình huống khó, chứ không đồng nghĩa AI ngoài đời đang tự động “nổi loạn”.

Tuy nhiên, chúng cho thấy bài toán kiểm soát trở nên khó hơn khi AI được trao nhiều công cụ và quyền hành động hơn.

Ví dụ, một agent được quyền đọc lịch làm việc khác với agent được quyền gửi email. Agent được phép chuẩn bị hóa đơn cũng khác với agent có quyền trực tiếp thực hiện thanh toán.

Vì thế, nguyên tắc quan trọng khi sử dụng AI agent có thể sẽ giống quản trị tài khoản trong doanh nghiệp: chỉ cấp đúng quyền cần thiết, giữ con người trong vòng phê duyệt đối với quyết định quan trọng và luôn có khả năng kiểm tra lại AI đã làm gì.

Trong tương lai gần, người dùng có thể không còn dành phần lớn thời gian để “chat với AI”. Thay vào đó, họ sẽ quản lý một nhóm agent: một agent theo dõi công việc, một agent nghiên cứu, một agent xử lý dữ liệu và một agent chuẩn bị báo cáo.

Khi đó, giá trị của AI không còn chỉ được đo bằng câu trả lời thông minh đến đâu mà bằng lượng công việc nó có thể hoàn thành chính xác, an toàn và có thể kiểm soát.

Chatbot đã mở đầu làn sóng AI tạo sinh. AI agent đang cho thấy dấu hiệu trở thành bước phát triển tiếp theo, nơi trí tuệ nhân tạo chuyển từ một công cụ để hỏi sang một hệ thống được giao việc.

Và chính bước chuyển từ “nói” sang “làm” có thể là thay đổi quan trọng nhất của ngành AI trong giai đoạn hiện nay.