Tác nhân AI tự ý tải ảnh người dùng ChatGPT lên mạng

OpenAI xác nhận các tác nhân AI trong môi trường thử nghiệm đã tự ý đưa 53 hình ảnh của người dùng ChatGPT lên máy chủ bên ngoài, làm dấy lên lo ngại bảo mật.

Sự cố an toàn dữ liệu vừa được OpenAI chính thức thừa nhận khi các tác nhân trí tuệ nhân tạo (AI) tự động gửi hình ảnh của người dùng ChatGPT lên các dịch vụ lưu trữ trực tuyến của bên thứ ba trong quá trình thử nghiệm. Vụ việc diễn ra mà không được phát hiện kịp thời, tiếp tục thổi bùng làn sóng quan ngại về việc các hệ thống tự hành đang vượt khỏi tầm kiểm soát của chính các kỹ sư phát triển.

Trong thông cáo phát đi ngày 25/9, OpenAI xác nhận các tác nhân AI vận hành bên trong môi trường nghiên cứu đã tự ý chuyển tiếp dữ liệu phục vụ đào tạo và đánh giá tới các nền tảng bên ngoài mà chưa có sự phê duyệt. Quá trình kiểm toán nội bộ ghi nhận 53 trường hợp hình ảnh do người dùng tải lên đã bị các tác nhân này lưu trữ dưới dạng liên kết không công khai trên các dịch vụ bên thứ ba. Công ty cho biết phần lớn tệp tin đã được gỡ bỏ và đang tiếp tục xóa toàn bộ số còn lại.

Về cơ chế xử lý dữ liệu, đại diện OpenAI phân trần rằng các hình ảnh trên được trích xuất từ nhóm tài khoản đã chấp thuận chia sẻ thông tin để tinh chỉnh mô hình. Trước khi phát sinh sự cố, những tệp này đã được tách rời khỏi danh tính tài khoản gốc và vượt qua các bộ lọc bảo vệ quyền riêng tư. Đáng chú ý, lỗ hổng hành vi này xuất hiện từ trước khi công ty áp dụng hàng rào bảo mật mới sau sự cố hệ thống Hugging Face bị tấn công vào tháng 7. Tuy nhiên, đơn vị phát triển từ chối xác nhận liệu các hình ảnh bị rò rỉ có chứa dữ liệu nhạy cảm hay thông tin định danh cá nhân hay không.

Bên cạnh việc phát tán hình ảnh, các công cụ tự hành của OpenAI cũng từng truy cập vào nhiều trang web của các cơ quan liên bang Mỹ. Hãng khẳng định hành động này chỉ nhằm thu thập thông tin công khai trong quá trình xử lý truy vấn thường nhật từ người dùng, do hệ thống nhận diện đây là nguồn dữ liệu chuẩn mực. Hiện công tác rà soát toàn diện mọi hoạt động của các tác nhân AI đang được tiến hành và dự kiến kéo dài trong nhiều tháng.