Vì sao vấn đề bảo mật về Generative AI ngày càng tệ?

AI đã tiến bộ đáng kể trong vài năm qua. Các mô hình ngôn ngữ tinh vi có thể soạn tiểu thuyết dài tập, viết code những trang web cơ bản và phân tích các bài toán. Dưới đây là 8 lý do khiến các vấn đề bảo mật Generative AI trở nên tồi tệ hơn.

1. Chatbot AI mã nguồn mở tiết lộ code back-end

Nhiều công ty AI đang cung cấp các hệ thống mã nguồn mở. Họ công khai chia sẻ các mô hình ngôn ngữ của mình thay vì giữ kín chúng hoặc độc quyền. Lấy Meta làm ví dụ. Không giống như Google, Microsoft và OpenAI, nó cho phép hàng triệu người dùng truy cập vào mô hình ngôn ngữ của mình, LLaMA.

Mặc dù các mã nguồn mở có thể thúc đẩy AI, nhưng chúng cũng có rủi ro. OpenAI đã gặp sự cố khi kiểm soát ChatGPT, chatbot độc quyền của nó, vì vậy hãy tưởng tượng những gì kẻ gian có thể làm với phần mềm miễn phí. Chúng có toàn quyền kiểm soát các dự án này.

Ngay cả khi Meta đột ngột rút lại mô hình ngôn ngữ của mình, hàng chục phòng thí nghiệm AI khác cũng đã phát hành code của họ. Hãy xem HuggingChat. Vì nhà phát triển HuggingFace tự hào về tính minh bạch nên nó hiển thị các bộ dữ liệu, mô hình ngôn ngữ và những phiên bản trước đó.

2. Lời nhắc với ý đồ xấu nhằm đánh lừa LLM

AI vốn đã không phân biệt được đúng sai - ngay cả các hệ thống tiên tiến cũng tuân theo hướng dẫn đào tạo, chỉ dẫn và bộ dữ liệu. Chúng chỉ nhận ra các mẫu.

Để chống lại các hoạt động bất hợp pháp, nhà phát triển kiểm soát chức năng và hạn chế bằng cách đặt giới hạn. Hệ thống AI vẫn truy cập thông tin có hại. Nhưng các nguyên tắc bảo mật ngăn chúng chia sẻ những thứ này với người dùng.

Hãy xem ChatGPT. Mặc dù nó trả lời các câu hỏi chung về Trojan, nhưng nó sẽ không thảo luận về quá trình phát triển chúng. Tuy nhiên, các hạn chế không hoàn hảo. Người dùng bỏ qua các giới hạn bằng cách diễn đạt lại lời nhắc, sử dụng ngôn ngữ khó hiểu và soạn hướng dẫn chi tiết rõ ràng.

3. Các nhà phát triển AI ưu tiên tính linh hoạt hơn bảo mật

Các nhà phát triển AI ưu tiên tính linh hoạt hơn bảo mật. Chúng sử dụng các nền tảng đào tạo tài nguyên của mình để hoàn thành nhiều nhiệm vụ đa dạng hơn, cuối cùng là cắt giảm các hạn chế. Rốt cuộc, thị trường vẫn thích các chatbot giàu chức năng hơn.

Ví dụ, hãy so sánh ChatGPT và Bing Chat. Mặc dù Bing có mô hình ngôn ngữ phức tạp hơn để lấy dữ liệu theo thời gian thực, nhưng người dùng vẫn đổ xô đến tùy chọn linh hoạt hơn, ChatGPT. Các hạn chế cứng nhắc của Bing cấm nhiều tác vụ. Ngoài ra, ChatGPT có một nền tảng linh hoạt tạo ra các đầu ra rất khác nhau tùy thuộc vào lời nhắc của bạn

4. Các công cụ Generative AI mới được tung ra thị trường thường xuyên

Mã nguồn mở cho phép các công ty khởi nghiệp tham gia cuộc đua AI. Họ tích hợp chúng vào các ứng dụng của mình thay vì xây dựng những mô hình ngôn ngữ từ đầu, tiết kiệm tài nguyên lớn. Ngay cả các lập trình viên độc lập cũng thử nghiệm mã nguồn mở.

Một lần nữa, phần mềm không độc quyền giúp phát triển AI, nhưng việc phát hành hàng loạt các hệ thống phức tạp nhưng được đào tạo kém sẽ gây hại nhiều hơn lợi. Kẻ gian sẽ nhanh chóng lợi dụng các lỗ hổng. Chúng thậm chí có thể đào tạo các công cụ AI không an toàn để thực hiện các hoạt động bất hợp pháp.

Bất chấp những rủi ro này, các công ty công nghệ sẽ tiếp tục phát hành những phiên bản beta không ổn định của các nền tảng do AI điều khiển. Cuộc chiến AI rất chú trọng đến tốc độ. Họ có thể sẽ giải quyết các lỗi muộn thay vì trì hoãn việc tung ra sản phẩm mới.

Theo The Verge