Vì sao vấn đề bảo mật về Generative AI ngày càng tệ? (Phần 2)

Mặc dù rất ấn tượng nhưng Generative AI cũng tiềm ẩn những rủi ro về bảo mật. Một số người chỉ đơn thuần sử dụng chatbot để gian lận trong các kỳ thi, nhưng những người khác lại khai thác chúng để phạm tội trên mạng. Dưới đây là 8 lý do khiến các vấn đề bảo mật Generative AI trở nên tồi tệ hơn.

5. Generative AI có rào cản gia nhập thấp

Các công cụ AI hạ thấp những rào cản gia nhập đối với tội phạm. Tội phạm mạng soạn thảo email spam, viết code phần mềm độc hại và xây dựng liên kết lừa đảo bằng cách khai thác chúng. Chúng thậm chí không cần kinh nghiệm công nghệ. Vì AI đã truy cập vào các tập dữ liệu khổng lồ, nên người dùng với ý đồ xấu chỉ cần đánh lừa nó để tạo ra thông tin nguy hiểm, có hại.

OpenAI không bao giờ thiết kế ChatGPT cho các hoạt động bất hợp pháp. Nó thậm chí còn có hướng dẫn chống lại chúng. Tuy nhiên, kẻ lừa đảo gần như ngay lập tức có phần mềm độc hại mã hóa ChatGPT và viết email phishing.

Mặc dù OpenAI đã nhanh chóng giải quyết vấn đề, nhưng nó nhấn mạnh tầm quan trọng của quy định hệ thống và quản lý rủi ro. AI đang trưởng thành nhanh chóng. Ngay cả các nhà lãnh đạo công nghệ cũng lo lắng rằng công nghệ siêu thông minh này có thể gây ra thiệt hại lớn nếu rơi vào tay kẻ xấu.

6. AI vẫn đang phát triển

AI vẫn đang phát triển. Mặc dù việc sử dụng AI trong điều khiển học (cybernetics) đã có từ năm 1940, nhưng các hệ thống Machine Learning và mô hình ngôn ngữ hiện đại chỉ mới xuất hiện gần đây. Bạn không thể so sánh chúng với những lần triển khai AI đầu tiên. Ngay cả những công cụ tương đối tiên tiến như Siri và Alexa cũng nhạt nhòa so với các chatbot do LLM cung cấp.

Mặc dù chúng có thể đổi mới, nhưng các tính năng thử nghiệm cũng tạo ra nhiều vấn đề mới. Các rủi ro nghiêm trọng với những công nghệ Machine Learning xuất phát từ những kết quả tìm kiếm thiếu sót của Google cho đến các chatbot thiên vị nói xấu chủng tộc.

Tất nhiên, các nhà phát triển có thể khắc phục những vấn đề này. Chỉ cần lưu ý rằng kẻ gian sẽ không ngần ngại khai thác ngay cả những lỗi có vẻ vô hại - một số thiệt hại là không thể khắc phục được. Vì vậy, hãy cẩn thận khi khám phá các nền tảng mới.

7. Nhiều người vẫn chưa hiểu về AI

Mặc dù công chúng có quyền truy cập vào các mô hình và hệ thống ngôn ngữ tinh vi, nhưng chỉ một số ít biết cách chúng hoạt động. Mọi người nên ngừng coi AI như một món đồ chơi. Các chatbot tương tự tạo meme và trả lời câu đố, nhưng cũng mã hóa virus hàng loạt.

Thật không may, đào tạo AI tập trung là không thực tế. Các nhà lãnh đạo công nghệ toàn cầu tập trung vào việc phát hành những hệ thống dựa trên AI, chứ không phải các tài nguyên giáo dục miễn phí. Kết quả là, người dùng có quyền truy cập vào các công cụ mạnh mẽ mà họ hầu như không hiểu. Công chúng không thể theo kịp cuộc đua AI.

Lấy ChatGPT làm ví dụ. Tội phạm mạng lạm dụng mức độ phổ biến của nó bằng cách lừa nạn nhân bằng phần mềm gián điệp được ngụy trang dưới dạng ứng dụng ChatGPT. Không có tùy chọn nào trong số này đến từ OpenAI.

8. Hacker mũ đen kiếm được nhiều hơn hacker mũ trắng

Hacker mũ đen thường có nhiều lợi ích hơn so với hacker có đạo đức. Công việc pentest được trả lương cao, nhưng chỉ một tỷ lệ phần trăm các chuyên gia an ninh mạng nhận được những công việc này. Hầu hết làm công việc tự do trực tuyến. Các nền tảng như HackerOne và Bugcrowd phải trả vài trăm đô la cho các lỗi phổ biến.

Trong khi đó, kẻ xấu kiếm được hàng chục ngàn đô bằng cách khai thác sự không an toàn. Chúng có thể tống tiền các công ty bằng cách làm rò rỉ dữ liệu bí mật hoặc thực hiện hành vi trộm cắp ID bằng thông tin nhận dạng cá nhân (PII) bị đánh cắp.

Mọi tổ chức, dù nhỏ hay lớn, đều phải triển khai các hệ thống AI đúng cách. Trái ngược với suy nghĩ của nhiều người, tin tặc vượt xa các startup công nghệ và SMB. Một số vụ vi phạm dữ liệu đáng chú ý nhất trong thập kỷ qua liên quan đến Facebook, Yahoo!, và thậm chí cả chính phủ Hoa Kỳ.

Theo The Verge