Deepfake - cơn ác mộng với phụ nữ về ảnh nhạy cảm giả mạo bị tung lên mạng

Cách đây 10 năm, Noelle Martin, sống ở Australia, khi đó mới 18 tuổi đã sốc khi phát hiện những bức ảnh đăng trên tài khoản mạng xã hội của mình bị ai đó tải về và ghép khuôn mặt cô vào cơ thể của các ngôi sao phim người lớn.

Cô đã liên hệ với các website đăng ảnh giả để gỡ chúng. Nhưng chỉ một số thực hiện, còn lại thì không phản hồi và những bức ảnh vẫn tiếp tục tồn tại trên Internet.

Tuy nhiên, khi câu chuyện được chia sẻ trên mạng xã hội thì nhiều người dùng thay vì chỉ trích kẻ tạo ra nó lại nói Martin đã tự chia sẻ ảnh lên mạng nên mới bị lợi dụng. Martin cuối cùng phải nhờ tới pháp luật can thiệp. Tại Australia, có thể bị phạt 370.000 USD nếu không tuân thủ việc xóa nội dung gây hại cho cá nhân.

Theo Fortune, ảnh của Martin sau 10 năm đã được xóa trên hầu hết nền tảng, nhưng không thể loại bỏ triệt để.

Năm 2020, Kate Issacs, 30 tuổi, một nhà hoạt động người Anh cũng trở thành nạn nhân của deepfake khi thấy video với nội dung giống như cô đang quan hệ tình dục lan truyền trên Twitter cũng đã vô cùng sợ hãi và hoảng loạn. Cô lo sợ video này sẽ bị phát tán khắp nơi.

Deepfake bắt đầu gây chú ý từ 2017 sau hàng loạt video khiêu dâm mạo danh người nổi tiếng như Gal Gadot, Scarlett Johansson, Emma Watson, hay Daisy Ridley.

Cho tới nay, bất kỳ ai cũng có nguy cơ trở thành nạn nhân của deepfake, nhất là khi hàng loạt công cụ AI thế hệ mới như Replika, Character AI, Midjourney, Stable Diffusion xuất hiện từ giữa 2022 giúp việc đưa khuôn mặt ai đó vào nội dung khiêu dâm trở nên dễ dàng và khó phân biệt thật giả.

Thậm chí, trên một số diễn đàn, các thành viên còn hướng dẫn cách sử dụng AI để xóa bỏ quần áo của các cô gái hoặc cách sử dụng Stable Diffusion tạo ảnh khỏa thân của những phụ nữ ngoài đời thực mà không có sự đồng ý của họ cho mục đích độc hại.

Gần 96% nội dung deepfake là khiêu dâm, theo thống kê của Sensity, công ty chuyên về AI. Và hầu hết trong số đó sử dụng khuôn mặt phụ nữ trái phép.

Còn theo NBC News, hình ảnh khiêu dâm deepfake của "những cô gái cá tính" được rao bán trên mạng với giá 5 USD.

Adam Dodge, người sáng lập công ty chống lạm dụng công nghệ EndTAB, cho rằng mối nguy hại từ bạo lực tình dục trực tuyến, nội dung khiêu dâm deepfake và hình ảnh khỏa thân giả mạo sẽ còn tồn tại chừng nào việc tạo ảnh deepfake còn dễ dàng.