Người dùng Youtube có thể yêu cầu xóa video giả mạo do AI tạo ra

Chính sách của YouTube mới có sự thay đổi, cho phép người dùng yêu cầu nền tảng xóa nội dung do AI tạo ra nhằm mô phỏng khuôn mặt hoặc giọng nói của bản thân.

Khi phát hiện video giả mạo bằng AI, bản thân người bị giả mạo có thể khiếu nại trực tiếp hoặc khiếu nại thay thế cho người khác nếu người đó là trẻ vị thành niên, đã chết hoặc không có khả năng truy cập vào máy tính.

Điều này có nghĩa là người dùng được YouTube trao nhiều quyền hơn để chống nạn giả mạo bằng AI. Đây là một phần trong quy trình bảo vệ quyền riêng tư của nền tảng.

Tuy nhiên, quyết định cuối cùng về việc một video có bị coi là giả mạo và bị xóa hay không vẫn do YouTube quyết định.

Ảnh giả mạo bằng AI về cựu tổng thống Mỹ Trump và Tổng thống Pháp Emmanuel Macron, Ảnh: Christine Vanden Byllaardt/Bloomberg

Nền tảng video trực tuyến này sẽ dựa theo các yêu tố như nội dung đó tạo bằng AI hay tổng hợp từ các video có sẵn, nội dung đó có mang ý nghĩa châm biếm, nhại lại hay có giá trị với công chúng hay không… để đưa ra quyết định.

Theo các chuyên gia, một trong các lý do khiến YouTube mạnh tay với các video giả mạo bằng AI là sắp đến kỳ bầu cử tổng thống Mỹ. Trên các nền tảng mạng xã hội, video AI mô phỏng giọng nói và hình ảnh của ông Donald Trump gia tăng nhanh chóng. Với trường hợp cụ thể này, cựu tổng thống Mỹ có thể yêu cầu trực tiếp YouTube xóa các video nói trên và trước khi video thực sự bị xóa, người tải lên sẽ có 48 giờ để giải quyết khiếu nại.

Đầu năm 2024, các mô hình AI tạo video chỉ từ nội dung văn bản xuất hiện hàng loạt như Sora của OpenAI, Lumier của Google, Emu Video của Meta… Các hệ thống AI này có thể tạo ra các đoạn video như thật. Tuy nhiên, điều này cũng gây lo ngại khi chúng có thể được kẻ xấu sử dụng để tạo ra các video giả mạo để tung tin giả cho các mục đích xấu.