Công nghệ máy móc hay con người phát hiện lừa đảo deepfake hiệu quả hơn

Deepfake đe dọa mọi khía cạnh của xã hội. Khả năng xác định nội dung giả mạo của con người là rất quan trọng để vô hiệu hóa thông tin sai lệch, nhưng khi công nghệ AI được cải thiện, chúng ta có thể tin tưởng ai để phát hiện các hành vi deepfake: Con người hay máy móc?

Sự nguy hiểm của Deepfake

Khi công nghệ AI tiến bộ, sự nguy hiểm của deepfake ngày càng trở thành mối đe dọa đối với tất cả chúng ta. Dưới đây là bản tóm tắt nhanh về một số vấn đề cấp bách nhất mà deepfake đặt ra:

Thông tin sai lệch: Các video và bản ghi âm giọng nói sử dụng deepfake có thể phát tán thông tin sai lệch, chẳng hạn như tin giả.

Mạo danh: Bằng cách mạo danh các cá nhân, deepfake có thể gây tổn hại đến danh tiếng của mọi người hoặc lừa dối bất kỳ ai biết họ.

An ninh quốc gia: Kịch bản ngày tận thế với deepfake là đoạn phim hoặc âm thanh bịa đặt về một nhà lãnh đạo toàn cầu xúi giục xung đột.

Bất ổn dân sự: Cảnh quay và âm thanh lừa đảo cũng có thể được các bên sử dụng để khơi dậy sự tức giận và bất ổn dân sự giữa các nhóm cụ thể.

An ninh mạng: Tội phạm mạng đã sử dụng các công cụ nhân bản giọng nói AI để nhắm mục tiêu vào một cá nhân bằng thông điệp thuyết phục từ những người chúng biết.

Quyền riêng tư và sự đồng thuận: Việc sử dụng deepfake với mục đích xấu sẽ lấy đi hình ảnh của các cá nhân mà không có sự đồng ý của họ.

Tin cậy và tự tin: Nếu bạn không thể phân biệt giữa sự thật và những trò lừa thì thông tin chính xác cũng trở nên không đáng tin cậy.

Deepfake sẽ ngày càng trở nên thuyết phục hơn, vì vậy chúng ta cần các công cụ và quy trình mạnh mẽ để phát hiện chúng. AI đang cung cấp một công cụ như vậy dưới dạng mô hình phát hiện deepfake. Tuy nhiên, giống như các thuật toán được thiết kế để xác định văn bản do AI tạo ra, những công cụ phát hiện deepfake không hoàn hảo.

Tại thời điểm này, quyền quyết định của con người là công cụ duy nhất mà chúng ta có thể dựa vào. Vì vậy, liệu chúng ta có giỏi hơn các thuật toán trong việc xác định những tác phẩm deepfake không?

Thuật toán có thể phát hiện deepfake tốt hơn con người không?

Deepfake là một mối đe dọa đủ nghiêm trọng mà các gã khổng lồ công nghệ và những nhóm nghiên cứu đang dành nguồn lực khổng lồ cho nghiên cứu và phát triển. Vào năm 2019, những công ty như Meta, Microsoft và Amazon đã trao giải thưởng trị giá 1.000.000 USD trong "Thử thách phát hiện Deepfake".

Mô hình hoạt động tốt nhất có độ chính xác 82,56% so với tập dữ liệu gồm các video có sẵn công khai. Tuy nhiên, khi thử nghiệm các mô hình tương tự với "tập dữ liệu hộp đen" gồm 10.000 video chưa xem, mô hình hoạt động tốt nhất chỉ có độ chính xác 65,18%.

Cũng có nhiều nghiên cứu phân tích hiệu suất của các công cụ phát hiện deepfake AI đối với con người. Tất nhiên, kết quả khác nhau giữa các nghiên cứu tiếp theo, nhưng nhìn chung, con người có tỷ lệ thành công ngang bằng hoặc vượt trội so với các công cụ phát hiện deepfake.

Một nghiên cứu năm 2021 được công bố trên PNAS cho thấy "những người quan sát con người bình thường" đạt được tỷ lệ chính xác cao hơn một chút so với các công cụ phát hiện deepfake hàng đầu. Tuy nhiên, nghiên cứu cũng phát hiện ra rằng những người tham gia là con người và các mô hình AI dễ mắc phải những loại lỗi khác nhau.

Điều thú vị là nghiên cứu do Đại học Sydney thực hiện đã cho thấy bộ não con người, một cách vô thức, hiệu quả hơn trong việc phát hiện các hành vi deepfake hơn những nỗ lực có ý thức của chúng ta.