Nhiều ứng dụng AI bị Apple gỡ khỏi App Store vì tạo ảnh nhạy cảm

Apple đang tiến hành xử lý một danh mục ứng dụng tạo hình ảnh AI “quảng cáo khả năng tạo ra hình ảnh khỏa thân”. Theo một báo cáo mới từ 404 Media, Apple đã xóa nhiều ứng dụng AI khỏi App Store vì cho rằng chúng có thể “tạo ra những hình ảnh khỏa thân vô căn cứ”.

Trang 404 Media đã xuất bản một báo cáo khám phá cách các công ty sử dụng quảng cáo trên Instagram để quảng bá những ứng dụng có thể “xóa bỏ quần áo của bất kỳ cô gái nào”. Một số quảng cáo trên Instagram này đưa người dùng trực tiếp đến Apple Store để tìm một ứng dụng được mô tả là "công cụ tạo tác phẩm nghệ thuật".

Báo cáo hôm nay cho biết ban đầu Apple không phản hồi yêu cầu bình luận của 404 Media vào thứ Hai. Tuy nhiên, công ty đã liên hệ trực tiếp sau khi câu chuyện đầu tiên được xuất bản để yêu cầu thêm thông tin. Khi được cung cấp các liên kết trực tiếp đến những quảng cáo cụ thể và các trang App Store, Apple đã tiến hành xóa những ứng dụng đó khỏi App Store.

Báo cáo giải thích:

Apple đã xóa một số ứng dụng tạo hình ảnh AI khỏi App Store sau khi 404 Media phát hiện những ứng dụng này quảng cáo khả năng tạo hình ảnh khỏa thân vô căn cứ, một dấu hiệu cho thấy các nhà điều hành cửa hàng ứng dụng đang bắt đầu có nhiều hành động quyết liệt hơn đối với những loại ứng dụng này.

Nhìn chung, Apple đã xóa 3 ứng dụng khỏi App Store nhưng chỉ sau khi chúng tôi cung cấp cho công ty liên kết đến các ứng dụng cụ thể và quảng cáo liên quan của chúng. Việc này cho thấy công ty không thể tìm thấy các ứng dụng vi phạm chính sách của mình.

Như báo cáo ngụ ý, đây có thể sẽ là một trò chơi mèo vờn chuột trong tương lai, vì Apple không thể tìm thấy các ứng dụng nếu 404 Media không gửi liên kết trực tiếp của chúng tới hãng này để chứng minh.