Dự án Minh bạch Công nghệ (Tech Transparency Project) phát hiện hàng loạt ứng dụng AI "nudify" trên App Store và Google Play

Dự án Minh bạch Công nghệ (Tech Transparency Project)

Một cuộc điều tra gần đây từ tổ chức vận động trực tuyến Dự án Minh bạch Công nghệ (TTP) đã phát hiện Apple App Store và Google Play Store tràn ngập các ứng dụng AI “nudify”. Đây là những ứng dụng sử dụng trí tuệ nhân tạo để tạo ra hình ảnh khỏa thân giả mạo mà không có sự đồng thuận, vi phạm rõ ràng chính sách của cả hai cửa hàng ứng dụng.

Theo báo cáo, có 55 ứng dụng loại này trên Google Play Store và 47 ứng dụng trên Apple App Store. Cả hai nền tảng này cũng vẫn cho phép truy cập vào Grok của xAI, ứng dụng được coi là công cụ tạo deepfake không có sự đồng thuận nổi tiếng nhất trên thế giới.

Bà Michelle Kuppersmith, Giám đốc điều hành tổ chức phi lợi nhuận điều hành TTP, cho biết: “Apple và Google được cho là phải kiểm duyệt ứng dụng trong cửa hàng của họ. Nhưng họ lại cung cấp hàng chục ứng dụng có thể được dùng để ‘cởi đồ’ ảo của người khác – tạo điều kiện cho hành vi lạm dụng.”

Các ứng dụng được nêu trong báo cáo ước tính đã được tải xuống tổng cộng hơn 700 triệu lần, tạo ra doanh thu hơn 117 triệu USD, trong đó Google và Apple được hưởng một phần.

Bí mật: 12 Gợi ý chỉnh sửa ảnh với Gemini AI giúp bạn nữ “lột xác” Instagram và nâng tầm phong cách

Đáng chú ý, nhiều ứng dụng trong số này được đánh giá là phù hợp với thanh thiếu niên và trẻ em. Ví dụ, ứng dụng DreamFace được xếp hạng dành cho độ tuổi 13+ trên Google Play Store và 9+ trên Apple App Store.

Cả Apple và Google đã có phản hồi về cuộc điều tra. Theo CNBC, Apple cho biết họ đã gỡ 24 ứng dụng, nhưng con số này vẫn thấp hơn so với 47 ứng dụng mà TTP phát hiện. Một phát ngôn viên của Google xác nhận công ty đã đình chỉ một số ứng dụng vi phạm chính sách, nhưng không tiết lộ con số cụ thể.

Báo cáo này được công bố sau khi Grok của Elon Musk bị phát hiện tạo hình ảnh khiêu dâm giả mạo cả phụ nữ và trẻ em. Ước tính, chatbot AI này đã tạo ra khoảng 3 triệu hình ảnh khiêu dâm và 22.000 hình ảnh liên quan đến trẻ em chỉ trong vòng 11 ngày.

Đại diện công ty chưa chính thức phản hồi các cáo buộc, ngoài việc gửi email tự động cho báo giới với nội dung “Truyền thông cũ nói dối.” Bản thân Elon Musk cũng tuyên bố trên X rằng ông “không biết đến bất kỳ hình ảnh khỏa thân nào của trẻ vị thành niên được tạo bởi Grok. Thực sự là số không.”

Bí mật: Moltbook: Không Chỉ Là Một Ý Tưởng Hay

Tài khoản an toàn của X đã đăng thông báo rằng “bất kỳ ai sử dụng hoặc ra lệnh cho Grok tạo nội dung bất hợp pháp sẽ phải chịu hậu quả như khi họ tự tải nội dung đó lên.” Trớ trêu thay, chính Grok lại tỏ ra thẳng thắn hơn con người ở công ty khi chatbot này từng xin lỗi vì đã tạo ra hình ảnh khiêu dâm trẻ vị thành niên.

Tags: AI nudify apps, App Store policy, Tech Transparency Project