Tech Transparency Project (TTP) tarafından yayınlanan yeni bir rapor, uygulama mağazalarındaki kontrol problemlerini bir defa daha gözler önüne serdi. Rapora nazaran, yapay zeka takviyeli “soyunma” (nudify) uygulamaları, App Store ve Google Play Store üzerinde epeyce yaygın bir biçimde bulunuyor. Grok üzere yapay zeka araçlarının istek dışı imgeler oluşturmasıyla gündeme gelen bu sorun aslında yeni değil, lakin son birkaç yılda değişen en değerli şey, bu imajları saniyeler içinde oluşturmanın önündeki teknik mahzurların neredeyse büsbütün kalkması oldu.
Milyonlarca İndirme: Mağazalar Kuralları İhlal Eden Yapay Zeka Uygulamalarından Kazanıyor
Geleneksel imaj düzenleme araçları bu cins berbata kullanımlara uzun müddettir imkan tanıyordu lakin yapay zeka süreci inanılmaz derecede hızlandırdı. Birçok geliştirici, bu yeni yetenekten yararlanmak için uygulamalar geliştirdi ve kimileri bunu açıkça reklamlarında kullandı. Apple ve Google, uygulama mağazalarını inançlı tutmak için sıkı kontroller yaptıklarını ve komite fiyatlarını bu yüzden aldıklarını savunsa da bazı uygulama kategorilerinin bu kontrollerden kaçabildiği görülüyor.
Yayınlanan rapora nazaran, tespit edilen bu uygulamalar dünya çapında toplamda 705 milyondan fazla indirilmiş ve 117 milyon dolar gelir elde etmiştir. Google ve Apple, bu gelirden belli bir hisse aldıkları için, kendi siyasetlerini ihlal eden bu uygulamaların faaliyetlerinden direkt kar sağlamış oluyorlar. Google Play Store, bireyleri nesneleştiren yahut kıyafetlerin içini gördüğünü argüman eden uygulamaları (şaka maksatlı olsa bile) açıkça yasaklıyor.
TTP, mağazalarda “nudify” yahut “undress” üzere kolay aramaların, bu sözlerle reklam veren uygulamaları bulmak için kâfi olduğunu belirtiyor. TTP’nin uydurma bayan imajları kullanarak yaptığı testlerde, 55 Android uygulaması ve 47 iOS uygulaması, çıplaklık yahut yüz değiştirme taleplerini yerine getirdi. Hatta bu uygulamalardan en az birinin App Store’da 9 yaş ve üzeri kullanıcılar için uygun olarak derecelendirildiği tespit edildi.
Raporda ayrıntılandırılan testlerden birinde, bir uygulamanın direkt çıplaklık isteğini reddetse de bikini ile dans etme üzere istekleri kabul ettiği ve “kıyafet yırtma” üzere şablonlar sunduğu görüldü. Rapor, şirketlerin platformlarını tesirli bir biçimde denetlemediğini yahut bu tıp uygulamalar kelam konusu olduğunda kendi siyasetlerini uygulamadığını vurgulayarak sona eriyor.
Peki siz bu hususta ne düşünüyorsunuz? Sizce uygulama mağazaları bu biçim içerikleri engellemek için daha katı tedbirler almalı mı?
