Organizacjja Tech Transparency Project (
https://www.techtransparencyproject.org/articles/nudify-apps-widely-available-in-apple-and-google-app-stores) otkrila je da se na zvaničnim Apple i Google prodavnicama aplikacija i dalje nalazi desetine aplikacija koje koriste veštačku inteligenciju za stvaranje lažnih nagih fotografija osoba bez njihove saglasnosti. Reč je o takozvanim 'nudify' aplikacijama koje pomoću veštačke inteligencije mogu da uklone odeću ljudi sa originalnih fotografija ili da lice jedne osobe spoje sa telom druge, stvarajući realistične, ali potpuno lažne slike.
Prema izveštaju Tech Transparency Project, identifikovano je najmanje 55 ovakvih aplikacija na Google Play prodavnici i 47 na Apple App Store-u, iako obe kompanije u svojim pravilima zabranjuju aplikacije sa eksplicitnim sadržajrm i alate koji omogućuju zloupotrebu privatnih fotografija. Istraživanje je pokazalo da su ove aplikacije izuzetno rasprostranjene i da su širom sveta preuzete više od 700 miliona puta. Procene stručnjaka govore da su njihovi autori ostvarili oko 117 miliona dolara prihoda kroz kupovine unutar aplikacija, pri čemu Apple i Google uzimaju deo zarade kroz njihove standardne provizije.
Aplikacije su se mogle pronaći jednostavnom pretragom pojmova poput 'nudify' ili 'Ai undress', što je otvorilo pitanja o efikasnosti sistema za proveru aplikacija pre njihovog objavljivanja.
Nakon što su američki mediji zatražili objašnjenja, Apple i Google su uklonili deo spornih aplikacija i najavili dodatne provere. Apple je uklonio više od dvadeset aplikacija, dok je Google suspendovao više desetina naloga programera koji su razvijali ove aplikacije. Ipak, istraživači upozoravaju da su slični alati i dalje dostupni, često pod novim imenima ili preko novih naloga programera, što ukazuje na ozbiljne 'rupe' u sistemu provere aplikacija.
Stručnjaci za digitalnu bezbednost upozoravaju da ovakve tehnologije predstavljaju ozbiljnu pretnju privatnosti i bezbednosti korisnika, jer omogućavaju zloupotrebu fotografija sa društvenih mreža bez znanja osoba koje se na njima nalaze. Slučaj je dodatno dobio na značaju i zbog ranijih kontroverzi oko Ai usluge Grok, koji je takođe bio kritikovan zbog generisanja neprimerenih slika, što je pokrenulo rasprave o odgovornosti globalnih tehnoloških kompanija.
Ivan Trajković
