La controvertida aplicació DeepFake DeepNude s'apaga hores després d'haver estat exposada
Menys d 'un dia després de rebre una atenció generalitzada, elaplicació deepfake que utilitzava la intel·ligència artificial per crear fotos falses de nus de donesestà tancant. En un tuit, l'equip darrere de DeepNude va dir que subestimava molt l'interès pel projecte i que la probabilitat que la gent en faci un ús indegut és massa alta.
DeepNude ja no es posarà a la venda i no es publicaran altres versions. L’equip també va advertir de no compartir el programari en línia, dient que seria contrari als termes de servei de l’aplicació. Reconeixen que segurament en sortiran algunes còpies.
Relacionat
Els algoritmes de detecció de deepfake mai seran suficients
Placa mareprimer va cridar l'atencióa DeepNude ahir a la tarda. L’aplicació, disponible per a Windows i Linux, utilitzava la IA per alterar les fotos per fer que una persona semblés nua i només estava dissenyada per treballar en dones. Una versió gratuïta de l’aplicació col·locaria una gran filigrana a través de les imatges assenyalant que eren falses, mentre que una versió de pagament col·locava una filigrana més petita en un racó, quePlaca maredit es podria eliminar fàcilment o retallar. L’aplicació fa uns mesos que està a la venda i l’equip de DeepNude afirma que, sincerament, l’aplicació no és tan fantàstica pel que fa.
Però encara va funcionar prou bé per generar una preocupació generalitzada pel seu ús. Tot i que la gent ha estat capaç de manipular fotografies de manera digital, DeepNude va fer que aquesta capacitat fos instantània i disponible per a tothom. Aquestes fotos es podrien fer servir per assetjar les dones: ja s’ha utilitzat el programari deepfakeeditar dones en vídeos pornosense el seu consentiment, amb poca cosa poden fer després per protegir-se a mesura que es difonen aquests vídeos.
El creador de l'aplicació, que només passa per Alberto,va dirThe Vergemés aviat avuique creia que algú més aviat faria una aplicació com DeepNude si no ho feia primer. La tecnologia està a punt (a l'abast de tothom), va dir. Alberto va dir que l’equip de DeepNude l’abandonarà amb seguretat si veuen que l’aplicació s’utilitza malament.
- deepnudeapp (@deepnudeapp)27 de juny de 2019
L’equip de DeepNude finalitza el seu missatge anunciant el tancament dient que el món encara no està preparat per a DeepNude, com si hi hagués algun temps en el futur quan el programari es pugui utilitzar adequadament. Però els deepfakes només es convertiranmés fàcil de feri més difícil de detectar i, en definitiva, saber si alguna cosa és real o falsa no és el problema. Aquestes aplicacions permeten que les imatges de les persones s’utilitzin de manera ràpida i senzilla i, de moment, hi ha poques proteccions per evitar que això passi.
crític amb
