fbpx
Lifestyle

Lensa AI, l’applicazione da cui dovremmo tutti stare alla larga?

L'app sta spopolando, ma le polemiche sono moltissime

Se avete frequentato i social network negli ultimi giorni vi sarà sicuramente capitato di vedere selfie dei vostri amici o delle persone che seguite, ma rivisitati come se fossero personaggi di un anime, esseri celesti o principi e principesse fatati. Queste immagini sono realizzate grazie a Lensa, un’applicazione che nell’ultima settimana ha spopolato e, tramite l’intelligenza artificiale, realizza dei rendering dei selfie inviati dagli utenti. Passato l’hype iniziale, però, ora stanno nascendo moltissime polemiche su Lensa AI: le preoccupazioni sollevate da parte di esperti di privacy, artisti digitali e comuni utenti riguardano i propri dati personali, l’ispirazione dei ritratti e i molti bias su cui l’intelligenza artificiale si basa.

Lensa AI, l’applicazione che genera illustrazioni dai vostri selfie

lensa ai min

Nell’ultima settimana è letteralmente scoppiato il fenomeno dei selfie prodotti da Lensa. Ma come funziona il servizio? Per sfruttare la funzione “Magic Avatar” dell’applicazione è necessario ovviamente scaricare Lensa sul proprio smartphone. Una volta aperta, Lensa suggerisce all’utente di inviare tra 10 e 20 foto personali, preferibilmente selfie per ottenere risultati migliori. Lensa stabilisce inoltre che dovrebbe essere utilizzato solo da persone di età pari o superiore a 13 anni. Dopodiché l’applicazione utilizzerà l’algoritmo di intelligenza artificiale di Stable Diffusion per creare degli avatar in chiave anime.  

L’applicazione non è completamente gratuita, ma qui iniziano le prime polemiche: non si capisce bene se per provare la funzionalità “Magic Avatar” si debba pagare oppure no. Infatti quando si apre l’applicazione per la prima volta, viene visualizzato un pop-up che invita ad attivare una prova gratuita di sette giorni. Se non si clicca in tempo, però, si viene portati al pagamento di 29,99 euro all’anno. Inoltre, anche se si attiva la prova gratuita, sembra che l’app sia limitata nelle sue funzionalità: alcuni utenti riescono ad accedere a Magic Avatar gratuitamente, altri no. Nel secondo caso, è necessario pagare 3,99 dollari per ottenere 50 avatar, 5,99 dollari per 100 e 7,99 dollari per 200.

Gli avatar riprodotti sono incredibilmente dettagliati e somiglianti alla foto originale e proprio questo ha spinto a far esplodere il fenomeno negli ultimi giorni. Nel social spopolano post di utenti comuni e celebrità in cui viene condiviso l’incredibile lavoro dell’intelligenza artificiale nel realizzare illustrazioni fedeli e ben fatte. Subito, però, sono sorte ulteriori polemiche. Il prezzo dell’applicazione, infatti, è l’ultimo dei problemi di Lensa: pagare per un servizio non è certo una cosa rara.

La polemica degli illustratori

Come anticipato, lo strumento Magic Avatars genera immagini tramite Stable Diffusion. Si tratta di un modello di apprendimento automatico addestrato su immagini disponibili pubblicamente. Queste immagini sono prelevate senza consenso e non c’è modo per una persona, un artista o un’azienda di essere tolto dal dataset per l’addestramento dell’algoritmo. In pratica gli avatar riprodotti si ispirano largamente su illustrazioni già esistenti di artisti digitali che non possono scegliere se far parte o no di questo database.

Ovviamente, ciò solleva preoccupazioni da parte di alcuni artisti, che affermano che Stable Diffusion fa affidamento sulle loro opere d’arte per creare le proprie immagini, ma non sono accreditati o compensati per il loro lavoro, anche se in alcuni ritratti comprare la loro firma nella filigrana. Inoltre, sebbene molti artisti abbiano riconosciuto con fermezza il proprio stile negli avatar riprodotti da Lensa, è praticamente impossibile appellarsi a ciò in tribunale. Le immagini prodotte da Stable Diffusion contengono ispirazioni ad artisti e illustratori, ma non sembrano identiche a nessuna immagine esistente.

Molti degli artisti, oltre che parlare di violazione del copyright, sono preoccupati che applicazioni come Lensa possano anche minacciare il loro lavoro. Gli artisti digitali, infatti, non potranno mai competere con i prezzi bassi e i rapidi tempi di consegna che l’intelligenza artificiale consente per un ritratto digitale.

Dove finiscono i nostri dati?

Sebbene condividiamo praticamente la nostra vita sui social senza farci più di tanti problemi, quando si tratta di utilizzare un’applicazione esterna a noi sconosciuta iniziamo a questionarci sui problemi di privacy. In che modo quindi Lensa utilizzerà le foto caricate dagli utenti?

I termini di servizio dichiarano che le immagini originali caricate nell’applicazione vengono eliminate dai server dopo 24 ore, mentre le informazioni come la posizione e l’orientamento delle caratteristiche facciali vengono mantenute. Inoltre, le immagini scattate con una fotocamera selfie per iPhone (che utilizza la tecnologia TrueDepth per mappare il viso) possono includere dati come la topologia del viso. Oltre a ciò, le foto create dall’intelligenza artificiale, in cui l’utente è pressoché riconoscibile, sono a completa disponibilità dell’applicazione. I termini di servizio dicono che l’utente concede “una licenza perpetua, revocabile, non esclusiva, esente da royalty, a livello mondiale […] per usare, riprodurre, modificare, adattare, tradurre, trasferire e creare opere derivate dai tuoi contenuti, senza ulteriore compenso per te”.

Insomma, le immagini create saranno utilizzate sicuramente per addestrare l’intelligenza artificiale, ma potrebbero essere sfruttate anche per pubblicizzare il prodotto sui social, sugli store e altrove.

Poiché questa intelligenza artificiale è addestrata su foto disponibili pubblicamente, la privacy degli utenti potrebbe non essere una grande preoccupazione per alcune persone. Va considerato che se pubblicate dei selfie su Facebook o Instagram, il vostro viso potrebbe già essere incluso nel set di dati dell’intelligenza artificiale. Ma se siete sempre stati attenti riguardo i vostri dati online e non volete che il vostro selfie cartoon vada in pasto all’AI, vi consigliamo di non utilizzare Lensa.

I bias dell’intelligenza artificiale: un problema di Lensa e altri progetti

Il problema più importante che riguarda Lensa, però, sembra essere quello che si rivela il filo conduttore delle intelligenze artificiali che hanno spopolato nell’ultimo periodo: i bias. Come tutte le tecnologie, Stable Diffusion e Lensa AI sono vulnerabili ai pregiudizi e gli stereotipi. E questa non è certo una novità: qualsiasi intelligenza artificiale è solo un algoritmo creato dagli esseri umani utilizzando un’enorme quantità di dati. E questi dati, visto che sono creati da esseri umani, sono pieni di stereotipi e bias.

Ciò diventa evidente quando si scorrono i ritratti di Lensa AI. L’intelligenza artificiale ha l’abitudine imbarazzante di sessualizzare le donne, probabilmente a causa delle immagini incluse nel suo set di dati. Lensa AI tende ha ritrarre le donne con un seno prosperoso e, come riporta TechCrunch, occasionalmente realizza selfie pornografici. Insomma è possibile – e fin troppo facile – utilizzare la piattaforma per generare soft porn non consensuale con le sembianze di una persona reale.

TechCrunch infatti ha condotto un esperimento: ha utilizzato un set di foto con il volto di una persona famosa photoshoppato su alcune foto di modelle in topless. L’intelligenza artificiale ha preso le immagini di Photoshop come permesso per dare spazio alla fantasia disabilitando il filtro per la pornografia. Sul set di 100 immagini, 11 erano foto in topless di qualità superiore (o, almeno, con una maggiore coerenza stilistica) rispetto alle foto in topless modificate male che l’intelligenza artificiale ha ricevuto come input.

La facilità con cui si possono creare immagini di chiunque si abbia una foto è terrificante. Ma aggiungere contenuti pornografici a questo terrore significa addentrarsi in un territorio oscuro. Infatti nessuno, potenzialmente, ha mai dato il consenso per generare delle loro foto porno soft-core in versione anime. Certo, sono illustrazioni, ma avrete notato nell’ultima settimana che il grado di fedeltà al volto originale è incredibile.

Prisma Labs, l’azienda dietro a Lensa, ha risposto a TechCrunch affermando che sta implementando dei filtri per evitare che l’intelligenza artificiale generi immagini pornografiche accidentalmente. Ciò non toglie che se si provoca specificamente l’AI a generare immagini NSFW, questa lo farà.

Uno scoglio difficile da superare

In generale, poi, le lamentele riguardano anche altri bias e stereotipi. Le immagini generate da Lensa tendono a rispettare dei canoni di bellezza poco realistici, con volti e corpi perfetti che non rispecchiano la realtà e risultano poco inclusivi. È vero, l’addestramento è stato eseguito tramite illustrazioni in stile anime e principesco, e il Principe Azzurro notoriamente è un essere perfetto, ma ciò porta a gravi problemi di stereotipizzazione. Molti utenti hanno notato che Lensa tende a generare volti perfettamente ovali, con nasi più fini e “perfetti” e labbra un po’ più carnose.

Questo, come la sessualizzazione, sono problemi molto noti nell’ambiente dell’intelligenza artificiale. L’AI si basa su dati provenienti da internet che sono pieni di pregiudizi e vecchi stereotipi. Proprio per questo sembra quasi impossibile allenare le intelligenze artificiali in modo tale che siano prive di questi bias, poiché la soluzione migliore sarebbe direttamente riuscire ad eliminare i pregiudizi da internet, ma con il passare del tempo sarà possibile avere modelli sempre più perfetti e immuni da stereotipi di genere, etnia e orientamento sessuale.

Offerta
Google Pixel 6a - Smartphone 5G Android sbloccato con...
  • Google Tensor, la mente di Pixel 6a. Google Tensor e' il primo chip realizzato da Google, appositamente per Pixel e...
  • Google Tensor ti aiuta a portare a termine le tue attività velocemente. Google Tensor rende Google Pixel 6a più veloce...
  • La batteria che si adegua alle tue esigenze. La batteria adattiva di Google Pixel può durare più di 24 ore. Capisce...

Da non perdere questa settimana su Techprincess

✒️ La nostra imperdibile newsletter Caffellattech! Iscriviti qui 
 
🎧 Ma lo sai che anche Fjona ha la sua newsletter?! Iscriviti a SuggeriPODCAST!
 
📺 Trovi Fjona anche su RAI Play con Touch - Impronta digitale!
 
💌 Risolviamo i tuoi problemi di cuore con B1NARY
 
🎧 Ascolta il nostro imperdibile podcast Le vie del Tech
 
💸E trovi un po' di offerte interessanti su Telegram!

Sara Grigolin

Amo le serie tv, i libri, la musica e sono malata di tecnologia. Soprattutto se è dotata di led RGB.

Ti potrebbero interessare anche:

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Back to top button