La polizia americana ha arrestato l’ex direttore sportivo della Pikesville High School, nella contea di Baltimora, con l’accusa di aver utilizzato un servizio AI per clonare la voce e creare una falsa registrazione del preside Eric Eiswert, con finti commenti razzisti e antisemiti. La registrazione, circolata sui social media a gennaio, aveva portato alla sospensione di Eiswert.
Falsa registrazione AI con la voce del preside: arrestato ex direttore sportivo
Secondo la polizia, l’ex direttore sportivo Dazhon Darien avrebbe effettuato la registrazione per vendicarsi del preside, che stava indagando su una sua presunta cattiva gestione dei fondi scolastici. Darien avrebbe avuto accesso ai computer della scuola per utilizzare strumenti di AI come OpenAI e Microsoft Bing Chat per creare l’audio falso (anche se al momento non si sa quale strumento abbia usato per sintetizzare la voce).
Come riporta The Verge, gli esperti hanno notato alcune anomalie nella registrazione, come un tono piatto, suoni di sottofondo insolitamente puliti e mancanza di pause respiratorie naturali. Questi dettagli hanno fatto sospettare l’uso dell’AI. La polizia ha saputo poi risalire a Darien tramite un indirizzo email e un numero di telefono associati alla diffusione dell’audio.
Darien, arrestato giovedì all’aeroporto, deve affrontare diverse accuse tra cui furto, interruzione delle attività scolastiche, ritorsioni contro un testimone e stalking. È stato rilasciato su cauzione.
Un rischio crescente
Questo caso si inserisce in un contesto di crescente preoccupazione per l’uso improprio della tecnologia di clonazione vocale AI. Diversi episodi recenti, hanno evidenziato i rischi di questa tecnologia se usata in modo fraudolento. Come le false chiamate elettorali di Joe Biden o del partito di Imran Khan in Pakistan
Alcune aziende come OpenAI hanno deciso di limitare l’accesso pubblico ai loro strumenti di generazione vocale AI, in attesa di maggiori regolamentazioni. Sia negli Stati Uniti che in Europa, diversi disegni di legge stanno provando ad affrontare il problema.
