CyberArk ha rilasciato FuzzyAI, un framework open source che ha dimostrato di poter effettuare il jailbreak – ovvero aggirare le protezioni di sicurezza – di tutti i principali modelli di intelligenza artificiale testati. Questo permette di capirne le vulnerabilità dell’AI, per poterli sistemare prima del rilascio al pubblico.
Un nuovo strumento per la sicurezza dell’AI: CyberArk lancia FuzzyAI
Lo strumento open source aiuta le organizzazioni a identificare e correggere le vulnerabilità nei modelli di AI, sia quelli ospitati nel cloud che quelli installati localmente. Al centro di FuzzyAI opera un “fuzzer“, uno strumento specializzato che rivela difetti e vulnerabilità del software attraverso oltre dieci diverse tecniche di attacco. Attacchi “dal cappello bianco”, che non servono a sfruttare le vulnerabilità ma a trovarle per risolverle.
FuzzyAI effettua test approfonditi sui modelli di AI per individuare debolezze come bypass dei controlli di sicurezza, fughe di informazioni e generazione di output dannosi. Il framework supporta diverse tecniche di fuzzing, tra cui quella basata su mutazione, su generazione e il fuzzing intelligente.
Peretz Regev, Chief Product Officer di CyberArk, spiega: “FuzzyAI ha mostrato sul campo la capacità di effettuare il jailbreak di tutti i principali modelli di AI testati, e consentendo ad aziende e ricercatori di identificarne i punti deboli e rafforzare attivamente i propri sistemi contro le minacce emergenti.”
La scelta di rilasciare FuzzyAI come progetto open source mira a creare una comunità attiva di sviluppatori e ricercatori. Gli utenti possono estendere il framework aggiungendo proprie metodologie di attacco per testare vulnerabilità specifiche del loro ambito. Se siete sviluppatori, potete testarlo su Github.
Secondo un recente report di CyberArk, il 93% dei professionisti della sicurezza prevede che le minacce basate su AI influenzeranno le loro organizzazioni. FuzzyAI risponde a questa preoccupazione offrendo un approccio sistematico per testare i modelli prima della loro implementazione.
- Tesconi, Cristian (Autore)
Ultimo aggiornamento 2024-10-06 / Link di affiliazione / Immagini da Amazon Product Advertising API
Rimani aggiornato seguendoci su Google News!
Da non perdere questa settimana su Techprincess
🎁 La guida ai regali di Natale di Techprincess
🏆 I prodotti tech più interessanti del 2024
🎮 Quale console acquistare a fine 2024?
🕹️ Tutti i trailer e gli annunci dei Game Awards 2024
📰 Ma lo sai che abbiamo un sacco di newsletter?
📺 Trovi Fjona anche su RAI Play con Touch - Impronta digitale!
🎧 Ascolta il nostro imperdibile podcast Le vie del Tech
💸E trovi un po' di offerte interessanti su Telegram!
