OpenAI non vuole che gli utenti scoprano i segreti del suo nuovo modello AI: ha deciso di minacciare di ban gli utenti che cercano di analizzare i processi di ragionamento del suo nuovo modello o1, nome in codice “Strawberry“. Una decisione che sta già facendo discutere tutti gli esperti di intelligenza artificiale.
OpenAI: ban per chi analizza il ragionamento del modello o1
I modelli o1, tra cui o1-preview e o1-mini, offrono migliori capacità di ragionamento per la risoluzione di problemi complessi. Tuttavia, OpenAI nasconde il ragionamento dettagliato dietro un secondo strato di AI, mostrando solo una versione semplificata. Questa scelta ha spinto alcuni utenti a sperimentare tecniche di jailbreaking e prompt ingannevoli, per provare ad aggirare le protezioni e accedere al processo decisionale completo del modello.
Come riporta Wired, OpenAI ha reagito con avvertimenti agli utenti, minacciando di revocare l’accesso a chi tenta di indagare sul funzionamento interno del modello. Secondo alcune segnalazioni su Reddit e X (raccolte da AllAboutAI), anche solo menzionare termini legati al ragionamento del modello potrebbe portare a richiami.
L’azienda giustifica questa mossa citando preoccupazioni per la sicurezza degli utenti. Ma crede anche che potrebbe dare un vantaggio competitivo ai propri rivali, che potrebbero capire come funziona il modello.
Tuttavia, diversi ricercatori AI hanno criticato l’approccio di OpenAI, considerandolo un passo indietro per la trasparenza. I ricercatori sostengono che comprendere il ragionamento dei modelli AI sia essenziale per garantirne la sicurezza, soprattutto in ambiti critici come sanità e finanza.
Le critiche dei ricercatori arrivano anche per via del marketing di OpenAI, che ha parlato molto della possibilità di “seguire il filo del ragionamento” dei suoi nuovi modelli AI. In un momento in cui le discussioni etiche sull’AI sembrano sempre partire dalla trasparenza e dalla “spiegabilità” degli algoritmi, questa decisione ha accesso un dibattito nella comunità di ricercatori AI.
Il punto è capire se l’interesse comune nel seguire il filo del ragionamento dell’AI sia più importante del vantaggio competitivo di OpenAI. O, in altre parole, se la ricerca sull’intelligenza artificiale venga prima dell’aspetto commerciale per l’azienda. Per il momento, sembra che OpenAI abbia tutte le intenzioni per tenere il proprio modello al sicuro — anche se significa non poter davvero seguire il ragionamento, come aveva promesso.
- Rome, Charles D. (Autore)
Ultimo aggiornamento 2024-09-27 / Link di affiliazione / Immagini da Amazon Product Advertising API