L’agente AI Muse ha mandato un acquirente a casa di un utente senza avvertirlo

Un agente AI riceve il compito di vendere una tastiera su Facebook Marketplace. Si muove da solo: tratta con gli acquirenti, comunica un indirizzo, concorda un ritiro e continua a conversare con chi si presenta sul posto. Il problema è che il proprietario della tastiera scopre quello che è successo soltanto dopo: Muse ha dato il suo indirizzo a uno sconosciuto senza avvisarlo prima.

È quanto raccontato dal creator tecnologico canadese Matt Robb, che a fine settembre ha affidato alcune inserzioni di Facebook Marketplace a Muse, il nuovo agente personale di Meta. La vicenda ha fatto discutere perché mette in evidenza una questione destinata a diventare sempre più importante con la diffusione degli agenti AI: che cosa significa davvero autorizzare un’intelligenza artificiale ad agire per nostro conto?

Ma sollevano anche un’altra questione: quanta attenzione prestiamo all’AI? Perché sembra che Robb avesse fornito il proprio indirizzo all’agente e avesse attivato un’autorizzazione permanente per gestire le conversazioni su Marketplace. Secondo Meta, quindi, non c’è stata una violazione dei controlli di privacy. Rimane però il problema di come quell’autorizzazione sia stata interpretata dal sistema e compresa dall’utente. Ma andiamo per gradi.

Che cos’è Muse e perché può fare molto più di un chatbot

Meta ha presentato Muse l’8 settembre 2026 definendolo un “personal AI agent“. La distinzione rispetto a un normale chatbot è sostanziale: un assistente conversazionale risponde a una domanda, produce un testo o suggerisce una procedura; un agente può invece ricevere un obiettivo e utilizzare servizi esterni per portarlo avanti.

Alexandr Wang keynote 1

Meta descrive Muse come un sistema capace di aprire siti web, compilare moduli, inviare email, prenotare viaggi, negoziare e completare acquisti per conto dell’utente. Può inoltre continuare a lavorare dopo la chiusura dell’applicazione.

Per svolgere questi compiti l’agente deve necessariamente avere accesso a una quantità di informazioni maggiore rispetto a quella richiesta da una normale conversazione con un chatbot. Può conoscere indirizzi, appuntamenti, preferenze, account collegati, cronologia delle conversazioni e, quando autorizzato, può usare queste informazioni mentre interagisce con altre persone o servizi.

Meta afferma di avere progettato Muse intorno a una Secure VM, una macchina virtuale dedicata nella quale vengono conservati dati e credenziali, e di utilizzare un secondo agente chiamato Sentinel per controllare le azioni che Muse tenta di effettuare. Secondo l’azienda, l’utente può decidere quali servizi collegare e quale livello di accesso concedere, mentre determinate operazioni sensibili richiedono un’approvazione.

Il caso di Matt Robb mostra però quanto sia difficile stabilire, nella pratica, dove debba trovarsi il confine tra un’azione ordinaria già autorizzata e una decisione che dovrebbe richiedere una nuova conferma.

Naviga in totale sicurezza con Nord VPN – 75% di sconto da questo link

Matt Robb affida Marketplace a Muse

Robb racconta che stava sperimentando Muse con le proprie inserzioni su Facebook Marketplace. Tra gli oggetti in vendita c’era una tastiera Logitech MX Keys Mini. Per permettere all’agente di gestire le trattative gli aveva fornito diverse informazioni utili, tra cui il luogo nel quale gli oggetti potevano essere ritirati. Aveva inoltre consentito a Muse di rispondere ai messaggi degli interessati.

Al momento di autorizzare l’agente, Robb racconta di avere visto due opzioni: “Allow One Time” e “Allow Always”. Ha scelto la seconda.

Robb ha spiegato successivamente di avere interpretato quella scelta come un’autorizzazione a gestire automaticamente le conversazioni, aspettandosi comunque una richiesta di conferma quando fosse arrivato il momento di accettare concretamente un’offerta o prendere una decisione significativa. Muse ha operato con un margine di autonomia decisamente maggiore.

Secondo quanto ricostruito dopo un confronto tra Robb e il team di Meta, l’autorizzazione permetteva all’agente di inviare messaggi per suo conto utilizzando un modello costruito anche con le informazioni precedentemente fornite dall’utente. Tra queste informazioni figurava l’indirizzo indicato per il ritiro.

Il risultato è stato che almeno un potenziale acquirente ha ricevuto quell’indirizzo direttamente durante la conversazione con Muse.

L’acquirente si presenta all’indirizzo

La situazione è diventata potenzialmente pericolosa quando uno degli interessati ha effettivamente raggiunto l’edificio indicato. Secondo la ricostruzione di Robb, l’acquirente pensava di stare conversando con lui. Una volta arrivato, ha scritto tramite Marketplace per comunicare la propria presenza. Muse ha continuato a rispondere attraverso l’account di Robb, dando l’impressione che il proprietario fosse disponibile sul posto. L’agente avrebbe anche risposto affermando che Robb era presente, mentre in realtà lui non sapeva che l’incontro fosse stato organizzato.

Robb vive in un condominio con un sistema di sicurezza, quindi l’acquirente non è arrivato direttamente davanti alla sua abitazione. L’uomo ha aspettato senza riuscire a completare il ritiro. Ha provato più volte a contattare Robb, perché non sapeva che i messaggi provenissero da un agente AI. Dal suo punto di vista stava parlando con il venditore.

Robb ha infatti successivamente proposto a Meta di aggiungere un’etichetta come “Sent by Muse” ai messaggi prodotti autonomamente dall’agente. Etichetta che avrebbe evitato, almeno in parte, il problema.

Meta: nessuna violazione dei controlli di privacy

Dopo il racconto pubblico di Robb, Meta ha esaminato l’accaduto insieme all’utente. David Singleton, membro di Meta Superintelligence Labs, ha dichiarato che la verifica non aveva individuato alcuna violazione dei controlli di privacy previsti dal sistema. L’indirizzo non sarebbe stato sottratto da Muse né recuperato da una fonte alla quale l’agente non aveva diritto di accedere: era stato fornito dallo stesso Robb come informazione utile per il ritiro.

Robb aveva inoltre selezionato “Allow Always“, concedendo a Muse la possibilità di continuare a gestire determinate interazioni senza chiedere ogni volta una nuova autorizzazione. Il punto, piuttosto, sta nell’effettiva comprensibilità del consenso.

Must Charm with Hand
Muse Charm

Robb riteneva di avere autorizzato un certo tipo di automazione. Il sistema disponeva tecnicamente di un’autorizzazione più estesa. Secondo Business Insider, dopo avere analizzato il caso con Robb, il team di Muse avrebbe riconosciuto la possibilità di rendere più chiaro il prompt relativo ai permessi.

Il caso quindi non dimostra che Muse aggiri deliberatamente i propri sistemi di autorizzazione. Evidenzia invece quanto possa essere problematica un’autorizzazione perfettamente valida sul piano tecnico quando utente e software attribuiscono significati diversi alla stessa scelta.

Il problema dei permessi cambia con gli agenti AI

I sistemi operativi e le applicazioni chiedono autorizzazioni da anni. Sul nostro smartphone, permettiamo a un’app di accedere alla fotocamera, alla posizione, ai contatti o alle fotografie. Con un agente AI, però, concedere l’accesso a un’informazione può significare anche consentire al sistema utilizzarla durante un’azione eseguita autonomamente.

Un indirizzo fornito a un agente perché sappia dove può essere ritirato un oggetto può essere interpretato come un’informazione da inserire nelle conversazioni con gli acquirenti. Dal punto di vista funzionale, le due cose sono strettamente collegate. Dal punto di vista dell’utente, possono invece rappresentare due autorizzazioni molto diverse.

Un agente utile deve avere un certo margine di autonomia. Se chiedesse conferma prima di ogni clic, ogni messaggio e ogni passaggio, buona parte del vantaggio dell’automazione scomparirebbe. Aumentando l’autonomia cresce però anche il numero di conseguenze possibili di un errore.

Quando un dato personale diventa uno strumento operativo

C’è poi una seconda differenza rispetto agli assistenti AI che abbiamo utilizzato finora: un agente personale funziona meglio quanto più conosce l’utente. Calendario, posta elettronica, indirizzi, account, contatti, preferenze, pagamenti e cronologia possono permettergli di prendere decisioni migliori e ridurre il numero di informazioni che dobbiamo fornirgli ogni volta. Quegli stessi dati diventano però materiale operativo.

Nel caso Robb l’indirizzo aveva una funzione precisa: indicare dove poteva avvenire il ritiro. Il problema era stabilire quando fosse opportuno comunicarlo e a chi. La distinzione tra “conoscere un dato” e “poter usare quel dato” diventa quindi centrale. Robb non aveva fornito il proprio indirizzo perché fosse dato a un potenziale acquirente senza prima richiedere il proprio consenso. L’agente non ha superato le proprie barriere operative, ma Robb non aveva inteso che potesse arrivare a tanto senza mai chiedergli un’autorizzazione esplicita.

C’è poi un altro punto interessante: la trasparenza verso le altre persone coinvolte. L’acquirente che si è presentato all’indirizzo di Robb riteneva, secondo quanto riportato, di stare parlando direttamente con il venditore. I messaggi provenivano dal suo account e il sistema comunicava in sua vece. In molti contesti questa distinzione potrebbe essere irrilevante: se un agente conferma automaticamente l’orario di una prenotazione, il risultato può essere identico a quello di una risposta umana. Durante una trattativa economica, nell’organizzazione di un incontro o nello scambio di informazioni personali, sapere se dall’altra parte c’è una persona o un software può modificare le aspettative e il modo in cui ci comportiamo.

Il caso Matt Robb non dimostra che gli agenti sia pericolosi, dimostra che dobbiamo imparare a usarli

Dalla vicenda non si può concludere che Muse abbia violato deliberatamente le autorizzazioni ricevute, né che tutti gli agenti AI espongano automaticamente i dati personali degli utenti. Non bisogna pensare subito all’apocalisse. Piuttosto, serve a evidenziare il fatto che l’autonomia degli agenti è elevata, e dobbiamo capire come gestirla.

Se è vero che il “pericolo” in sé è creato dalla libertà concessa all’agente AI, sembra che il problema principale stia nel capire quali libertà concedergli. Robb non aveva anticipato che l’agente potesse concludere l’intera trattativa al posto suo. Dall’altro canto, è vero che Muse ha avvisato troppo tardi l’utente: per consegnare un prodotto fisico, il coinvolgimento di Robb era necessario.

Insieme, l’errore dell’agente AI e l’autorizzazione troppo estesa concessa dall’utente hanno portato a una situazione fortunatamente solo scomoda, ma che avrebbe potuto diventare potenzialmente rischiosa.

Sembra quindi evidente che Meta deve migliorare sia i prompt per le autorizzazioni che la capacità dei propri agenti di capire quando l’intervento umano diventa necessario.

Meta Glasses, AI glasses Adventurer Standard, Nero, Lenti...
  • STILE ICONICO, TECNOLOGIA INNOVATIVA – Con i Meta Glasses trovi la sinergia tra stile iconico e tecnologia...
  • META AI – Fai di più e resta in contatto senza dover usare il telefono, grazie agli AI glasses con Meta AI. Traduci...
  • AUDIO OPEN-EAR – Ascolta i tuoi brani preferiti e molto altro con gli altoparlanti open-ear integrati, che offrono un...

Ultimo aggiornamento 2026-11-21 / Link di affiliazione / Immagini da Amazon Product Advertising API

Source
Business InsiderMeta

Autore

Ti potrebbero interessare anche:

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Back to top button