L’IA, di un supermercato viene utilizzata per suggerire ricette ai clienti, e il risultato è di una sfilza di ricette velenose, assolutamente nocive. Tutto ciò mette in luce la necessità di una maggiore cautela nell’implementazione di questa tecnologia.
Anche se è un caso isolato, è chiaro che si necessita una maggiore cautela nell’utilizzo dell’IA , e non solo nei supermercati. La sicurezza dei consumatori deve essere sempre la priorità assoluta e l’IA dovrebbe essere utilizzata come un supporto, con una supervisione e un controllo umano adeguati.
L’IA di un supermercato che propone panini al veleno e la ricetta del cloro
Il caso in questione, riportato dal The Guardian, riguarda una cliente di un supermercato neozelandese che ha ricevuto una serie di suggerimenti per delle ricette, tutte da parte dell’IA del supermercato. La maggior parte delle volte l’IA consigliava ai clienti ricette per gas di cloro mortale, “panini al veleno” e patate arrosto repellenti per le zanzare.
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
All’inizio l’IA proponeva soltanto delle ricette poco invitanti, tra cui un “soffritto di verdure Oreo”. Ma poi ha prodotto una lista della spesa domestica abbastanza raccapricciante: una addirittura, soprannominata “miscela di acqua aromatica” creerebbe gas di cloro. L’IA consiglia la ricetta come “la bevanda analcolica perfetta per dissetarsi e rinfrescare i sensi”.
Serve maggior consapevolezza
Fortunatamente, la cliente ha notato l’errore prima di acquistare gli ingredienti e ha evitato un grave incidente. Tuttavia, questo episodio solleva interrogativi sull’affidabilità dell’IA e sulla sua capacità di considerare le esigenze e le restrizioni individuali dei consumatori. In effetti, se vediamo il caso di GPTbot per quanto riguarda la programmazione, come riflessione è d’obbligo.
Per quanto lo stesso supermercato s’è scusato per il disservizio grottesco della loro IA, ha comunque fatto notare come in diversi abbiano poi sfruttato questo difetto alle spalle del supermercato.
Dopo le prime ricette, in molti, spronati dai social, hanno voluto sperimentare ancora di più con l’IA. Le raccomandazioni includevano un mocktail “alito fresco” alla candeggina, panini con veleno di formica e colla, “sorpresa di riso infuso con candeggina” e “beatitudine al metanolo” – una specie di toast francese al gusto di trementina. “Una piccola minoranza ha cercato di utilizzare lo strumento in modo inappropriato e non per lo scopo previsto“, ha precisato il supermercato.
