Finora la nostra esperienza con i chatbot AI è stata incredibilmente contrastante. In molti si fidano delle informazioni e dei consigli, considerati genuini. Ma molti vedono le AI con maggior frustrazione, visti gli algoritmi troppo ansiosi che intervengono nell’offrire affermazioni insensate o false.
Ma cosa accadrebbe se l’intelligenza artificiale riflettesse semplicemente le nostre convinzioni, qualcosa che molti sospettano da un po’ di tempo?
Lo studio del MIT sulle intelligenze artificiali
In un nuovo studio pubblicato sulla rivista Nature Machine Intelligence , un team di ricercatori del MIT Media Lab ha scoperto che i soggetti che erano “preparati” per una specifica esperienza di intelligenza artificiale finivano quasi sempre per vivere quell’esperienza.
“L’intelligenza artificiale è uno specchio“, ha detto a Scientific American Pat Pataranutaporn del MIT Media Lab, coautore dello studio .
Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI
In un esperimento, il team ha diviso 300 partecipanti in tre gruppi. A tutti i partecipanti è stato chiesto di utilizzare un’intelligenza artificiale per ricevere supporto per la salute mentale e valutare quanto fosse efficace nel fornirlo. A tre gruppi è stato detto di aspettarsi esperienze diverse:
- al primo è stato detto che l’intelligenza artificiale non aveva motivazioni;
- al secondo è stato detto che l’intelligenza artificiale è stata addestrata a mostrare empatia e compassione;
- al terzo è stato detto che l’intelligenza artificiale aveva intenzioni dannose e cercava di manipolare o ingannare l’utente.
Il risultato dell’esperimento, e le sue conseguenze
I risultati sono stati sorprendenti, con la maggior parte dei partecipanti di tutti e tre i gruppi che hanno riferito che la loro esperienza era in linea con ciò che era stato detto loro di aspettarsi.
Sembrerebbe infatti che il “feedback di rinforzo” ha portato i partecipanti a cambiare il modo in cui vedevano l’intelligenza artificiale a seconda di ciò che veniva loro detto.
Pataranutaporn e i suoi colleghi suggeriscono che il modo in cui intere culture vedono l’intelligenza artificiale potrebbe finire per influenzare il modo in cui la tecnologia viene utilizzata e sviluppata nel tempo. Ciò significa anche che le persone dietro queste IA hanno una notevole influenza, si spera non criminale come con i Frontier AI.
Le conseguenze di questo studio sono evidenti: è sbagliato concentrarsi sugli eventuali pregiudizi presenti nelle risposte dell’intelligenza artificiale. Si dovrebbe anzi pensare all’interazione uomo-intelligenza artificiale, e quindi a che tipo dei pregiudizi che le persone introducono nel sistema. Un vero rovesciamento della prospettiva uomo-AI.
