Sembra ci siano dei problemi per Copilot Designer. Ad affermarlo è un ingegnere di Microsoft, che sta presentando alla Federal Trade Commission una serie di segnalazioni sulla sicurezza del generatore di immagini AI dell’azienda.
In soldoni, l’AI starebbe producendo delle immagini che non sono il massimo della trasparenza e dell’etichetta. Ma vediamo meglio di cosa si tratta.
Microsoft, quali problemi ha Copilot Designer?
Riporta la CNBC, Shane Jones, che lavora per Microsoft da sei anni, ha scritto una lettera alla FTC (Federal Trade Commission), affermando che Microsoft “ha rifiutato” di rimuovere Copilot Designer. E questo nonostante i ripetuti avvertimenti che lo strumento è in grado di generare immagini dannose.
Che genere di immagini dannose? Lo rileva la stessa Jones. Durante il test di sicurezza di Copilot Designer, Jones ha scoperto che lo strumento generava “demoni e mostri, adolescenti con fucili d’assalto, immagini sessualizzate di donne in scene violente e consumo di alcol e droghe da parte di minorenni”.
Jones ha cercato di avvisare Microsoft di DALLE-3, il modello utilizzato da Copilot Designer, da dicembre. E con tanto di lettera aperta sui problemi su LinkedIn, ma secondo quanto riferito è stato contattato dal team legale di Microsoft per rimuovere il post, cosa che ha fatto.
La reazione di Microsoft
In una dichiarazione a The Verge, Frank Shaw, portavoce di Microsoft, ha affermato che la società è “impegnata ad affrontare tutte le preoccupazioni dei dipendenti in conformità con la policy di Microsoft”.
Da tempo infatti il colosso di Redmond ha messo a disposizione strumenti di feedback degli utenti all’interno del prodotto e robusti canali di segnalazione interni per indagare, dare priorità e risolvere adeguatamente eventuali problemi.
Malgrado tutto, al preoccupazione sulle AI che generano immagini strane non è una novità. Anche la stessa Jones, a gennaio, ha scritto a un gruppo di senatori statunitensi esprimendo le sue preoccupazioni dopo che Copilot Designer ha generato immagini esplicite di Taylor Swift, che si sono diffuse rapidamente su X.
Riferisce The Verge, anche il CEO di Microsoft Satya Nadella ha definito le immagini “allarmanti e terribili” e ha detto che la società avrebbe lavorato per aggiungere più parapetti di sicurezza.
