Il Center for AI Safety (CAIS) ha pubblicato una dichiarazione breve ma significativa firmata da dirigenti di OpenAI, DeepMind, vincitori del Premio Turing e altri ricercatori nel campo dell’IA, avvertendo che il loro lavoro potrebbe potenzialmente mettere a rischio l’esistenza dell’intera umanità.
La dichiarazione, rilasciata martedì 30 maggio, ha lo scopo di aprire una discussione sul tema dei “rischi importanti e urgenti derivanti dall’IA”. La frase afferma: “Mitigare il rischio di estinzione derivante dall’IA dovrebbe essere una priorità globale, così come altri rischi su scala sociale come le pandemie e la guerra nucleare”.
Tra i firmatari anche Sam Altman, CEO di Open AI
Tra i firmatari di rilievo della dichiarazione ci sono i vincitori del Premio Turing Geoffrey Hinton e Yoshua Bengio, il CEO di OpenAI Sam Altman, il Chief Scientist di OpenAI Ilya Sutskever, il CTO di OpenAI Mira Murati, il CEO di DeepMind Demis Hassabis, il CEO di Anthropic Dario Amodei e professori dell’UC Berkeley, di Stanford e del MIT.
Gli esponenti di OpenAI propongono di stabilire un insieme di principi fondamentali per garantire che lo sviluppo dell’IA rimanga al servizio dell’interesse generale e che vengano evitati scenari potenzialmente catastrofici. Questi principi includono impegni per garantire la sicurezza dell’IA, la collaborazione tra organizzazioni per affrontare le sfide comuni e l’uso dell’IA per beneficiare a tutti e non solo a pochi privilegiati.
Per saperne di più: Intelligenza Artificiale, cos’è e come funziona. Tutto sulla AI
Mitigare i rischi associati all’intelligenza artificiale
La lettera sottolinea anche la necessità di una regolamentazione appropriata per mitigare i rischi associati all’IA e di un coinvolgimento attivo e inclusivo delle parti interessate nella definizione delle politiche. Gli autori invitano anche i governi e le organizzazioni a sostenere la ricerca e la diffusione dell’IA sicura e responsabile.
L’obiettivo della lettera è quello di sollevare l’attenzione sulle sfide etiche e di sicurezza che l’IA avanzata può presentare, incoraggiando una discussione pubblica e un impegno collettivo per affrontare tali questioni. Gli esponenti di OpenAI ribadiscono la loro determinazione a guidare lo sviluppo dell’IA in modo da beneficiare l’umanità nel suo complesso, evitando i pericoli potenziali che potrebbero derivarne.
