Microsoft ha pubblicato un nuovo codice di condotta per l’AI pensato per stabilire principi e limiti attraverso i quali guidare lo sviluppo dei propri modelli. Il documento arriva mentre il settore concentra sempre più attenzione su sicurezza e allineamento, con l’obiettivo di evitare che sistemi AI avanzati possano sottrarsi al controllo umano.
Microsoft mette nero su bianco le regole per l’AI
Il documento di Microsoft AI parte da una previsione particolarmente ambiziosa: nel prossimo decennio i sistemi AI superintelligenti potrebbero superare le capacità umane nella maggior parte delle attività. Proprio per questo, secondo Microsoft, contenere, controllare e allineare sistemi così potenti rappresenterà una delle più grandi sfide mai affrontate dall’umanità.
Il codice di condotta non si limita quindi a indicare obiettivi generali, ma prova a spiegare perché questi sistemi vengono sviluppati. E, soprattutto, come dovrebbero essere mantenuti sotto controllo.
Il testo stabilisce alcuni principi di carattere generale che i modelli Microsoft AI dovrebbero rispettare. Tra questi c’è l’idea che l’AI debba supportare gli esseri umani anziché sostituirli e contribuire a favorire il benessere umano. A questi principi sono affiancati vincoli di sicurezza più specifici, destinati a tradurre le regole generali in comportamenti concreti.
Cyberattacchi, armi nucleari e deepfake tra i limiti assoluti
Uno degli elementi centrali del documento riguarda la struttura delle regole applicate ai modelli. Ogni sistema dispone di un codice di condotta generale che prevale sulle preferenze dei singoli utenti e sui compiti specifici che gli vengono richiesti.
All’interno sono presenti anche quelli che Microsoft definisce “absolute constraints”, ovvero vincoli assoluti. Tra le condotte vietate rientrano cyberattacchi, armi nucleari e produzione di deepfake.
Il codice affronta però anche un tema più ampio: quello della possibile perdita del controllo umano sui sistemi AI. I modelli Microsoft non dovranno utilizzare meccanismi adattivi, ingannevoli, autoreinforzanti o di collusione per eludere o sconfiggere la supervisione umana.
L’obiettivo dichiarato è fare in modo che i sistemi possano continuare a essere diretti, modificati o spenti in modo affidabile dalle persone o dai sistemi autorizzati a farlo.
Il codice arriva mentre cresce l’attenzione sulla sicurezza
La pubblicazione del documento si inserisce in una fase in cui il tema della sicurezza dell’AI sta assumendo un peso crescente all’interno del settore. Il testo arriva dopo una serie di episodi definiti rogue-agent incidents e dopo le dimissioni improvvise di un dipendente di Anthropic, che aveva espresso preoccupazioni sui rischi legati allo sviluppo di sistemi AI capaci di migliorarsi autonomamente.
Microsoft si muove inoltre all’interno di un orientamento condiviso, in termini generali, con Anthropic, OpenAI e xAI, legato alla necessità di procedere con maggiore cautela nello sviluppo dei sistemi AI più avanzati.
In particolare, Microsoft ha espresso sostegno per gli embedded evaluators, sistemi e meccanismi pensati per valutare il comportamento dei modelli direttamente all’interno dei laboratori che li sviluppano.
Satya Nadella: «Get alignment right»
Anche il CEO di Microsoft, Satya Nadella, ha commentato l’approccio. In un intervento online ha scritto che l’azienda accoglie positivamente la ricerca, l’attenzione e un approccio deliberato alla velocità di sviluppo necessari per ottenere correttamente l’allineamento dei sistemi AI.
Nadella ha inoltre espresso sostegno alle idee degli embedded evaluators e agli sforzi più ampi per sviluppare meccanismi capaci di trasformare questi principi in strumenti concreti, andando oltre le sole dichiarazioni di intenti.
Il nuovo codice di condotta rappresenta così un documento operativo attraverso cui Microsoft definisce i principi che dovrebbero guidare i propri modelli e, soprattutto, le linee rosse che non dovrebbero essere oltrepassate.
Fonte: TechCrunch
