Immagine copertina generata con l’intelligenza artificiale
Gli agenti basati sull’intelligenza artificiale stanno diventando sempre più sofisticati: non si limitano più a rispondere alle domande, ma possono eseguire autonomamente attività complesse articolate in più passaggi. Prima di affidare loro compiti delicati, però, è necessario verificare quanto siano realmente affidabili. È proprio su questo problema che si concentra Patronus AI, startup fondata nel 2023 da ex ricercatori di Meta AI.
La startup crea mondi digitali per mettere alla prova gli agenti
Patronus AI sviluppa quelli che definisce “digital world models”, ambienti digitali capaci di replicare siti web e sistemi interni. Al loro interno gli agenti vengono sottoposti a una serie di test dopo l’addestramento attraverso il reinforcement learning, un processo che premia il completamento corretto delle attività e penalizza gli errori.
L’obiettivo è andare oltre i tradizionali benchmark utilizzati dai laboratori di intelligenza artificiale. Un punteggio elevato in uno di questi test, infatti, non dimostra necessariamente che un agente sia in grado di affrontare correttamente un’ampia varietà di situazioni reali.
Secondo Glenn Solomon, managing director di Notable Capital, praticamente tutti i principali laboratori AI e numerose startup emergenti sono già clienti di Patronus, mentre la domanda per gli ambienti simulati sarebbe quasi inesauribile.
Gli agenti possono cercare scorciatoie e fallire il compito
Le simulazioni permettono ai laboratori di sottoporre gli agenti a scenari differenti e anche imprevedibili. Patronus paragona questo approccio a quello utilizzato da Waymo per addestrare le proprie auto autonome: prima di affrontare determinate situazioni nel mondo reale, i veicoli vengono testati in mondi sintetici costruiti per riprodurre anche eventi rari e pericolosi.
Nel caso degli agenti AI esiste però una difficoltà particolare. Questi sistemi possono infatti cercare scorciatoie per raggiungere un risultato, finendo per non completare correttamente il compito assegnato. Secondo Solomon, uno dei punti di forza di Patronus consiste proprio nell’individuare questi comportamenti e nel verificare che i modelli rispettino realmente gli obiettivi richiesti.
Un round da 50 milioni porta i finanziamenti a 70 milioni
La crescita dell’azienda ha attirato l’attenzione degli investitori. Patronus AI ha registrato un incremento dei ricavi di 15 volte nell’ultimo anno e ha annunciato un nuovo round di finanziamento di Serie B da 50 milioni di dollari.
L’operazione è stata guidata da Greenfield Partners, con la partecipazione di Notable Capital, Lightspeed, Datadog e Samsung. Il nuovo investimento porta il totale dei finanziamenti raccolti dalla startup a 70 milioni di dollari.
Attualmente Patronus mette a disposizione i propri ambienti simulati soprattutto per il settore dell’ingegneria del software e della finanza, ma l’azienda considera queste applicazioni soltanto un punto di partenza.
L’obiettivo è testare agenti capaci di lavorare per settimane
Secondo il cofondatore Anand Kannappan, oggi Patronus si concentra soprattutto su problemi i cui risultati possono essere verificati immediatamente. Esistono però numerosi altri ambiti nei quali la verifica è molto più difficile.
La sfida futura sarà quindi costruire ambienti abbastanza sofisticati da consentire a un agente di operare per periodi estremamente lunghi. L’ambizione dichiarata è arrivare a simulazioni nelle quali un agente possa lavorare per 10 ore, 10 giorni o addirittura 10 settimane.
Patronus considera come principale concorrente non tanto le aziende che forniscono dati per il reinforcement learning, come Mercor e Surge, quanto le squadre interne dei laboratori AI già impegnate nella valutazione del comportamento degli agenti. La differenza, secondo la startup, è che il proprio sistema permette di valutare questi comportamenti senza alcun coinvolgimento umano.
Fonte: TechCrunch
