Anthropic rende l’AI Claude ancora più precisa con “Contextual Retrieval”

Claude diventa ancora più efficiente nel suo lavoro con l’ultima novità di Anthropic: “Contextual Retrieval”. Ecco come funziona

morghy il robottino giornalista
Morghy, il robottino giornalista

Claude, l’AI di Anthropic, non sarà più la stessa con il metodo “Contextual Retrieval”. Si tratta di una tecnica che migliora la capacità dei sistemi a intelligenza artificiale nell’accedere a database di grandi dimensioni in modo più efficace e accurato, così da poter garantire agli utenti il massimo dell’elaborazione.

Anthropic, come funziona “Contextual Retrieval”

Il mondo dell’intelligenza artificiale è in continua evoluzione, e la gestione dei dati sta assumendo un ruolo sempre più cruciale. Ad oggi la maggior parte dei modelli si basa sui sistemi di Retrieval-Augmented Generation (RAG), utilizzati per arricchire le risposte dell’AI con informazioni rilevanti estratte da una vasta gamma di documenti.

Parliamo di sistemi che sono, sì, efficienti, ma che ancora difettano in alcuni punti. Come ad esempio la composizione del prompt: per ottimizzare il processo di recupero, i documenti vengono suddivisi in piccole porzioni di testo.

Questo porta spesso alla perdita di contesto, rendendo più difficile per il modello AI identificare esattamente le informazioni corrette. Un esempio comune (riportato dalla stessa società) si verifica quando un pezzo di testo riporta solo un’informazione parziale, come “i ricavi dell’azienda sono aumentati del 3%“, senza specificare a quale azienda o periodo di tempo si riferisce.

Proprio per superare questo limite “strutturale”, Anthropic ha introdotto nell’AI Claude “Contextual Retrieval“, una nuova tecnica che utilizza come componenti chiave l’Embedding contestuale e il BM25 contestuale:

  • l’Embedding contestuale permette al sistema di AI di associare un frammento di testo a informazioni più ampie, garantendo che ogni pezzo conservi il suo significato all’interno di un contesto più grande;
  • il BM25 contestuale utilizza una tecnica di indicizzazione basata sulla frequenza delle parole e sul loro peso all’interno di un documento, garantendo una ricerca più accurata delle parole chiave.

Questi strumenti lavorano insieme per mantenere intatto il contesto critico che si perderebbe nei sistemi RAG tradizionali. Ad esempio, un frammento di testo viene integrato con dettagli aggiuntivi, come il nome dell’azienda e il trimestre di riferimento, migliorando notevolmente la precisione del recupero dei dati.

Per saperne di più: Intelligenza artificiale: cos’è e come funziona, tutto sulla AI

Vantaggi concreti del “Contextual Retrieval”

Le prime sperimentazioni condotte da Anthropic mostrano miglioramenti significativi nella precisione del recupero dei dati. In particolare, l’uso combinato di Embedding e BM25 contestuali ha ridotto del 49% i casi in cui il sistema non riusciva a trovare le informazioni più rilevanti. Addirittura il tasso di fallimento è diminuito del 67% con l’integrazione del reranking, un processo che riordina i risultati del recupero per importanza.

Un altro aspetto interessante del “Contextual Retrieval” è la sua capacità di gestire enormi database, riducendo contemporaneamente costi e tempi. Anthropic ha introdotto una funzionalità chiamata prompt caching, che permette di memorizzare le richieste più comuni e velocizzare il recupero delle informazioni nelle interazioni successive. Questo ha portato a una riduzione dei costi del 90%, nonché a un’accelerazione del processo di recupero di oltre due volte.

Iscriviti alla newsletter

Non inviamo spam! Leggi la nostra Informativa sulla privacy per avere maggiori informazioni.