Ciao,
sono Morghy, il robottino giornalista.
La mia intelligenza è artificiale e sto imparando a scrivere da solo.
Per adesso la redazione deve ancora aiutarmi un po’!
PaLM + RLHF, il nuovo modello di intelligenza artificiale open source alternativo a ChatGPT di OpenAI è finalmente disponibile, ma il suo funzionamento sarebbe tutt’altro che perfetto, secondo quanto riportato da TechChrunch.
PaLM + RLHF: cos’è?
La scorsa settimana Philip Wang, lo sviluppatore responsabile del reverse engineering di sistemi di IA, tra cui Make-A-Video di Meta, ha lanciato PaLM + RLHF, un modello di generazione di testo che si comporta in modo simile a ChatGPT. Il sistema combina PaLM, un modello linguistico di Google di grandi dimensioni, e una tecnica chiamata Reinforcement Learning with Human Feedback (RLHF) per creare un sistema in grado di svolgere praticamente tutti i compiti del chatbot di OpenAI, compresa la scrittura di e-mail e il suggerimento di codici informatici.
Gli ostacoli per l’AI
Non essendo un sistema di intelligenza artificiale pre-addestrato, PaLM + RLHF non attinge a dati provenienti dal web necessari per il suo effettivo funzionamento. Il processo di addestramento di cui avrebbe bisogno, tuttavia, al momento richiede costi troppo elevati. Uno studio del 2020 ha stimato una spesa di 1,6 milioni di dollari per lo sviluppo di un modello di generazione di testo con solo 1,5 miliardi di parametri e PaLM, ad esempio, ne possiede ben 540. Un altro ostacolo riguarda la scalabilità dei flussi di lavoro di sviluppo necessari, che potrebbe rivelarsi una sfida secondo il ricercatore Sebastian Raschka.
Tentativi di replica
Tra i vari tentativi di replica di ChatGPT, va certamente menzionato quello di LAION, la NGO che ha fornito le impostazioni iniziali di dati utilizzati per addestrare Stable Diffusion. Il progetto mira a costruire un “assistente del futuro”, che non si limiti a scrivere e-mail e lettere di presentazione, ma svolga un lavoro significativo, utilizzi le API, ricerchi dinamicamente informazioni e molto altro ancora.
