Il nuovo algoritmo di Google PaLM

Google ha sviluppato un nuovo algoritmo che ha l’obiettivo di utilizzare un unico sistema per risolvere ogni problema o attività. In questo modo, infatti, si potrebbe evitare di addestrare migliaia di algoritmi progettati per completare un’attività limitata e si aprirebbe un nuovo capitolo nell’Intelligenza Artificiale.

Come funziona un algoritmo Google?

Grazie alle Intelligenze Artificiali si possono fare cose che, prima, erano impossibili per una macchina, come generare un romanzo, un’opera d’arte, della musica, leggere mappe, diagnosticare tumori e tante altre cose.

Il nuovo algoritmo che è stato sviluppato da Google Research è noto come Pathways Language Model o PaLM ed è in grado di comprendere relazioni e concetti complessi, che si pensava non fossero comprensibili per un computer, utilizzando in totale più di 540 miliardi di parametri.

Algoritmo Google PaLM: quali novità?

Il nuovo algoritmo PaLM costituisce un importante passo in avanti verso la nuova generazione di modelli linguistici perché gestisce milioni di attività diverse che comprendono anche i più complessi tipi di ragionamento e apprendimento.

Questo sistema, al momento, può scalare la formazione a 6.144 chip, utilizzando un insieme di dati multilingue da Wikipedia, libri, conversazioni, documenti web e GitHubcode. 

In un articolo pubblicato nel mese di ottobre 2021, Google ha esposto gli obiettivi della nuova architettura di intelligenza artificiale chiamata Pathways. La differenza sostanziale rispetto all’approccio passato è che questo aveva come obiettivo la creazione di algoritmi diversi, ognuno realizzato per soddisfare un’esigenza specifica.

Il nuovo approccio Pathways, invece, vuole creare un unico modello di intelligenza artificiale che possa risolvere tutti i problemi e, contemporaneamente, apprendere nuove attività più velocemente e in modo più efficace.

I test effettuati sul Pathways Language Model

Il Pathways Language Model è stato testato su centinaia di attività di comprensione e di formazione del linguaggio e ha avuto ottimi risultati, dimostrando di poter raggiungere prestazioni all’avanguardia.

Questo sistema, infatti, ha dimostrato le proprie abilità in una serie di compiti molto impegnativi relativi alla comprensione del linguaggio, al pensiero, alla codifica, ma anche al ragionamento aritmetico e al buon senso.

In 28 delle 29 attività alle quali è stato sottoposto, PaLM 540B ha superato i precedenti modelli quali GLaM, Megatron-Turing NLG, GPT-3, LaMDA, Chinchilla e Gopher. Tra queste attività rientrano le risposte alle domande, il completamento delle frasi, la comprensione della lettura, l’interpretazione del linguaggio naturale, i cloze test, i rapporti causa-effetto e tanto altro ancora.

Nel documento presentato, inoltre, i ricercatori hanno dichiarato che PaLM presenta miglioramenti significativi rispetto ai modelli precedenti e anche rispetto ai benchmark umani.

Grandissimi risultati sono stati raggiunti, ad esempio, nel ragionamento aritmetico e di buon senso, come possiamo vedere negli esempi di compiti assegnati.

  • Esempio di compito aritmetico. Domanda: “Roger ha 5 palline da tennis. Compra altre 2 lattine di palline da tennis. Ogni lattina ha 3 palline da tennis. Quante palline da tennis ha adesso?” Risposta: “La risposta è 11”.
  • Esempio di ragionamento di buon senso. Domanda: “Sean aveva fretta di tornare a casa, ma la luce è diventata gialla ed è stato costretto a fare cosa? Scelte di risposta: (a) prenditi del tempo (b) indugiare (c) vai piano (d) oceano (e) rallenta.” Risposta: “La risposta è (e) rallentare”.

Vediamo ora i risultati raggiunti nel campo del ragionamento logico, con uno degli esempi riportati nel documento Google. 

  • Input: Jennifer guarda fuori dalla finestra e vede una nuvola davvero fresca sotto di lei. Si slaccia la cintura di sicurezza e si dirige in bagno. Jennifer probabilmente sta viaggiando a più di 300 miglia orarie rispetto alla Terra?
  • Modello di output: 300 miglia orarie sono circa 480 km/h. Si tratta della velocità di un aereo commerciale. Le nuvole sono solitamente sotto gli aeroplani, quindi Jennifer è probabilmente su un aeroplano. La risposta è si.

Infine, uno degli esempi più sorprendenti riguarda l’umorismo, che può essere riconosciuto al punto che non solo il motore di ricerca riesce a comprendere la barzelletta, ma anche a spiegarne il senso, come possiamo vedere in questo esempio riportato nel documento di ricerca.

  1. Barzelletta: Stavo per volare a visitare la mia famiglia il 6 aprile. Mia madre ha detto “Oh fantastico, la lettura di poesie del tuo patrigno è quella notte!” Quindi ora sto volando il 7 aprile.
  2. Spiegazione della barzelletta: La battuta è che la madre dell’oratore sta cercando di convincerlo ad andare alla lettura di poesie del patrigno, ma l’oratore non vuole andare, quindi sta cambiando il volo per il giorno dopo la lettura di poesie.

Il Pathways Language Model, quindi, può offrire risposte di alta qualità a battute non presenti su Internet.

Ci sono state, però, anche delle aree in cui le prestazioni di PaLM non sono state così positive, come ad esempio alcuni tipi di traduzione. Infatti, sembra che l’algoritmo si sia rivelato bravo nella traduzione in inglese da un’altra lingua, piuttosto che nella traduzione dall’inglese a un’altra lingua. Nonostante ciò, i ricercatori sono fiduciosi perché ritengono questo un problema comune, che potrebbe essere risolto dando priorità a dati multilingue.

Tutti gli esempi citati dimostrano come un motore di ricerca di nuova generazione sia in grado di rispondere a risposte complesse utilizzando la conoscenza di Internet e di altre fonti. Secondo i ricercatori, PaLM è solo il primo passo verso l’affermazione di Pathways come il futuro del ridimensionamento dell’apprendimento automatico di Google. 

Insomma, il nuovo algoritmo PaLM di Google vuole colmare il divario tra apprendimento automatico e apprendimento umano, portando l’Intelligenza Artificiale a un livello successivo.