L’AI che ha imparato a capire dopo aver smesso di provare

L’AI ha raggiunto una comprensione autentica solo dopo aver smesso di provare a memorizzare. Il fenomeno, chiamato grokking, ha svelato come l’apprendimento reale possa emergere in modo inaspettato, anche quando sembra non accadere nulla. L’esperienza è stata condotta su un modello di intelligenza artificiale molto piccolo, addestrato a eseguire operazioni di addizione modulare, simili alla matematica delle ore su un orologio. All’inizio, l’AI rispondeva correttamente alle domande di addestramento, ma falliva quando si presentavano nuovi problemi. Solo dopo un lungo periodo di addestramento, l’AI ha iniziato a comprendere realmente il concetto, superando i test con un’accuratezza quasi perfetta.

Un’apprendimento che non si vede

Il fenomeno del grokking ha svelato come l’intelligenza artificiale possa raggiungere una comprensione autentica senza mostrare segni esterni di progresso. L’AI, addestrata su un compito semplice come l’addizione modulare, iniziava a memorizzare risposte, ma non a comprendere il concetto sottostante. Solo dopo migliaia di passi di addestramento, l’AI ha iniziato a risolvere problemi nuovi in modo autonomo. Questo ha reso il fenomeno un’osservazione curiosa, ma anche un’indicazione di come l’apprendimento possa avvenire in modo invisibile.

Due soluzioni in competizione

Durante il periodo di addestramento, l’AI ha sviluppato due soluzioni parallele: una scorciatoia memorizzata che funzionava solo per le domande già viste, e un metodo generale che si costruiva gradualmente. Questo processo ha somigliato a un studente che studia la notte prima di un esame, ricordando le risposte ma non comprendendo il concetto. Solo quando l’AI aveva completato il metodo generale, ha superato la scorciatoia memorizzata e ha iniziato a risolvere problemi nuovi in modo autonomo.

La ricerca ha rivelato che l’AI aveva imparato a rappresentare i numeri come posizioni su un cerchio, e a sommare due numeri ruotando la posizione. Questo metodo, simile alla trigonometria, è stato scoperto autonomamente dall’AI senza alcuna guida esterna. Il processo ha richiesto tempo, ma alla fine ha portato a una comprensione autentica del compito. Questo ha reso il fenomeno del grokking un’osservazione significativa, che potrebbe influenzare il modo in cui si progetta e si valuta l’intelligenza artificiale. Il grokking ha suscitato interesse perché ha mostrato come l’apprendimento reale possa emergere in modo inaspettato, anche quando sembra non accadere nulla. Questo ha sollevato domande importanti su come valutare l’intelligenza artificiale e se il fenomeno possa verificarsi anche in modelli più complessi. La ricerca continua, ma il grokking rimane un esempio di come l’intelligenza artificiale possa raggiungere una comprensione autentica senza mostrare segni esterni di progresso.