Qualora venga alimentata con materiali realizzati da altri sistemi automatizzati, l'intelligenza artificiale generativa incorre nel pericolo di un peggioramento delle proprie prestazioni. Onde arginare tale criticità, definita "collasso del modello", un recente approccio scientifico ha identificato nella "sorpresa" il fattore determinante per salvaguardare l'originalità e la varietà espressiva degli elaborati.
La questione trae origine dall'ampia penetrazione degli strumenti di IA, la quale accentua il pericolo di autofagia, ossia una dinamica in cui gli algoritmi apprendono a partire dai dati che essi medesimi hanno prodotto. Una simile spirale determina un progressivo scadimento del livello qualitativo dei testi generati.
Il rischio del collasso del modello
Edita sulla testata scientifica ACM Transactions on Intelligent Systems and Technology, l'indagine è frutto del lavoro congiunto svolto dall'Istituto di scienza e tecnologie dell'informazione del Consiglio Nazionale delle Ricerche di Pisa (CNR-ISTI), dall'Ateneo pisano, dalla Scuola Normale Superiore e dalla Victoria University di Wellington, situata in Nuova Zelanda.
Esaminando architetture quali Llama, realizzata da Meta, gli studiosi hanno rilevato che il decadimento prende forma attraverso due modalità fondamentali. Come illustra Daniele Gambetta, ricercatore post-doc dell'Università di Pisa, da una parte «il contenuto generato diventa sempre meno vario e presenta sempre le stesse parole», mentre dall'altra «le frasi generate sono meno coerenti e significative e le risposte meno sensate».
La soluzione: misurare la "perplexity"
In genere, per scongiurare l'autofagia si cerca di vagliare esclusivamente scritti d'origine umana. Nondimeno, l'innalzamento del livello di complessità dei sistemi rende tale discriminazione ognora più complessa. Il metodo delineato dall'analisi punta piuttosto a quantificare la perplexity, vale a dire la quota di sconcerto che un testo suscita nella macchina.
Stando a quanto riferito da Luca Pappalardo, ricercatore del CNR-ISTI e co-direttore della ricerca, un elaborato viene reputato inatteso qualora il sistema medesimo «l’avrebbe scritto in modo diverso». Le verifiche sperimentali attestano che impiegare per la fase di addestramento unicamente i dati dotati di carica "sorprendente" consente di contenere il deterioramento, dato che i materiali maggiormente scontati risultano i principali responsabili dello scadimento.
L'apprendimento simile a quello umano
Il docente Dino Pedreschi evidenzia che, durante la fase autofagica, l'algoritmo cessa di assimilare nozioni inedite. L'inserimento dell'elemento di discontinuità nei processi di istruzione evocherebbe «il modo in cui i bambini imparano dagli eventi inattesi». Tale impostazione rientra nell'analisi della coevoluzione tra uomo e intelligenza artificiale, ossia nell'indagine su come le tecnologie digitali evolvano col mutare del contesto informativo circostante.
Il punto di forza primario di questo meccanismo risiede nel prescindere dalla conoscenza dell'autore del documento, sia esso un individuo o un software. Come rimarca in conclusione Gizem Gezici, ricercatrice della Scuola Normale Superiore, una simile peculiarità appare cruciale in un frangente in cui separare la matrice umana da quella artificiale presenta difficoltà crescenti, offrendo una risposta a un nodo che si farà sempre più rilevante dinanzi all'avanzare della creazione automatica dei testi.
Ulteriori approfondimenti sono reperibili sul portale web dell'Università di Pisa.