È ora di parlare dell'AI come scienza

Il rumore di fondo

Ogni settimana esce un modello nuovo, un benchmark battuto, un annuncio che promette di cambiare un settore. Sul fronte opposto, con la stessa regolarità, arrivano gli allarmi: l’AI ci sostituirà, ci ingannerà, ci sfuggirà di mano. Le due narrazioni sembrano in conflitto, ma hanno qualcosa in comune: parlano di intelligenza artificiale come si parla di un prodotto o di un evento atmosferico. Qualcosa che arriva, che si compra, che si subisce.

Manca quasi sempre un terzo modo di parlarne, che è poi quello più antico e più utile: l’intelligenza artificiale come oggetto di studio. Non come tecnologia da vendere né come minaccia da temere, ma come fenomeno da capire, con il metodo con cui abbiamo capito la caduta dei gravi, la combustione o l’ereditarietà.

La tesi di questo articolo è semplice da enunciare e meno semplice da sostenere. L’AI è arrivata al punto in cui ha bisogno di diventare una scienza nel senso pieno del termine: un corpo di leggi, misure e previsioni verificabili. Non perché suoni più nobile, ma perché è l’unico modo per smettere di inseguirla.

Una tecnologia che funziona più di quanto la capiamo

C’è un fatto che chi lavora nel campo conosce bene e che fuori se ne parla poco: sappiamo costruire sistemi che funzionano molto meglio di quanto sappiamo spiegare perché funzionano. Sappiamo addestrare una rete con centinaia di miliardi di parametri, sappiamo che generalizza su dati che non ha mai visto, sappiamo che a una certa scala compaiono capacità che a scala inferiore non c’erano. Sul perché, le risposte sono parziali.

La teoria classica dell’apprendimento statistico ci aveva insegnato una regola prudente: un modello con troppi parametri rispetto ai dati impara a memoria il rumore e sbaglia sui casi nuovi. Le reti neurali moderne violano questa regola in modo sistematico. Nel 2017 un gruppo di ricercatori mostrò che le stesse reti capaci di generalizzare bene possono anche imparare a memoria etichette assegnate del tutto a caso. Il titolo del lavoro era già un programma: capire il deep learning richiede di ripensare la generalizzazione.

Nello stesso anno, durante la cerimonia di un premio a NeurIPS, Ali Rahimi disse davanti alla comunità che il machine learning era diventato una forma di alchimia. Non era un insulto. L’alchimia produceva risultati reali, metallurgia, farmaci, vetri, coloranti. Mancava una teoria che dicesse perché una ricetta funzionava e un’altra no. Il richiamo di Rahimi era questo: possiamo continuare così, ma prima o poi il conto arriva.

Quasi dieci anni dopo, il conto è arrivato. Questi sistemi sono entrati nei processi delle aziende, negli ospedali, negli uffici pubblici, nelle scuole. E la domanda «perché si comporta così?» non è più una curiosità accademica: è una questione di affidabilità, di responsabilità e, in molti casi, di diritto.

Che cosa intendiamo quando diciamo «scienza»

La parola va usata con cura, perché è facile abusarne. Chiamare scienza qualunque attività che usi formule e computer è un modo di svuotarla. Conviene allora dire con precisione che cosa servirebbe perché l’AI lo diventi davvero.

Una scienza, nel senso che interessa qui, ha almeno tre caratteristiche. La prima: individua regolarità stabili, che valgono al di là del singolo esperimento, del singolo modello, del singolo laboratorio. La seconda: queste regolarità consentono previsioni quantitative, cioè permettono di dire prima che cosa succederà e di quanto. La terza, quella che Popper ci ha insegnato a considerare decisiva: le previsioni possono essere smentite. Una teoria che spiega tutto a posteriori e non rischia mai nulla in anticipo non è una teoria, è un racconto.

Questo aiuta a distinguere tre attività che nel dibattito pubblico vengono spesso confuse. La tecnica sa fare: conosce la ricetta. L’ingegneria sa fare in modo affidabile e ripetibile, con margini e tolleranze. La scienza sa perché, e quindi sa dire che cosa succederà anche in condizioni che nessuno ha ancora provato. Oggi l’AI è un’ingegneria molto avanzata appoggiata su una scienza ancora giovane. Il punto non è declassare l’ingegneria, che ha prodotto risultati straordinari. Il punto è che l’ingegneria senza scienza, a un certo punto, smette di poter estrapolare.

Feynman lo diceva a modo suo: ciò che non so creare, non lo capisco. Nel caso dell’AI ci troviamo nella situazione rovesciata, ed è una situazione storicamente rara: sappiamo creare qualcosa che non capiamo fino in fondo.

Prima la macchina, poi la legge

Se la situazione sembra anomala, la storia della scienza suggerisce il contrario: è la norma. Molto spesso la tecnologia arriva prima della teoria che la spiega.

L’esempio più chiaro è la macchina a vapore. La macchina di Newcomen pompava acqua dalle miniere inglesi dal 1712. Watt la rese molto più efficiente negli anni Sessanta e Settanta del Settecento. Per decenni la rivoluzione industriale corse su macchine progettate con l’esperienza, il tentativo e l’errore, la bravura di artigiani straordinari. Solo nel 1824 Sadi Carnot pubblicò le sue Riflessioni sulla potenza motrice del fuoco, chiedendosi quale fosse il rendimento massimo possibile di una macchina termica, qualunque fosse il suo design. Da quella domanda, e dal lavoro di Clausius, Kelvin e altri nei decenni successivi, nacque la termodinamica.

Vale la pena notare che cosa cambiò. Prima di Carnot si sapeva migliorare una macchina. Dopo si sapeva quanto si poteva migliorarla al massimo, e perché. Il secondo principio non costruisce motori, ma dice quali motori non si potranno mai costruire. È esattamente il tipo di conoscenza che oggi manca all’AI: non come fare il prossimo modello, ma che cosa nessun modello potrà fare, a quali costi, con quali limiti.

Lo stesso schema si ritrova nel passaggio dall’alchimia alla chimica. Gli alchimisti avevano accumulato secoli di procedure efficaci. Quello che Lavoisier portò alla fine del Settecento non furono nuove ricette, ma la bilancia, la conservazione della massa, una nomenclatura rigorosa. In una parola: la misura. La chimica nacque quando si cominciò a pesare quello che prima ci si limitava a osservare.

L’AI si trova oggi in un punto simile. Abbiamo le macchine. Ci manca, in buona parte, il nostro Carnot.

I segnali che una scienza sta nascendo

Dire che manca una teoria completa non significa dire che non ci sia nulla. Negli ultimi anni sono emersi risultati che hanno esattamente la forma che ci si aspetta dagli inizi di una scienza: regolarità empiriche robuste, ancora in attesa di una spiegazione profonda. Ne cito quattro, perché ciascuno illumina un aspetto diverso.

Le leggi di scala. Nel 2020 un gruppo di ricerca mostrò che l’errore di un modello linguistico decresce secondo leggi di potenza abbastanza regolari al crescere dei parametri, dei dati e del calcolo impiegato. Due anni dopo il lavoro noto come «Chinchilla» corresse le proporzioni ottimali tra parametri e dati, mostrando che molti modelli erano stati addestrati su troppo pochi dati per la loro dimensione. Il dettaglio interessante è proprio la correzione: una legge che si può correggere è una legge che fa previsioni, e quindi una legge che può sbagliare. È il comportamento tipico di una scienza, non di una moda.

La doppia discesa. La curva classica diceva che, aumentando la complessità di un modello, l’errore sui dati nuovi prima scende e poi risale. Tra il 2019 e il 2020 diversi lavori hanno mostrato che, continuando ad aumentare la complessità oltre il punto in cui il modello riesce a interpolare perfettamente i dati, l’errore torna a scendere. È un fenomeno misurabile, riproducibile e in contraddizione con l’intuizione di partenza: il tipo di anomalia da cui le teorie nuove di solito nascono.

Il grokking. Nel 2022 alcuni ricercatori osservarono reti che, addestrate su piccoli problemi aritmetici, prima memorizzano gli esempi senza generalizzare e poi, molto più avanti nell’addestramento, passano quasi di colpo alla soluzione generale. L’apprendimento, in altre parole, non è sempre graduale: può avere transizioni simili a cambiamenti di fase. Il lessico della fisica statistica non è qui un vezzo, è uno strumento di lavoro.

L’interpretabilità meccanicistica. È forse il filone più vicino allo spirito di Lavoisier: aprire il modello e misurare che cosa succede dentro. Si sono identificati circuiti specifici, come le cosiddette induction heads che consentono a un modello di copiare schemi dal contesto. Si è studiata la sovrapposizione, cioè la tendenza delle reti a rappresentare più concetti di quanti siano i neuroni disponibili, e si sono sviluppati strumenti come gli autoencoder sparsi per separarli. Per chi, come me, lavora sulle architetture di attenzione, è il punto in cui la domanda «come fa?» smette di essere retorica e diventa sperimentale.

Nessuno di questi risultati è ancora una teoria. Sono, nel loro insieme, quello che erano le misure di Boyle sui gas prima della teoria cinetica: dati che chiedono una spiegazione e che vincolano le spiegazioni possibili.

Perché la questione non riguarda solo i laboratori

Si potrebbe pensare che sia una discussione per specialisti. Non lo è, e lo si vede bene in almeno tre ambiti.

La regolazione. L’AI Act europeo chiede, per i sistemi ad alto rischio, gestione del rischio, accuratezza, robustezza, trasparenza. Sono richieste ragionevoli. Ma accuratezza rispetto a che cosa, robustezza fino a che punto, trasparenza in quale senso? Senza grandezze misurabili e criteri condivisi, ogni norma tende a trasformarsi in un esercizio documentale: si produce carta, non garanzie. Una regolazione seria ha bisogno di una scienza seria sotto, esattamente come le norme sulla sicurezza dei ponti hanno bisogno della scienza delle costruzioni.

Le imprese. Chi introduce l’AI in un’azienda vera conosce bene il problema. Un prototipo funziona sulla demo e si comporta in modo diverso sui dati reali. Un modello aggiornato migliora su un compito e peggiora su un altro. La domanda che un responsabile tecnico dovrebbe poter porre, «che cosa succede se i dati cambiano del dieci per cento?», oggi trova risposta quasi solo per via empirica, caso per caso. Ogni progetto rifà da capo esperimenti che una teoria matura renderebbe superflui. Il costo di questa mancanza è enorme, ed è in gran parte invisibile.

La formazione e il dibattito pubblico. Si insegna l’AI per lo più come un insieme di strumenti: questa libreria, quel framework, quella tecnica di prompting. Sono conoscenze utili e a scadenza breve. Quello che dura sono i principi: perché un modello generalizza, che cosa significa che un sistema apprende, quali limiti sono strutturali e quali contingenti. Lo stesso vale per il dibattito pubblico, che oscilla tra entusiasmo e panico proprio perché gli manca un vocabolario per dire che cosa è possibile, che cosa è probabile e che cosa è escluso.

In tutti e tre i casi il problema è lo stesso. Senza leggi, ogni affermazione sull’AI vale quanto quella opposta, e vince chi la ripete con più convinzione.

Due obiezioni che vanno prese sul serio

Una tesi come questa ha obiezioni legittime, e sarebbe poco onesto ignorarle.

La prima: l’AI non è un fenomeno naturale ma un artefatto. Non ha senso cercarne le leggi come si cercano quelle dei pianeti, perché le regole le abbiamo scritte noi. La risposta è che abbiamo scritto il codice, non il comportamento. Conosciamo ogni riga dell’algoritmo di addestramento, e tuttavia quello che emerge da miliardi di aggiustamenti su miliardi di esempi non è scritto da nessuna parte. È un caso di sistema complesso costruito da regole semplici, come un gas fatto di molecole o un mercato fatto di scambi. Herbert Simon parlava di «scienze dell’artificiale» proprio per questo: anche ciò che costruiamo può avere proprietà che vanno scoperte, non solo progettate.

La seconda: è troppo presto. Il campo cambia ogni sei mesi, qualunque legge formulata oggi sarà superata dall’architettura di domani. È un rischio reale. Ma è anche l’argomento che si sarebbe potuto fare ai tempi di Carnot, quando le macchine cambiavano a ogni generazione. La forza di una buona legge sta proprio nel fatto che non dipende dal design particolare: il rendimento massimo di Carnot vale per ogni macchina termica, comprese quelle che nel 1824 nessuno immaginava. Se una regolarità dell’AI vale solo per un’architettura, non è ancora una legge. Il compito è cercare quelle che valgono per tutte.

C’è infine un’obiezione implicita, raramente detta: che parlare di scienza raffreddi l’entusiasmo, tolga un po’ di magia. È vero, ed è un bene. La chimica ha tolto magia all’alchimia e ci ha dato i farmaci di sintesi. Il prezzo è stato accettabile.

Cambiare la domanda

Se c’è una cosa che vorrei restasse da queste righe, è un cambio di domanda. Invece di chiederci «che cosa sa fare l’ultimo modello?», che è una domanda con una risposta valida per qualche mese, potremmo chiederci «che cosa vale per qualunque sistema che apprende dai dati?». È una domanda più lenta, meno spettacolare, e molto più produttiva.

È la domanda da cui sono partito scrivendo Le leggi fondamentali dell’Intelligenza Artificiale, il primo volume di un progetto più ampio, che non a caso porta come sottotitolo Verso una nuova scienza. Il libro non pretende di chiudere la questione: prova a raccogliere ciò che oggi si può dire con ragionevole solidità e a organizzarlo nella forma di principi, con i loro limiti dichiarati. Lo uso anche in aula, perché credo che chi entra oggi in questo campo abbia più bisogno di principi che di istruzioni per l’uso.

Ma il punto non è un libro. Il punto è un atteggiamento da diffondere: trattare l’intelligenza artificiale con la stessa serietà, la stessa pazienza e la stessa disponibilità a sbagliare con cui abbiamo trattato ogni altro grande fenomeno che abbiamo voluto capire. Misurare prima di proclamare. Prevedere prima di spiegare. Accettare di essere smentiti.

La macchina a vapore ha cambiato il mondo prima della termodinamica. Ma è stata la termodinamica a farci capire che cosa avevamo tra le mani, e fin dove potevamo spingerci. Con l’AI siamo più o meno lì. È ora di cominciare a parlarne come di una scienza.