Intelligenze opache: perché non sappiamo come "ragionano" le AI (e cosa stiamo facendo)
Costruiamo modelli che funzionano senza poter spiegare del tutto perché. La nuova scienza dell'interpretabilità meccanicistica prova ad aprire la scatola nera — un neurone alla volta.
PM
Di Pierpaolo Marturano13 giugno 2026 · 3 min di lettura · Aggiornato il 19 giugno 2026
Interpretabilità dei modelli di intelligenza artificiale
C'è un fatto scomodo al centro dell'intelligenza artificiale moderna: costruiamo sistemi che funzionano straordinariamente bene senza essere in grado di spiegare del tutto perché. Un grande modello linguistico non è programmato con regole esplicite; è un intreccio di miliardi di parametri il cui comportamento emerge dall'addestramento. Quando produce una risposta giusta — o un errore — la catena causale che l'ha generata ci è, in larga parte, opaca. È il problema della scatola nera.
La conseguenza è paradossale. Disponiamo di artefatti che usiamo ogni giorno e di cui misuriamo con precisione le prestazioni, ma di cui ignoriamo il funzionamento interno con la stessa precisione. Sappiamo cosa fanno; non sappiamo davvero come lo fanno. Colmare questa distanza è la posta in gioco.
Aprire la scatola, un neurone alla volta
Una giovane disciplina, l'interpretabilità meccanicistica, prova a fare per le reti neurali ciò che la biologia fa per gli organismi: capire i meccanismi interni, non solo osservare il comportamento. Il problema è che i "neuroni" artificiali sono polisemantici: lo stesso neurone si attiva per concetti scollegati, e questo rende illeggibile la rete.
Il laboratorio Anthropic ha mostrato che usando tecniche di dictionary learning (sparse autoencoder) è possibile scomporre questa confusione in feature interpretabili — unità che corrispondono a concetti precisi. Dal lavoro "Towards Monosemanticity" (ottobre 2023) si è passati, nel maggio 2024, a estrarne milioni da Claude 3 Sonnet, fino alla dimostrazione pubblica del "Golden Gate Claude": amplificando artificialmente la feature del Golden Gate Bridge, il modello iniziava a parlarne in modo ossessivo (Anthropic). È la prova, quasi teatrale, che dietro l'opacità c'è una struttura leggibile, se si ha lo strumento giusto per leggerla.
Dai concetti ai circuiti
Identificare i concetti è solo metà dell'opera: bisogna capire come si concatenano. Nel marzo 2025 Anthropic ha pubblicato il lavoro sul circuit tracing — "On the Biology of a Large Language Model" — ricostruendo i percorsi di calcolo interni e mostrando, ad esempio, che il modello a volte pianifica in anticipo (sceglie la rima finale di un verso prima di scriverlo) o ragiona per passi intermedi non visibili nell'output (Anthropic).
Il salto concettuale è importante: dai singoli concetti si passa ai meccanismi che li collegano, come si passa dall'anatomia di un organo alla fisiologia di un processo. Vedere un modello scegliere la rima prima di comporre il verso significa scoprire che, sotto la superficie di una previsione parola-per-parola, opera qualcosa di più articolato di quanto l'output lasci intuire.
L'opacità non è una caratteristica accettabile, è un problema da risolvere.
Perché non è un esercizio accademico
Capire i meccanismi interni non è curiosità: è sicurezza. Se non sappiamo come un modello arriva a una decisione, non possiamo accorgerci quando inganna, discrimina o "allucina" con sicurezza. È la ragione per cui Dario Amodei, CEO di Anthropic, ha parlato apertamente di "urgenza dell'interpretabilità" (aprile 2025), e per cui le norme spingono verso la trasparenza: gli obblighi dell'EU AI Act in materia maturano da agosto 2026.
Si delinea così una corsa tra due velocità: quella con cui rendiamo i modelli più capaci e quella con cui impariamo a capirli. Finché la seconda resta indietro, ogni nuova competenza è anche un nuovo angolo cieco — e gli angoli ciechi, in un sistema a cui affidiamo decisioni, sono esattamente ciò che non possiamo permetterci.
La cronologia Ottobre 2023: "Towards Monosemanticity". Maggio 2024: estrazione di milioni di feature da Claude 3 Sonnet e demo "Golden Gate Claude". Marzo 2025: "On the Biology of a Large Language Model" sul circuit tracing. Aprile 2025: Dario Amodei parla di "urgenza dell'interpretabilità". Agosto 2026: maturano gli obblighi dell'EU AI Act.
Resta una dose di umiltà necessaria: oggi sappiamo leggere frammenti di una mente artificiale, non l'intera mente. Ma la direzione è chiara. Affidare decisioni importanti a sistemi che non comprendiamo non è una posizione difendibile a lungo: l'opacità non è una caratteristica accettabile, è un problema da risolvere.
There is an uncomfortable fact at the heart of modern artificial intelligence: we build systems that work extraordinarily well without being able to fully explain why. A large language model is not programmed with explicit rules; it is a tangle of billions of parameters whose behavior emerges from training. When it produces a correct answer — or an error — the causal chain that generated it is, largely, opaque to us. This is the black-box problem.
The consequence is paradoxical. We hold artifacts we use every day and whose performance we measure precisely, yet whose inner workings we cannot describe with the same precision. We know what they do; we do not really know how they do it. Closing that gap is what is at stake.
Opening the box, one neuron at a time
A young discipline, mechanistic interpretability, tries to do for neural networks what biology does for organisms: understand the internal mechanisms, not just observe behavior. The problem is that artificial "neurons" are polysemantic: the same neuron fires for unrelated concepts, which makes the network unreadable.
The Anthropic lab showed that using dictionary learning techniques (sparse autoencoders) it is possible to decompose this confusion into interpretable features — units corresponding to precise concepts. From "Towards Monosemanticity" (October 2023), the work scaled, in May 2024, to extracting millions of them from Claude 3 Sonnet, up to the public "Golden Gate Claude" demo: by artificially amplifying the Golden Gate Bridge feature, the model began to talk about it obsessively (Anthropic). It is the proof, almost theatrical, that behind the opacity lies a readable structure — provided you have the right instrument to read it.
From concepts to circuits
Identifying concepts is only half the job: you must understand how they chain together. In March 2025 Anthropic published its work on circuit tracing — "On the Biology of a Large Language Model" — reconstructing internal computation paths and showing, for example, that the model sometimes plans ahead (choosing a line's final rhyme before writing it) or reasons in intermediate steps not visible in the output (Anthropic).
The conceptual leap matters: from individual concepts we move to the mechanisms that link them, as one moves from the anatomy of an organ to the physiology of a process. Watching a model choose a rhyme before composing the line means discovering that, beneath the surface of a word-by-word prediction, something more articulated is at work than the output suggests.
Opacity is not an acceptable feature, it is a problem to be solved.
Why this is not an academic exercise
Understanding internal mechanisms is not curiosity: it is safety. If we don't know how a model reaches a decision, we cannot notice when it deceives, discriminates or "hallucinates" with confidence. That is why Dario Amodei, Anthropic's CEO, spoke openly of the "urgency of interpretability" (April 2025), and why regulation pushes toward transparency: the EU AI Act's relevant obligations mature from August 2026.
A race between two speeds takes shape: the speed at which we make models more capable, and the speed at which we learn to understand them. As long as the second lags behind, every new capability is also a new blind spot — and blind spots, in a system we entrust with decisions, are exactly what we cannot afford.
Timeline October 2023: "Towards Monosemanticity". May 2024: extraction of millions of features from Claude 3 Sonnet and the "Golden Gate Claude" demo. March 2025: "On the Biology of a Large Language Model" on circuit tracing. April 2025: Dario Amodei speaks of the "urgency of interpretability". August 2026: the EU AI Act's obligations mature.
A necessary dose of humility remains: today we can read fragments of an artificial mind, not the whole mind. But the direction is clear. Entrusting important decisions to systems we do not understand is not a defensible position for long: opacity is not an acceptable feature, it is a problem to be solved.
