Demis Hassabis propone un framework per la Frontier AI: verso una nuova governance globale dell’intelligenza artificiale
Il CEO di Google DeepMind invita governi, comunità scientifica e industria a costruire standard internazionali, valutazioni indipendenti e istituzioni capaci di governare i sistemi di intelligenza artificiale più avanzati.
Con la pubblicazione di A framework for frontier AI and the dawning of a new age, Demis Hassabis interviene direttamente nel dibattito sulla governance dei sistemi di intelligenza artificiale più avanzati.
Il tema non riguarda il lancio di un nuovo modello o un semplice incremento delle prestazioni. La questione è più profonda: come preparare istituzioni, ricerca e società a sistemi capaci di raggiungere livelli di autonomia e competenza sempre maggiori.
La proposta assume particolare rilievo perché proviene dal CEO di Google DeepMind, una delle organizzazioni maggiormente impegnate nello sviluppo dell’intelligenza artificiale di frontiera.
Il dibattito internazionale si sta spostando dalla sola potenza dei modelli alla capacità di governarne sviluppo, impiego e conseguenze.
Che cosa si intende per Frontier AI
Con l’espressione Frontier AI si indicano generalmente i sistemi collocati alla frontiera delle capacità tecnologiche: modelli molto avanzati, potenzialmente generalisti e capaci di manifestare nuove competenze con il crescere della scala, dei dati e della capacità computazionale.
Questi sistemi possono generare benefici significativi nella ricerca scientifica, nella medicina, nell’energia, nell’istruzione e nella produttività. Allo stesso tempo, possono introdurre rischi nuovi o amplificare rischi già esistenti.
I pilastri della proposta
Il framework presentato da Hassabis richiama la necessità di costruire una governance capace di evolvere insieme alla tecnologia. Tra gli elementi centrali emergono:
- standard internazionali condivisi per valutare i sistemi più avanzati;
- test e valutazioni indipendenti delle capacità e dei rischi;
- monitoraggio continuo delle capacità emergenti;
- cooperazione tra governi, industria e ricerca;
- interventi proporzionati al rischio, aggiornabili con l’evoluzione dei modelli;
- sviluppo di istituzioni capaci di operare con competenza tecnica e legittimazione internazionale.
L’idea di fondo è che la velocità dell’innovazione richieda strutture di governance altrettanto dinamiche. Un sistema statico di regole rischierebbe infatti di diventare rapidamente obsoleto.
Dalla sicurezza del modello alla governance dell’ecosistema
La proposta concentra l’attenzione sulla valutazione delle capacità, sulla sicurezza e sul controllo dei modelli di frontiera. È un livello essenziale, ma non esaurisce la questione.
Un sistema di intelligenza artificiale non opera nel vuoto. Utilizza dati, fonti, istruzioni, strumenti, identità, autorizzazioni e infrastrutture decisionali. La qualità del suo comportamento dipende anche dalla qualità e dalla governabilità di questo ecosistema.
Diventa quindi necessario chiedere:
- quali conoscenze sono state utilizzate;
- da quali fonti provengono le evidenze;
- chi possiede l’autorità per introdurre una regola;
- come è stata costruita una determinata decisione;
- quali trasformazioni hanno subito dati e contenuti;
- se il processo può essere verificato e ricostruito nel tempo.
Queste domande conducono dalla sola AI Safety verso un campo più ampio: la Knowledge Governance.
Il punto di contatto con il QEN Framework
La proposta di Hassabis e l’architettura sviluppata da Cognitive Logic operano su livelli differenti ma complementari.
Il framework per la Frontier AI affronta soprattutto la valutazione e la supervisione dei modelli avanzati. Il QEN Framework introduce invece un’infrastruttura per rendere intelligibili e verificabili la conoscenza, le identità semantiche, le evidenze e i processi decisionali utilizzati dai sistemi di intelligenza artificiale.
| Framework Frontier AI | Contributo QEN |
|---|---|
| Standard internazionali | Regole di Knowledge Governance formalizzate e tracciabili |
| Valutazione delle capacità | Verifica delle evidenze e della provenienza della conoscenza |
| Safety evaluation | Decision Traceability e Semantic Decision Passport |
| Controllo dei rischi | Identità, autorità e responsabilità semantica |
| Audit del modello | Ricostruzione del processo conoscitivo e decisionale |
| Monitoraggio delle capacità emergenti | Governance continua delle fonti, delle regole e delle relazioni |
Un modello può superare un benchmark. La governance deve anche dimostrare quali conoscenze ha utilizzato, perché ha deciso e chi risponde del processo.
Perché la governance della conoscenza diventa necessaria
Nei sistemi tradizionali, dati, regole e responsabilità potevano essere circoscritti entro processi relativamente stabili. Nei sistemi agentici e di frontiera, le decisioni possono invece emergere dall’interazione tra molteplici componenti.
Un agente può consultare una fonte, utilizzare uno strumento, combinare informazioni, generare un piano e compiere un’azione. Governare soltanto il modello centrale non consente necessariamente di comprendere l’intera catena.
Servono pertanto meccanismi in grado di rappresentare:
- l’identità del sistema e degli attori coinvolti;
- l’autorità associata alle fonti e alle regole;
- la provenienza delle evidenze;
- le dipendenze tra conoscenze e decisioni;
- le trasformazioni operate durante il processo;
- la responsabilità umana e organizzativa.
È in questo passaggio che Explainable AI, Semantic Identity, Knowledge Graph e Decision Traceability diventano componenti infrastrutturali della governance.
Un cambiamento nel dibattito globale
Per molti anni il confronto sull’intelligenza artificiale si è concentrato prevalentemente sulle prestazioni: dimensione dei modelli, accuratezza, velocità, capacità generative e automazione.
Oggi il centro del dibattito si sta spostando. Le domande decisive riguardano sempre più la responsabilità, la verificabilità, la supervisione e la capacità delle istituzioni di comprendere sistemi tecnologici complessi.
La proposta di Hassabis è significativa proprio perché riconosce che la governance non può essere considerata un elemento successivo allo sviluppo. Deve essere progettata parallelamente alla tecnologia.
Una possibile infrastruttura internazionale
Un organismo internazionale dedicato alla Frontier AI dovrebbe possedere competenze scientifiche, indipendenza, accesso alle informazioni necessarie e capacità di aggiornare rapidamente i propri criteri di valutazione.
Dovrebbe inoltre evitare due rischi opposti: una regolazione troppo debole, incapace di prevenire impatti sistemici, e una regolazione rigida, incapace di adattarsi all’evoluzione tecnologica.
La costruzione di un simile sistema richiederà almeno quattro livelli:
- un livello scientifico per misurare capacità, limiti e rischi;
- un livello tecnico per rendere auditabili modelli e infrastrutture;
- un livello istituzionale per attribuire responsabilità e poteri;
- un livello conoscitivo per governare fonti, evidenze, identità e processi decisionali.
Evoluzione del dibattito
- 2024 — AI Safety Summit
- 2025 — AI Act europeo
- 2026 — Framework per la Frontier AI di Demis Hassabis
- Prossima fase — Knowledge Governance
Conclusioni
Il contributo di Demis Hassabis rappresenta un segnale importante nell’evoluzione del dibattito internazionale sulla Frontier AI.
La questione non è più soltanto quanto potenti potranno diventare i sistemi di intelligenza artificiale, ma quali istituzioni, standard e infrastrutture saranno in grado di accompagnarne lo sviluppo.
Valutazioni indipendenti, cooperazione internazionale e monitoraggio delle capacità costituiscono componenti essenziali. A esse dovrà però affiancarsi una governance capace di rendere intelligibili la conoscenza utilizzata, le evidenze prodotte e le decisioni assunte.
Per Cognitive Logic, questo passaggio può essere sintetizzato in un principio fondamentale: i dati devono essere intelligibili e la conoscenza deve poter essere governata.
La sicurezza della Frontier AI non dipenderà soltanto dalla capacità di controllare i modelli. Dipenderà anche dalla possibilità di comprendere e verificare l’intero sistema conoscitivo entro cui tali modelli operano.
Fonte primaria
Demis Hassabis
A framework for frontier AI and the dawning of a new age
Pubblicato su Substack.
Approfondimento
Questa analisi descrive la proposta internazionale. Una successiva pubblicazione approfondirà il contributo del QEN Framework in tema di Knowledge Governance, Semantic Identity e Decision Traceability.
Fonte principale
Demis Hassabis, A framework for frontier AI and the dawning of a new age .
L’articolo di International Watch distingue i contenuti attribuiti alla fonte dalle interpretazioni e dalle osservazioni sviluppate da Cognitive Logic.