Cognitive Logic · International Watch · AI Governance
Italiano · English
Una kill switch non è un interruttore: è una decisione che deve restare verificabile
La California accelera la costruzione di un sistema di verifica indipendente per l'intelligenza artificiale e apre formalmente alla possibilità di una funzione di arresto verificata per i modelli di frontiera.
Sintesi esecutiva
Il 18 settembre 2026 il governatore della California Gavin Newsom ha emanato l'Executive Order N-9-26, con direttive rivolte all'amministrazione statale per accelerare l'attuazione del nuovo sistema di supervisione indipendente dell'intelligenza artificiale.
La distinzione regolatoria è essenziale: l'accelerazione amministrativa è già una direttiva esecutiva. La presenza onsite dei verificatori, la verifica continuativa di una funzione di arresto dei frontier model e l'ampliamento della definizione degli incidenti critici sono invece oggetto di raccomandazioni per possibili ulteriori modifiche legislative.
1. Che cosa cambia immediatamente
L'ordine dirige la California Government Operations Agency ad accelerare l'implementazione del framework di supervisione indipendente previsto dalle nuove leggi statali.
2. Che cosa non è ancora un obbligo per i laboratori
L'Executive Order non introduce direttamente una kill switch obbligatoria per i laboratori di frontiera.
- verificatori indipendenti designati presenti onsite nei laboratori;
- verifica indipendente di safety framework, transparency report e risk assessment;
- una funzione di arresto dei frontier model verificata continuativamente;
- un'estensione della nozione di critical safety incident ai casi di perdita di controllo.
3. Perché la kill switch è un problema di governance
Un meccanismo di arresto può essere tecnicamente presente e, allo stesso tempo, essere scarsamente governato.
segnale → classificazione → soglia di arresto → autorità → decisione → attivazione → conferma tecnica → impatto → rischio residuo → verifica indipendente → autorizzazione alla ripresa
4. La lettura QEN
Per QEN Sovereign il controllo non dovrebbe essere rappresentato come variabile binaria — presente o assente — ma come una sequenza di decisioni, evidenze e responsabilità verificabili.
Il punto decisivo è identificare chi possiede l'autorità di trasformare un segnale tecnico in una decisione operativa, sulla base di quali evidenze, e chi può successivamente autorizzare il riavvio.
5. Operational Intervention & Restart Authority
Il caso suggerisce un'estensione dell'AI Governance Assessment verso una dimensione specifica dedicata all'autorità di intervento e riavvio.
- identità dell'autorità decisionale;
- trigger e soglie di intervento;
- provenance e integrità dell'evidenza;
- separazione dei ruoli;
- conferma tecnica dell'esecuzione;
- verifica indipendente;
- rischio residuo;
- criteri di restart;
- tracciabilità della decisione finale.
6. Collegamento con gli incidenti AI distribuiti
Il tema completa il problema già analizzato da International Watch: gli incidenti distribuiti possono emergere come una sequenza di anomalie che, considerate isolatamente, non superano una soglia critica.
Un incidente distribuito non è una somma di anomalie minori .
7. Limiti
Al 20 settembre 2026 restano da definire l'ambito preciso dei modelli interessati, i requisiti tecnici della funzione di arresto, la frequenza dei test, le modalità di accesso dei verificatori, le responsabilità operative e i criteri per autorizzare il riavvio.
Fonti
- Office of Governor Gavin Newsom — Executive order announcement
- Executive Order N-9-26 — signed text
- Office of Governor Gavin Newsom — firma di SB 813 e AB 1405, 9 settembre 2026
- The Verge — California AI kill-switch initiative
QEN context: QEN Sovereign · QEN Framework · International Watch