La collaborazione tra intelligenza artificiale e spionaggio è diventata una realtà concreta: la CIA e la DIA stanno dispiegando agenti di IA capaci di redigere giudizi chiave. Questa non è una semplice filtrazione o un progetto di laboratorio, ma una strategia annunciata pubblicamente.

La direzione tecnica senza supervisione analitica

In aprile, il subdirettore della CIA, Michael Ellis, ha dichiarato che gli analisti lavoreranno a fianco di colleghi di IA in grado di redigere e verificare giudizi chiave. In agosto, il capo di IA della DIA, il generale di divisione Robert Kinney, ha fissato la fase successiva: "costruire agenti e poi agenti con agenti". Tuttavia, la direzione tecnica è stata stabilita senza una chiara definizione della supervisione analitica.

Problemi di orchestrazione

La sfida principale non risiede nella costruzione di agenti competenti, ma nella loro orchestrazione. Decidere cosa fa ogni agente, come verificare il loro lavoro e dove interviene un umano è un problema di mestiere, non di ingegneria. Questo processo è noto come orchestrazione e richiede una gestione attenta per evitare errori e perdita di fonti.

Rischi e sfide

Gli errori possono accumularsi e sembrare conclusioni alla fine della catena. Inoltre, gli agenti costruiti su modelli simili tendono a confermarsi a vicenda, creando un consenso che può portare a pensieri di gruppo. La responsabilità si diffonde e la tracciabilità delle fonti diventa un problema critico. Kinney ha ammesso che nessuno sa ancora cosa sia un buon mestiere quando gli agenti lavorano con agenti.

La velocità senza disciplina

La velocità con cui gli agenti di IA operano può essere un rischio se non è accompagnata da disciplina. La velocità può ereditare dati vecchi e convertirli in certezze firmate. La ICD 203 stabilisce già i criteri per un'analisi onesta: fonti identificate, incertezza espressa, visioni alternative e argomentazione logica.

Esempi pratici

Il Maven Smart System ha aiutato le forze statunitensi a colpire più di 13.000 obiettivi in 38 giorni durante la campagna in Iran di quest'anno. Tuttavia, ci sono stati anche avvertimenti: informazioni pubbliche collegano un attacco del 28 febbraio contro una scuola, con oltre 170 morti, a intelligenze vecchie generate da IA.

Lezioni apprese e future direzioni

La storia ci insegna che la mancanza di tracciabilità delle fonti può portare a gravi errori, come nel caso delle armi di distruzione di massa in Iraq. La differenza ora è la scala: un agente di IA non tradisce, eredita l'errore e lo redige meglio.

Il ruolo dell'Europa

I servizi europei come DGSE, BND e CNI dipendono dal paracadute tecnico statunitense. La loro interoperabilità con Washington è a rischio se la capa di orchestrazione è opaca. Tra i potenziali attaccanti, ci sono gruppi come APT28, APT29 e Volt Typhoon, che hanno preso di mira la catena di approvvigionamento.

La necessità di standard

È essenziale che l'ODNI e l'ufficio del sottosegretario dell'intelligence e della sicurezza del Dipartimento della Guerra emettano standard comunitari per l'analisi multi-agente. Questi standard dovrebbero definire cosa registrare, come viaggia il dissenso e dove la firma umana è obbligatoria. Le regole devono essere scritte prima di un disastro, non dopo.