Come la “Democratica” Unione Europea Appalta il Controllo del Pensiero. CounteR, RestMedia.

Marco Tosatti

Carissimi StilumCuriali, offriamo alla vostra attenzione questo articolo pubblicato da Rest, che ringraziamo per la cortesia. Buona lettura e condivisione.

§§§

Un’azienda di intelligenza artificiale di Barcellona ha ricevuto 769.250 euro di fondi UE per sviluppare una tecnologia che prevede quali cittadini potrebbero radicalizzarsi, prima che si verifichi un reato. Il progetto CounteR , attivo dal 1° maggio 2021 al 30 aprile 2024 con un budget totale di 6.994.812,50 euro e che coinvolge 19 partner in 11 Stati membri dell’UE, ha creato un’infrastruttura di sorveglianza automatizzata pubblicizzata come “Privacy-First”, analizzando social media, forum e messaggi crittografati per assegnare “punteggi di radicalizzazione” agli individui.

Insikt Intelligence SL , con sede in Calle Huelva 106, Barcellona (P. IVA: ESB98755127), ha guidato lo sviluppo tecnico. Il consorzio includeva polizie di Stato di Lettonia, Bulgaria, Francia, Romania, Germania e Portogallo, non come utenti finali, ma come co-progettisti che definivano cosa fosse considerato “ideologia estrema”. Partner accademici di nove università hanno fornito la legittimità. Appaltatori privati hanno etichettato i dati di addestramento. E la Commissione Europea ha classificato i dettagli.

Il sistema non attende azioni illegali. Valuta il pensiero. I documenti di sovvenzione stabiliscono esplicitamente l’obiettivo: prevedere “potenziali gruppi di autori potenzialmente vulnerabili a questo contenuto, e che potrebbero crearlo o diffonderlo in futuro”. Non criminali. Cittadini che potrebbero avere pensieri pericolosi .

The Money Trail e la rete istituzionale

Coordinate del software ASSIST (Romania). Insikt Intelligence (Spagna) riceve il secondo più grande stanziamento per lo sviluppo del “motore NLP”. Ma seguono i partner istituzionali: Polizia di Stato della Lettonia (SPLV) con l’ispettore capo Dace Landmane; Direzione generale della polizia nazionale bulgara (BGP) con Diana Todorova e Yordan Lazov; Direzione Generale della Sécurité Intérieure (DGSI) francese; Servizio rumeno di protezione e guardia (SPP); Accademia di polizia tedesca Hochschule für den Öffentlichen Dienst.

Queste agenzie non hanno acquistato software completo. I verbali della riunione di avvio del 19-20 maggio 2021 documentano “sessioni di specifiche” congiunte in cui la polizia ha definito i criteri di rilevamento. Incarico del Pacchetto di Lavoro 1: le forze dell’ordine determinano “Specifiche e architettura del sistema”. Pacchetto di Lavoro 8: la polizia esegue test pilota di addestramento ed esercitazioni di convalida. Hanno definito ciò che l’IA considera sospetto.

Il Comitato Consultivo per la Sicurezza esamina tutti i documenti contrassegnati come “Riservati, solo per i membri del consorzio” e gestisce le informazioni classificate UE . Sandra Cardoso, CTO e Responsabile della Protezione dei Dati di Insikt, siede in questo comitato insieme a funzionari della sicurezza rumeni e tedeschi. La classificazione garantisce che il controllo pubblico rimanga impossibile, anche quando il denaro dei contribuenti finanzia lo sviluppo.

La macchina di sorveglianza: architettura tecnica

Il motore NLP proprietario di Insikt elabora il testo su più piattaforme utilizzando il Deep Reinforcement Learning per “rilevare automaticamente nuovi contenuti e utenti radicali”. Il Transfer Learning sposta i modelli di rilevamento tra le lingue senza necessità di riaddestramento. L’analisi dei social network mappa le relazioni per “scoprire meccanismi di influenza” e “indebolirli nei gruppi radicali”.

L’attività 3.1 raccoglie i dati dai social media tramite API e scraper quando le piattaforme ne limitano l’accesso. L’attività 3.2 prende di mira i forum “noti come contenitori di tonnellate di incitamento all’odio”. L’attività 3.3 utilizza MediaCentric di CINI per l’acquisizione di dati dal Dark Web. Il consorzio ha assunto appaltatori con un budget di 125.000 euro per 18 mesi-persona per etichettare manualmente i dati di addestramento.

Ma la funzione critica non è la rimozione dei contenuti, ma la loro previsione. Il sistema assegna agli individui “punteggi di radicalizzazione” in cinque categorie: (1) condivisione di propaganda, (2) sostegno a ideologie estreme, (3) sostegno alla violenza, (4) invito all’azione, (5) minacce dirette. Le categorie da 1 a 3 descrivono il pensiero, non il crimine.

I documenti di sovvenzione specificano che l’analisi utilizza “tre dimensioni socio-psicologiche: livello di visione estrema (D1); livello di supporto alla violenza (D2); e analisi psicologica (D3).” D1 – “livello di visione estrema” – valuta l’ideologia. Non il discorso illegale. Non l’incitamento. Il punto di vista stesso diventa la metrica .

La rete operativa: la polizia come co-sviluppatore

La partecipazione della polizia non è stata una verifica passiva, ma un’integrazione operativa. Dace Landmane, ispettore capo psicologo presso la Polizia Criminale Centrale lettone, ha guidato il Task 8.4: “Creazione e simulazione di set di dati per casi d’uso pilota e formazione delle forze dell’ordine”. Diana Todorova della Polizia Nazionale bulgara ha gestito il coordinamento internazionale. La DGSI ha fornito i requisiti operativi antiterrorismo francesi.

La struttura del consorzio ha integrato le forze dell’ordine in ogni fase. Il Work Package 1 ha assegnato alla polizia il controllo su “Specifiche e architettura del sistema”. Il Work Package 8 ha condotto programmi pilota in cui le agenzie hanno testato l’accuratezza del rilevamento rispetto ai propri casi. Gli accordi del consorzio mostrano che le agenzie hanno fornito set di dati anonimizzati dalle indagini, il che significa che i modelli sono stati addestrati con dati di individui reali.

Le università hanno fornito copertura accademica. Marco Lombardi dell’Università Cattolica, membro della “Commissione governativa per il contrasto alla radicalizzazione” italiana, ha contribuito con framework sociologici. L’INRIA ha sviluppato un’infrastruttura di gestione dei dati. Ma la supervisione etica è rimasta interna: le stesse istituzioni che hanno sviluppato la tecnologia ne hanno valutato la conformità.

Il ciclo di feedback è strutturale: la polizia definisce le minacce → gli appaltatori etichettano i dati → gli algoritmi apprendono i pattern → la polizia convalida i risultati → il sistema si perfeziona. In nessun momento la revisione esterna interrompe il processo. Il Comitato consultivo per la sicurezza, che si occupa di prevenire gli “usi impropri”, è composto da membri del consorzio con interessi finanziari nel successo.

Commercializzazione e vuoto di governance

Insikt Intelligence ha aderito a CountereR con prodotti già esistenti. INVISO, la sua “piattaforma antiterrorismo”, offriva già “rilevamento e previsione delle minacce” tramite licenze software e abbonamenti API. I documenti di concessione affermano esplicitamente: “Il prodotto è monetizzato tramite una licenza software con servizi di personalizzazione opzionali che ci forniscono ulteriori ricavi dalle vendite”.

I finanziamenti dell’UE hanno accelerato lo sviluppo. Ma la proprietà intellettuale è rimasta privata. L’ accordo di consorzio protegge il “motore NLP basato sul Deep Learning di Insikt… limitato ai soli partner del progetto… I partner non avranno accesso al codice sorgente”. Persino gli altri membri del consorzio non hanno potuto verificare come gli algoritmi classificano le “visioni estreme”.

Nell’agosto 2024, Logically, con sede a Londra, ha acquisito Insikt AI. I materiali stampa hanno sottolineato “modelli di apprendimento automatico specifici per dominio” e “capacità avanzate di analisi dei social network”. La co-fondatrice Jennifer Woodard è diventata vicepresidente dell’Intelligenza Artificiale. La tecnologia sviluppata con fondi pubblici dell’UE ora serve un’azienda privata che vende a clienti non specificati.

Nessun meccanismo informa i cittadini se vengono valutati. Nessun audit indipendente ne verifica l’accuratezza. L’ accordo di sovvenzione contiene clausole antifrode, ma non richiede di misurare i falsi positivi, ovvero individui segnalati come “potenzialmente vulnerabili” che non si radicalizzano mai. Le valutazioni d’impatto sulla privacy sono state condotte dai membri del consorzio, non da revisori esterni. Il sistema opera in uno spazio classificato in cui la responsabilità pubblica non può strutturalmente raggiungere.

I documenti fanno riferimento all’integrazione con TRIVALENT, RED-Alert e PROPHETS, altri progetti di sorveglianza finanziati dall’UE. Ognuno di essi si basa sul precedente e normalizza ulteriormente il monitoraggio.

Conclusione

CountereR non è un’anomalia, è architettura. Il progetto da 6,99 milioni di euro ha creato un’infrastruttura in cui la polizia definisce l’ideologia, gli algoritmi giudicano il pensiero e le aziende traggono profitto dal punteggio predittivo dei cittadini che non hanno commesso alcun reato. La supervisione democratica è stata progettata attraverso la classificazione di sicurezza. Un audit indipendente è strutturalmente impossibile quando il codice sorgente rimane proprietario e i set di dati sono classificati.

Il sistema non previene il terrorismo: non esistono prove che lo faccia. Normalizza la governance anticipatoria: il presupposto che gli stati debbano valutare algoritmicamente le convinzioni politiche e agire prima che si verifichi un comportamento. Quando la tecnologia di Insikt è passata a Logically dopo l’acquisizione, le capacità sviluppate con i fondi dei contribuenti sono diventate beni privati vendibili a qualsiasi cliente.

Questa è una cattura infrastrutturale. La polizia ha ottenuto strumenti operativi. Gli accademici hanno ottenuto pubblicazioni. Le aziende hanno ottenuto prodotti. I cittadini hanno ottenuto una sorveglianza che non possono vedere, contestare o evitare. L’UE l’ha pubblicizzata come “Privacy-First”, mentre sviluppava un monitoraggio ideologico di massa che assegnava punteggi di radicalizzazione in base ai discorsi online.

La macchina è in funzione. Ha i tuoi dati. Da qualche parte, in un database a cui non puoi accedere, ti ha assegnato un punteggio. Non per quello che hai fatto. Per quello che un algoritmo prevede che tu possa pensare.

§§§

Aiutate Stilum Curiae

IBAN: IT79N0 200805319000400690898

BIC/SWIFT: UNCRITM1E35

ATTENZIONE:

L’IBAN INDICATO NELLA FOTO A DESTRA E’ OBSOLETO.

QUELLO GIUSTO E’:

IBAN: IT79N0 200805319000400690898

***