Dai contratti pubblici europei alle piattaforme di data intelligence, l’adozione di sistemi come Palantir sta ridefinendo il rapporto tra sicurezza, efficienza e diritti.
Come la tecnologia dei dati sta trasformando il potere pubblico e ridefinendo il confine tra sicurezza e diritti
Quando la tecnologia entra nei processi decisionali dello Stato, smette di essere neutra.
Negli ultimi anni il nome Palantir Technologies è diventato sinonimo di qualcosa che va oltre il software. Non è solo una piattaforma di integrazione dati. È diventato un simbolo del nuovo equilibrio o squilibrio tra potere pubblico, tecnologia e diritti individuali. Non siamo di fronte a una distopia cinematografica, ma dentro una trasformazione silenziosa già in atto.
La vera questione non è se questi sistemi funzionino bene.
La questione è che cosa diventano quando vengono usati per governare persone vulnerabili.
Le piattaforme sviluppate da Palantir consentono di integrare grandi quantità di dati eterogenei — amministrativi, sanitari, logistici, investigativi e di trasformarli in strumenti operativi. Questo, in sé, non è un problema: ogni grande organizzazione ha bisogno di visione, sintesi, correlazione. Il punto cambia quando il cliente non è un’azienda privata ma un ministero della difesa, un’agenzia per l’immigrazione, un servizio di intelligence, un sistema sanitario pubblico o una forza di polizia.
In quel momento, il software non è più solo tecnologia.
Diventa infrastruttura decisionale dello Stato.
E quando lo Stato usa sistemi algoritmici per orientare scelte che incidono sui diritti fondamentali, siamo già dentro un terreno politico.
Attribuire a un’azienda la responsabilità morale delle politiche pubbliche sarebbe un errore. Palantir non scrive leggi, non emette decreti, non arresta persone. Ma rende possibile analizzare milioni di dati in tempo reale, costruire relazioni invisibili all’occhio umano, stabilire priorità operative e accelerare processi decisionali. Il problema non è l’esistenza di queste capacità, ma la loro opacità quando incidono sulle persone più fragili.
Migranti, persone in povertà, minoranze etniche, soggetti dipendenti da sussidi pubblici, pazienti all’interno di sistemi sanitari complessi. Hanno una caratteristica comune: hanno meno strumenti per difendersi da decisioni opache.
Un sistema di data intelligence non “condanna”, ma classifica, attribuisce priorità, suggerisce interventi. Nella macchina amministrativa dello Stato, però, la priorità è già una forma di decisione. Chi è in cima alla lista viene controllato prima, chi è etichettato come “rischio” viene osservato di più, chi entra in un circuito di attenzione amministrativa fatica a uscirne. Anche in assenza di discriminazione esplicita, l’effetto può diventare strutturale.
Non servono dati sensibili per costruire un profilo. Indirizzo, frequentazioni, pattern di accesso ai servizi pubblici, movimenti finanziari aggregati sono sufficienti. Il sistema non conosce la persona, ma può dedurne il contesto. E quando il contesto diventa criterio operativo, la distinzione tra correlazione e giudizio si assottiglia.
Molti sistemi non prendono decisioni finali. Ordinano. Ma ordinare significa stabilire chi viene prima. In un sistema amministrativo o repressivo, la priorità determina chi riceve un controllo, chi subisce un’ispezione, chi viene escluso da un beneficio, chi viene considerato “anomalo”. L’efficienza organizzativa si traduce così in una nuova forma di potere selettivo.
Quando una decisione è supportata da un algoritmo, la responsabilità si distribuisce tra chi applica, chi approva, chi sviluppa e il sistema che suggerisce. In questo passaggio si crea un vuoto sottile ma pericoloso. Chi risponde dell’errore, del bias, dell’effetto cumulativo su una categoria fragile? La frammentazione della responsabilità è uno dei rischi meno visibili ma più profondi.
È importante dirlo chiaramente: i governi adottano questi sistemi per ragioni comprensibili. Il contrasto alle frodi, la prevenzione del terrorismo, la gestione efficiente delle risorse, la pianificazione sanitaria, il controllo della spesa pubblica sono obiettivi legittimi. Ma la domanda democratica non è se l’obiettivo sia legittimo. È se i mezzi siano proporzionati, trasparenti e contestabili.
Quando un cittadino con strumenti legali adeguati subisce un errore, può reagire. Quando una persona fragile subisce un errore, spesso subisce soltanto l’effetto.
Palantir non crea il potere. Lo rende più efficiente. E proprio per questo diventa uno specchio. Se lo Stato è trasparente, il sistema sarà uno strumento di governo moderno. Se lo Stato è opaco, il sistema amplificherà l’opacità. Se lo Stato è orientato alla tutela, la tecnologia potrà rafforzarla. Se lo Stato privilegia il controllo, la tecnologia accelererà il controllo.
La tecnologia non sostituisce la politica.
La rende più veloce.
In una democrazia, il potere dovrebbe essere visibile, spiegabile, contestabile, responsabilizzabile. Quando un algoritmo entra nei processi decisionali pubblici, questi criteri diventano più difficili da garantire. Non perché l’algoritmo sia “malvagio”, ma perché la sua complessità rende meno immediato il controllo. Il rischio non è la macchina che prende il potere, ma il potere che diventa meno visibile.
La questione non è se questi sistemi siano sofisticati. Lo sono. La questione è se siamo pronti ad accettare ciò che rendono possibile. Perché quando una decisione che incide sulla vita di una persona fragile viene mediata da un sistema algoritmico, non siamo più in un terreno puramente tecnico.
Siamo dentro una scelta politica.
E ogni scelta politica, in una democrazia, dovrebbe essere discussa alla luce del sole.