Evoluzione tecnologica e trasparenza nei procedimenti “algoritmici” [Cons stato, sez. iv, 8 aprile 2019, n. 2270]

di Redazione -

CONSIGLIO DI STATO; sezione IV; sentenza 8 aprile 2019, n. 2270; Pres. Carbone; Est. Lamberti; M. A. e altri (Avv. Ursini) c. Ministero dell’Istruzione dell’Università e della Ricerca (Avvocatura Generale dello Stato).

La decisione amministrativa automatizzata, assunta mediante l’utilizzo di un algoritmo, impone che: a) l’algoritmo e le “regole” in esso espresse siano “conoscibili” secondo una declinazione rafforzata del principio di trasparenza, anche se in un linguaggio differente da quello giuridico; b) la motivazione del provvedimento sia “traslata” nell’algoritmo; c) regola algoritmica sia soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo.

leggila sul fascicolo 2 con commento di Stefano Crisci

(La sentenza tratta il delicato problema della automazione delle procedure amministrative, ponendo una pietra miliare sulla interpretazione e declinazione dei provvedimenti adottati mediante le stesse e sui conseguenti profili di responsabilità amministrativa. L’affidamento di processi decisionali ad un “algoritmo” comporta che, il risultato derivante da tale applicazione debba essere considerato un “atto amministrativo informatico” con conseguente rispetto dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa, con conseguenti obblighi di trasparenza e conoscibilità.

The judgment deals with the issue of the administrative procedures automation, setting a milestone on the interpretation and declination of the measures adopted through them and on the consequent profiles of administrative responsibility. The assignment of decision-making processes to an “algorithm” means that the result deriving from this application must be considered as an “administrative IT act” with the relative compliance for the principles which constitute our system and govern the administrative activity together with the relevant obligation of transparency and publicity)

SENTENZA
…Omissis…
7 – I ricorrenti hanno lamentato che l’intera procedura di assunzioni era stata gestita da un sistema informatico per mezzo di un algoritmo (il cui funzionamento sarebbe rimasto sconosciuto) ed era sfociata in provvedimenti privi di alcuna motivazione, senza l’individuazione di un funzionario dell’amministrazione che abbia valutato le singole situazioni ed abbia correttamente esternato le relative determinazioni provvedimentali.
Secondo gli appellanti, tale algoritmo avrebbe disposto i trasferimenti in una provincia piuttosto che in un’altra, in un posto di sostegno piuttosto che in un posto comune, senza tener conto delle preferenze indicate nelle rispettive domande di trasferimento, senza alcuna motivazione e in difetto della benché minima trasparenza.
A dimostrazione di ciò gli appellanti hanno rappresentato che a soggetti meglio posizionati in graduatoria, e destinatari di proposta di assunzione a tempo indeterminato in fase “B”, erano state assegnate, ai fini dell’individuazione delle sedi di servizio, province lontane da quella di residenza.
Ad ulteriore dimostrazione dell’irrazionalità degli esiti della procedura, gli appellanti hanno dedotto che i docenti immessi in ruolo in fase B, non solo erano stati destinati su posti mai richiesti, ma si erano visti sopravanzare per le assunzioni a tempo indeterminato in fase “C” da docenti che li seguivano in graduatoria con un punteggio inferiore, i quali, a distanza di poche settimane, hanno beneficiato di posti nella provincia di residenza e nella disciplina e nell’ordine di scuola espressi nella domanda di assunzione.
8 – Il tenore dei motivi di ricorso e la peculiarità della controversia in esame impongono, in via preliminare, le considerazioni di seguito esposte.
In generale, non può essere messo in discussione che un più elevato livello di digitalizzazione dell’amministrazione pubblica sia fondamentale per migliorare la qualità dei servizi resi ai cittadini e agli utenti.
Il Codice dell’amministrazione digitale rappresenta un approdo decisivo in tale direzione. I diversi interventi di riforma dell’amministrazione susseguitisi nel corso degli ultimi decenni, fino alla legge n. 124 del 2015, sono indirizzati a tal fine; nella medesima direzione sono diretti gli impulsi che provengono dall’ordinamento comunitario (vedasi tra l’altro Comunicazione della Commissione sull’Agenda digitale europea).
Anche la dottrina si è interrogata sulle opportunità fornite dalle nuove tecnologie, elaborando la nozione di “e-government”, ovvero l’introduzione di modelli decisionali e di forme gestionali innovative, che si avvalgano della tecnologie informatiche ed elettroniche.
Con tale termine, in estrema sintesi, si vuole indicare il processo di informatizzazione della pubblica amministrazione che, per usare le parole della Comunicazione del 26 settembre 2003 della Commissione Europea, può essere definito come “l’uso delle tecnologie dell’informazione e della comunicazione nelle pubbliche amministrazioni, coniugato a modifiche organizzative ed all’acquisizione di nuove competenze al fine di migliorare i servizi pubblici ed i processi democratici e di rafforzare il sostegno alle politiche pubbliche” (Comunicazione della Commissione Europea del 26 settembre 2003 «Il ruolo dell’e-governement per il futuro dell’Europa»).
8.1 – Per quanto attiene più strettamente all’oggetto del presente giudizio, devono sottolinearsi gli indiscutibili vantaggi derivanti dalla automazione del processo decisionale dell’amministrazione mediante l’utilizzo di una procedura digitale ed attraverso un “algoritmo” – ovvero di una sequenza ordinata di operazioni di calcolo che in via informatica sia in grado di valutare e graduare una moltitudine di domande.
L’utilità di tale modalità operativa di gestione dell’interesse pubblico è particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l’elaborazione di ingenti quantità di istanze e caratterizzate dall’acquisizione di dati certi ed oggettivamente comprovabili e dall’assenza di ogni apprezzamento discrezionale.
Ciò è, invero, conforme ai canoni di efficienza ed economicità dell’azione amministrativa (art. 1 l. 241/90), i quali, secondo il principio costituzionale di buon andamento dell’azione amministrativa (art. 97 Cost.), impongono all’amministrazione il conseguimento dei propri fini con il minor dispendio di mezzi e risorse e attraverso lo snellimento e l’accelerazione dell’iter procedimentale.
Per questa ragione, in tali casi – ivi compreso quello di specie, relativo ad una procedura di assegnazione di sedi in base a criteri oggettivi – l’utilizzo di una procedura informatica che conduca direttamente alla decisione finale non deve essere stigmatizzata, ma anzi, in linea di massima, incoraggiata: essa comporta infatti numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata.
In altre parole, l’assenza di intervento umano in un’attività di mera classificazione automatica di istanze numerose, secondo regole predeterminate (che sono, queste sì, elaborate dall’uomo), e l’affidamento di tale attività a un efficiente elaboratore elettronico appaiono come doverose declinazioni dell’art. 97 Cost. coerenti con l’attuale evoluzione tecnologica.
8.2 – L’utilizzo di procedure “robotizzate” non può, tuttavia, essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa.
Difatti, la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva. Questa regola algoritmica, quindi:
possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.;
non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;
vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);
deve contemplare la possibilità che – come è stato autorevolmente affermato – sia il giudice a “dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti”.
In definitiva, dunque, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico”.
Ciò comporta, ad avviso del collegio, un duplice ordine di conseguenze.
8.3. – In primo luogo, come già messo in luce dalla dottrina più autorevole, il meccanismo attraverso il quale si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico.
Tale conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti. Ciò al fine di poter verificare che gli esiti del procedimento robotizzato siano conformi alle prescrizioni e alle finalità stabilite dalla legge o dalla stessa amministrazione a monte di tale procedimento e affinché siano chiare – e conseguentemente sindacabili – le modalità e le regole in base alle quali esso è stato impostato.
In altri termini, la “caratterizzazione multidisciplinare” dell’algoritmo (costruzione che certo non richiede solo competenze giuridiche, ma tecniche, informatiche, statistiche, amministrative) non esime dalla necessità che la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice.
8.4 – In secondo luogo, la regola algoritmica deve essere non solo conoscibile in sé, ma anche soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo.
La suddetta esigenza risponde infatti all’irrinunciabile necessità di poter sindacare come il potere sia stato concretamente esercitato, ponendosi in ultima analisi come declinazione diretta del diritto di difesa del cittadino, al quale non può essere precluso di conoscere le modalità (anche se automatizzate) con le quali è stata in concreto assunta una decisione destinata a ripercuotersi sulla sua sfera giuridica.
Solo in questo modo è possibile svolgere, anche in sede giurisdizionale, una valutazione piena della legittimità della decisione; valutazione che, anche se si è al cospetto di una scelta assunta attraverso una procedura informatica, non può che essere effettiva e di portata analoga a quella che il giudice esercita sull’esercizio del potere con modalità tradizionali.
In questo senso, la decisione amministrativa automatizzata impone al giudice di valutare in primo luogo la correttezza del processo informatico in tutte le sue componenti: dalla sua costruzione, all’inserimento dei dati, alla loro validità, alla loro gestione. Da qui, come si è detto, si conferma la necessità di assicurare che quel processo, a livello amministrativo, avvenga in maniera trasparente, attraverso la conoscibilità dei dati immessi e dell’algoritmo medesimo.
In secondo luogo, conseguente al primo, il giudice deve poter sindacare la stessa logicità e ragionevolezza della decisione amministrativa robotizzata, ovvero della “regola” che governa l’algoritmo, di cui si è ampiamente detto.
9 – Alla luce delle riflessioni che precedono, l’appello deve trovare accoglimento, sussistendo nel caso di specie la violazione dei principi di imparzialità, pubblicità e trasparenza, poiché non è dato comprendere per quale ragione le legittime aspettative di soggetti collocati in una determinata posizione in graduatoria siano andate deluse.
Infatti, l’impossibilità di comprendere le modalità con le quali, attraverso il citato algoritmo, siano stati assegnati i posti disponibili, costituisce di per sé un vizio tale da inficiare la procedura.
Non solo, gli esiti della stessa paiono effettivamente connotati dall’illogicità ed irrazionalità denunciate dalle appellanti, essendosi verificate situazioni paradossali per cui docenti con svariati anni di servizio si sono visti assegnare degli ambiti territoriali mai richiesti e situati a centinaia di chilometri di distanza dalla propria città di residenza, mentre altri docenti, con minori titoli e minor anzianità di servizio, hanno ottenuto proprio le sedi dagli stessi richieste.
A questo riguardo, l’art. 1, comma 100, della legge n. 107/15, prevede che: “i soggetti interessati dalle fasi di cui al comma 98, lettere b) e c), se in possesso della relativa specializzazione, esprimono l’ordine di preferenza tra posti di sostegno e posti comuni. Esprimono, inoltre, l’ordine di preferenza tra tutte le province, a livello nazionale”; al successivo comma 101 si prevede che: “la provincia e la tipologia di posto su cui ciascun soggetto è assunto sono determinate scorrendo, nell’ordine, le province secondo le preferenze indicate e, per ciascuna provincia, la tipologia di posto secondo la preferenza indicata”.
I risultati scaturiti dalla procedura automatizzata – di cui, come già detto, non è dato comprendere i criteri che li hanno determinati – paiono porsi in contrasto con tali diposizioni, che ai fini dell’assegnazione prevedono lo scorrimento dei posti secondo le preferenze indicate da ciascun aspirante.
L’assunto che precede è indirettamente confermato dal decreto del dirigente dell’Ufficio III dell’USR Puglia n. 13891 del 30 agosto 2018, che ha rettificato le assegnazioni delle sedi di servizio a seguito dell’ordinanza di questa Sezione con la quale si ordinava al Ministero, “al di là di automatismi informatici, di offrire agli appellanti sedi disponibili in loco più coerenti con il loro profilo lavorativo e le loro richieste, secondo l’ordine di graduatoria poziore ad essi spettante”.
10 – In definitiva, l’appello deve trovare accoglimento e per l’effetto, in riforma della sentenza di primo grado, deve trovare accoglimento il ricorso di primo grado con conferma dell’assegnazione degli appellanti alle sedi disponibili in loco coerenti con l’ordine di graduatoria e le rispettive preferenze.
Le spese di lite del doppio grado di giudizio, liquidate come in dispositivo, seguono la soccombenza.
P.Q.M.
Il Consiglio di Stato in sede giurisdizionale (Sezione Sesta), definitivamente pronunciando, accoglie l’appello e, per l’effetto, in riforma della sentenza impugnata, accoglie il ricorso di primo grado.
Condanna l’amministrazione soccombente alla refusione delle spese di lite del doppio grado di giudizio, che si liquidano in complessivi €6.000, oltre accessori come per legge.
Ordina che la presente sentenza sia eseguita dall’autorità amministrativa.
…Omissis…