Sistemi decisionali automatizzati e lotta contro COVID19


18 Apr , 2020| -
|Visioni

Mentre la pandemia COVID-19 imperversa in tutto il mondo, molti si chiedono se e come utilizzare i sistemi decisionali automatizzati (ADMS [i] ) per frenare l’epidemia. Diverse soluzioni sono state proposte e implementate in diversi paesi, che vanno dal controllo sociale autoritario (Cina) a soluzioni decentralizzate e orientate alla privacy (il “percorso sicuro” del MIT). Ciò che segue è un insieme di possibili principi e considerazioni su cui basare una discussione informata, democratica e utile sull’uso degli ADMS nell’attuale pandemia.

1. Il COVID-19 non è un problema tecnologico. Le analisi delle risposte effettive all’epidemia mostrano che gli interventi di successo sono sempre basati su politiche di sanità pubblica più ampie. Singapore, Corea del Sud e Taiwan, spesso citati come modelli di riferimento per tenere sotto controllo l’epidemia, avevano tutti piani in atto, molti dei quali progettati dopo l’epidemia di SARS del 2003. La preparazione per un’epidemia va oltre le soluzioni tecniche: significa avere risorse, competenze, piani, la legittimità politica e la volontà di dispiegarle rapidamente quando necessario.

2. Non esiste una soluzione unica per tutte le epidemie di COVID-19. Il successo nella lotta contro il virus richiede test, tracciabilità dei contatti e confinamento. Tuttavia, non esistono due contesti identici. Un paese in cui il virus circola da mesi inosservato (ad esempio l’Italia) è diverso da un paese che ha identificato i portatori del virus in anticipo (ad esempio la Corea del Sud). Le differenze sociali, politiche e culturali contano anche quando si applicano le politiche di sanità pubblica. Ciò significa che la stessa soluzione tecnologica potrebbe produrre risultati molto diversi in contesti così diversi.

3. Di conseguenza, non è necessario precipitarsi nella sorveglianza digitale di massa per combattere la malattia COVID-19. Non è solo una questione di privacy, sebbene la privacy rimanga un diritto fondamentale e debba essere rispettata. Prima di considerare le implicazioni sulla protezione dei dati delle app di tracciamento dei contatti digitali, ad esempio, dovremmo chiederci: funzionano davvero? I risultati della letteratura e le epidemie passate sono attualmente contrastanti e dipendono fortemente dal contesto. I diritti devono essere bilanciati con i benefici previsti (salvare vite umane). Ma non è necessario sacrificare le nostre libertà fondamentali se questo non serve a nulla.

4. I blocchi non possono durare indefinitamente. Dobbiamo pensare a come tornare gradualmente al “normale”. La maggior parte degli scenari prevede una sorta di sorveglianza digitale, che appare necessaria una volta presi in considerazione aspetti specifici di COVID-19: l’esistenza di pazienti asintomatici che possono essere comunque infettivi, il periodo di incubazione di 14 giorni, il fatto che non esiste cura o vaccino per la malattia ancora. Le organizzazioni della società civile devono essere pronte a contribuire alla discussione in merito alle soluzioni di monitoraggio in esame, al fine di aiutare a elaborare approcci adeguati.

5. La protezione contro COVID-19 e la protezione della privacy non si escludono a vicenda. Soluzioni come quella sviluppata dal MIT (“percorsi sicuri”) e dall’iniziativa paneuropea per il monitoraggio della prossimità abbinano la tracciabilità dei contatti digitali a un approccio aperto, decentralizzato e più rispettoso dei diritti. Questo è anche il modo in cui paesi come Singapore stanno affrontando il problema (ad esempio tramite l’app “TraceTogether”), che è diverso dall’approccio adottato dalla Corea del Sud e da Israele.

6. Qualsiasi soluzione deve essere implementata in modo compatibile con la democrazia. La democrazia non ostacola la pandemia: è l’unica speranza che abbiamo di affrontarla razionalmente e rispettare i diritti di tutti. La trasparenza dovrebbe essere fondamentale in 1) le soluzioni tecnologiche su cui si sta lavorando, 2) i team di esperti o le istituzioni ad hoc creati per lavorare su di esse, 3) le prove del motivo per cui dovrebbero essere effettivamente implementate, 4) chi le costruirà e chi le distribuirà, specialmente se saranno coinvolti soggetti privati. Solo la trasparenza garantirà che la società civile e i parlamentari siano in grado far rendere conto i responsabili delle loro decisioni.

7. La datizzazione [ii] fornita con lo sviluppo di ADMS per combattere il virus creerà nuove categorie sociali a rischio di discriminazione. I governi devono impedire la stigmatizzazione degli individui che rientrano nelle categorie sbagliate e devono preservare i diritti degli individui che non ottengono un punteggio sufficientemente alto sulle scale che verranno utilizzate, in particolare per quanto riguarda il triage nell’assistenza sanitaria.

8. Anche quando si dimostrano effettivamente utili, le soluzioni di sorveglianza digitale dovrebbero essere saldamente fondate su principi di protezione dei dati: come recentemente chiarito dal Comitato europeo per la protezione dei dati in una dichiarazione, devono essere rispettati necessità, proporzionalità, limitazione delle finalità e stato di diritto in generale, anche di fronte a un’emergenza di sanità pubblica. I cittadini devono essere in grado di presentare ricorso contro qualsiasi decisione presa da un sistema automatizzato relativo a COVID-19 (in particolare le app che determinano se qualcuno è stato in contatto con una persona infetta e deve essere sottoposto a quarantena). Governi e appaltatori devono attenersi alle disposizioni del GDPR.

9. Le soluzioni ADMS preesistenti non dovrebbero essere riproposte e adottate per le risposte COVID-19, poiché i sistemi automatizzati che si basano su dati di addestramento del passato non possono, in base alla progettazione, gestire un improvviso cambiamento delle condizioni in cui sono stati implementati. La sorveglianza predittiva, l’assistenza automatizzata ai giudici, il punteggio del credito e i punteggi di altri ADMS potrebbero produrre risultati che sono molto al di sotto del loro intervallo normale (ad esempio per quanto riguarda i tassi di errore). Tali sistemi dovrebbero essere urgentemente controllati o sospesi.

10. Una pandemia è globale per definizione. È necessario che vi sia una serie di risposte globali, diverse e coordinate ad essa. Una rete globale di organizzazioni della società civile che lavorano insieme dovrebbe monitorare le risposte alla pandemia. Emergenze precedenti ci hanno insegnato che le emergenze offrono ai leader politici senza scrupoli la scusa perfetta per legittimare le infrastrutture di sorveglianza di massa che violano inutilmente – e indefinitamente – i diritti di tutti. La resistenza a questo ha avuto (parzialmente) successo solo quando era globale, coordinata e fortemente formulata, con chiarezza e prove dalla nostra parte.

11. Infine, dovremmo garantire che questo dibattito sulla sorveglianza COVID-19 non si svolga nel vuoto. Alcuni ADMS, in particolare il riconoscimento facciale, si sono già rivelati problematici. L’attuale stato di emergenza non può essere utilizzato per giustificare il loro dispiegamento: al contrario, tutte le questioni evidenziate durante i periodi “ordinari” – mancanza di precisione, distorsione sistematica nelle sue prescrizioni, preoccupazioni più ampie su possibili abusi di dati biometrici ecc. – diventano ancora più importante in periodi eccezionali, quando sono in gioco la salute e la sicurezza di tutti. Non dovremmo solo assicurarci che questo dibattito cruciale non sia guidato da tecnologi o tecnologie, ma anche garantire che le tecnologie coinvolte si dimostrino utili per la società. La sospensione delle comunicazioni di persona offre l’opportunità di spostare ancora più benessere e altri servizi fondamentali online, dove l’ADMS spesso sostituisce lavoratori. Ciò potrebbe avere conseguenze catastrofiche per i cittadini che non hanno accesso o mezzi per comprendere criticamente gli strumenti digitali. Dobbiamo assicurarci che ciò non accada.

Da AlgorithmWhatch Traduzione Originale di Mario Lusi


[i] acronimo dall’inglese: Automated Decision-Making Systems

[ii] “un neologismo attraverso cui viene individuato quell’insieme di tecniche che consentono la conversione in formato digitale – cioè in dati – di qualsiasi cosa (film, libri, messaggi vocali, movimenti del corpo, ecc.)”
https://www.agcom.it/documents/10179/10875949/Studio-Ricerca+08-06-2018/c72b5230-354d-444f-9e3f-5467ca450714?version=1.0
“Le differenze tra datizzazione e digitalizzazione e la nuova situazione determinata dal loro incrociarsi, diventano evidenti e illuminanti esaminando, fra i tanti, il settore dei libri [..] Il valore intrinseco dei testi memorizzati si poteva liberare pienamente solo se venivano sottoposti a datizzazione. E questo per aziende come Google fa parte del loro “core business”. Tutta la massa di pagine memorizzate venne sottoposta una applicazione che, tramite un sensore ottico (appositamente progettato), era in grado di riconoscere all’interno di ogni pagina lettere, parole, frasi e paragrafi e di indicizzarli rendendoli visibili attraverso un codice univoco attribuito automaticamente.”
https://www.consultadibioetica.org/una-nuova-frontiera-la-datizzazione-di-fiorello-casi/

Di: -