Il termine algoritmo deriva dal nome del matematico Muhammad ibn Musa al-Khwarizmi, che viene considerato il primo studioso ad averne affinato il concetto. Visse tra il 780 e l’850 ed è stato uno dei maggiori intellettuali arabi del medioevo.
Cos’è un algoritmo? Qualsiasi schema o procedimento sistematico e ripetibile che, a partire da un determinato insieme di dati o informazioni, attraverso una successione di istruzioni, produce una serie di risultati. L’algoritmo assume “apparentemente” una forma asettica e per certi versi definitiva in quanto è distante da chi lo utilizza. Uso il termine “distante” in quanto l’algoritmo di solito è realizzato da un terzo rispetto a chi lo utilizza.
Un esempio di algoritmo matematico è quello prodotto dagli analisti economici per fornire alle multinazionali strumenti per stimare le tendenze di mercato soppesando il comportamento degli acquirenti o dei presumibili acquirenti. Ma anche l’App di uno smartphone è un algoritmo o una formula matematica come quelle che troviamo sui libri di scuola e che applichiamo senza necessariamente conoscere il processo logico seguito da chi l’ha scritta per la prima volta.
Schema di un algoritmo 
L’aloritmo di una App
L’algoritmo può anche essere di tipo logico. Prendendo ad esempio quanto scritto nell’articolo precedente, quando parlavo di pornografia, il processo logico “semplificato” è: presenza di copioso materiale pornografico uguale perversione con aggravamento della pena (vedi LA SCENA DEL CRIMINE – 9 – POP – Il Giornale Popolare ). Abbiamo visto che non necessariamente è così, l’algoritmo logico in quest’ultimo caso è falsificabile facilmente se si introduce il parametro “collezionismo”.
Tuttavia con sempre maggiore frequenza, nelle aule di giustizia, specie negli USA, si usano algoritmi per analizzare e giudicare comportamenti umani. Nella fattispecie, certi algoritmi vengono utilizzati per “depersonalizzare” l’azione del giudice e integrarne, grazie a programmi informatici di Intelligenza Artificiale, le capacità decisionali. Lo scopo dovrebbe essere, in teoria, quello di limitare la parzialità che, inevitabilmente nasce nel pensiero del giudice, per effetto del suo mondo culturale e della sua esperienza e che può indurlo, inconsapevolmente, a ipotizzare una sentenza prima di avere raccolto le necessarie prove.
Calcolo dei rischi con l’algoritmo Compas
Un esempio di algoritmo del tipo ora descritto è il programma Correctional offender management profiling for alternative sanctions (COMPAS), ovvero una procedura di calcolo per definire la pena da comminare al reo. Sulla carta esso dovrebbe essere capace di prevedere il rischio che un imputato reiteri un reato in base a una serie di considerazioni comprese quelle che riguardano luoghi di possibili reati, eccetera.
COMPAS valuta, o per meglio dire pesa, alcune risposte inserite in un mega questionario. L’algoritmo dovrebbe essere utile a fornire informazioni accessorie a vantaggio della giustizia. Ma non è necessariamente così, anzi. Un caso su tutti ha riguardato un tale del Wisconsin. Il giudice aveva stabilito la pena non solo sulla base della Legge e/o della fedina penale, ma anche sul punteggio assegnato all’imputato dal citato algoritmo in quanto quest’ultimo aveva definito il reo come persona con alta propensione a ripetere lo stesso reato.
I pregiudizi dell’intelligenza artificiale: 
discrimina soggetti afro-americani o ispanici
Negli Usa questi algoritmi informatici, basati sull’intelligenza artificiale sembrano penalizzare i soggetti afro-americani o ispanici. Essi infatti hanno maggiori probabilità di subire i pregiudizi nascosti negli algoritmi, solo perché residenti in aree disagiate di quel grande Paese.
In altri termini i meccanismi del preconcetto non sono mai esclusi dall’algoritmo. Ognuno di noi, programmi e programmatori (softwaristi) compresi, tende a dare sostanza ad indizi coerenti con il proprio sé e a utilizzare come fonti di prova ulteriori indizi congruenti con i primi, invece di cercare sottoporre le proprie conclusioni a meccanismi di falsificazione (ricordo che, per falsificazione si intende un’attività intellettuale critica tesa a mettere in discussione gli indizi, o presunti tali, al fine di verificarne la robustezza).
Dunque nonostante le buone intenzioni di chi tenta di adottare criteri “asettici”, ossia fuori dal proprio sé, la faccenda non è così semplice: va ricordato che l’algoritmo è “figlio” del suo estensore, così come lo sono i pesi (o coefficienti) che lo stesso attribuisce ai dati che l’algoritmo dovrà trattare. La stessa terminologia usata per inserire i dati nell’algoritmo può incidere sulla sua sostanza finale come ad esempio se vi si usa il termine “decesso” piuttosto che “omicidio”.
– continua –