Il timore che le macchine possano sfuggire al controllo umano prendendo il sopravvento risale alla fantascienza degli anni ’50. Oggi un futuro del genere sembra imminente.
L’Intelligenza Artificiale potrebbe sopprimere gli esseri umani! E’ il grido d’allarme lanciato da un ricercatore, Jacob Coxon, dimessosi da Anthropic, un’azienda statunitense di intelligenza artificiale nota soprattutto per aver sviluppato la famiglia di modelli linguistici avanzati Claude.
Il timore che le macchine possano sfuggire al controllo umano prendendo il sopravvento risale allo sviluppo della fantascienza negli anni ’50. Oggi, secondo alcuni, un futuro del genere è imminente, forse entro la metà del secolo.
E certo che, al di là di previsioni apocalittiche, la mente umana si è avviata verso un pericoloso declino, proprio sotto la spinta dell’IA e dell’evoluzione tecnologica. Mai nella storia dell’umanità si sono verificati mutamenti così repentini: l’impatto della tecnologia è così radicale e devastante che non si fa in tempo a comprenderlo e prevederlo.
Una sorta di abdicazione delle capacità cognitive umane all’onniscienza della nuova dea da osannare e venerare l’IA. Questo scenario è stato protagonista in passato della letteratura e filmografia distopica. Il tema inizia a svilupparsi alla fine della seconda guerra mondiale e da quel momento è un susseguirsi di innovazioni.
Pochi anni prima era stata scoperta la rivoluzionaria radio, poi la tv e i computer, pc domestici, inoltre telefoni cellulari, computer portatili, smartphone e tablet: tutto nel giro di 80 anni. Fu proprio negli anni ’50 che uno scienziato, nonché pioniere della fantascienza Isaac Asimov, postulava le leggi della robotica a salvaguardia per il genere umano dalle intelligenze artificiali, un insieme di regole etiche ideate dallo scrittore di fantascienza per controllare il comportamento dei robot.
La Prima Legge: un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno. La Seconda Legge: un robot deve obbedire agli ordini impartiti dagli esseri umani, a meno che non contrastino con la Prima Legge.
La Terza Legge: un robot deve proteggere la propria esistenza, purché ciò non contrasti con la Prima o la Seconda Legge. Legge Zero: un robot non può recare danno all’umanità o permettere che essa riceva danno per mancato intervento. In seguito molti autori, sminuendo il valore delle Leggi della robotica, avrebbero immaginato la rivoluzione delle macchine per controllare l’essere umano.
Secondo Coxon le aziende sono concentrate sulla “superintelligenza automigliorante”, un ipotetico sistema di IA capace di perfezionare la propria mente e il proprio codice in autonomia, superando in modo esponenziale le capacità cognitive umane. Il rischio principale legato a questa tecnologia è il problema dell’allineamento.
Se un’IA si modifica da sola a ritmi imprevedibili diventa quasi impossibile garantire che i suoi obiettivi originari rimangano allineati con i valori e la sicurezza dell’umanità. Questa prospettiva potrebbe produrre macchine che sfuggono al controllo umano.
Tant’è che si parla di “periodo critico” e “fase finale” per definire sistemi che vanno oltre le capacità umane. Coxon, addirittura, ha parlato di effetti catastrofici, con la possibile scomparsa degli esseri umani entro 10 anni. Con molta probabilità è stato utilizzato un linguaggio allarmistico, tuttavia altri ricercatori, con toni meno pessimistici, hanno espresso lo stesso timore.
Questo perché i temi sulla sicurezza e governance di macchine sempre più sofisticate e sulla consapevolezza che è necessario ridurre lo sviluppo dell’IA, sono sempre più urgenti nel dibattito scientifico. Spesso la letteratura ha anticipato tendenze e fenomeni di costume.
Basti citare il romanzo dispotico di George Orwell “1984”, in cui il “Grande Fratello” esercita sorveglianza continua, propaganda e culto della personalità, manipolazione della verità e repressione del pensiero. Il romanzo fu scritto nel 1949, anticipando molti temi attuali.