Divampa in questi giorni la denuncia della minaccia di uno sviluppo dell’Intelligenza artificiale tale da permetterle di acquisire una completa autonomia e da consentirle di conseguenza di assumere decisioni potenzialmente incompatibili con la stessa sopravvivenza del genere umano.
Non ho le competenze per valutare quanto questo scenario sia verosimile ma in ogni caso lo depurerei da ogni immaginario hollywoodiano per ricondurlo comunque sempre a una responsabilità degli esseri umani, soprattutto di coloro che istruiscono e utilizzano gli strumenti messi a disposizione da questa nuova tecnologia.
Al di là della plausibilità dello scenario estremo il vero problema consiste nella volontà di potenza di esseri umani che utilizzano in concorrenza fra loro strumenti sempre più avanzati di IA. Questo può portare a uno sviluppo ingovernabile e alla possibilità che tali strumenti diventino sempre più incontrollabili nel perseguire obiettivi che sono stati loro assegnati da esseri umani o che nella loro programmazione vengano fornite informazioni sbagliate che, applicate con coerenza dall’IA, possono produrre conseguenze pericolose. Questo può essere dovuto alla fretta con cui si perseguono continui progressi, magari con la necessità di battere un’agguerrita concorrenza.
Un problema di questo tipo si osserva in particolare nell’utilizzazione dell’IA a scopi militari, ambito in cui è già di per sé inquietante il fatto che la conduzione di operazioni belliche sia sottratto in larga misura al controllo umano. Questo impedisce o comunque riduce ampiamente la valutazione su una determinata operazione bellica e deresponsabilizza gli esseri umani di fronte alle conseguenze delle proprie azioni. Inoltre, eventuali informazioni errate possono avere conseguenze letali.
Esempi clamoroso emergono in alcune guerre attualmente in corso in cui vengono di fatto attuati inquietanti esperimenti per rivoluzionare il modo di concepire la guerra. L’esercito americano si è affidato, per pianificare le proprie azioni militari contro l’Iran, a Maven un sistema sviluppato dall’azienda Palantir. Come riferisce Gian Luca de Feo su Repubblica, gli ufficiali americani che hanno utilizzato questo sistema l’hanno definito in modo un po’ antropomorfico “arrogante” in quanto, una volta pianificato un attacco secondo precise istruzioni ricevute, non accetta di mettere in discussione le proprie scelte e cerca di aggirare eventuali divieti perseguendo oltretutto gli obiettivi assegnati con una determinazione assoluta.
Per quanto riguarda l’attacco israeliano a Gaza va rilevato prima di tutto che fin dall’inizio l’esercito israeliano si è ampiamente affidato all’uso dell’intelligenza artificiale nella pianificazione degli interventi e nell’individuazione degli obiettivi, con un cinico calcolo anche delle “vittime collaterali” che ogni obiettivo comporta, variabile a seconda della priorità ad esso assegnata. Oltre a questo, come documentato dalle testimonianze riportate dal documentario Naza, premiato alla mostra del cinema di Venezia, soprattutto nella prima fase dell’operazione gli agenti IA hanno ricevuto spesso informazioni imprecise o addirittura errate e questo ha ulteriormente aggravato il bilancio di vittime palestinesi.
Il 17 settembre scorso un drone ucraino ha colpito la torre di raffreddamento della centrale atomica di Kursk in Russia. Secondo la giornalista Milena Gabanelli il drone avrebbe colpito tale obiettivo senza ricevere al momento del lancio istruzioni specifiche per farlo ma elaborando istruzioni di tipo generale sugli obiettivi da colpire.
Il settore militare è quello in cui un uso spregiudicato dell’IA può provocare danni particolarmente gravi ma non possono essere sottovalutati altri aspetti. Nel luglio scorso alcuni agenti IA hanno condotto con un livello minimo di controllo umano un attacco informatico contro Hugging Face, una piattaforma open source di sviluppo dell’IA.
Il 15 settembre scorso l’Autorità spagnola per la protezione dei dati (AEPD) ha reso noto un caso di violazione di dati attribuibile a un agente IA.
Nel campo economico e finanziario l’uso di questa tecnologia da parte di criminali può mettere gravemente a rischio la sicurezza del settore.
Importante diventerà anche stabilire chi esercita il controllo su determinati sistemi IA e a quali fini sociali. Nel campo del lavoro, ad esempio, si tratterà di stabilire se l’uso dell’IA serve a massimizzare i profitti di pochi anche a rischio di creare masse di disoccupati o piuttosto ad alleggerire la fatica umana creando le condizioni di una migliore qualità della vita.
Questi mi paiono i temi più rilevanti rispetto ai quali prospettare determinati esiti apocalittici attribuendoli a una presunta volontà di agenti dell’IA sembra essere un modo per nascondere la vera natura dei problemi con cui ci dobbiamo confrontare e la dimensione dei rapporti di forza sottesi all’utilizzazione sociale dell’IA.
Insomma, il problema principale rimane chi controlla il controllore e quali sono le finalità sociali che l’uso di strumenti di IA presuppone.
Questo mi sembra lo stato attuale delle cose, domani chissà…
