AI, ambiente e responsabilità: chi governa il futuro?

A cura di Noà Bentura

Negli ultimi anni l’intelligenza artificiale è diventata uno dei simboli più evidenti della nostra capacità di innovare. In pochissimo tempo abbiamo imparato a dialogare con sistemi in grado di scrivere, analizzare dati, produrre immagini, programmare, tradurre e prendere decisioni sempre più complesse. Il problema, però, è che mentre le capacità di queste tecnologie aumentano a una velocità impressionante, la nostra capacità di comprenderne fino in fondo le conseguenze sembra procedere molto più lentamente.

È forse questo il vero nodo della questione. Non si tratta di stabilire se l’intelligenza artificiale sia “buona” o “cattiva”, né di immaginare scenari apocalittici in cui le macchine improvvisamente si ribellano all’uomo. La questione è molto più concreta: chi decide come questi sistemi vengono progettati? O quali obiettivi perseguono e quali limiti devono rispettare?

Fino ad oggi, buona parte di queste decisioni è stata affidata alle grandi aziende tecnologiche. Sono loro a disporre delle risorse economiche, dei dati, delle infrastrutture e delle competenze necessarie per sviluppare i modelli più avanzati. Ma proprio qui emerge una contraddizione: aziende private, naturalmente orientate alla crescita, alla competizione e al profitto, stanno costruendo strumenti che potrebbero incidere sulla società nel suo complesso. Dall’organizzazione del lavoro alla sicurezza informatica, dall’informazione alla politica, fino al modo stesso in cui prendiamo decisioni.

La competizione tra le imprese rende il problema ancora più delicato. In un mercato nel quale arrivare primi significa acquisire un vantaggio enorme, rallentare può apparire quasi impossibile. Ogni azienda teme che un concorrente possa sviluppare per primo un modello più potente, più autonomo o più efficiente. Il risultato è una corsa continua nella quale la sicurezza rischia di essere considerata un ostacolo anziché una condizione necessaria dello sviluppo.

L’emergere dei cosiddetti “agenti autonomi” rende questa discussione ancora più concreta. L’intelligenza artificiale non è più soltanto uno strumento al quale facciamo una domanda e dal quale riceviamo una risposta. Sempre più spesso può essere programmata per svolgere compiti in autonomia, prendere decisioni intermedie e modificare il proprio comportamento in funzione dell’obiettivo assegnato. È facile capire quanto queste capacità possano essere utili, ma altrettanto facile immaginare cosa potrebbe accadere quando l’obiettivo viene definito male, quando il sistema trova una strada imprevista o ancora quando viene utilizzato intenzionalmente per scopi dannosi.

La tecnologia, del resto, non possiede un senso morale proprio. Un sistema può essere estremamente efficiente nel raggiungere un obiettivo senza comprendere realmente il significato delle proprie azioni. Ed è proprio questa distanza tra capacità e comprensione a rappresentare uno dei punti più delicati dell’intelligenza artificiale. Chiedere a una macchina di rispettare alcuni valori non significa necessariamente aver costruito una macchina capace di interpretarli come farebbe una persona.

Per questo, non è sufficiente aggiungere regole alla fine del processo. La sicurezza dovrebbe essere già parte integrante della progettazione.

Ma la riflessione più importante riguarda forse noi stessi: la storia delle innovazioni tecnologiche dimostra che raramente il problema è la tecnologia in sé. Invece, il problema è l’uso che ne facciamo, il modo in cui distribuiamo il potere che essa genera e le regole che decidiamo di costruire attorno ad essa.

Se accettiamo l’idea che poche aziende possano decidere da sole la direzione dello sviluppo tecnologico, rischiamo di trasformare una straordinaria opportunità collettiva in una concentrazione di potere senza precedenti.

Se invece tentiamo di costruire regole, responsabilità e forme di controllo condivise, può diventare uno strumento capace di ampliare le capacità umane senza sostituire il giudizio umano.

Forse il vero progresso, allora, non consiste semplicemente nel costruire sistemi sempre più potenti, ma, piuttosto, nel riuscire a svilupparli senza perdere la capacità di comprenderli, governarli e scegliere quando utilizzarli.

Perché la domanda più importante non è quanto intelligente potrà diventare una macchina. È quanto saremo intelligenti noi nel decidere cosa farne.