Rispondere alle domande di un intervistatore è sempre un bell’esercizio. Il mio pensiero stesso ne emerge in una luce che mi fa riflettere. Dico sempre le stesse cose? Le dico in un modo eccessivo, o troppo cauto?
Grazie a Michael Pontrelli per le sue domande a proposito del mio libro Splendori e miserie delle intelligenze artificiali. Alla luce dell’umana esperienza, Guerini e Associati, 2024.
Qui l’intervista apparsa il 26 luglio 2024 su Tiscali News.
La mia risposta alla domanda conclusiva: “non escludo che l’IA possa favorire il miglioramento della società nel medio e nel lungo termine. Ma noi viviamo oggi. Chi siamo noi per far pagare oggi costi pesanti a noi stessi e ai nostri figli? La sostenibilità è la ricerca di un equilibrio. C’è di mezzo una responsabilità che eludiamo escludendo il presente e guardando a bellezze future.
Poi non escludo neanche gli aspetti positivi dell’AI nel breve termine. Ma non c’è dubbio che gli aspetti critici sono al momento sottovalutati, per esempio sul lavoro e sull’ambiente. Nel mio libro do spazio a tante voci autorevoli di tecnologi che hanno contribuito a progettare l’intelligenza artificiale e che ora si sono pentiti e sono preoccupati”.
Riporto di seguito il testo dell’intervista nella sua integrità.
[Intervista] “C’è una narrazione falsa sull’intelligenza artificiale che nasconde una grande miseria”
Tiscali News ha sentito Francesco Varanini, una delle voci italiane più critiche nei confronti della tecnologia che sta cambiando il mondo
di Michael Pontrelli
“Si attende fiduciosamente un futuro tempo felice, si crede nella promessa di un paradiso tecnologico. Forse nuove tecnologie ci salveranno. Ma intanto i costi immediati li stiamo pagando, e li pagheremo nei prossimi anni. Perché nessuna promessa tecnologica è veramente ultima, salvifica. Dovremmo sempre ricordare che anche la tecnologia più promettente e splendida ha un rovescio della medaglia: costi e aspetti perversi che solo nel tempo e alla prova dei fatti si rivelano evidenti”. Inizia in questo modo Splendori e miserie delle intelligenze artificiali, l’ultima fatica letteraria di Francesco Varanini, una delle voci italiane più critiche nei confronti dell’intelligenza artificiale. Tiscali News ha sentito il presidente di Assoetica, per capire le ragioni del suo incessante lavoro volto a creare consapevolezza, sui rischi associati alla nuova tecnologia dirompente che sta cambiando il mondo.
Nel libro si parla di splendori e miserie dell’intelligenza artificiale. Iniziamo dai primi. Quali sono gli aspetti positivi di questa nuova tecnologia?
“In realtà ho utilizzato il termine splendori non per riferirmi agli aspetti positivi, ma alla narrazione dominante attorno all’intelligenza artificiale che tende a rappresentarla come una promessa salvifica”.
Chi porta avanti questa narrazione?
“Quelli che hanno un interesse economico e dunque industria ed esperti del settore. L’obiettivo è creare nei cittadini, nei lavoratori e nei manager una fiducia incondizionata”.
Altra parola forte nel titolo del libro è miserie. Quali sono gli aspetti negativi dell’IA di cui bisognerebbe preoccuparsi?
“Il primo è proprio il tentativo di creare una fiducia assoluta nei confronti dell’intelligenza artificiale che cancella qualsiasi forma di spirito critico. Non devono esserci ostacoli a una adozione incondizionata della tecnologia”.
E’ solo un problema di mancanza di spirito critico?
“No, c’è anche un altro grande problema altrettanto importante: i grandi modelli di intelligenza artificiale generativa, gli LLM, sono ormai diventati delle black box, ovvero della scatole nere, e nessuno, nemmeno gli stessi sviluppatori, capiscono fino in fondo come funzionano. Questo a mio avviso è una cosa molto misera dal punto di vista umano. Ci affidiamo con assoluta fiducia alle risposte di una macchina senza sapere come vengono create”.
Le tecnologie quando nascono, rimangono. L’IA c’è e ci sarà anche in futuro. Come dovrebbe essere gestita per limitare i danni?
“Non sono d’accordo con il principio che qualsiasi nuova tecnologia è destinata a restare. Più le tecnologie diventano pericolose e invasive e più bisogna considerare la possibilità di una rinuncia”.
Si riferisce all’ipotesi di un divieto allo sviluppo e all’utilizzo dell’IA?
“No, i divieti sono inefficaci. Mi riferisco al fatto che tutte le tecnologie, compreso quelle digitali, devono essere sottoposte al vaglio di un giudizio di sostenibilità”.
Questo processo in realtà è già in corso, l’Unione Europea con il varo dell’AI Act ha già introdotto rigorosi paletti.
“Quello che è stato fatto è ancora poco. Le nuove tecnologie stanno invadendo ogni spazio della vita di un essere umano. Bisogna ripristinare il diritto a non essere digitali”.
Se una persona vuole può non utilizzare l’intelligenza artificiale o internet.
“Non è così semplice. I documenti di identità, giusto per fare un esempio, sono stati digitalizzati. Bisogna recuperare il principio che si può essere cittadini anche a prescindere dagli strumenti digitali”.
Se guardiamo alle esperienze del passato, le rivoluzioni tecnologiche creano problemi nel breve termine, ma nel medio-lungo termine diventano delle opportunità per gli esseri umani. Non potrebbe accadere lo stesso con l’intelligenza artificiale?
“Anche io non escludo che l’IA possa favorire il miglioramento della società nel medio e nel lungo termine. Ma noi viviamo oggi. Chi siamo noi per far pagare oggi costi pesanti a noi stessi e ai nostri figli? La sostenibilità è la ricerca di un equilibrio. C’è di mezzo una responsabilità che eludiamo escludendo il presente e guardando a bellezze future.
Poi non escludo neanche gli aspetti positivi dell’AI nel breve termine. Ma non c’è dubbio che gli aspetti critici sono al momento sottovalutati, per esempio sul lavoro e sull’ambiente. Nel mio libro do spazio a tante voci autorevoli di tecnologi che hanno contribuito a progettare l’intelligenza artificiale e che ora si sono pentiti e sono preoccupati”.
