CULTURA

Macchine senza organi inquietanti rivali dell’essere umano

«La nostra invenzione finale», dello scrittore e regista statunitense James Barrat edito da Nutrimenti
BENEDETTO VECCHIusa

L’olocausto nucleare è stata una possibilità che ha dominato gli incubi degli umani per un cinquantennio. Il rischio di scomparsa dell’umanità ha avuto come conseguenza la modifica dei comportamenti di uomini e donne, di governi nazionali e di organizzazioni internazionali. L’«equilibrio del terrore», cioè che ci fossero più nazioni a possedere arsenali nucleari, ha limitato le possibilità di cambiare, migliorare la realtà sociale e politica locale o sovranazionale, ma ha impedito che fossero lanciati ordigni atomici.
A RIBADIRE QUESTA VERITÀ «istituzionale» sul pericolo nucleare è James Barrat, giornalista e storico dell’intelligenza artificiale, per illustrare un nuovo e ben più temibile pericolo di estinzione a causa di una invenzione umana. Non è un caso che il libro dove analizza le dinamiche e la consistenza di questo pericolo abbia come titolo La nostra invenzione finale (Nutrimenti, pp. 303, euro 17, traduzione di Daniela Pezzella e Monica Pezzella), dove finale indica sia l’ordine temporale dell’invenzione che il rischio che sia l’ultima.
Come per quello nucleare, il pericolo viene dunque sempre da una invenzione umana che, come non è accaduto per la bomba atomica, sta sfuggendo al controllo dei suoi stessi inventori dato il carattere friendly e innocuo che tali «dispositivi» hanno.
SI TRATTA INFATTI dell’intelligenza artificiale e delle macchine che funzionano con software «intelligenti» progettate per svolgere compiti noiosi, faticosi per gli umani, come fare milioni di calcoli laboriosi o fare lavori faticosi e anch’essi noiosi non è inquietante, anzi è il sogno umano da quando hanno dato forma alla ruota o imparato a riprodurre l’accensione del fuoco.
Ma l’intelligenza artificiale determina già adesso una strutturale subalternità degli umani rispetto alle macchine «intelligenti». Paradossalmente, l’intelligenza artificiale determina un mutamento radicale della tradizionale gerarchia delle specie scalzate dal vertice della piramide biologica dopo che viene riconsiderata la concezione di vivente.
Una macchina che svolge operazioni «intelligenti» può infatti essere considerata «vivente» anche se non è composta di materiale organico. Inoltre alcune operazioni svolte da macchine «intelligenti» sono più veloci e accurate di quelle che può fare il più esperto tra gli umani.
QUESTO COMPORTA un mutamento epocale della gerarchia tra le specie viventi. E per la prima volta gli umani sono secondi, sotto molto aspetti dipendenti dalle macchine. Già questo aspetto dovrebbe costituire un campanello d’allarme per tutta l’umanità, ma non è così. Governi nazionali e imprese private investono miliardi di euro ogni anno per progetti sull’intelligenza artificiale e per lo sviluppo di Agenti software intelligenti, convinti che non ci sarà mai una rivolta delle macchine contro gli umani. Barrat evoca le regole auree sui robot dello scrittore Isaac Asimov, per denunciarne l’ingenuità perché una macchina una volta divenuta intelligente sviluppa anche libero arbitrio e capacità di decisione indipendentemente dal suo produttore o inventore. Dunque può decidere, insieme ai suo simili artificiali, di considerare gli umani un pericolo per le loro possibilità di riproduzione e dominio sul pianeta.
Il libro di Barrat è inoltre un lungo excursus sia sui progetti di ricerca in corso che della «filosofia» del possibile dominio delle macchine come naturale evoluzione degli umani. I testi dell’ingegnere Ruy Kurzweil sulla «singolarità unica» sono frequentemente citati nella pagine di questo libro. Testi spesso criticati eppure anche molto apprezzati nella Silicon Valley, dove la «singolairtà unica» può essere ritenuta l’ultima versione di una tecnoutopia in salsa liberista che ambisce a esercitare la propria egemonia sul mondo degli affari. Kurzweil gode di molta credibilità anche alla luce del ruolo di consulente per società come Amazon, Mcrosoft e soprattutto Google, dove svolge il ruolo di coordinatore dei progetti per l’intelligenza artificiale della società di Larry Page e Sergej Brin, da sempre sostenitori delle tesi sulla «singolarità unica», cioè della possibilità di riprodurre o trasferire su supporti digitali e/o artificiali i processi cognitivi della mente umana.
Ma se anche la «singolarità unica» prefigura una convivenza pacifica tra macchine e umani, Barrat sostiene che caratteristica di un comportamento intelligente è la difesa e salvaguardia delle possibilità di riproduzione della specie. Per Barrat le macchine costituiscono una minaccia temibilissima per gli umani proprio per questa caratteristica degli esseri intelligenti.
SE LE MACCHINE si sentissero minacciate dagli umani non avrebbero nessuna remora e ridurli schiavi o a sterminarli. Può sembrare il plot di avvincenti romanzi o film di fantascienza, ma per Barrat è la concreta minaccia alla sopravvivenza dell’umanità. Libro inquietante, fondato sulla convinzione che l’intelligenza può essere rappresentata come una formula matematica o un diagramma di flusso o u n algoritmo, cancellando di fatto la caratteristica che distingue gli umani dalle altre specie: l’essere cioè animali sociali capaci di comunicare e di modificare il proprio comportamento in base al vivere in società. Fattore questo inafferrabile, almeno per il momento, da una macchina - per quanto potente e precisa nel fare calcoli o svolgere un lavoro.

Supporta il manifesto e l'informazione indipendente

Il manifesto, nato come rivista nel 1969, è sinonimo di testata libera, indipendente e tagliente.
Logo archivio storico del manifesto
L'archivio storico del manifesto è un progetto del manifesto pubblicato gratis su Internet e aperto a tutti.
Vai al manifesto.it