Non sempre l’evoluzione tecnologica porta benefici. Pensiamo, per esempio, a ciò che sta accadendo nel settore dell'industria automobilistica, un comparto  in grande fermento per ciò che riguarda lo sviluppo di nuove tecnologie. Dopo la ventata di auto ibride – benzina/elettrico – e di auto completamente elettriche, per cui dovremo aspettare ancora un po’ per vederle sfrecciare in ogni città, a causa della scarsità delle colonnine di ricarica messe a disposizione dei cittadini, si apre il portone a una innovazione assoluta: le autovetture a guida autonoma.

Queste automobili di ultima generazione, consentono di viaggiare senza comandare manualmente l’auto. Si imposta il percorso e la macchina esegue, un po’ come accade col pilota automatico in uso da anni sugli aeroplani.

Bella trovata, diranno in molti. Ma siamo proprio sicuri? Proprio la parola “sicurezza” è il criterio da porre come centrale nella riflessione che è necessario fare su questo argomento.

Vediamo un po’ di dipanare la matassa.

Stiamo cedendo autonomia alla tecnologia

Ciò che oggi può apparire come altamente tecnologico e futuristico, potrebbe in realtà non esserlo o non proprio. Per arrivare a sviluppare un carro a motore che trasportasse gli esseri umani, ci sono voluti millenni di evoluzione. Poi, si dovette migliorare di molto quanto realizzato, per arrivare alle moderne autovetture su cui viaggiamo oggigiorno. In pratica: per giungere a un livello di funzionalità e sicurezza di un certo tenore, l’essere umano ha dovuto ragionare non poco, sia per ciò che concerne i materiali da utilizzare sia per quanto riguarda gli aspetti tecnici legati alla costruzione di motori.

Tutto ciò è valso all’umanità – a gran parte di essa – la comodità di poter viaggiare da un capo all’altro del mondo semplicemente azionando un paio di pedali e un cambio di marcia. Dettò così può apparire banale, ma non lo è affatto.

A parte questo, è l’essere umano che è in grado di azionare ciò che la ricerca tecnologica gli fornisce, con caratteristiche via via più avanzate. E’ la mente umana che si mette nella condizione di imparare le nozioni utili all’utilizzo delle tecnologie, in questo caso quelle legate alla sfera automobilistica. Ed è sempre il cervello umano a discernere tra cosa è giusto fare e cosa è meglio evitare di fare, quando si è alla guida di un’autovettura, a parte i casi limite rappresentati da coloro che con la guida è meglio non abbiano a che fare o, peggio, con coloro che si mettono al volante in stato di ebrezza o dopo aver assunto droghe.

Tornando al tema centrale: con questo nuovo impegno dell’industria automobilistica, che tende a immettere sul mercato automobili per cui l’essere umano diviene praticamente inutile – almeno per ciò che riguarda l’aspetto legato alla guida – si creeranno non pochi problemi di ordine morale, in ordine di sicurezza ma anche per ciò che concerne la cessione di un criterio: quello del libero arbitrio ceduto alla tecnologia.

Siamo proprio certi che tutto ciò sia un bene? E a cosa ci porterà tutto questo?

Decisioni morali e auto a guida autonoma

Partiamo da un punto fondamentale: le decisioni morali. Durante la realizzazione di una recente ricerca internazionale, sono stati analizzati milioni di risposte date al domande sulle decisioni morali in relazione alla guida autonoma. Le risposte, rese da cittadini di varie nazioni, sono poi state utilizzate per permettere ai tecnici che si occupano dello sviluppo delle tecnologie dedicate alla guida autonoma, per tentare di superare una questione che corre sul filo dell’etica.

Lo studio, realizzato da un gruppo di ricercatori che si occupano di Intelligenza Artificiale del Massachuset Institute of Tecnology, e in collaborazione con altre università di varie nazioni, ha analizzato i risultati di un sondaggio proposto online, denominato “Moral Machine” – la Macchina della Moralità – ottenendo circa quaranta milioni di responsi e da territori di varie parti del mondo.

Ai partecipanti al sondaggio sono state poste domande su scenari di incidenti stradali, ponendo l’attenzione sulla scelta delle persone che – a loro parere – si sarebbero dovute salvare. Per esempio: in caso di incidente, chi è meglio che si salvi? Il guidatore e gli altri passeggeri? Oppure il pedone che si para davanti all’autovettura all’improvviso? E per rendere maggiormente approfondito lo studio, si sono anche poste variabili in ordine di età, numero dei soggetti coinvolti negli incidenti, sesso, genere e così via.

Questo studio, che è poi stato pubblicato sulla prestigiosa rivista scientifica Nature, ha fatto emergere un quadro generale che, essenzialmente, si pone la questione morale sulla vita umana: la maggior parte delle risposte, infatti, tende a salvare il più alto numero di persone, ma emerge anche come – nel dover decidere se salvare una vita umana o quella di un animale – si preferisca sempre la salvaguardia degli esseri umani.

Questi però sono i risultati generali. È infatti interessante notare come, per esempio, hanno risposto coloro che vivono in Occidente piuttosto che in Oriente. Nei paesi europei e negli Usa, per fare un esempio, si tende a differenziare poco le situazioni e quindi la scelta delle persone che si intende “immolare” in caso di sinistro. Nei paesi orientali invece, e anche nei territori islamici, con una cultura maggiormente attenta al rispetto degli altri, le risposte sono tendenzialmente a garanzia della vita dei pedoni rispetto a chi guida l’autovettura.

La cosa particolare è che in queste nazioni i responsi sul genere delle persone coinvolte in un incidente tendono a dare meno peso, e quindi minore gravità, alla morte di donne o di giovani.

Tutto questo ha contorni allucinanti al solo pensarci. Si sta lavorando, in pratica, alla realizzazione di una società che sarà basata – anche – su una questione morale posta non più agli esseri umani quanto alle autovetture cosiddette “intelligenti”, che sceglieranno in caso di incidente, chi risparmiare e chi no, e tutto questo, attraverso lo studio di risposte date da persone che hanno partecipato a un sondaggio su scala mondiale, e quindi inserendo poi negli schemi di sviluppo tecnologico, ciò che gli esseri umani ritengono giusto o sbagliato secondo la propria cultura, nazionalità e visione della vita in generale.

Si otterranno quindi automobili provviste di Intelligenza Artificiale che, in base alla nazione in cui saranno usate, si comporteranno di conseguenza. Non più guidate dall’intelletto e dall’animo umano, ma da algoritmi, seppur sofisticatissimi, ma programmati scientificamente anche per decidere chi uccidere e chi no.

In futuro gli umani saranno meno necessari

Oltre la questione puramente morale su cui si stanno concentrando i ricercatori e i tecnici, è necessario porsi una domanda che a mio parere appare prioritaria: serviranno ancora a qualcosa gli esseri umani nel futuro a breve e medio termine? Riflettiamo: le industrie stanno convertendosi alla robotica, con tecnologie sempre più sofisticate e con risultati di produttività persino migliori di quelli ottenuti con l’operato umano.

Nei rapporti interpersonali si stanno compiendo modificazioni sostanziali dovute alla comunicazione sempre più digitalizzata – social e chat – e persino i rapporti intimi stanno deviando verso la robotica (i recenti bordelli che offrono escort robotiche sono un inizio di modificazione socio culturale evidente). Attraverso Internet è possibile ottenere, in un nanosecondo, qualsiasi tipo di informazione e di risposta alle domande più disparate. Anche acquistare non necessita più di dover muovere le gambe per uscire di casa e recarsi presso un negozio fisico: attraverso il web è possibile ottenere tutto ciò che si vuole, con pochi click.

Se a tutto ciò aggiungiamo la guida autonoma, il dubbio che si arriverà un giorno a non dover più nemmeno mettere in moto i neuroni per compiere un ragionamento basico non può non arrivare al cervello.

Servirà ancora a qualcosa, l’umanità? Sarà ancora necessario l’essere umano per popolare il pianeta Terra o ci stiamo preparando alla fase finale, quella che aprirà a scenari che oggi ancora appaiono fantascientifici, ma che è abbastanza facile immaginare: un mondo popolato da droidi intelligenti in grado di fare qualsiasi cosa. Anche provvedere all’estinzione dell’umanità.

Peggio di un film di fantascienza con sfumature noir…

Tutti i diritti riservati. La diffusione è concessa esclusivamente indicando chiaramente il nome dell'autore e il link che riporta a questa pagina