Yoshi Sodeoka
Perchè la Tecnologia favorisce la Tirannia
dal sito web TheAtlantic
traduzione di Claudiordali
"Le rivolte populiste non verranno inscenate contro l'élite economica che sfrutta le persone, ma contro l'élite economica che non ha più bisogno di loro.
Questa potrebbe essere una battaglia persa.
È molto più difficile lottare contro l'irrilevanza che contro lo sfruttamento."
Fonte
L'intelligenza artificiale
potrebbe cancellare i molti vantaggi pratici della democrazia
ed erodere gli ideali di libertà e uguaglianza.
Se non prendiamo provvedimenti per fermarla,
concentrerà ulteriormente il potere
in un élite ancora più piccola ...
Questo articolo è stato adattato dal
libro di Yuval Noah Harari
21 Lessons for the 21st Century.
libro di Yuval Noah Harari
21 Lessons for the 21st Century.
1. La Paura Crescente dell'Irrilevanza
Non c'è nulla di inevitabile nella democrazia.
Tutti i successi che le democrazie hanno ottenuto durante il secolo scorso o più, sono dei punti di riferimento nella storia. Le monarchie, le oligarchie e le altre forme di dominio autoritario, sono state le forme di governo di gran lunga più comuni.
L'emergere delle democrazie liberali è associato agli ideali di libertà e uguaglianza che possono sembrare ovvi e irreversibili, ma che tuttavia sono molto più fragili di quanto crediamo.
Il loro successo nel XX secolo è dipeso da condizioni tecnologiche uniche, che ora potrebbero rivelarsi effimere.
Nel secondo decennio del XXI secolo, il liberalismo ha iniziato a perdere credibilità. Le domande sulla capacità della democrazia liberale di provvedere alla classe media, sono diventate più forti; la politica è diventata più tribale e, in sempre più paesi, i leader mostrano un debole per la demagogia e l'autocrazia.
Le cause di questo cambiamento politico sono complesse, ma sembrano essere intrecciate con gli attuali sviluppi tecnologici. La tecnologia che ha favorito la democrazia sta cambiando e man mano che l'intelligenza artificiale si svilupperà, potrebbe cambiare ulteriormente.
La tecnologia dell'informazione sta continuando a balzare in avanti; la biotecnologia sta iniziando a fornire una finestra sulle nostre vite interiori - ovvero le nostre emozioni, i nostri pensieri e le nostre scelte.
Insieme, l'infotech e la biotech creeranno degli sconvolgimenti senza precedenti nella società umana, erodendo il libero arbitrio e, se possibile, sovvertendo i desideri umani.
In tali condizioni, la democrazia liberale e l'economia di libero mercato potrebbero diventare obsolete.
Le persone comuni magari non capiscono l'intelligenza artificiale e la biotecnologia in tutti i dettagli, ma possono percepire che il futuro sta passando vicino a loro.
Nel 1938, le condizioni dell'uomo comune in Unione Sovietica, in Germania e negli Stati Uniti, possono essere state cupe, ma gli è stato costantemente detto che lui era la cosa più importante al mondo e che lui era il futuro (a condizione, ovviamente, che si trattasse di un "uomo comune" piuttosto che, tanto per dire, di un ebreo o di una donna).
Guardava i manifesti della propaganda, che in genere raffiguravano minatori e operai siderurgici in pose eroiche, e riusciva a vedersi in loro:
"Sono in quel poster! Sono l'eroe del futuro!"
Nel 2018 la persona comune si sente sempre più irrilevante.
Un sacco di termini misteriosi vengono espressi con entusiasmo nei ted Talks, presso le think tank dei governi e durante le conferenze high-tech - globalizzazione, blockchain, ingegneria genetica, intelligenza artificiale, apprendimento automatico - e le persone comuni, sia uomini che donne, potrebbero sospettare che nessuno di questi termini abbia a che fare con loro.
Nel XX secolo, le masse si ribellarono contro lo sfruttamento e cercarono di tradurre il loro ruolo vitale nell'economia e nel potere politico.
Ora le masse temono l'irrilevanza e si disperano per usare il loro restante potere politico prima che sia troppo tardi. La Brexit e l'ascesa di Donald Trump possono quindi dimostrare una traiettoria opposta a quella delle rivoluzioni socialiste tradizionali.
Le rivoluzioni in Russia, in Cina e a Cuba, furono fatte da persone che erano vitali per l'economia ma mancavano di potere politico; nel 2016 Trump e la Brexit sono stati sostenuti da molte persone che godevano ancora di potere politico, ma che temevano di perdere il loro valore economico.
E' facile che nel XXI secolo, le rivolte populiste non saranno inscenate contro un'élite economica che sfrutta le persone, ma contro un'élite economica che non ha più bisogno di loro. Questa potrebbe essere una battaglia persa.
È molto più difficile lottare contro l'irrilevanza che contro lo sfruttamento.
Le rivoluzioni, nel campo della tecnologia dell'informazione e della biotecnologia, sono ancora agli inizi e la misura in cui sono responsabili dell'attuale crisi del liberalismo, è discutibile. La maggior parte delle persone a Birmingham, Istanbul, San Pietroburgo e Mumbai sono solo vagamente consapevoli, se non lo sono del tutto, riguardo l'ascesa dell'IA e del suo potenziale impatto sulle loro vite.
Tuttavia, è indubbio che le rivoluzioni tecnologiche che stanno prendendo piede nei prossimi decenni, metteranno a confronto l'umanità con le prove più difficili che abbia mai affrontato.
2. Una nuova classe inutile?
Iniziamo con il lavoro e il reddito, perché a prescindere dal fascino filosofico della democrazia liberale, questa ha guadagnato forza in gran parte grazie a un vantaggio pratico:
L'approccio decentralizzato al processo decisionale, che è caratteristico del liberalismo - sia in politica che in economia - e ha permesso alle democrazie liberali di superare gli altri stati e di assicurarsi una crescente affluenza al loro interno.
Il liberalismo ha riconciliato il proletariato con la borghesia, i fedeli con gli atei, i nativi con gli immigrati e gli europei con gli asiatici, promettendo a tutti una fetta più ampia della torta.
Con una torta in costante crescita, ciò era possibile. Inoltre, la torta potrebbe ancora continuare a crescere.
Tuttavia, la crescita economica potrebbe non risolvere i problemi sociali che ora vengono creati dalle disruption tecnologiche, perché tale crescita è sempre più basata sull'invenzione di tecnologie sempre più dirompenti.
La paure delle macchine che ha spinto le persone a uscire dal mercato del lavoro, ovviamente non è niente di nuovo e in passato tali timori si sono rivelati infondati, ma l'intelligenza artificiale è diversa dalle vecchie macchine.
In passato, le macchine competevano con gli esseri umani principalmente nelle abilità manuali. Ora stanno cominciando a competere con noi nelle abilità cognitive. Inoltre, non conosciamo alcun terzo tipo di abilità - al di là di quella manuale e di quella cognitiva - in cui gli uomini saranno sempre in vantaggio.
Almeno per qualche altro decennio, l'intelligenza umana supererà di gran lunga l'intelligenza dei computer in numerosi campi. Quindi, man mano che i computer si impossesseranno di più processi cognitivi di routine, per gli esseri umani continueranno a comparire nuovi lavori creativi.
Molti di questi nuovi posti di lavoro dipenderanno probabilmente dalla cooperazione, piuttosto che dalla competizione tra gli uomini e l'IA. I team costituiti da umani e intelligenza artificiale, probabilmente saranno superiori non solo a quelli formati da uomini, ma anche ai computer che funzionano per loro conto.
Tuttavia, la maggior parte dei nuovi posti di lavoro richiederà presumibilmente alti livelli di competenza e ingegno, pertanto, potrebbe non fornire una risposta al problema dei lavoratori non qualificati disoccupati o dei lavoratori occupabili solo a salari estremamente bassi.
Inoltre, poiché l'IA continua a migliorare, anche i lavori che richiedono un'elevata intelligenza e creatività potrebbero gradualmente scomparire. Il mondo degli scacchi è un esempio di come potrebbero andare le cose.
Per numerosi anni dopo che il computer Deep Blue sconfisse Garry Kasparov nel 1997, i giocatori di scacchi continuarono a prosperare; l'intelligenza artificiale veniva usata per addestrare i prodigi e le squadre composte da uomini e computer si dimostrarono superiori ai computer che giocavano da soli.
Tuttavia, negli ultimi anni i computer sono diventati così bravi a giocare a scacchi, che i loro collaboratori umani hanno perso valore e potrebbero ben presto diventare del tutto irrilevanti.
Il 6 dicembre 2017, è stato raggiunto un altro importante traguardo quando il programma AlphaZero di Google ha sconfitto il programma Stockfish 8.
Stockfish 8 aveva vinto un campionato mondiale di scacchi per computer nel 2016. Aveva accesso a secoli di esperienza umana accumulata negli scacchi, oltre a decenni di esperienza con i computer.
Al contrario, ad AlphaZero i suoi creatori umani non insegnarono alcuna strategia di scacchi, nemmeno le aperture standard.
Usò, piuttosto, i più recenti principi di apprendimento automatico per insegnare a sé stesso giocando contro sé stesso. Tuttavia, su 100 partite che il debuttante AlphaZero giocò contro Stockfish 8, ne vinse 28 e ne pareggiò 72 - non perse neanche una volta.
Dato che AlphaZero non aveva imparato nulla da nessun individuo , molte delle sue mosse e strategie vincenti sembrarono essere non convenzionali per l'occhio umano.
Potrebbero essere descritte come creative, se non addirittura geniali.
Riuscite a immaginare quanto tempo AlphaZero spese per imparare gli scacchi da zero, preparare la partita contro Stockfish 8 e sviluppare il suo istinto geniale? Quattro ore...
Per secoli, gli scacchi erano considerati una delle glorie che incoronavano l'intelligenza umana. AlphaZero passò dall'assoluta ignoranza alla padronanza creativa in quattro ore, senza l'aiuto di alcuna guida umana.
Là fuori, AlphaZero non è l'unico software immaginativo che esiste.
Uno dei modi per catturare gli imbroglioni negli odierni tornei di scacchi, è quello di monitorare il livello di originalità che i giocatori esibiscono. Se giocano una mossa eccezionalmente creativa, i giudici spesso sospettano che non possa essere una mossa umana, per cui deve essere la mossa di un computer.
Almeno negli scacchi, la creatività viene già considerata il marchio di fabbrica dei computer piuttosto che degli umani! Quindi, se gli scacchi fossero il nostro canarino nella miniera di carbone, saremmo stati debitamente avvertiti che il canarino sta morendo. Quello che sta accadendo oggi ai team di IA e umani negli scacchi, potrebbe in futuro accadere ai team di IA e umani nel campo della polizia, della medicina, delle banche e in molti altri campi.
Per di più, l'IA gode di abilità unicamente non umane, che fanno la differenza tra l'intelligenza artificiale e un lavoratore umano di un solo tipo, piuttosto che semplicemente del suo grado. Le due abilità non umane particolarmente importanti in possesso dell'IA, sono la connettività e l'aggiornabilità.
Ad esempio, molti conducenti non hanno familiarità con tutte le modifiche delle normative sul traffico delle strade che guidano, per cui spesso le violano.
Inoltre, poiché ogni guidatore è un'entità a sé, quando due veicoli si avvicinano allo stesso incrocio, a volte i conducenti sbagliano a comunicare le loro intenzioni e si scontrano.
Al contrario, le auto a guida autonoma conoscono tutte le regole del traffico e non le violeranno mai apposta, e inoltre potrebbero essere tutte collegate tra loro. Quando due di questi veicoli si avvicinano allo stesso incrocio, non sono realmente due entità separate, ma parti di un singolo algoritmo.
Le probabilità che possano comunicare male tra loro e scontrarsi, saranno quindi di gran lunga inferiori.
Allo stesso modo, se l'Organizzazione Mondiale della Sanità (OMS) identificasse una nuova malattia, o se un laboratorio producesse una nuova medicina, non riuscirebbe ad aggiornare immediatamente tutti i medici che ci sono nel mondo.
Eppure, anche se dovessero esserci miliardi di medici di IA nel mondo - ognuno dei quali monitora la salute di un solo essere umano - si riuscirebbe ad aggiornarli tutti in una frazione di secondo e tutti quanti potrebbero comunicare tra loro le valutazioni della nuova malattia o medicina.
Questi potenziali vantaggi di connettività e aggiornabilità sono così grandi, che almeno in alcune linee di lavoro potrebbe essere sensato sostituire tutti gli esseri umani con i computer, anche se individualmente alcuni esseri umani svolgono ancora un lavoro migliore delle macchine.
Le stesse tecnologie che potrebbero rendere
economicamente irrilevanti miliardi di persone,
potrebbero anche renderle più facili
da monitorare e controllare.
Tutto ciò porta a una conclusione molto importante:
La rivoluzione dell'automazione non consisterà in un singolo evento spartiacque, dopo il quale il mercato del lavoro si stabilizzerà con un nuovo equilibrio.
Si tratterà, piuttosto, di una cascata di disruption sempre più grandi.
I vecchi posti di lavoro scompariranno e nasceranno quelli nuovi, ma anche i nuovi lavori cambieranno rapidamente e svaniranno. Le persone non dovranno riqualificarsi e reinventarsi una sola volta, ma molte volte.
Proprio come nel XX secolo, quando i governi istituirono dei sistemi educativi di massa per i giovani, nel XXI secolo dovranno istituire dei massicci sistemi di rieducazione per gli adulti.
· Ma sarà abbastanza? Il cambiamento è sempre stressante e il mondo frenetico degli inizi del XXI secolo ha prodotto un'epidemia globale di stress.
· Con l'aumento della volatilità del lavoro, le persone saranno in grado di farle fronte? Entro il 2050, potrebbe emergere una classe inutile, il risultato non solo di una carenza di posti di lavoro o di una mancanza di istruzione pertinente, ma anche di un'insufficiente capacità mentale nel continuare ad apprendere nuove abilità.
3. L'Ascesa della Dittatura Digitale
Poiché molte persone perdono il proprio valore economico, potrebbero anche perdere il loro potere politico.
Le stesse tecnologie che potrebbero rendere economicamente irrilevanti miliardi di persone, potrebbero anche renderle più facili da monitorare e controllare.
L'IA spaventa molte persone perché non credono che rimarrà obbediente. La fantascienza offre varie possibilità che i computer e i robot sviluppino una loro coscienza e, poco dopo, tentino di uccidere tutti gli umani. Tuttavia, non c'è una ragione particolare per credere che l'intelligenza artificiale svilupperà la coscienza man mano che diventerà più intelligente.
Al contrario, dovremmo temere l'intelligenza artificiale perché probabilmente obbedirà sempre ai suoi padroni umani e non si ribellerà mai. L'intelligenza artificiale è uno strumento e un'arma diversa da tutte le altre sviluppate dagli esseri umani; quasi certamente permetterà ai già potenti di consolidare ulteriormente il loro potere.
Consideriamo la sorveglianza. Numerosi paesi in tutto il mondo, tra cui diverse democrazie, sono impegnati a costruire dei sistemi di sorveglianza senza precedenti.
Ad esempio, Israele è un leader nel campo della tecnologia di sorveglianza e nella parte di Cisgiordania in suo possesso, ha creato il prototipo funzionante di un regime di sorveglianza totale.
Già oggi, ogni volta che i palestinesi fanno una telefonata, postano qualcosa su Facebook o viaggiano da una città all'altra, vengono probabilmente monitorati da microfoni, telecamere, droni o software spia israeliani.
Gli algoritmi analizzano i dati raccolti, aiutando le forze di sicurezza israeliane a individuare e neutralizzare quelle che considerano potenziali minacce.
I palestinesi possono amministrare alcune città e villaggi in Cisgiordania, ma gli israeliani comandano il cielo, le onde radio e il cyberspazio. Pertanto, con enorme sorpresa, pochi soldati israeliani controllano in modo efficace i due milioni e mezzo di palestinesi che vivono in Cisgiordania.
In un caso avvenuto nell'ottobre 2017, un lavoratore palestinese ha postato, sul suo account privato di Facebook, un'immagine di sé stesso sul posto di lavoro, accanto a un bulldozer. Vicino all'immagine ha scritto, "Buongiorno!"
L'algoritmo di traduzione di Facebook ha commesso un piccolo errore durante la traslitterazione delle lettere arabe. Invece di Ysabechhum (che significa "buongiorno"), l'algoritmo ha identificato le lettere come Ydbachhum (che significa "fa loro del male").
Sospettando che l'uomo potrebbe essere un terrorista che intende usare il bulldozer per andare addosso alle persone, le forze di sicurezza israeliane lo hanno rapidamente arrestato. Lo hanno rilasciato dopo aver capito che l'algoritmo aveva commesso un errore.
Ciò nonostante, il post offensivo di Facebook è stato rimosso - è sempre meglio stare attenti. Quello che i palestinesi stanno vivendo oggi in Cisgiordania, potrebbe essere solo una primitiva anteprima di ciò che, in definitiva, sperimenteranno miliardi di persone in tutto il pianeta.
Il conflitto tra democrazia e dittatura
è in realtà un conflitto tra
due diversi sistemi di elaborazione dati.
L'intelligenza artificiale
può recare beneficio alla seconda.
Eppure, queste tattiche dure possono non rivelarsi necessarie, almeno per la maggior parte del tempo.
La facciata del libero arbitrio e della libertà di voto, in alcuni paesi potrebbe rimanere in vigore, sebbene il popolo eserciti un controllo sempre più minore. Tanto per essere sicuri, i tentativi di manipolare i sentimenti degli elettori non sono nuovi.
Tuttavia, una volta che qualcuno (a San Francisco, a Pechino o a Mosca) acquisisce la capacità tecnologica di manipolare il cuore umano - in modo affidabile, economico e su larga scala - la politica democratica si trasformerà in uno spettacolo di burattini ricco di emozioni.
È molto improbabile che, nei prossimi decenni, dovremo affrontare la ribellione delle macchine senzienti, ma potremmo avere a che fare con orde di robot che sanno come premere i nostri pulsanti emotivi meglio di quanto faccia nostra madre e che usano
questa strana abilità, per volontà di una élite umana, per cercare di venderci qualcosa - sia che si tratti di un'auto, di un politico o di un'intera ideologia.
I bot potrebbero riuscire a identificare le nostre paure più profonde, il nostro odio e le nostre voglie, per poi usarle contro di noi.
Abbiamo già avuto un assaggio di tutto ciò nelle recenti elezioni e nei referendum in tutto il mondo, quando gli hacker hanno imparato come manipolare i singoli elettori analizzando i loro dati e sfruttando i loro pregiudizi.
Anche se i thriller di fantascienza sono attratti dalle apocalissi drammatiche fatte di fuoco e fumo, in realtà potremmo trovarci di fronte a una banale apocalisse solo facendo clic su ...
L'impatto più grande e più spaventoso della rivoluzione IA, potrebbe essere sulla relativa efficienza delle democrazie e delle dittature. Storicamente, le autocrazie hanno affrontato degli handicap paralizzanti concernenti l'innovazione e la crescita economica.
Verso la fine del XX secolo, di solito le democrazie superavano le dittature perché erano molto più brave nell'elaborare le informazioni.
Tendiamo a pensare al conflitto tra democrazia e dittatura, come a un conflitto tra due diversi sistemi etici, ma in realtà è un conflitto tra due diversi sistemi di elaborazione dati.
La democrazia distribuisce il potere di elaborare le informazioni e prendere le decisioni tra molte persone e istituzioni, mentre la dittatura concentra le informazioni e il potere in un unico posto.
In base alla tecnologia del XX secolo, era inefficiente concentrare troppe informazioni e potere in un unico posto.
Nessuno ha la capacità di elaborare tutte le informazioni disponibili abbastanza velocemente e prendere le decisioni giuste. Questa è una delle ragioni per cui l'Unione Sovietica ha preso delle decisioni di gran lunga peggiori rispetto agli Stati Uniti e perché l'economia sovietica è rimasta molto indietro rispetto all'economia americana.
Tuttavia, l'intelligenza artificiale potrebbe ben presto far oscillare il pendolo nella direzione opposta.
L'IA consente di elaborare centralmente enormi quantità di informazioni. In effetti, potrebbe rendere i sistemi centralizzati molto più efficienti dei sistemi diffusi, perché l'apprendimento automatico funziona meglio quando la macchina ha più informazioni da analizzare.
Se ignoraste tutte le norme sulla privacy e concentraste tutte le informazioni relative a un miliardo di persone in un unico database, vi potreste ritrovare con algoritmi di gran lunga migliori rispetto a quando rispettavate la privacy dell'individuo e nel vostro database avevate solo delle informazioni parziali su un milione di persone.
Un governo autoritario che ordina a tutti i suoi cittadini di sequenziare il loro DNA e condividere i loro dati medici con un'autorità centrale, otterrebbe un immenso vantaggio in genetica e nella ricerca medica, rispetto alle società in cui i dati medici sono strettamente privati.
Il principale handicap dei regimi autoritari del XX secolo - il desiderio di concentrare tutte le informazioni e il potere in un unico luogo - potrebbe diventare il loro vantaggio decisivo nel XXI secolo.
Yoshi Sodeoka
Ovviamente, le nuove tecnologie continueranno a emergere e alcune di esse potrebbero incoraggiare la distribuzione piuttosto che la concentrazione delle informazioni e del potere.
La tecnologia blockchain e l'uso delle criptovalute abilitate da essa, vengono attualmente pubblicizzate come possibili contrappesi al potere centralizzato.
Tuttavia, la tecnologia blockchain si trova allo stato embrionale e non sappiamo ancora se effettivamente controbilancerà le tendenze centralizzanti dell'IA.
Ricordatevi che anche Internet, nei primi periodi, venne pubblicizzato come la panacea libertaria che avrebbe liberato le persone da tutti i sistemi centralizzati, ma ora è pronto a far diventare l'autorità centralizzata più potente che mai.
4. Il Trasferimento dell'Autorità alle Macchine
Anche se alcune società restassero apparentemente democratiche, la crescente efficienza degli algoritmi trasferirebbe sempre più autorità dagli individui alle macchine in rete.
Potremmo rinunciare volontariamente ad avere autorità sulle nostre vite, perché l'esperienza ci insegnerà a fidarci più degli algoritmi che delle nostre sensazioni, perdendo completamente la nostra capacità di prendere molte decisioni da soli.
Basti pensare al modo in cui, in soli due decenni, miliardi di persone si sono fidate dell'algoritmo di ricerca di Google per uno dei compiti più importanti di tutti:
trovare informazioni pertinenti e affidabili.
Poiché ci affidiamo sempre più a Google per ottenere le risposte, la nostra capacità di individuare le informazioni diminuisce in modo indipendente.
Già oggi, la "verità" viene definita dai migliori risultati di una ricerca su Google. Questo processo ha influenzato anche le nostre abilità fisiche e lo spazio di navigazione.
Le persone non solo chiedono a Google di trovare delle informazioni, ma anche di farsi portare in giro.
Le auto a guida autonoma e i medici IA potrebbero rappresentare un'ulteriore erosione:
Anche se queste innovazioni mettono fuori uso gli autisti e i medici, la loro maggiore importanza risiede nel continuo trasferimento di autorità e responsabilità alle macchine.
Gli esseri umani sono abituati a pensare alla vita come a un dramma dove bisogna prendere sempre delle decisioni.
La democrazia liberale e il capitalismo del libero mercato vedono l'individuo come un agente autonomo che fa costantemente delle scelte sul mondo.
Le opere artistiche - che si tratti di commedie di Shakespeare, di Jane Austen o di pellicole hollywoodiane - di solito ruotano attorno all'eroe che deve prendere una decisione cruciale.
Essere o non essere? Ascolto mia moglie e uccido re Duncan, o ascolto la mia coscienza e lo lascio vivere? Sposo il Sig. Collins o il Sig. Darcy?
Anche le teologie cristiane e musulmane si concentrano sul dramma del processo decisionale, sostenendo che la salvezza eterna dipende dal fare la scelta giusta.
Che cosa accadrà a questa visione della vita, quando ci affideremo all'IA per farle prendere sempre più decisioni al nostro posto? Già adesso ci fidiamo di Netflix per consigliarci i film da vedere e Spotify per scegliere la musica che ci deve piacere. Perché la disponibilità dell'IA dovrebbe fermarsi qui?
Ogni anno milioni di studenti universitari devono decidere cosa studiare. Si tratta di una decisione molto importante e difficile, da prendere con la pressione di genitori, amici e professori che hanno interessi e opinioni diverse.
Viene anche influenzata dalle paure e dalle fantasie individuali degli studenti, plasmate a loro volta dai film, dai romanzi e dalle campagne pubblicitarie.
Complicando le cose, uno studente non sa veramente cosa ci vuole per avere successo in una determinata professione e non necessariamente sa quali siano davvero i suoi punti di forza e le sue debolezze.
Non è così difficile vedere come l'intelligenza artificiale un giorno possa prendere delle decisioni migliori delle nostre, riguardo la carriera e forse anche le nostre relazioni. Ma una volta che inizieremo a contare sull'intelligenza artificiale per decidere cosa studiare, dove lavorare, con cui uscire o addirittura chi sposare, la vita umana cesserà di essere il dramma delle decisioni e la nostra concezione della vita dovrà cambiare.
Le elezioni democratiche e il libero mercato potrebbero non avere più senso. Così pure la maggior parte delle religioni e delle opere d'arte.
Provate a immaginare Anna Karenina che tira fuori il suo smartphone e chieda a Siri se dovrebbe restare sposata con Karenin o fuggire con il conte Vronsky. Oppure, immaginate la vostra commedia preferita di Shakespeare, con tutte le decisioni cruciali prese da un algoritmo di Google.
Amleto e Macbeth avrebbero una vita molto più confortevole, ma,
- · Che tipo di vite sarebbero quelle?
- · Ci sono dei modelli che diano un senso a tali vite?
- · I parlamenti e i partiti politici riusciranno a superare queste sfide e prevenire gli scenari più tetri?
Al momento attuale ciò non sembra possibile ...
La disruption tecnologica non è nemmeno uno dei punti principali dell'agenda politica. Durante la corsa presidenziale degli Stati Uniti del 2016, il principale riferimento alla tecnologia dirompente riguardava la debacle della posta elettronica di Hillary Clinton e nonostante tutti i discorsi sulle perdite dei posti di lavoro, nessuno dei due candidati ha affrontato direttamente l'impatto potenziale dell'automazione.
Donald Trump ha avvisato gli elettori che i messicani avrebbero preso i loro posti di lavoro e che gli Stati Uniti avrebbero dovuto costruire un muro sul confine meridionale. Non ha mai avvertito gli elettori che gli algoritmi avrebbero svolto il loro lavoro e neppure ha suggerito di costruire un firewall attorno alla California.
Quindi cosa dovremmo fare?
Per cominciare, dobbiamo mettere una priorità molto più alta sulla comprensione di come funziona la mente umana, in particolare su come coltivare la saggezza e la compassione.
Se dovessimo investire troppo nell'IA e troppo poco nello sviluppo della mente umana, l'intelligenza artificiale molto sofisticata dei computer potrebbe servire solo a potenziare la naturale stupidità degli esseri umani e a nutrire i nostri impulsi peggiori (che forse sono anche i più potenti), tra cui l'avidità e l'odio.
Per evitare un simile risultato, per ogni dollaro e ogni minuto che investiamo nel miglioramento dell'IA, dovremmo saggiamente investire un dollaro e un minuto nell'esplorazione e nello sviluppo della coscienza umana.
Più in pratica e più nell'immediato: se vogliamo impedire la concentrazione di tutta la ricchezza e potere nelle mani di una piccola élite, dobbiamo regolamentare la proprietà dei dati ...
Nei tempi antichi, la terra era il bene più importante, quindi la politica era la lotta per il controllo della terra. Nell'era moderna, le macchine e le fabbriche sono diventate più
importanti della terra, quindi le lotte politiche si sono concentrate sul controllo di questi mezzi vitali di produzione.
Nel XXI secolo, come beni più importanti, i dati eclisseranno sia la terra che i macchinari, quindi la politica sarà la lotta per controllare il flusso dei dati.
Sfortunatamente, non abbiamo molta esperienza su come regolamentare la proprietà dei dati, che è intrinsecamente un compito molto più difficile di regolamentare i terreni o le macchine. I dati sono ovunque e in nessun luogo allo stesso tempo, possono spostarsi alla velocità della luce e se ne possono creare infinite copie.
I dati raccolti sul mio DNA, sul mio cervello e sulla mia vita appartengono a me, al governo, a una società o al collettivo umano?
La corsa per l'accumulo dei dati è già partita e attualmente è guidata da giganti come Google e Facebook e, in Cina, da Baidu e Tencent.
Finora, molte di queste aziende hanno agito da "mercanti dell'attenzione": catturano la nostra attenzione dandoci gratuitamente,
- · le informazioni
- · i servizi
- · l'intrattenimento
...per poi rivenderla agli inserzionisti.
Eppure, la loro vera attività non è solo la vendita di annunci pubblicitari. Catturando la nostra attenzione riescono ad accumulare immense quantità di dati su di noi, che valgono più di qualsiasi introito pubblicitario.
Non siamo i loro clienti - siamo i loro prodotti…
Per le persone comuni sarà molto difficile resistere a questo processo. Al momento, molti di noi sono felici di regalare il nostro bene più prezioso - i nostri dati personali - in cambio di servizi gratuiti di posta elettronica e video divertenti sui gatti.
Inoltre, se in seguito la gente comune decidesse di provare a bloccare il flusso dei dati, è probabile che abbia dei problemi a farlo, specialmente perché potrebbe aver fatto affidamento sulla rete per farsi aiutare a prendere delle decisioni persino sulla salute e la sopravvivenza fisica.
La nazionalizzazione dei dati da parte dei governi potrebbe offrire una soluzione; certamente frenerebbe il potere delle grandi multinazionali, ma la storia ci suggerisce che non è necessariamente meglio essere nelle mani di governi strapotenti.
Quindi, faremmo meglio a chiedere ai nostri scienziati, ai nostri filosofi, ai nostri avvocati e persino ai nostri poeti, di rivolgere la loro attenzione a questa domanda importante:
Come si regola la proprietà dei dati?
Attualmente, gli esseri umani rischiano di diventare simili agli animali domestici.
Abbiamo allevato delle docili mucche che producono enormi quantità di latte, ma che sono anche di gran lunga inferiori ai loro antenati selvaggi. Sono meno agili, meno curiose e meno intraprendenti.
Ora stiamo creando degli esseri umani addomesticati che producono enormi quantità di dati e funzionano come chip efficienti in un enorme meccanismo di elaborazione dati, ma che difficilmente massimizzano il loro potenziale umano.
Se non stiamo attenti, finiremo con gli umani declassati che usano a malo modo i computer per devastare se stessi e il mondo.
Se trovate che queste prospettive siano allarmanti - se non vi piace l'idea di vivere in una dittatura digitale o in una forma socialmente degradata di società - allora il contributo più importante che possiate dare, è trovare dei modi per evitare che troppi dati vengano concentrati in pochissime mani e anche trovare dei modi per mantenere l'elaborazione distribuita dei dati più efficiente rispetto all'elaborazione centralizzata.
Non sarà un compito facile, ma la sua risoluzione potrebbe essere la migliore salvaguardia della democrazia e di noi stessi …
