"L'ultimo della nostra specie"

 

Se Guardiamo avanti nel tempo, quando le macchine diventeranno più intelligenti degli esseri umani e/o persone dotate di una tecnologia digitale diventando così creature post-biologiche, indistinguibili dalle macchine. 

Tali discendenti digitali, saranno così diversi da noi che sembreranno una specie completamente diversa. Cosa succederà a noi? Semplici organismi "biologici? " Forse potremmo essere in grado di coesistere per un certo tempo con i nostri discendenti più intelligenti, ma non per molto. Alla fine, le creature che noi oggi consideriamo "umani" - creature come noi - si estingueranno.

Al centro di questa linea di pensiero c'è l'idea che ciò che più conta è l'intelligenza, non la biologia. Che cosa sono gli esseri umani? Alla fine non siamo altro che contenitori biologici per l'intelligenza. E, francamente, come contenitori biologici a lungo andare, non siamo certamente ideali. Siamo fragili, e superstiziosi. Noi non viviamo molto a lungo. Abbiamo bisogno di mangiare e dormire. Impariamo lentamente. Ogni nuova generazione passa anni re-imparare tutte le cose che le generazioni precedenti hanno già imparato. Alcuni di noi si ammalano, e gli altri poi dedicano ingenti risorse alla cura dei i malati. E' tutto incredibilmente lento e grezzo. Mentre Il progresso avanza sempre di più.

Quindi forse siamo solo a un punto di arresto. Forse il punto è che le creature biologiche siano quello di evolvere in qualcosa che genera l'intelligenza sufficiente per evolvere in qualcosa d'altro. Forse il nostro scopo è quello di creare le nostre proprie sostituzioni. E forse, grazie ai computer e a intelligenze artificiali, non siamo lontani dal raggiungere questo enorme punto di flesso evolutivo.

Che cosa si deve fare?

Altri stanno pensando in questo senso, e anche cercando di fare qualcosa, come dimostra questo saggio fantastico da New York Times da Huw Price, un filosofo presso l'Università di Cambridge.

http://opinionator.blogs.nytimes.com/2013/01/27/cambridge-cabs-and-copenhagen-my-route-to-existential-risk/

E' un pezzo lungo, ma ho preso alcuni punti salienti:

"Io credo che ci siano fondati motivi per pensare che noi esseri umani ci stiamo avvicinando uno dei momenti più significativi della nostra storia: Il punto in cui l'intelligenza sfugge ai vincoli della biologia e non vedo validi motivi che ci inducano ad avere  fiducia su ciò che sta per accadere, si sopravvive alla transizione in una forma ragionevole. Senza tali motivi, credo che abbiamo motivo di preoccuparci.

"Siamo di fronte alla prospettiva che ha progettato le tecnologie non biologiche, che operano in base ai vincoli completamente diversi sotto molti aspetti, potremmo presto fare il tipo di cose che il nostro cervello fa, ma molto molto più velocemente, e molto molto meglio, in qualsiasi dimensione di miglioramento."

Molti credono che il punto in cui si raggiunge l'intelligenza artificiale generale a cui ci stiamo avvicinando, abbia  un prezzo molto alto da pagare. Ma tutto ciò solleva profonde questioni esistenziali per noi:

"In effetti, non è davvero chiaro chi di "noi" si troverebbe, in tali circostanze. Saremmo umani sopravvissuti (o meno) in un ambiente in cui la superiorità delle macchine intelligenti avranno preso le redini, a parlare per noi? Saremmo intelligenze umane in qualche modo esteso attraverso un non biologico? Saremmo forse in un certo senso tutti postumani (anche se pensassimo di noi stessi discendenti di esseri umani)? "

L'argomento che alcune persone avanzano è che le macchine non saranno mai in grado di fare tutto ciò che un essere umano può fare. Non saranno mai in grado di scrivere poesie, o avere dei sogni, o di sentire dolore, gioia o amore. Ma, come punti al di fuori di noi stessi, qualcuno potrebbe dire chi se ne frega?

"Non bisogna pensare a quello che è l'intelligenza, ma, pensare a quello che fa. Bisogna mettere e distinguere un po' rozzamente, la cosa, il nostro picco nel paesaggio biologico presente è che tendiamo ad essere molto meglio nel controllare il nostro ambiente più di ogni altra specie. E' in questi termini, che bisogna porre la questione e quindi se le macchine potrebbero ad un certo punto fare un lavoro ancora migliore (forse un lavoro di gran lunga migliore)."

Naturalmente le macchine fanno un lavoro di gran lunga migliore a molte cose che noi umani possiamo fare. Le macchine sono presenti e stanno già facendo cose in domini innumerevoli. Gli scacchi sono un esempio. La borsa è un altro. Immaginate cosa sarebbe successo ai mercati del mondo, e quindi per l'economia mondiale, se domani tutti i computer smettessero di funzionare, resteremo chiusi fuori, torneremo tutti ad usare le mani. Immaginate gli esseri umani che cercano di competere fianco a fianco in questo settore contro la macchina. E' incomprensibile.

Cercando di fermare l'inarrestabile

Alcucune persone stanno cercando di trovare dei modi per evitare che ciò accada, o per assicurarsi che i "buoni" risultati abbiano più probabilità dei risultati "cattivi". Queste persone hanno co-fondato il Centro per lo Studio del rischio esistenziale (CSER), a Cambridge.

Credo che l'assegnazione di valori come "buono" e "cattivo" per vari risultati possibili di un processo evolutivo non abbia senso. L'evoluzione accade e noi, non abbiamo controllo su di essa. Qualsiasi benintenzionato o chi governa potrebbero mettere in atto per evitare determinati risultati, altri troveranno il modo di lavorare intorno a loro. E' quello che uno scienziato informatico di Yale (David Gelernter) chiama "la legge Orwelliana del Futuro", e dice così: Sarà quella che ogni nuova tecnologia che può essere provata.

Siamo soli su questo percorso, e non c'è modo di fermarlo. Questo non è né buono né cattivo. Non era certamente un male quando organismi unicellulari si sono evoluti in organismi più complessi estinguendosi e quindi noi siamo diversi da loro? Suppongo che gli organismi unicellulari non siano stati psicologicamente preoccupati per la loro estinzione. Ma senza questo processo, noi esseri umani non saremmo qui. E se ora è il nostro turno di essere cancellati con l'evoluzione, e allora? Dal punto di vista dell'universo, chi se ne frega se gli esseri umani cessano di esistere?

La grande ironia in tutto questo è che non si può smettere di spingere in avanti con tecnologie pericolose (AI, bioingegneria) perché l'evoluzione ha cablato il nostro cervello in modo tale che non si può resistere a spingere in avanti, anche se la conseguenza di questa continua spinta verso l'alto dell'evoluzione è che si finisce per rendere noi stessi estinti. noi esseri umani piace credere che fra tutte le creature viventi siamo speciali e unici. E noi siamo, se non altro perché siamo la prima specie che consapevolmente creerà qualcosa di superiore a noi stessi. Noi ingegneri delle nostre proprie sostituzioni. Se ci pensiamo siamo al tempo stesso brillanti e straordinariamente stupidi allo stesso tempo. In altre parole, perfettamente umani.

Tradotto e curato da wlady dal sito:
http://readwrite.com/2013/02/04/if-ai-means-the-end-of-us-maybe-thats-okay