.Next.

La prima cosa che salta in mente, nel momento in cui ci figuriamo l’intelligenza artificiale, è un super-computer sofisticatissimo in grado di manipolare un’immensa quantità di simboli, servendosi magari di complicati algoritmi che gli permettano di associare uno stimolo ambientale, percepito con sensori ottici, sonori, ecc… ad una determinata risposta, ovviamente la migliore in termini di sopravvivenza e di fitness evolutiva dell’intelligenza artificiale. Tuttavia questa forma di IA basata su sistemi computazionali non può funzionare, poichè va contro il teorema di Goedel. In una serie P di algoritmi con cui l’IA compirebbe F funzioni, in tutti i casi mancherebbe sempre quella funzione di autocoscienza che è costituita dalla comprensione di essere in possesso di P algoritmi necessari ad F funzioni, il che implica necessariamente il doversi porre al di fuori della serie P. Ma come è possibile porsi fuori di questa serie P e avere la conoscenza di essa mediante l’uso di algoritmi (il computer alla fine solo quelli possiede) se gli unici algoritmi che ha sono contenuti in P? Insomma siamo al solito problema dei confini del mondo di Wittgenstein, il problema dell’osservatore esterno. Questo ci fa pensare che i cosiddetti “Next”, ossia i Cyborg perfetti descritti da Rioji Minagawa nel manga ARMS, esseri dal corpo totalmente artificiale e dalla mente computerizzata in grado di uplodare i loro ricordi in banche dati in maniera tale da poter vivere in eterno semplicemente scaricando la loro mente in corpi nuovi, non possano esistere, in quanto contrari alle leggi di Goedel. Tuttavia, queste ultime, a differenza di quanto dice Penrose, non escudono comunque la possibilità che l’intelligenza artificiale possa essere creata. Se prendiamo infatti il film “L’uomo bicentenario” possiamo osservare come sia possibile arrivare all’IA aggirando il limite posto dal teorema di Goedel. In questo film l’androide protagonista, nel suo tentativo di aiutare il genere umano, inventa degli organi artificiali sintetici che riproducono esattamente quelli degli esseri umani. Se consideriamo il cervello come una serie di interconnessioni neurali, si può immaginare di creare un substrato biologico artificiale assemblando fibre che abbiano l’esatta struttura, funzione e connessione delle cellule nervose, pur essendo costruite di materiale sintetico. Non c’è alcun sistema computazionale artificiale dietro questa forma dell’IA. L’unico problema è che nessuno sa se la mente nascerebbe spontaneamente dall’assemblaggio corretto delle strutture neurali, ossia dal semplice cablaggio di fili. Se questo si verificasse avremmo svelato uno dei più grandi misteri dell’umanità e cioè che la mente ed il cervello sono la stessa cosa. A quel punto poi resterebbe da chiarire se assemblando le sinapsi di un cervello in modo del tutto identico a quello di chi vi scrive ora, dando una copia esatta del mio cervello, esca fuori un altro me, ma il dubbio è che questo alterego sia di fatto un clone, che condivide tutte le esperienze della vita con me, ma che nulla ha a che fare con la mia “entità”. Quindi il progetto dei Next, ossia quello dell’immortalità umana fondata sull’upload della mente, mi sembra difficilmente realizzabile, salvo trovare idee alternative a quelle espresse precedentemente allo scopo di trasferire la coscienza in una macchina e da qui ad un altro corpo.

NB: la tesi dell’IA “sintetica” è di John Searle.

18 Risposte to “.Next.”

  1. Maurizio Colucci Dice:

    Non credi che il nostro cervello computi anch’esso una funziona matematica, per quanto complicata? Se è così, perché esso sarebbe immune alle limitazioni “di Goedel”?

  2. j1nz0 Dice:

    Il fatto che il cervello sia un modello computazionale potrebbe essere un’ipotesi plausibile, però a quel punto se passa questa ipotesi allora passa anche il tuo dubbio, il che significa che dobbiamo ammettere la possibile inesistenza della coscienza.
    Io comunque non credo molto a questa ipotesi. Basta pensare ai “qualia” ed ecco che qualunque forma di computazione decade. Non credo infatti che possa esistere un algoritmo in credo di spiegare la rossezza del rosso, per quanta funzionalità descrittiva esso abbia.

  3. Maurizio Colucci Dice:

    Io separerei due questioni. 1. qual è l’evidenza che il cervello non sia soggetto alle limitazioni di goedel? 2. che c’entra goedel con la coscienza?

    Quando studiavo la questione ero giunto alla conclusione che la risposta a (1) sia “nessuna”, e la risposta a (2) era “niente”. Ora non ricordo bene le argomentazioni. Comunque ricordo che Daniel Dennett è un autore fondamentale nella questione.

  4. j1nz0 Dice:

    Cerco di risponderti:

    1) Per poter porre la questione devi poter affermare che il cervello sia un modello computazionale. Goedel funziona con i sistemi matematici: qui stiamo parlando di qualcosa che con la matematica potrebbe non aver nulla a che fare. Ti invito a riflettere nuovamente sulla questione dei qualia: è impossibile pensare di spiegare in forma matematica la soggettività di una esperienza. Il cervello probabilmente non si costituisce affatto come insieme di algoritmi P cui sono associate funzioni computazionali.
    2) C’entra nei termini in cui consente di escludere che la coscienza sia generata da una serie di operazioni. Ma forse effettivamente alla fine non c’entra nulla, perchè nemmeno l’IA debole di Searle potrebbe in effetti spiegare la coscienza.

  5. fabiobiker Dice:

    scusate se mi inserisco.
    L’argomento è interessantissimo.
    Ho una formazione scientifica, ma del tutto “estranea” a questi argomenti.
    Cosa mi consigliereste di leggere per entrare nell tema senza troppe difficoltà?
    (Sono un ingegnere, conosco la matematica e la fisica, ma non nella direzione che l’argomento richiederebbe…)

    Grazie!!
    Fabio

  6. Maurizio Colucci Dice:

    Sulla (1):

    Un neurone è un piccolo computer, in parte digitale e in parte analogico, che calcola una funziona matematica. Una funzione che peraltro oggi comprendiamo abbastanza bene. Il cervello, poi, è un insieme di neuroni, quindi calcola anch’esso una funzione matematica: certo più complessa, ma pur sempre una funzione. Quindi la computazione c’è. E’ fuor di dubbio che il cervello computa. Domanda: è rilevante questa computazione per la coscienza? Oh sì, fratello, sì. :) C’è una montagna di evidenza che questa computazione ha molto a che fare con la nostra coscienza. Ad esempio, se un dottore altera la computazione del tuo cervello, ad esempio applicandoti degli elettrodi o degli agenti chimici, riesce a indurre in te delle emozioni ben precise, come l’ilarità. Come altro esempio, è ormai assodato che le nostre memorie sono codificate nelle sinapsi, e che l’atto di ricordare coinvolge un vero algoritmo di estrazione di dati (data-mining). Altri esempi: altre caratteristiche chiave della coscienza, come ad es. il riconoscimento di volti, sono svolte da appositi moduli cerebrali — il riconoscimento è un vero e proprio algoritmo effettuato dal cervello. Idem per la comprensione del linguaggio. Potrei andare avanti a lungo con gli esempi. In breve, cè una quantità schiacciante di evidenza che tra la computazione e le sensazioni soggettive (la coscienza) c’è un nesso di causa ed effetto. La computazione è tutt’altro che irrilevante nella coscienza.

    Soprattutto, non vedo perché dovrebbe “essere impossibile spiegare in forma matematica la soggettività di un’esperienza”. Cioè, cosa impedisce che un domani noi riusciremo a dire cose tipo “questo pattern computazionale significa che stai provando la sensazione di dolore”, “questo pattern di computazione nella zona corticale significa che stai sentendo un sapore acido”, ecc?

    Sulla stanza cinese di Searle, che a me interessava moltissimo, ho trovato una refutazione ottima nel libro “consciousness explained” di Dennett.

    Comunque, mi hai fatto venire voglia di ripescare quei libri, e magari di farci qualche post.

    Ciao

  7. j1nz0 Dice:

    Senza dubbio ti consiglierei di leggere John Searle “La Mente”. E’ una summa del pensiero di tutti i filosofi in questione, a parte la Churchland mi sa. E’ bene che queste cose si diffondano tra voi ingegneri il più bossibile. La cibernetica necessita di un lavoro di squadra da parte di ingegneri, psicologi e neuroscienziati.

  8. Maurizio Colucci Dice:

    Consigli per Fabio.

    La materia è vasta e secondo me bisogna leggere almeno (nell’ordine):

    - Come funziona la mente, di Steven Pinker (accessibile a tutti)

    - La mente e le menti (Kinds of minds), di Daniel Dennett (accessibile a tutti)

    - La mente inventata (the mind’s past), di Michael Gazzaniga;

    - Consciousness explained (non ricordo il titolo in italiano), di Daniel Dennett (più tecnico)

    - l’idea pericolosa di Darwin (Daniel Dennett)

    Meno importanti ma pur sempre interessanti:

    - The age of spiritual machines, Ray Kurzweil;

    - The user illusion, Tor Noerretranders;

    - Il motore della ragione, la sede dell’anima, Paul Churchland;

    Ciao

  9. Maurizio Colucci Dice:

    Ma io conosco bene le posizioni di Searle. So anche dirti il punto esatto dove si sbaglia :)

  10. Maurizio Colucci Dice:

    Pardon, era rivolto a Fabio. Chiedo venia :P

  11. fabiobiker Dice:

    Grazie mille,
    ne avrò almeno per tutte le vacanze fino alla befana…

    Fabio

  12. j1nz0 Dice:

    @Maurizio:

    “Un neurone è un piccolo computer, in parte digitale e in parte analogico, che calcola una funziona matematica.”

    Questa è l’ipotesi di Penrose mi pare. Ma viene smontata da Searle in la mente.

    “Il cervello, poi, è un insieme di neuroni, quindi calcola anch’esso una funzione matematica: certo più complessa, ma pur sempre una funzione.”

    Se fosse così riusciresti a spiegare a parole ad un cieco che cos’è il rosso.
    Questa ipotesi non può essere esaustiva.

    “Domanda: è rilevante questa computazione per la coscienza? Oh sì, fratello, sì. ”

    Un epilettico del terzo tipo mentre compie azioni del tutto ordinate scende le scale esce da un palazzo, fa 100 metri in mezzo alla strada e poi di colpo si sveglia dicendo “ma dove sono?” secondo la tua visione computare, ma tuttavia non possiede alcuna forma di coscienza. Questo discorso riguarda la questione degli Zombie. Il fatto è che la computazione e la coscienza sono cose la cui correlazione è indimostrabile.

    “Ad esempio, se un dottore altera la computazione del tuo cervello, ad esempio applicandoti degli elettrodi o degli agenti chimici, riesce a indurre in te delle emozioni ben precise, come l’ilarità. ”

    Ciò non implica che sia un processo di natura computazionale. Bloccare un recettore per la Dopamina o interferire con una scarica elettrica non necessariamente significa alterare un sistema matematico.

    “In breve, cè una quantità schiacciante di evidenza che tra la computazione e le sensazioni soggettive (la coscienza) c’è un nesso di causa ed effetto.”

    Questo nesso credo non sia ancora stato mai trovato da nessuno. Gli esempi che poni non credo sostengano efficacemente la tua tesi. Il ricordo, il riconoscimento e tutto quello che sostieni è fattibile anche da un computer e non implica alcuna forma di coscienza alla base. Se vedi il cervello come un sistema computazionale significa che lo devi interamente poter sostituire con un computer. Teorema di Goedel a parte, ancora non ho capito come tramite algoritmi un computer si possa rendere conto di come è la rossezza del rosso.

    “Cioè, cosa impedisce che un domani noi riusciremo a dire cose tipo “questo pattern computazionale significa che stai provando la sensazione di dolore”, “questo pattern di computazione nella zona corticale significa che stai sentendo un sapore acido”, ecc?”

    Sei molto scaltro Maurizio. ;-) E’ un complimento sincero. Questo è un po’ il problema della scienziata Mary. Mary sa tutto sulla lunghezza d’onda dei colori, è una espertissima neurofisiologa e biofisica. Ma purtroppo non ha mai visto i colori. Potremmo concludere che Mary quando vede lo spettro di riflessione di un oggetto su carta vede un colore?

    E inoltre a se il tuo pattern di computazione ti fa vedere un drago al posto di un cavallo e a me lo stesso pattern fa vedere un cavallo vero e proprio?

    Io credo che in realtà la nostra mente sopravvenga alle funzioni neurali e computazionali, permettendoci di avere esperienze soggettive. Ma alla fine trattasi di atto di fede: la mente umana è come Dio.

  13. Maurizio Colucci Dice:

    @Maurizio:

    >> Un neurone è un piccolo computer, in parte digitale e in parte analogico, che calcola una funziona matematica

    > Questa è l’ipotesi di Penrose mi pare. Ma viene smontata da Searle in la mente.

    Ehm, no, non mi pare. E’ semplicemente un fatto noto. Nessuno, che io sappia, oggi mette in discussione che il neurone sia allo stesso tempo un ente di memorizzazione di simboli e un ente di calcolo su quei simboli. Che dice Searle su questo?

    >> Il cervello, poi, è un insieme di neuroni, quindi calcola anch’esso una funzione matematica: certo più complessa, ma pur sempre una funzione.

    > Se fosse così riusciresti a spiegare a parole ad un cieco che cos’è il rosso.

    Eh? Perché mai? Scusa ma mi pare un totale non-sequitur…

    >> Domanda: è rilevante questa computazione per la coscienza? Oh sì, fratello, sì.

    > Un epilettico del terzo tipo mentre compie azioni del tutto ordinate scende le scale esce da un palazzo, fa 100 metri in mezzo alla strada e poi di colpo si sveglia dicendo ‘ma dove sono?’ Secondo la tua visione computare, ma tuttavia non possiede alcuna forma di coscienza.

    C’è un equivoco. Non è che OGNI computazione dia luogo a sensazioni soggettive. Dopo tutto, quando sei sotto anestesia, il tuo cervello computa ma tu non provi nulla, non sei conscio. Tu rispondi come se io avessi affermato che OGNI computazione corrisponde a sensazioni soggettive. Ma ovviamente solo ALCUNE forme di computazione danno luogo a sensazioni.

    > Questo discorso riguarda la questione degli Zombie. Il fatto è che la computazione e la coscienza sono cose la cui correlazione è indimostrabile.

    Credo tu stia confondendo due cose. La correlazione non è indimostrabile. C’è molta evidenza che la computazione induce l’emozione. Quello che non sappiamo è _perché_ lo fa (problema mente/corpo). Ma questa, ripeto, è un’altra questione.

    >> Ad esempio, se un dottore altera la computazione del tuo cervello, ad esempio applicandoti degli elettrodi o degli agenti chimici, riesce a indurre in te delle emozioni ben precise, come l’ilarità.

    > Ciò non implica che sia un processo di natura computazionale. Bloccare un recettore per la Dopamina o interferire con una scarica elettrica non necessariamente significa alterare un sistema matematico.

    Questa proprio non me l’aspettavo. Come sarebbe “Non necessariamente significa alterare un sistema matematico”?

    Se tu alteri il pattern di segnali elettrochimici scambiato tra i neuroni, necessariamente che stai alterando la funzione calcolata dal sistema! Voglio dire, i neuroni si scambiano segnali elettrochimici. Questi segnali _realizzano_ una computazione. Se alteri i segnali, per forza alteri la computazione. (Ed ottieni come RISULTATO, a volte, un cambio di sensazioni soggettive, ma questa è un’altra storia)

    Insomma, il fatto che alteri la computazione non sarebbe messo in discussione da nessuno scienziato degno di questo nome. Forse volevi dire che l’alterazione della computazione è irrilevante? Ma questa è tutt’altra domanda.

    >> In breve, cè una quantità schiacciante di evidenza che tra la computazione e le sensazioni soggettive (la coscienza) c’è un nesso di causa ed effetto.

    > Questo nesso credo non sia ancora stato mai trovato da nessuno. Gli esempi che poni non credo sostengano efficacemente la tua tesi.

    Io credo che tu stia confondendo due cose. Io non sto affermando di sapere _perché_ la computazione produce emozione. Sto solo affermando che lo fa. La seconda è, permettimi, fuor di dubbio, data la quantità di evidenza in favore.

    > Il ricordo, il riconoscimento e tutto quello che sostieni è fattibile anche da un computer e non implica alcuna forma di coscienza alla base.

    No che non lo implica, data la conoscenza odierna. Ma domani potremmo benissimo scoprire che UNA CERTA forma di computazione (non ogni forma) implica delle sensazioni soggettive. E allo stesso tempo potremmo non sapere mai _perché_ le implica — che è una domanda del tutto _diversa_.

    > Se vedi il cervello come un sistema computazionale significa che lo devi interamente poter sostituire con un computer. Teorema di Goedel a parte, ancora non ho capito come tramite algoritmi un computer si possa rendere conto di come è la rossezza del rosso.

    Come può UN CERVELLO rendersi conto di come è la rossezza del rosso? Perché quello che il cervello può dovrebbe essere precluso a un computer?

    Certo, potremmo non sapere mai _perché_ un cervello vede rosso. Ma allo stesso tempo sapere che lì dentro “c’è qualcuno”, e che vede rosso.

    > Cioè, cosa impedisce che un domani noi riusciremo a dire cose tipo “questo pattern computazionale significa che stai provando la sensazione di dolore”, “questo pattern di computazione nella zona corticale significa che stai sentendo un sapore acido”, ecc?”

    Sei molto scaltro Maurizio. ;-) E’ un complimento sincero. Questo è un po’ il problema della scienziata Mary. Mary sa tutto sulla lunghezza d’onda dei colori, è una espertissima neurofisiologa e biofisica. Ma purtroppo non ha mai visto i colori. Potremmo concludere che Mary quando vede lo spettro di riflessione di un oggetto su carta vede un colore?

    Tu sei disposto ad assumere che tuo figlio abbia sensazioni in modo simile a te? Che non sia, cioè, uno zombie? Spero di sì.
    Ora, se esamini con uno scanner neurale il pattern computazionale del cervello di tuo figlio in un certo istante, e gli chiedi “che cosa provi adesso?”, sei disposto a credere che lui provi davvero ciò che dice di provare? Bene. Se ti accorgi che, quando lui dice di provare una certa cosa, c’è _sempre_ lo stesso pattern nel suo cervello, non è ragionevole pensare che ci sia una relazione forte tra la sensazione e il pattern di computazione? Bene, è tutto ciò che serve per concludere che, con enorme probabilità, Mary vede rosso. Non potremo mai dimostrarlo, e non potremo mai sapere perché vede rosso, ma sapremo che, con enorme probabilità, Mary vede rosso. La scienza, ti ricordo, non può dimostrare assolutamente niente in modo definitivo, ma può fornire _evidenza_ che rende una tesi enormemente _improbabile_.

    > Io credo che in realtà la nostra mente sopravvenga alle funzioni neurali e computazionali, permettendoci di avere esperienze soggettive.

    Bene. Qual è l’evidenza per questa tesi?

    > Ma alla fine trattasi di atto di fede: la mente umana è come Dio.

    Ah, ecco, volevo ben dire. :)

    Comunque, io riprenderò in mano il libro di Searle. Quando leggi Pinker mi fai sapere? Ciao! M.

  14. j1nz0 Dice:

    Mio Dio…. abbi pietà… sono a casa con l’influenza. Cercherò di risponderti appena mi riprendo. Nel frattempo leggiti Searle, anche se non credo riusciremo a trovare una soluzione, visto che nemmeno la mia tesi ha alcuna forma di supporto, per il semplice motivo che l’esistenza dei qualia è messa spesso in discussione. Alla fine l’unica cosa ad essere chiara qui è che nessuno ha una soluzione. Tuttavia le ipotesi neurobiologiche o computazionali rifiutano a priori l’esistenza dei qualia, cioè se ne disinteressano profondamente, come se appunto non fosse problema della scienza.

  15. Maurizio Dice:

    Per Fabio: Mi accorgo ora che è uscito un nuovo libro di Dennett sulla coscienza. Sweet Dreams, tradotto in italiano. Lo comprerei subito! Sempre leggendo prima Pinker però, che è il più importante di tutti.

    Jinzo: mi è piaciuto quel “nemmeno”. Comunque, se mi permetti un consiglio, non ti fermare a Searle.

  16. nihil Dice:

    Vagamente in-topic: questo esperimento [1] è di tre anni fa. Hai idea se ci sono stati risultati più recenti su questa linea di ricerca?

    [1] http://tinyurl.com/2gx39f

  17. j1nz0 Dice:

    @Maurizio:

    Cercherò di andare oltre Searle.

    @Nihil:

    Fammi vedere….

  18. j1nz0 Dice:

    Non saprei davvero, anche se effettivamente è davvero fico. Comunque io ancora devo capire come vengono realizzate queste forme di interfaccia tra tessuto neurale e circuiti elettrici…

Lascia una Risposta