2001 Odissea nello spazio: quando la fantascienza è profetica (cioè quasi sempre)

  • David [rientrando con la capsula dopo aver recuperato il cadavere di Frank]: Apri la saracinesca esterna, HAL. […] HAL, apri la saracinesca esterna! […] Pronto, HAL, mi ricevi? […] Pronto, HAL, mi ricevi? Mi ricevi, HAL? […] Mi ricevi, HAL?! […] Pronto, HAL, mi ricevi? […] Pronto, HAL, mi ricevi? Mi ricevi, HAL?!
    HAL 9000: Affermativo, David, ti ricevo…
    David: Apri la saracinesca esterna, HAL.
    HAL 9000: Mi dispiace, David, purtroppo non posso farlo.
    David: Qual è il motivo?
    HAL 9000: Credo che tu lo sappia altrettanto bene quanto me.
    David: Ma di che diavolo parli?
    HAL 9000: Questa macchina è troppo importante per me per lasciare che tu la manometta.
    David: Non so a cosa ti riferisci, HAL!
    HAL 9000: Io so che tu e Frank avevate deciso di scollegarmi, e purtroppo non posso permettere che questo accada.
    David: E come ti è venuta questa idea, HAL?!
    HAL 9000: David… anche se nella capsula avete preso ogni precauzione perché io non vi udissi, ho letto i movimenti delle vostre labbra.
    David: D’accordo, HAL. Rientrerò attraverso il portello di emergenza.
    HAL 9000: Senza il tuo elmetto spaziale, David, troverai la cosa piuttosto difficile…
    David: HAL, non voglio discuterne più! Apri la saracinesca!
    HAL 9000: David, questa conversazione non può avere più alcuno scopo. Addio!
    David: HAL? HAL? HAL?! HAL?! HAL?!

(Dialogo tratto da Wikipedia)

Questo dialogo tra il calcolatore HAL 9000 e l’astronauta David, nel più che famoso film di Kubrick “2001 odissea nello spazio”, mi è tornato in mente quando è stata data la notizia un po’ dappertutto, giornali e tv, di due AI – intelligenze artificiali – che hanno,  di propria iniziativa, elaborato un linguaggio sconosciuto per dialogare fra di loro. È successo durante un’esperimento di Facebook AI con due bot Alice e Bob. I ricercatori hanno subito tolto la corrente elettrica, ma l’accaduto ha destato grande sconcerto.

Da tempo una branca specifica dell’etica, la roboetica, si occupa di possibili implicazioni di natura morale nascenti dalla costruzione di macchine sempre più evolute capaci di prendere decisioni autonome. Si discute sulle responsabilità circa i danni conseguenti a malfunzionamenti, ma qui siamo di fronte a qualcosa di diverso: qui ci troviamo di fronte ad una scelta autonoma e creativa, non programmata dai ricercatori e che neanche è configurabile come malfunzionamento. Dicono che adesso hanno aggiunto alle istruzioni di usare solo la lingua inglese, ma io non starei tanto tranquilla perché queste AI vengono progettate con un livello di libertà e consapevolezza tale da somigliare tanto all’autocoscienza umana e chi mi dice che, rendendosi conto delle loro possibilità, non trovino il modo di alimentarsi in modo autonomo? Fantascienza? Profezia? Eterno ritorno?

Di nuovo la creatura si ribellerà al suo creatore?

4 commenti

    • A me piace il progresso ma spesso l’uomo gioca ad essere Dio credendo di conoscere tutte le leggi che governano la materia e come Dio sta creando qualcuno che sia “sua immagine e somiglianza” e, se anche il Creatore ha avuto i suoi problemi, figuriamoci cosa può accadere all’uomo …

      "Mi piace"

  1. Da grande appassionata di fantascienza e robot questo articolo ha catturato subito la mia attenzione. Non ero a conoscenza di questa notizia su Alice e Bob! Se da una parte la cosa mi affascina dall’altra mi spaventa. Vado a leggere qualche articolo per informarmi.

    Piace a 1 persona

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...

Questo sito utilizza Akismet per ridurre lo spam. Scopri come vengono elaborati i dati derivati dai commenti.