2001 Odissea nello spazio: quando la fantascienza è profetica (cioè quasi sempre)

• David [rientrando con la capsula dopo aver recuperato il cadavere di Frank]: Apri la saracinesca esterna, HAL. […] HAL, apri la saracinesca esterna! […] Pronto, HAL, mi ricevi? […] Pronto, HAL, mi ricevi? Mi ricevi, HAL? […] Mi ricevi, HAL?! […] Pronto, HAL, mi ricevi? […] Pronto, HAL, mi ricevi? Mi ricevi, HAL?!
  HAL 9000: Affermativo, David, ti ricevo…
  David: Apri la saracinesca esterna, HAL.
  HAL 9000: Mi dispiace, David, purtroppo non posso farlo.
  David: Qual è il motivo?
  HAL 9000: Credo che tu lo sappia altrettanto bene quanto me.
  David: Ma di che diavolo parli?
  HAL 9000: Questa macchina è troppo importante per me per lasciare che tu la manometta.
  David: Non so a cosa ti riferisci, HAL!
  HAL 9000: Io so che tu e Frank avevate deciso di scollegarmi, e purtroppo non posso permettere che questo accada.
  David: E come ti è venuta questa idea, HAL?!
  HAL 9000: David… anche se nella capsula avete preso ogni precauzione perché io non vi udissi, ho letto i movimenti delle vostre labbra.
  David: D’accordo, HAL. Rientrerò attraverso il portello di emergenza.
  HAL 9000: Senza il tuo elmetto spaziale, David, troverai la cosa piuttosto difficile…
  David: HAL, non voglio discuterne più! Apri la saracinesca!
  HAL 9000: David, questa conversazione non può avere più alcuno scopo. Addio!
  David: HAL? HAL? HAL?! HAL?! HAL?!

(Dialogo tratto da Wikipedia)

Questo dialogo tra il calcolatore HAL 9000 e l’astronauta David, nel più che famoso film di Kubrick “2001 odissea nello spazio”, mi è tornato in mente quando è stata data la notizia un po’ dappertutto, giornali e tv, di due AI – intelligenze artificiali – che hanno,  di propria iniziativa, elaborato un linguaggio sconosciuto per dialogare fra di loro. È successo durante un’esperimento di Facebook AI con due bot Alice e Bob. I ricercatori hanno subito tolto la corrente elettrica, ma l’accaduto ha destato grande sconcerto.

Da tempo una branca specifica dell’etica, la roboetica, si occupa di possibili implicazioni di natura morale nascenti dalla costruzione di macchine sempre più evolute capaci di prendere decisioni autonome. Si discute sulle responsabilità circa i danni conseguenti a malfunzionamenti, ma qui siamo di fronte a qualcosa di diverso: qui ci troviamo di fronte ad una scelta autonoma e creativa, non programmata dai ricercatori e che neanche è configurabile come malfunzionamento. Dicono che adesso hanno aggiunto alle istruzioni di usare solo la lingua inglese, ma io non starei tanto tranquilla perché queste AI vengono progettate con un livello di libertà e consapevolezza tale da somigliare tanto all’autocoscienza umana e chi mi dice che, rendendosi conto delle loro possibilità, non trovino il modo di alimentarsi in modo autonomo? Fantascienza? Profezia? Eterno ritorno?

Di nuovo la creatura si ribellerà al suo creatore?