Fantasofia

Procediamo nel seguente esperimento mentale. Un automa viene istruito da dei ricercatori con una serie di regole, miliardi di esse, su cosa può o non può fare, in modo da potersi muovere nel mondo e interagire con gli esseri umani. L'automa può produrre nuove regole o eliminarne qualora le proprie regole attuali si rivelino inadeguate. Dopo diversi anni l'istituto di ricerca finisce i fondi e l'automa viene messo sotto chiave. Passati mille anni, nuovi studiosi ritrovano l'automa e lo riaccendono. Essendo che la società è mutata radicalmente, nessuna delle regole che l'automa possiede risulta adeguata.

Qual è la strategia che adotterà l'automa per interagire nuovamente con gli esseri umani in modo ottimale?

Piccola nota: l'esperimento può essere condotto senza porsi domande su cosa l'automa consideri "ottimale", infatti questa valutazione che l'automa fa è un'invariante, essendo che compie la stessa valutazione sia appena creato che dopo mille anni.

Fermarsi un attimo e formulare una risposta alla domanda.

La mia risposta è la seguente.

L'automa cancella tutte le proprie regole e man mano che interagisce con gli umani ne produce di radicalmente diverse dalle precedenti. L'automa avrà cioè una morale nuova, ma che produce gli stessi effetti, ovvero che sentirà come giusta per la situazione che gli si trova dinnanzi.

In alternativa, l'automa non eliminerà nessuna regola ma ne aggiungerà una nuova: riportare il mondo ad una situazione in cui le proprie regole siano nuovamente le migliori, uccidendo gli umani che non accettano il ritorno ai vecchi fasti.

Morale della favola: cari ricercatori, attenzione a come implementate i vostri automi.