It doesn’t really matter if the ghost is in the shell

Per tutto il tempo in cui abbiamo definito l’umanità, abbiamo usato l’intelligenza come proxy per ciò che significa essere umani.

Essere la specie più intelligente del pianeta è sempre stata una caratteristica distintiva dell’umanità ma l’ascesa dell’intelligenza artificiale sfida questa assunzione e ci costringe a ripensare cosa significhi effettivamente essere umani.

L’ispirazione per questo pezzo viene da un episodio del podcast “Grandi Linee” di Breaking Italy, dove hanno discusso “Humanity’s Last Exam”, che è una serie di domande per valutare le prestazioni dell’IA.

Gli host (che amo davvero) hanno menzionato che il test si concentrava esclusivamente sulla conoscenza e che dato il titolo si aspettavano un test che si concentrasse sui tratti umani piuttosto che sulla conoscenza grezza e l’intelligenza, il che mi ha portato a riflettere su cosa significhi effettivamente essere umani, a rispondere che probabilmente è l’emozione e alla fine ad arrivare alla conclusione che le emozioni non sono un buon proxy per l’umanità.

Penso che la maggior parte delle persone creda che le emozioni umane siano il differenziatore ultimo tra umani e IA, ma penso che questa fede sia mal riposta.

L’ascesa dei grandi modelli linguistici (LLM) dimostra che con abbastanza dati e intelligenza, l’IA può simulare le emozioni umane piuttosto bene. Questa capacità sta solo migliorando, e puoi avere discussioni realistiche ed emotive con IA che sembrano umane.

Ma quando porti avanti questo punto la risposta è sempre la stessa, ed è l’idea che l’IA, non importa quanto avanzata, non può davvero provare emozioni.

Questa prospettiva è ha dei problemi fondamentali secondo me, la mia argomentazione è che non importa affatto se effettivamente provano qualcosa.

Facciamo un passo indietro e decostruiamo le interazioni sociali per un secondo.

Quando interagiamo con gli altri non abbiamo accesso al modello interno di altre persone, non abbiamo accesso al loro stato interno, solo a qualsiasi cosa proiettino consciamente e inconsciamente all’esterno.

Questo significa che ogni interazione è mediata da un’interfaccia di fiducia.

C’è un’assunzione fondamentale mentre parliamo con le persone: l’emozione mostrata o dissimulata è nella gamma delle emozioni umane ed è una rappresentazione dello stato interno della persona.

Assumiamo che l’esperienza interna della persona di fronte a noi sia abbastanza simile alla nostra e quindi un sorriso o una voce arrabbiata possano essere usati come proxy ragionevole per lo stato interno della persona.

Ma questo distrugge completamente la distinzione tra la simulazione e la cosa reale, significa che anche se un’IA sta solo simulando emozioni, non importa affatto, perché come umani nelle interazioni sociali, non possiamo distinguere tra emozioni perfettamente simulate e genuine.

Se non esiste modo per distinguere la simulazione dalla realtà, la simulazione è realtà.