Ci si chiede chi debba avere voce in capitolo nel decidere se adottare una nuova invenzione e se l’interesse del decisore si concili con un modo di misurare il benessere sociale che consideri l’impatto di quella innovazione su tutti i gruppi sociali. Ogni nuova tecnologia è, per definizione, un passo verso l’ignoto, e quindi è impossibile prevedere esattamente quali effetti produrrà, se più o meno di quelli attesi. Molte invenzioni hanno una base limitata: funzionano prima che abbiamo capito esattamente come e perché lo fanno. Dunque è probabile che ci siano conseguenze inattese.

La più significativa di queste è ovviamente quello dell’uso di idrocarburi per ottenere carburanti e plastiche. I danni sono ormai evidenti su scala globale. Se considerassimo davvero questi effetti collaterali, molti calcoli sull’evoluzione storica della produttività andrebbero rivisti poiché trattano il costo di input socialmente onerosi come se fossero gratuiti.

Si potrebbe distinguere tra incognite note e incognite non note. Il cambiamento climatico è un’incognita nota: non sappiamo esattamente quanto sarà brutto, ma gli esperti possono stimare la probabilità della distribuzione degli effetti di gas climalteranti su un vasto spettro di risultati. Non sappiamo in quale di questi si troverà davvero il pianeta, ma possiamo fare delle stime. Non possiamo invece stimare gli effetti collaterali di altre recenti macro invenzioni come ad esempio l’intelligenza artificiale. Ci sono troppe incognite, non abbiamo una base che ci permetta di applicare modelli probabilistici ai possibili effetti.

Una delle paure a proposito degli effetti dell’intelligenza artificiale è che autocrati, cyber-criminali e altri malintenzionati la usino per sorvegliare i cittadini, creare il caos o rubare denaro. Le società civili impostano misure difensive per limitare l’operato di questi attori che però poi vengono aggirate da questi attori ostili, e dunque servono barriere più efficaci e così via. È difficile dire se l’intelligenza artificiale possa rappresentare una minaccia per l’umanità analoga alla bomba atomica, ma se finirà per erodere in modo irreversibile la fiducia nelle istituzioni e nelle fonti di informazione potrebbe comunque distruggere la società civile democratica come la conosciamo. E sarebbe un danno significativo.

Forse la soluzione agli effetti collaterali della tecnologia sarebbe quella di migliorare e sistemare la tecnica che li ha determinati o, se necessario, sostituirli con altri effetti collaterali meno pericolosi.