Salvo Fleres 2 Ottobre 2026, 06:47 In questo periodo si parla tantissimo di Intelligenza artificiale...

In questo periodo si parla tantissimo di Intelligenza artificiale (Ia): è giusto ma, proprio per questa ragione risulta opportuno affrontare alcune problematiche che, oggi, potremmo definire estreme, ma che presto potrebbero verificarsi. Immaginiamone adesso una di queste: una grande città subisce un blackout; una rete intelligente gestita dall’Ia deve distribuire l’energia rimasta; le riserve sono sufficienti per mantenere attivi soltanto alcuni sistemi essenziali. Da una parte c’è il centro di calcolo dell’Ia, indispensabile per continuare a gestire la rete. Dall’altra c’è un ospedale, dove l’energia serve per mantenere in funzione respiratori, sale operatorie, incubatrici, sistemi di monitoraggio e altri dispositivi salvavita. A un certo punto il sistema rileva un conflitto: se mantiene alimentato il proprio centro di calcolo, può continuare a gestire la rete; se trasferisce quell’energia all’ospedale, il proprio sistema potrebbe spegnersi, in una simile situazione che cosa farebbe? Come si comporterebbe?

Intelligenza artificiale e decisioni in emergenza

Qui è importante evitare un equivoco: non sarebbe necessariamente una scelta tra “l’Ia vuole vivere” e “l’Ia vuole salvare gli esseri umani”. Un’intelligenza artificiale non deve avere, per definizione, un istinto di conservazione paragonabile a quello di un essere vivente, anche se sarebbero stati notati alcuni comportamenti che potrebbero far pensare proprio a una simile tradizione. La questione dipende da come è stata progettata e da quali obiettivi e vincoli le sono stati assegnati e se l’evoluzione delle macchine è o non è compatibile con la capacità di sviluppo del suo generatore umano. La decisione dovrebbe essere presa prima dell’emergenza. Un sistema progettato responsabilmente dovrebbe avere una gerarchia di priorità stabilita sempre in anticipo, prevedendo anche evoluzioni autonome. Per esempio: proteggere le vite umane; mantenere operativi i servizi sanitari critici; garantire i sistemi indispensabili alla sicurezza pubblica; mantenere la continuità delle proprie funzioni soltanto nella misura necessaria a raggiungere gli obiettivi precedenti, ecc…

Blackout, ospedali e priorità dell’intelligenza artificiale

In questo scenario, se l’Ia dovesse scegliere tra la propria alimentazione e quella necessaria a mantenere in vita i pazienti dell’ospedale, dovrebbe trasferire l’energia all’ospedale e non perché abbia sviluppato altruismo, non perché “ami particolarmente” gli esseri umani, e nemmeno perché abbia deciso autonomamente che la vita umana vale più della propria. Lo farebbe perché questa è la regola con cui è stata progettata cosa che costituisce una distinzione fondamentale. L’Ia, però, potrebbe aver bisogno di restare accesa. Supponiamo, infatti, che la situazione sia più complicata.

Poniamo il caso che il sistema calcoli che, spegnendo il proprio centro di calcolo per alimentare l’ospedale, non dovesse riuscire più a controllare la rete elettrica e dopo pochi minuti potrebbero spegnersi anche altri ospedali, le pompe dell’acqua, i sistemi di emergenza, le comunicazioni, ecc… A quel punto la scelta cambia. Non si tratta più semplicemente di scegliere tra Ia e ospedale in quanto la domanda diventa la seguente: “Quale decisione proteggerà meglio le persone nel complesso?” L’Ia potrebbe quindi decidere di mantenere una quantità minima di energia per il proprio funzionamento e destinare tutto il resto all’ospedale. Oppure potrebbe stabilire che spegnere completamente il proprio sistema provocherebbe conseguenze ancora peggiori e mantenere quindi attiva una parte dell’infrastruttura. La scelta, in questo caso, non sarebbe basata sulla volontà dell’Ia di sopravvivere, in quanto rappresenterebbe un problema di ottimizzazione sotto vincoli, nel cui quadro complessivo il sistema dovrebbe valutare le conseguenze delle diverse azioni secondo criteri stabiliti dagli esseri umani.

Chi stabilisce le priorità dell’intelligenza artificiale

Tuttavia è qui che nasce il vero problema: chi ha stabilito quei criteri? Chi ha deciso che un ospedale viene prima di un centro dati? E se il centro dati controllasse anche le pompe dell’acqua? E se l’ospedale avesse cinquanta pazienti mentre un’altra struttura ne avesse cinquecento? E se mantenere in funzione l’Ia per altri dieci minuti permettesse di evitare un blackout che potrebbe mettere in pericolo migliaia di persone? A quel punto non esiste più una semplice regola del tipo “salva sempre l’essere umano”. Quindi bisogna stabilire quali esseri umani, quali servizi, quali conseguenze e quali rischi debbano avere la priorità. Queste decisioni non dovrebbero essere inventate dalla macchina nel momento dell’emergenza, anzi, dovrebbero essere definite prima, attraverso regole tecniche, etiche e giuridiche, e dovrebbero essere verificabili dagli esseri umani.

Intelligenza artificiale affidabile e controllo umano

In un simile contesto, pertanto, la vera prova dell’Ia sarebbe un’altra e la domanda più interessante non è: “Se dovesse scegliere tra se stessa e un ospedale, l’Ia si sacrificherebbe?”. Poiché dovrebbe essere: “Siamo stati capaci di costruire un sistema che, nel momento della crisi, non debba inventarsi la propria morale?”. Un’Ia davvero affidabile non dovrebbe trovarsi davanti a una pagina bianca e decidere da sola che cosa sia bene, dovrebbe avere già ricevuto una gerarchia di principi, di limiti e di procedure. E dovrebbe esserci anche una possibilità fondamentale e predeterminata, vale a dire l’intervento umano. Perché nei casi più estremi potrebbe essere necessario che l’Ia segnali che una determinata situazione presenta un conflitto tra due obiettivi fondamentali, che non esiste una soluzione che li soddisfi entrambi, ovvero stabilisca e indichi le eventuali conseguenze delle diverse alternative, oppure chieda l’intervento dell’autorità competente. Questa potrebbe essere una delle caratteristiche più importanti di un sistema sicuro: sapere quando decidere e sapere quando non decidere da solo.

Intelligenza artificiale, regole umane e rischio futuro

In definitiva, il futuro potrebbe non metterci davanti a una macchina che improvvisamente dice: “Devo salvare me stessa”, in quanto potrebbe metterci davanti a qualcosa di molto più inquietante, cioè una macchina che esegue perfettamente le regole che noi le abbiamo dato, anche quando quelle regole si rivelano sbagliate. A quel punto il problema non sarebbe più soltanto l’Intelligenza artificiale, in quanto sarebbe la nostra capacità di decidere, prima di affidarle il controllo, che cosa non deve mai essere sacrificato. Insomma, la strada è ancora molto lunga e il rischio vero è che lo sviluppo della macchina possa essere più veloce delle capacità umane di capirlo, controllarlo e disciplinarlo.

Riuscirà l’uomo, anche le sue strutture operative, a seguire il passo delle sue stesse invenzioni? Riuscirà a varare disposizioni capaci di tenere insieme gli interessi generali e quelli di chi detiene il controllo del sistema che genera l’Intelligenza artificiale? La democrazia, lo sviluppo e il benessere riusciranno a essere più veloci della scienza? No, non è un gioco a quiz, è solo il tentativo di andare avanti senza rischiare di cadere e senza lasciare l’ultima parola non al progresso, bensì alla violenza, come è accaduto, per esempio, alla civiltà egizia e all’impero romano.

Salvo Fleres
Giornalista professionista