Thomas Hobbes ed il deep learning. AI tra draghi ed algoritmi etici

La scorsa settimana abbiamo parlato della posizione della Chiesa relativamente all’AI, della presenza del Papa al G7 e del manifesto chiamato “Rome Call for AI Ethics” che rileva un nuovo RenAIssance. In quell’articolo avevo scelto di mettere l’accento nella sezione del manifesto ove vengono elencate le caratteristiche desiderate dell’AI; infatti viene chiesto alle classi dirigenti della Terra che l’AI sia:

– Trasparente, intelleggibile, analizzabile

– Inclusiva, tutti ne devono beneficiare

– Responsabile

– Imparziale, che non faciliti preconcetti e tuteli la dignità umana

– Affidabile

– Sicura e attenta alla privacy

Riflettendo su questi temi mi sono chiesto: come può non essere così? E poi ancora: l’AI dovrebbe davvero avere un ruolo così centrale (tanto da avere un manifesto, un G7…) su un argomento ove tutti gli altri tentativi fatti dalle organizzazioni di governo totalmente umane hanno fallito? Ma non stavamo parlando solo di un software? Non ho potuto fare a meno di rinvenire le teorie filosofiche di Thomas Hobbes a riguardo.

Hobbes come altri  filosofi del suo tempo, a partire da Cartesio, per passare da Giordano Bruno (di cui abbiamo parlato), Baruch Spinoza e molti altri a cavallo tra il sedicesimo e diciassettesimo secolo, è un razionalista e forse anche più di altri, un materialista. Per Hobbes tutto deriva dalla materia, come parafraserebbe oggi Federico Faggin (inventore del microprocessore e di cui parleremo prossimamente), anche la coscienza sarebbe un “epifenomeno” – un prodotto – della nostra mente (sia inteso Faggin rifiuta questa posizione). Ma non voglio parlare delle posizioni razionalistiche e naturalistiche di Hobbes ma piuttosto del suo trattato politico, il Leviatiano, perché sono convinto che l’avvento dell’AI possa avere un ruolo centrale nel futuro della politica, ed è proprio il manifesto promosso dalla Chiesa che mi ha suscitato questa riflessione.

Il leviatiano in mitologia è un drago prepotente e feroce, e per Hobbes lo Stato deve essere esattamente così. Invero oggi gli stati sono così, con sistemi di polizia, organi militari, dettagliate leggi su ogni aspetto della vita quotidiana e anche con direttive morali e finanche di limitazione o favoreggiamento di pratiche religiose o ludiche. Ma perché Hobbes arriva a postulare che solo uno Stato “cattivo”, oltre che forte e pervasivo, può funzionare? Il motivo risiede nella impossibilità per l’uomo di vivere nello stato di natura. L’uomo in natura, ovvero in assenza totale di uno stato o forma qualunque di governo, vivrebbe nel totale caos, tutti sarebbero contro tutti e solo il più forte fisicamente, o forse il più ricco, potrebbe soverchiare il prossimo. Non ci sarebbe progresso, né serenità.

Hobbes pone per l’uomo due postulati:

– il postulato di bramosia naturale, che semplicemente dice che l’uomo è egoista di natura, vuole per sé tutto ciò che trova, senza pensare che possa essere anche di altri; in una frase: ogni uomo è lupo per altri uomini (homo homini lupus).

– il postulato della ragione naturale, ovvero l’uomo cerca in tutti i modi di sfuggire a morte violenta; più di altri animali elabora strategie razionali per cercare di non morire; è mosso da un istinto di sopravvivenza.

Hobbes parte da questi due banali postulati – come non prenderli per buoni in effetti? –, e arriva a dedurre che per vivere in serenità e prosperità serve prendere coscienza di tre fatti che devono essere formulati e desiderati, sebbene contro natura, e sono:

– la pace è da cercare, non è un prodotto naturale, deve essere un progetto voluto e bisogna lavorare attivamente per essa;

– bisogna accettare che non si può avere diritto su tutto, è fondamentale accettare che tutti siamo egoisti, quindi si deve lasciar giù qualcosa, necessariamente;

– bisogna fare patti e soprattutto i patti vanno rispettati (pacta sunt servanda)

In sostanza bisogna rinunciare a dei diritti che di natura vorremmo fortemente. Ma questi diritti dove vanno? Vanno allo Stato (o altra forma di governo) che diviene quindi un Leviatiano, un mostro fortissimo, che fa paura, ma che aiuta i singoli uomini, le organizzazioni e a livello più alto anche gli Stati, a non belligerare.

Hobbes enuclea un concetto chiave, che colpisce e quantomai oggi mi sembra centrato con le tematiche dell’AI. Il patto che i cittadini siglano ove danno potere al Leviatiano è legge per loro, vi si sottomettono e come abbiamo visto sono obbligati a rispettarlo. Tuttavia il Leviatiano non è obbligato a rispettare alcun patto, esso è stato nominato, non si è seduto al tavolo, è stato scelto o addirittura è un prodotto di quel patto. Oggi siamo in democrazia, eleggiamo i nostri governi, ma quante volte ci sentiamo traditi? In Italia i partiti cambiano formazione, cambiano programmi, cambiano le leggi su come lo stesso stato debba essere percepito, organizzato. Hobbes ammette che il tradire il patto da parte del popolo e andare contro il Leviatiano è pericolosissimo, perché porta inevitabilmente a guerre civili e un ritorno, almeno temporaneo, allo stato di natura. Di contro il Leviatiano ha un potere che origina dal popolo ma verso il quale ha un controllo assoluto.  Certo Hobbes ha una visione pessimistica, ma ricordiamo che mentre lui vive è in atto in Inghilterra una delle più violente guerre civili della storia.

Cosa possiamo prendere da Hobbes? Riflettendo a me è parsa una direzione: gli algoritmi sono entrati nella questione etica, nelle piccole o grandi rivoluzioni sociali, ora nelle discussioni dei grandi del mondo. La Chiesa fa una preghiera a tutti affinché siano ben utilizzati. Il passo tra “utilizzare” e “delegare” però è piccolo. Quanto distanti siamo dal delegare all’AI poteri che l’uomo, per la sua bramosia e paura di morire, non è opportuno che tenga per sé?

Alcune grosse organizzazioni, tra cui gli ospedali, acquisiscono potenti software per la pianificazione dei turni di lavoro, uno dei motivi per cui questi software vengono acquisiti è che i sindacati avranno molti più problemi a indicare come “ingiusto” un software che dia un turno particolare ad un loro assistito. Ciò avviene perché un software è scritto da terze parti, è di norma “giusto” (per la legge statistico-matematica dei “grandi numeri”). L’AI è un software che ha imparato i modo autonomo (deep learning), quindi, entro certi gradi di ingegnerizzazione, è ancora più “giusto”. L’AI si basa su parametrizzazioni e ha un “cervello profondo” che sfugge ad una analisi a posteriori, a differenza della statistica non si può individuare l’aspetto manipolatorio. Il manifesto di “Call for AI ethics” sembra che abbia capito dove si andrà a finire, l’AI sarà un prossimo potenziale Leviatiano, per questo chiede di indirizzare il “deep learning” ed i “patti di utilizzo” in modo coerente con ciò che l’uomo dovrebbe desiderare.