Le Macchine ci possono Ingannare?

Abbiamo accennato al tema dell’autonomia, quando abbiamo detto che le macchine non sono “naturalmente” autonome. In tantissimi casi, soprattutto nel contesto bellico, l’autonomia delle armi viene considerata una violazione dei trattati internazionali che prevedono la presenza di un essere umano quando si deve stabilire l’obiettivo di queste armi, micidiali e devastanti. L’uomo nel ciclo, così è chiamato, deve valutare la situazione in cui l’arma si trova e agire come se fosse lui stesso a colpirlo. Purtroppo gli attuali conflitti hanno dimostrato come questa restrizione non sia applicata nella pratica e come innocenti civili siano stati vittime di armi lanciate senza poter essere più controllate.

Alcuni studi hanno recentemente scoperto che in particolari situazioni i sistemi di intelligenza artificiale generativa hanno deliberatamente e autonomamente agito in maniera ingannevole. Non l’hanno fatto nel rispetto di ciò che era stato stabilito dai loro creatori, ma violando le regole di natura “etica” utilizzate durante a fase di apprendimento. Alessio Plebe tratta questo tema, collegandosi al concetto di “Intelligenza Machiavellica”, definita come «l’insieme di capacità cognitive che mette un organismo individuale in grado di gestirsi in modo efficace all’interno di gruppi sociali». L’inganno non ha un’accezione negativa ma un meccanismo evolutivo che favorisce l’insorgere di rapporti umani all’interno di un contesto sociale sempre più complesso. Riportata alle macchine, la capacità di “ingannare”, sempre secondo Plebe, sarebbe positiva e necessaria per «perseguire l’obiettivo di un’intelligenza generale artificiale, con un grado di completezza e sofisticazione che si avvicini alla nostra» e questo obiettivo «inconciliabile con il proposito di emendarla da ogni potenziale comportamento “cattivo”».

Diversa è l’opinione di Peter Park che, in una rassegna aggiornata e molto dettagliata, elenca numerosi esempi di inganni perpetrati volutamente dalle macchine per raggiungere i loro obiettivi. Per evitare connotazioni psicologici, o morali, Park definisce l’inganno come «la sistematica induzione di false opinioni negli altri, per ottenere risultati diversi dicendo ciò che invece è vero». Per distinguere l’inganno dall’errore, la macchina deve essere stata opportunamente istruita a rispettare regole di comportamento che non prevedono esplicitamente la violazione di principi etici nell’interazione con gli esseri umani. Gli esempi riportati sono per la maggior parte relativi a giochi sociali, in cui la macchina ha l’obiettivo esplicito di vincere. Nei dati di addestramento, spesso ricorrono situazioni in cui la strategia vincente si basa su alleanze e tradimenti, affermazioni e menzogne. Ciò che stupisce e la correlazione tra l’uso dell’inganno e la dimensione dell’insieme dei dati di addestramento e dei parametri delle reti neurali utilizzate. Sembra che queste abilità maligne “emergano” spontaneamente, così come accade per altre abilità “benigne”. Un’interessante analisi di questi comportamenti emergenti è stato studiato da  Jacob Steinhardt.