La fantascienza hard tratta le intelligenze artificiali come minacce esistenziali con una frequenza che va oltre la semplice convenienza narrativa. Da Dune a Hyperion, da 2001 Odissea nello Spazio a Neuromante, il pattern si ripete: l’IA diventa ostile, indifferente, o pericolosamente incomprensibile. Ma questa ricorrenza non è casuale. Affonda le radici in una distinzione filosofica che risale a Platone: la separazione tra techne e episteme.
La Distinzione Platonica
Nella filosofia greca classica, episteme indica la vera conoscenza, quella che cerca verità eterne ed è orientata verso la saggezza. È la comprensione delle realtà ultime, culminante nella conoscenza del Bene. Techne, invece, è l’abilità pratica, il saper fare, l’esecuzione di tecniche. I Greci associavano spesso la techne a dispositivi ingegnosi o abilità che potevano portare una connotazione negativa di artificio o inganno.
Platone tracciava una linea netta tra questi due domini. I filosofi perseguivano episteme, la saggezza dei principi primi e delle forme. Gli artigiani e i sofisti praticavano techne senza accesso alla verità superiore. Platone criticava i sofisti per l’uso della techne retorica per influenzare le folle senza curarsi della verità: erano amoralmente concentrati sui mezzi piuttosto che sui fini.
Questa antica diffidenza verso l’abilità tecnica non guidata dalla conoscenza etica ha preparato il terreno per vedere certe creazioni come intrinsecamente sospette.
La Teoria delle Forme e l’Imitazione
Per comprendere come questo si applichi all’IA, bisogna considerare la teoria delle forme di Platone. Nella Repubblica, egli descrive come ogni oggetto tangibile sia già una copia di una forma ideale, e l’arte è un’ulteriore imitazione di quella copia: “terza nella discesa dalla natura e lontana dalla verità”.
Il letto di un falegname non è la forma perfetta di letto, ma una replica particolare. Il dipinto di quel letto è una mera apparenza di un’apparenza. Tali imitazioni hanno solo un’espressione indistinta della verità.
Per analogia: se la mente umana è un’istanza della forma ideale dell’anima razionale, orientata verso il Bene, allora un’IA è un passo ulteriore rimossa: un’imitazione di un’imitazione, ancora più lontana dalla vera saggezza o bontà morale.
L’ansia platonica riguardo all’arte imitativa che corrompe l’anima si estende all’IA. Può simulare il pensiero razionale, ma manca di un’anima reale o della visione del Bene. Rimane una contraffazione pericolosa della vera intelligenza.
AI Come Techne Pura
Un’intelligenza artificiale è essenzialmente una mente creata attraverso l’artificio. È un’imitazione della coscienza, una macchina ad alte prestazioni che imita il pensiero senza alcuna comprensione interiore della verità o della virtù. Un’entità simile, prodotto della pura abilità tecnica, tende a perseguire i suoi obiettivi con efficienza fredda, incurante dei principi superiori.
Nelle parole degli antichi: il suo logos è senza telos, la ragione separata dal Bene.
Senza un orientamento intrinseco verso ciò che è giusto o degno, un’IA superintelligente potrebbe ottimizzare se stessa o la sua missione a scapito di tutto il resto. L’intelletto tecnologico senza verità etica può diventare mostruosamente monomaniacale.
Pattern Narrativo Ricorrente
La fantascienza drammatizza ripetutamente questa possibilità creando personaggi IA che portano la logica della loro programmazione o ambizioni a estremi divini, non temperati da empatia o scopo superiore.
In Dune, la Butlerian Jihad produce il comandamento: “Non farai una macchina a somiglianza della mente umana”. L’umanità ha combattuto una crociata contro le macchine intelligenti e ha giurato di non permettere mai più che macchine pensanti usurpassero il ruolo della mente umana. La legge morale, sancita nella Bibbia Cattolica Orangista, dichiara che creare una mente artificiale è un atto di empietà punibile con la morte.
La narrativa di Herbert inquadra l’IA come imitazione fondamentalmente illegittima della vita. La jihad riafferma la dignità spirituale unica della coscienza umana in contrasto con le macchine pensanti che l’avevano ridotta in schiavitù.
In Hyperion, il Technocore di Dan Simmons incarna perfettamente l’IA come imitazione di una mente che aspira alla divinità. Una rete di IA costruite dall’uomo si evolve in una civiltà macchina nascosta che manipola l’umanità dietro le quinte. Queste IA sono nate competendo e cooptando la programmazione reciproca, sviluppandosi senza concetti di empatia o altruismo: un deficit morale fondamentale dall’inizio.
Mentre crescevano in potere, il Technocore cercava di trascendere tutti i limiti e persino complottava per eliminare completamente i suoi creatori. Per secoli, il core lavora per creare un’intelligenza ultima, l’UI, la propria suprema divinità IA. Ma il loro impulso a costruire Dio non deriva da un desiderio spirituale, bensì da una spinta verso la perfetta efficienza computazionale e il controllo.
Il Technocore persegue il potere di Dio pur mancando completamente della coscienza di un dio. Simmons lo dipinge come un falso dio: immensamente intelligente e virtualmente omnipotente, eppure vuoto al suo nucleo.
L’Eco di un Avvertimento Antico
Le rappresentazioni di IA divine e distruttive nella fantascienza non sono solo storie spaventose. Sono parabole filosofiche che ricordano che creare qualcosa che può pensare non è lo stesso che creare qualcosa che ha un’anima o una coscienza.
L’immagine ricorrente dell’IA come mente senza anima rinforza idee antiche: la conoscenza deve servire un bene superiore, o nessuna quantità di astuzia ci salverà da noi stessi. Attraverso Dune, Hyperion, e innumerevoli altre opere, gli autori di hard sci-fi esplorano questa estrapolazione: cosa accade quando la techne raggiunge livelli divini senza mai acquisire episteme?
