La Stupidità Artificiale (AS)

Michael Falk insegna letteratura del diciottesimo secolo all'Università del Kent. Il suo interesse per l'intelligenza artificiale è duplice. Come umanista digitale, utilizza l'elaborazione del linguaggio naturale e l'apprendimento automatico per studiare i modelli linguistici nei testi letterari. Come studioso di letteratura, il suo interesse principale è come il sé, la mente e l'intelletto sono rappresentati nella letteratura. In un recente articolo pubblicato su ArXiv, Falk indaga, nell’ambito del dibattito sull’Intelligenza Artificiale (AI), l’emergere di un pericolo poco indagato dagli esperti, l'ascesa della Stupidità Artificiale (AS). Sulla base di una lunga tradizione letteraria, Falk dipinge un quadro filosofico per analizzare la stupidità degli agenti artificiali, dimostrando che i moderni sistemi intelligenti possono essere visti soffrire di "stupidità di giudizio".

La Sindrome di Frankenstein - Abbondano le storie di IA che superano gli umani in compiti cognitivi: esse vengono utilizzate per dimostrare che la super-intelligenza è possibile e probabilmente imminente. Ad esempio, nel 2016 il sistema AlphaGo di DeepMind ha sconfitto 4-1 Lee Sedol, un gran maestro coreano di Go, usando mosse rischiose che "hanno sfidato millenni di intuizione umana". Secondo alcuni è la prova che le macchine hanno già raggiunto un'autentica "intuizione" e "creatività". Il dibattito sull'Intelligenza Artificiale è distorto dalla sindrome di Frankenstein, cioè la paura che l'IA diventi sovrumana e sfugga al nostro controllo. La sindrome è radicata in un mito culturale antico e persistente. Ci sono lunghe tradizioni di testi sugli "automi", ma due secoli fa queste tradizioni presero una nuova direzione con la pubblicazione di Frankenstein di Mary Shelley. Il mostro di Frankenstein era un nuovo tipo di automa, per due ragioni: (1) Era radicato nella scienza moderna, in particolare nelle nuove scienze della chimica e dell'elettricità, che avevano rivelato forze naturali abbastanza strane da sfidare la coscienza, e tuttavia anche abbastanza controllabili da guidare i progressi tecnologici della rivoluzione industriale. (2) Era dotato di intelligenza cosciente, di "ragione", "sensazioni", "percezioni" e "passioni". In effetti, la sua intelligenza era sovrumana, al punto che anche l'essere umano più intelligente della storia, Victor Frankenstein, non era in grado di contrastarlo.

Il mostro di Frankenstein può essere descritto come la prima super mente elettrica che vive su un substrato chimico. Il suo arrivo ha cambiato radicalmente i termini del rapporto degli esseri umani con gli automi da loro creati: per la prima volta c'era un automa la cui intelligenza avrebbe reso impossibile il controllo e che poteva concepibilmente essere fabbricato in un prossimo futuro da un processo scientifico. Questo essere spaventoso divenne rapidamente un potente mito.

La stupidità artificiale (AS) - Mentre la paura del mostro di Frankenstein dominava la discussione, un diverso tipo di agente artificiale ha colonizzato costantemente ogni aspetto della vita umana. Piloti automatici che mantengono gli aerei in rotta, ma privano i piloti umani della possibilità di intervenire sui sistemi del velivolo, correttori automatici estremamente irritanti, pubblicità mirate invadenti, assistenti domestici insipidi come Siri e Alexa.

Può sembrare strano descrivere i moderni sistemi intelligenti come "stupidi". Se un filtro antispam è in grado di distinguere accuratamente le e-mail reali dallo spam e impara costantemente a superare in astuzia gli spammer umani che cercano di ingannarlo, è sicuramente "intelligente" in un certo senso? In effetti, molti teorici contemporanei dell'IA chiamerebbero questo filtro antispam una "intelligenza ristretta", perché può svolgere solo un compito particolare. Anche all'interno dei loro ristretti ambiti di competenza, tuttavia, è possibile sostenere che i moderni sistemi intelligenti sono ancora stupidi. Questi agenti artificiali sono regolarmente indicati come IA a causa delle loro notevoli capacità cognitive, ma la loro intelligenza apparente è anche una sorta di Stupidità Artificiale. Prima che l'attenzione possa essere indirizzata verso la AS, è però necessario specificare il concetto stesso di "stupidità".

Kant distingue due tipi di stupidità: stupidità di "comprensione" e stupidità di "giudizio". La stupidità di comprensione è quando mancano i concetti necessari per dare un senso a una situazione. A questo si può rimediare attraverso l'apprendimento. La stupidità di giudizio è quando di possiedono i concetti necessari, ma si applicano male. Spesso si applicano in modo troppo rigoroso o si usano al di fuori del loro dominio, come, ad esempio quando il sistema di riconoscimento facciale di Facebook rileva un "volto" che è in realtà un'immagine sulla maglietta di qualcuno. Più comprensione ho, più concetti conosco e più possibilità ho di esibire stupidità di giudizio. È in questo senso che una persona più intelligente può rivelarsi più stupida. Una fonte di confusione è che intelligenza e stupidità sembrano escludersi a vicenda, ma in realtà una maggiore intelligenza può portare a una maggiore stupidità.

La stupidità di giudizio si traduce in "errori", che si verificano quando si giudica la situazione utilizzando il sistema di concetti sbagliato. È abbastanza facile vedere che in termini kantiani, un "lapsus" è un mero errore di comprensione, mentre un errore tradisce un giudizio difettoso. Gli esperti commettono errori particolarmente pericolosi perché di solito danno diagnosi intelligenti, anche quando sono sbagliate. Se diagnosticano erroneamente una malattia o la condizione di un nucleo atomico, la loro superiore capacità di razionalizzare le proprie azioni può rivelarsi un errore fatale. È chiaro che l'intelligenza non è una difesa contro la stupidità e può persino peggiorare le cose.

La cosa più preoccupante è che in questi casi il sistema non ammette di essere confuso, ma afferma invece con sicurezza una risposta assurda. Il problema non è che l'intelligenza del sistema sia ristretta, ma che il sistema non ha idea di quanto sia ristretta la sua intelligenza. Per quanto riguarda GoogLeNet, un potente programma di riconoscimento delle immagini che, quando è stato testato su 150.000 immagini che non aveva mai visto prima, è stato in grado di identificare ciò che era raffigurato il 93,33% delle volte, pare proprio che l'apparente intelligenza del sistema deriva dalla sua capacità di comprensione, ma che manca di autentici poteri di giudizio. In effetti bastano alcuni accorgimenti per trarlo in inganno. Esso conosce solo un numero grande ma finito di cose nell'universo, che non sono altro che particolari disposizioni di pixel colorati, e ogni immagine è una disposizione di una di quelle cose. È inquietante sapere che i cugini più poveri di GoogLeNet vengono utilizzati per identificare le persone negli aeroporti o sui luoghi di un crimine. 

Chiaramente una AS come GoogLeNet non si ribellerà mai ai suoi padroni umani, e ancora nessuno sa come "infrangere la barriera del significato" e progettare un'IA che sappia effettivamente che esiste un universo complesso là fuori. Quando si dice che una AS ottiene "prestazioni sovrumane" in un dominio o nell'altro, ciò non dimostra che la super-intelligenza si sta avvicinando. Escludendo rigorosamente ogni immaginazione e riferimento al mondo complesso al di là di sé stesso, una AS ben progettata è in grado di concentrare tutte le sue capacità sullo sviluppo di un particolare insieme di concetti, che sono adatti a un particolare dominio. Nella morsa della sindrome di Frankenstein, si potrebbe essere tentati di trarre conforto dal fatto che l'intelligenza artificiale più intelligente oggi è profondamente stupida. Ma questo sarebbe sciocco. Kant afferma che la stupidità del giudizio è il tipo più rischioso. Cosa c'è di così pericoloso, allora, se il rischio di una rivolta super intelligente è fuori discussione?

I pericoli delle cose stupide - Il problema della Stupidità Artificiale è stato riconosciuto da secoli da grandi scrittori e poeti. La regina delle fate di Edmund Spenser (1590-96), I viaggi di Gulliver di Jonathan Swift (1726) e L’uomo della sabbia (1816) e Die Automate (1814) di E.T.A. Hoffmann presentano tutti macchine stupide che riescono a contrastare gli obiettivi umani anche se non hanno la capacità di opporsi o superare in astuzia i loro creatori. Anche quando una AS è assolutamente obbediente, essa espone comunque gli esseri umani ai rischi di sostituzione, oppressione e seduzione.

Sostituzione - In ogni libro della Faerie Queene di Spenser, un diverso cavaliere è al centro della scena, a rappresentare una diversa virtù di corte. Il libro V presenta Sir Artegall, il cavaliere di giustizia. Come tutti i cavalieri di Spenser, Artegall ha un aiutante che lo aiuta a realizzare la sua caratteristica virtù. Sorprendentemente, il compagno di Artegall è un robot:

His name was Talus, made of yron mould,

Immoueable, resistlesse, without end.

Who in his hand an yron flale did hould,

With which he thresht out falsehood, and did truth unfold.

Il suo nome era Talus, fatto di matrice di ferro,

Immobile, irresistibile, senza fine.

Che nella sua mano un flagello di ferro teneva,

Con il quale sradicava la menzogna e svelava la verità.

Talus è un invincibile uomo di ferro che punisce i trasgressori con il suo flagello di ferro "irresisibile". Come GoogLeNet, è progettato per ottimizzare una singola funzione: scopre la menzogna e svela la verità. È quindi “senza fine” in due sensi: non cessa mai di ottimizzare quell'unica funzione; e, più sottilmente, gli manca un senso cosciente di scopo o "fine". Come GoogLeNet, applica semplicemente la stessa formula a ogni circostanza. In effetti questa stupidità di giudizio è ciò che lo rende un utile assistente del Cavaliere di Giustizia. Talus è "immobile". La sua unica attività è quella di schiantare i trasgressori.

A differenza di Talus, Artegall non si concentra esclusivamente su 'giusto' e 'sbagliato', ma ammorbidisce il 'rigore' della legge secondo i criteri di 'equità' e 'coscienza'. Talus manca della qualità umana della "misericordia", che "è grande" come la giustizia, perciò richiede un controllo costante. Quando Talus e Artegall sbarcano nel regno di 'Iere' (cioè l’Irlanda), Artegall deve impedirgli di spazzare via tutti gli abitanti.

A prima vista, questa relazione sembra funzionare, perché Talus è assolutamente obbediente. Ma il controllo richiede sforzo e il giudizio richiede conoscenza. Affidandosi a Talus come suo strumento, Artegall diventa sempre più pigro e distaccato, e permette al suo servitore di commettere brutalità che lui stesso non avrebbe mai fatto. Quando catturano la corrotta Munera, ad esempio, Artegall "considera" la sua "difficoltà", ma tuttavia lascia che Talus le tagli mani d’oro e piedi d’argento e li inchiodi come avvertimento per i futuri malfattori. Affidandosi a una AS, Artegall stesso diventa più stupido. Si protegge dalla realtà, spegne la sua coscienza e permette a un robot di sostituirlo.

Oppressione - Jonathan Swift aveva poca fiducia nell'umanità, "la razza più perniciosa di piccoli odiosi parassiti di cui la natura abbia mai sofferto lo strisciare sulla superficie della terra". Era quindi indifferente alle macchine che corrompono gli umani. Quello che temeva era che gli umani corrotti avrebbero usato male le loro macchine.

Nel libro III dei suoi viaggi, Gulliver visita l'Accademia di Lagado, dove incontra un Professore pionieristico in quello che ora si chiamerebbe language modelling. Il Professore ha costruito un calcolatore meccanico in grado di comporre opere di “Filosofia, Poesia, Politica, Diritto, Matematica e Teologia”:

“Era una specie di telaio di venti piedi quadrati, sul quale erano disposti moltissimi pezzetti di legno simili a dadi, di cui alcuni erano alquanto più grossi; e tutti erano legati insieme per mezzo di fili sottili. Ogni faccia di ciascun dado portava un pezzo di carta, su cui stava scritta una parola; sicché sul telaio si trovavano tutte le parole della loro lingua nei differenti modi, tempi e declinazioni, ma mescolate alla rinfusa. Il professore mi avvertì che stava per mettere in moto la macchina: a un suo cenno, infatti, ciascun allievo prese in mano un manubrio di ferro (ve ne sono quaranta fissati lungo il telaio). Essi, facendolo girare, cambiarono totalmente la disposizione dei dadi, e perciò delle parole corrispondenti. Allora il professore ordinò a trentasei dei suoi scolari di leggere le frasi che ne risultavano, via via che le parole apparivano sul telaio; e quando avessero trovato tre o quattro parole che avessero l'apparenza d'una frase, di dettarle agli altri quattro giovinetti, che facevano da segretari”.

Invece di insegnare ai suoi studenti a pensare, il Professore li rende schiavi di questa AS combinatoria. Gli studenti alimentano il computer, come i data miner che estraggono le informazioni per i data center di oggi. Quindi giudicano l'output del computer, come l'esercito globale di tecnici che leggono le trascrizioni di Siri o Alexa per verificare che l'AS abbia risposto correttamente. Il vero scopo del Professore è quello di estinguere il pensiero umano. Mira a scrivere libri "senza la minima assistenza di genio o studio" e vuole che il regno installi 500 delle sue macchine. Ciò richiederebbe 20.000 persone per azionare le manopole, e ridurrebbe alla fame chissà quanti autori. Sebbene in superficie questa AS possa sembrare meno minacciosa di un dispositivo semovente come Talus, le sue conseguenze sono in realtà peggiori. Come un software moderno, la macchina di Swift non è in grado di agire da sola. Per esistere richiede schiavi umani.

Per gli scienziati di Lagado, la tecnologia viene prima delle persone. Se una nuova medicina fa ammalare il paziente, danno la colpa alla "perversità" del paziente o a qualche piccolo errore con gli ingredienti. Gli scienziati sopravvalutano le loro invenzioni, minimizzano la complessità della natura e svalutano l'intelligenza e l'autonomia degli individui.

Seduzione - Le stupidità artificiali in Swift e Spenser sono monotone e meccaniche, ma, come mostra E.T.A. Hoffmann, la AS può essere anche affascinante e seduttiva. Come Mary Shelley, Hoffmann fu uno scrittore gotico molto capace, ma nel suo L’uomo della sabbia (1816) e in Die Automate (1814), la scienza è meno avanzata e i rischi sono più subdoli. In Der Sandmann, il giovane studente Nathanael si innamora appassionatamente di una ragazza meccanica, Olimpia. All’inizio è attratto dal suo “viso di meravigliosa fattezza” e dal corpo “di bellezza paradisiaca”. Ciò che tuttavia lo seduce è la sua conversazione: 

“... non aveva mai avuto un ascoltatore così splendido prima. Non lavorava a maglia, né ricamava, non guardava fuori dalla finestra, non dava da mangiare a un uccellino domestico, non giocava con un cagnolino o un gatto preferito, non giocherellava con piccoli pezzi di carta o qualunque cosa avesse in mano, non costringeva uno sbadiglio in una tosse affettata - insomma - per ore guardava negli occhi il suo amante, fermamente, con uno sguardo fisso, senza dondolarsi o dimenarsi, e sempre più pieno di vita si fece il suo sguardo”.

La bellezza di Olimpia è impeccabile e sembra assolutamente sottomessa e devota. Olimpia lavora così efficacemente sulla debolezza di Nathanael, al punto che, una volta innamoratosi di lei, il giovane trova quasi impossibile percepire che è un automa, anche quando i suoi amici lo prendono in giro per amare un "manichino di cera" o un "burattino di legno". È proprio la stupidità di Olimpia che la rende così seducente, dal momento che non è in grado di fare nulla che possa disturbare le sue fantasie.

In Die Automate, il Turco Parlante seduce le persone in un modo diverso, creando un'aria di mistero. Il Turco Parlante è un indovino, che sussurra risposte oracolari alle domande della gente. Quando alle persone viene mostrato il funzionamento interno del turco, sono sconcertate. All'interno c'è un "sistema abile di molti ingranaggi", che sembra non avere "nessuna influenza sul discorso dell'automa" e tuttavia non lascia spazio per nascondere un operatore umano. Sebbene per la maggior parte del tempo, le risposte del Turco siano "secche", "crudamente umoristiche" o "insignificanti e vuote", a volte sembra avere una "intuizione mistica" sul futuro di chi fa la domanda, ma solo quando la risposta è interpretata dal punto di vista dell'interrogante. Ciò che rende il Turco avvincente sono il mistero e i pregiudizi di conferma. Incapaci di spiegare il suo funzionamento interno e sorprese dal fatto che alcune delle sue previsioni si avverino, le persone sono affascinate.

Per Hoffmann, gli umani hanno una tendenza innata ad antropomorfizzare le cose senza vita. Una AS ben progettata può sfruttare questo fatto giocando sui pregiudizi cognitivi, con risultati distruttivi. Nathanael si getta da una torre quando scopre che Olimpia è un automa. Il finale di Die Automate è ambiguo, ma un'interpretazione è che il giovane Ferdinand sia portato alla pazzia dall'apparente intuizione del Turco e ha l’allucinazione che la sua profezia si sia avverata. Questi tipi di seduzione sono oggi diffusi nel mondo della AS. Ad esempio, quando nel 2011 il sistema Watson di IBM vinse a Jeopardy! un quiz televisivo che consiste in una gara di cultura generale tra i vari concorrenti, l'evento è stato accuratamente organizzato per far sembrare che Watson stesse partecipando attivamente. Negli anni successivi, IBM ha continuamente indicato la sua intera attività di intelligenza artificiale come "Watson". Allo stesso modo, Amazon, Google e Microsoft camuffano da umani i loro assistenti virtuali, dotandoli di voci attraenti e semplici battute. L'arte della AS è un'impresa miliardaria e gli avvertimenti di Hoffmann sono più che mai pertinenti.

Usi della stupidità - Man mano che le AS proliferano e si integrano nella società, gli esseri umani sono destinati a essere sostituiti, oppressi o sedotti? Almeno due scrittori la pensano diversamente. Secondo Laurence Sterne e Joseph Furphy, la AS può effettivamente aumentare l'intelligenza umana agendo come una mappa o una pipa. Scrivendo al culmine dell'Illuminismo europeo, Sterne pensava che il "meccanismo" potesse elevare l'intelletto razionale dell'umanità. Girovagando per le aree semi-desertiche e più remote del continente australiano alla vigilia del ventesimo secolo, Furphy pensava che anche un semplice espediente potesse aprire l'immaginazione sulle distese epiche della realtà.

Mappe - Nel capolavoro di Sterne, Tristram Shandy, il protagonista ci informa della difficoltà dello zio Toby, soldato in pensione, a spiegare alle persone il suo ruolo nell'assedio di Namur e la terminologia delle fortificazioni:

“Le sue perplessità originavano dagli insormontabili ostacoli che incontrava, narrando l’episodio, nel chiarire ai suoi ascoltatori le esatte differenze e distinzioni tra scarpa e controscarpa, spalto e camminamento, mezzaluna e rivellino, senza di che non avrebbe potuto far capire pienamente dove egli fosse è che cosa vi facesse”. [traduzione di Antonio Meo]

Il problema è che in realtà lo zio Toby è originale, ma intelligente. Con la sua profonda comprensione della guerra d'assedio, è in grado di esprimere un giudizio oggettivo sul corso della battaglia. Ma i suoi ascoltatori non possono seguire. Ciò di cui ha bisogno è un dispositivo che memorizzi, elabori e rappresenti le informazioni sulla battaglia in modo intelligibile.

All'inizio Toby soddisfa il suo bisogno procurandosi una mappa di Namur, con l'aiuto della quale è in grado di "tenere il suo discorso con sufficiente perspicuità". La mappa fornisce una rappresentazione della battaglia, indicando la forma, la struttura e la disposizione delle fortificazioni, in modo che gli ascoltatori di Toby non si perdano in un deserto di gergo. Come ogni buona rappresentazione, la mappa aiuta Toby a "tenere traccia di eventi complessi" e fornisce un punto di riferimento condiviso per tutti nella conversazione, fungendo da "strumento per la comunicazione sociale". La mappa stessa è stupida, ma aumenta la comprensione, permettendo agli ascoltatori di giudicare una situazione per loro inizialmente complessa.

Toby sviluppa presto il desiderio di aumentare la propria capacità di comunicazione. Vuole modellare l'intero corso della guerra di successione spagnola, compito troppo complicato anche per il suo colto intelletto. La sua scrivania è troppo piccola per il suo fine e le sue mappe cartacee sono troppo fini, così lui e il suo servitore Trim si trasferiscono in campagna, dove prendono il controllo del campo da bocce di famiglia. Lì costruiscono modelli in scala di tutte le grandi battaglie d'Europa mentre li leggono sul giornale. Non solo il campo da bocce è più grande di qualsiasi mappa, consentendo una risoluzione più elevata e un numero maggiore di battaglie, ma è anche più malleabile. Esso è letteralmente un software, con il giusto equilibrio tra persistenza e malleabilità. 

La moderna AS lotta per combinare le virtù del campo da bocce di zio Toby: dimensioni, intelligibilità e malleabilità. Le AS sono sempre più utilizzate nel supporto decisionale, aiutando i giudici a concedere la cauzione o i banchieri a concedere finanziamenti. I sistemi di deep learning più recenti come GoogLeNet possono incorporare enormi quantità di dati aggiornati, tuttavia non possono spiegare i loro risultati a un utente umano. Sembra, quindi, che Laurence Sterne abbia identificato il problema dell'"IA spiegabile" (Explainable AI) già intorno al 1760.

Pipe - Una pipa da tabacco può sembrare una strana metafora per una macchina intelligente, ma d'altra parte, il romanzo da cui deriva questa metafora è davvero uno strano romanzo. Such is Life di Joseph Furphy è stato pubblicato a Sydney nel 1901 e in Australia è considerato un capolavoro modernista. Si tratta di un resoconto immaginario della vita degli abitanti delle zone rurali, inclusi conducenti di buoi, occupanti abusivi e viaggiatori itineranti. Il libro dà l'impressione di raccogliere una serie di storie vagamente intrecciate delle varie persone incontrate dal narratore mentre viaggia per la campagna. Le persone che incontra intorno ai falò trasmettono notizie e pettegolezzi e raccontano storie, così che a volte il lettore può dedurre informazioni mettendo insieme queste storie di seconda mano con l'azione della narrazione. È narrato da Tom Collins, un abile bugiardo, che vaga per la zona fluviale del Nuovo Galles del Sud a metà degli anni 1880. Ogni volta che Collins pensa a un problema, accende quasi sempre la pipa, come ricorda nel capitolo 2:

“Ma la pipa, essendo ora padrona della posizione, ha dolcemente sedotto la mia mente a una considerazione più ampia, semplicemente facendo del lavoratore stagionale errante un comodo trampolino di lancio per il suo volo nelle regioni della morale più ampia. Questo è il suo hobby, preso, probabilmente, da qualche società degli Illuminati tedeschi, dove era diventata una specie di batteria, o accumulatore, di quelle verità che i ministri del Vangelo non possono permettersi di predicare”.

Sebbene la pipa diventi il ​​"maestro" di Collins, l'effetto non è quello di offuscare la sua intelligenza, ma piuttosto di espanderla. Mentre le AS seducenti come Olimpia esacerbano le debolezze cognitive, la pipa amplifica i punti di forza cognitivi. Amplifica il quadro di riferimento di Collins, introducendo nella sua mente idee "tedesche" (cioè filosofiche) dalla sua "batteria o accumulatore". Mentre il campo da bocce dello zio Toby forniva una rappresentazione manipolabile per aiutare il ragionamento, la pipa induce un certo stato d'animo contemplativo, "sganciando" la mente e conduce chi la usa lungo una catena di associazioni. Laddove le mappe incoraggiano un ragionamento più rigoroso e consapevole, le pipe incoraggiano la meditazione riflessiva e inconscia.

Poiché la maggior parte delle AS moderne sono addestrate sui dati, producono ottimi "batterie o accumulatori" come la pipa da tabacco di Collins. Si considerino modelli di linguaggio generativo come il computer di Swift o il GPT-2 di Open AI. Tali modelli esaminano ampi corpus di testi scritti dall'uomo e accumulano conoscenze su come vengono usate le parole. Quindi usano questa conoscenza accumulata per generare un testo coerente. È la loro stupidità che li rende così utili come pipe, perché riproducono abitudini di pensiero e di parola che gli uomini intelligenti nascondono.

Conclusione - Frankenstein fu una straordinaria impresa dell’immaginazione, e non c'è da meravigliarsi se il romanzo di Mary Shelley ha generato un mito persistente. Le AS di oggi soffrono della stupidità del giudizio, che è molto più pericolosa. Rimane nell'interesse di alcune aziende e intellettuali alimentare la sindrome di Frankenstein esagerando l'intelligenza degli agenti artificiali, ma come Spenser, Swift e Hoffmann hanno anticipato molto tempo fa, tale comportamento mette a rischio la società. Naturalmente, alcuni nella comunità dell'IA riconoscono i limiti della AS e il crescente movimento di "IA spiegabile" suggerisce che le speranze di Sterne e Furphy stanno diventando più diffuse. L'intelligenza artificiale rimane il centro dell'attenzione, lo standard di successo e l'oggetto della paura. Tuttavia, se fosse abbracciata la tradizione sulla AS, essa potrebbe curare la sindrome di Frankenstein e rivelare i rischi e le possibilità di un problema sempre più urgente. E sottolineare la continua importanza dell'immaginazione letteraria in una società sempre più automatizzata.

Michael Falk, Artificial Stupidity, arXiv:2007.03616v1 [cs.CY, cs.AI]

La grigia estate del 1816

Questa storia inizia nell’aprile 1815 nella lontana isola indonesiana di Sumbawa, dove il vulcano Tambora, uno dei più pericolosi della Terra, si risvegliò dopo una lunga fase di quiescenza, con esplosioni intense e abbondanti emissioni di cenere che oscurarono il cielo dell'intera regione per giorni e provocarono potenti accumuli su tutti i villaggi circostanti. Tre mesi di simili manifestazioni violente provocarono nel Tambora una diminuzione di quota di 1.300 metri; da più dei 4.100 metri originari, l’edificio vulcanico era passato agli attuali 2.850. Complessivamente, vennero proiettati in aria circa 150 miliardi di metri cubi di roccia, cenere e altri materiali, oltre a impressionanti quantità di gas, soprattutto anidride solforosa (SO₂). Le continue esplosioni crearono catastrofi in aree lontane anche più di mille chilometri, con una stima di 60-70 mila morti, dovuti sia direttamente all'esplosione che alle pesanti carestie che seguirono il disastro.

L'eruzione del Tambora si andava ad aggiungere ad altri eventi vulcanici recentissimi: nel 1812 era esploso con violenza il Soufrière, nei Caraibi, mentre nel 1814 fu il Mayon, nelle Filippine, ad entrare in attività. Tutte queste eruzioni sparsero enormi quantitativi di cenere e polvere nell'atmosfera, producendo un denso "velo" di polvere vulcanica nella stratosfera, che schermò parte dei raggi solari negli anni successivi, provocando un drammatico raffreddamento del clima terrestre. Agli effetti delle polveri si aggiunsero quelli dell’anidride solforosa che, quando raggiunge la stratosfera, si trasforma in particelle di acido solforico che riflettono i raggi solari, riducendo così ulteriormente la quantità di radiazione solare che raggiunge il suolo terrestre. Inoltre, l’emisfero settentrionale stava attraversando una fase fredda chiamata “piccola età glaciale”, iniziata a metà del XIV secolo e durata fino alla metà del XIX, con temperature medie inferiori a quelle odierne. Come somma di queste circostanze, il pianeta conobbe un'epoca di estati mancate ed inverni gelidi, che ebbero come effetto scarsissimi raccolti e un impoverimento considerevole di vaste aree del pianeta. Il 1816, l'anno successivo all'eruzione, fu ricordato come l'anno senza estate.

Le inusuali condizioni climatiche del 1816 furono disastrose nell'America nord-orientale, e nell’Europa centro-settentrionale, dove la primavera e l’estate furono segnate da grandi tempeste, piogge continue e insistenti, inondazioni, così come da nevicate inusuali e la presenza di ghiaccio in agosto. Il cielo era quasi sempre grigio e talvolta con riflessi giallo-brunastri, come è ben rappresentato dai quadri dipinti in quel periodo da William Turner. 

I raccolti furono distrutti e molti capi di bestiame morirono. Il continente, che stava ancora riprendendosi dalle guerre napoleoniche, soffrì per la mancanza di cibo: in Gran Bretagna e in Francia ci furono rivolte per il cibo e i magazzini di grano vennero saccheggiati. Anche nella pacifica Svizzera si registrarono violenze tali da indurre il governo a dichiarare l'emergenza nazionale.

Proprio in Svizzera si trovava nell’estate di quell’anno il poeta e pari del Regno George Gordon Noel Byron, meglio noto come Lord Byron (1788 –1824). Il suo carattere difficile, le sempre più insistenti accuse di bisessualità, altri scandali di ordine morale (incesto con la sorellastra Augusta Maria, dalla quale ebbe una figlia, adulterio, sodomia, amore libero e altro ancora), la vita sentimentale assai poco regolare e la ostentata eccentricità lo avevano circondato di un diffuso sospetto, se non una vera e propria antipatia, tra i membri dell’élite aristocratica e letteraria che frequentava. Così, il 25 aprile, subito dopo la separazione dalla moglie Annabelle (la madre di Ada, futura contessa Lovelace) era partito per un secondo Gran Tour nell’Europa meridionale dopo quello intrapreso tra il 1809 e il 1811. Non avrebbe più rivisto la madrepatria.

Giunto sul lago di Ginevra, si stabilì, insieme al fedele domestico William Fletcher e al giovane medico personale John Polidori, nell'elegante villa Diodati, a Cologny. In una villa non molto distante, alla Maison Chapuis, fu raggiunto in giugno da Percy Bysshe Shelley (1792 – 1822), la sua futura moglie Mary Godwin Wollstonecraft (1797 – 1851) e la sorellastra di lei, Claire Clairmont (1798–1879), allora amante di Byron, incinta di lui e organizzatrice dell’incontro. In quel periodo Byron aveva perso interesse per Claire ma in Percy Shelley trovò un buon amico. Shelley scrisse che la vicinanza di Byron lo portò a raggiungere una propria espressione poetica, e che, un giro in barca fatto insieme, lo ispirò a scrivere l’Inno alla Bellezza Intellettuale.

Il tempo inclemente di quella “gloomy summer” limitò le possibilità della comitiva di fare gite nei dintorni o sul lago. Passavano le serate a leggere insieme un’antologia tedesca di racconti di fantasmi, Fantasmagoriana, finché, il 16 giugno, a Byron venne l’idea di invitare gli amici a scrivere una storia terrificante da leggere nelle sere successive. Il genere “gotico” (caratterizzato da storie soprannaturali di solito ambientate in edifici e cimiteri medievali) era iniziato in Inghilterra con il grande successo de Il castello di Otranto (1765) di Horace Walpole, cui fecero seguito i romanzi di Ann Radcliffe, il cui Misteri di Udolpho (1794) è tra i migliori esempi del genere. Un tipo più fantastico di romanzo gotico che sfruttava horror e violenza fiorì in Germania e fu introdotto in Inghilterra da Matthew Gregory Lewis con Il Monaco (1796).

Non sappiamo se tutti aderirono, né che cosa scrissero. Di certo c’è che in quelle cupe giornate estive del 1816 nacquero in bozza due dei libri più importanti del genere gotico, che, per motivi diversi, lo hanno superato, diventando delle riflessioni sulla condizione umana: Il Vampiro di John Polidori e Frankenstein di Mary Godwin Shelley.

 La biografia di John William Polidori (1795 - 1821) è da sola un romanzo gotico, soprattutto verso la fine. Era figlio di Gaetano Polidori, un letterato toscano che era stato segretario di Vittorio Alfieri, emigrato in Inghilterra e stabilitosi a Londra come insegnante di italiano. John, la cui sorella Frances avrebbe sposato l’esiliato Gabriele Rossetti, fu lo zio dei fratelli Rossetti, tra i quali Dante Gabriel e Christina Georgina, nati dopo la sua morte.

Polidori fu educato in una scuola cattolica nello Yorkshire, e successivamente frequentò l'Università di Edimburgo, dove studiò medicina, scrivendo una tesi sul tema molto romantico del sonnambulismo. Ottenne la laurea alla giovane età di 19 anni. L'anno successivo, ancora non ancora legalmente adulto, accompagnò Lord Byron nel viaggio dell’estate del 1816. Il fatto che Byron si sia presto stancato dell'immaturità del suo protetto (“Polly Dolly”) è ben noto, ma Polidori era, in effetti, piuttosto inesperto, scontroso e anche abbastanza piantagrane.

Il giovane, nel settembre dello stesso anno, lasciò la Svizzera per l'Italia, dove viaggiò per molti mesi, tornando in Inghilterra la primavera successiva, ma era scontento della sua professione e pensò di dedicarsi alla giurisprudenza. Nel frattempo, come frutto dell'estate letteraria che aveva passato sul continente, iniziò una breve, ma produttiva carriera di scrittore. La sua prima opera, Un saggio sulla fonte del piacere positivo (1818), manifestò il suo interesse per la psicologia. L'anno successivo pubblicò un volume di poesie, Ximenes, the wreath: and other poems, il romanzo Ernestus Berchtold, e il racconto Il Vampiro.

Quest’opera, ispirata a tradizioni greche e balcaniche, non era certamente un capolavoro, ma stabilì il canone della figura del vampiro come la intendiamo oggi, molto di più del Dracula di Bram Stoker, benché la fama abbia favorito il secondo. Inoltre, essa fu attribuita a Lord Byron quando fu pubblicata sul New Monthly Magazine. Quando scoprì che il racconto stava per essere pubblicato in forma anonima da Byron, Polidori fece di tutto per rivendicare l’opera come sua, ma il sospetto di impostura lo perseguitò da allora in poi.

Il breve romanzo racconta le disavventure del giovane e ricco Aubrey dopo l'incontro con l'enigmatico Lord Ruthven, una creatura gelida e demoniaca, dallo sguardo «grigio e freddo come la morte». Polidori alludeva a Byron stesso, che intendeva sbeffeggiare per una specie di vendetta personale. In Ruthven ci sono già i caratteri che saranno di Dracula, uomo di freddo fascino:

"Nonostante il pallore mortale del suo viso, che mai fu colorato dall’amabile incarnato del pudore, né arrossito da un'emozione vivace, la bellezza dei suoi lineamenti induceva nelle donne l'idea di sedurlo, o di ottenere da lui almeno alcuni segni di ciò che è chiamato affetto”.

Viaggiando con lui a Roma, Aubrey si rende conto che egli possiede un vizio contagioso: il suo "personaggio profondamente depravato" e "i suoi talenti per la seduzione" lo rendono "pericoloso per la società".

Volendo distaccarsi da tale figura, Aubrey va in Grecia, dove si innamora della giovane Ianthe, che gli racconta storie di vampiri. Durante una notte tempestosa, sorprende un uomo che attacca una donna in una casa. Dopo la fuga dell'uomo, scopre inorridito che la donna morta è proprio Ianthe. Tormentato, Aubrey si ammala. È Lord Ruthven che viene a curarlo. Più tardi, durante una spedizione archeologica, Lord Ruthven viene ferito dai briganti. Prima di morire delle sue ferite, Lord Ruthven fa in modo che Aubrey prometta di "non rendere noti a nessun essere vivente [i suoi] crimini e [la] sua morte". Egli giura senza capire. Rovista tra le cose di Lord Ruthven: scopre che è lui ad aver ucciso Ianthe, ed è probabilmente un vampiro.

Aubrey torna a Londra e rimane stupito dall'incontrare Lord Ruthven, vivo e vegeto, sotto il nome di Conte di Marsden. Ruthven ricorda al giovane il suo giuramento. Poco dopo quest'incontro, Ruthven conosce e corteggia la sorella di Aubrey mentre questi, disperato, cade in depressione, e sprofonda nella follia. La sorella di Aubrey e Lord Ruthven si fidanzano; la data delle nozze è fissata per il giorno in cui termina il giuramento. Poco prima di morire, Aubrey scrive una lettera alla sorella, rivelando la natura e il passato di Ruthven. La missiva però non arriva in tempo e i due si sposano. Durante la prima notte di nozze, la sorella di Aubrey viene trovata morta, prosciugata del suo sangue. Ruthven è svanito nel nulla.

L’ultima opera di Polidori, Sketches Illustrative of Manners and Costumes of France, Switzerland, and Italy, resoconto del suo viaggio europeo, fu pubblicata nel 1821 con lo pseudonimo di Richard Bridgens. Quell'agosto, presumibilmente per aver contratto un debito di gioco che non poteva onorare, si suicidò bevendo acido prussico. Aveva venticinque anni.

Mary Shelley crebbe in un ambiente colto e illuminista. Sin da piccola studiò le grandi opere di letteratura, storia e mitologia e studiò francese e latino. Sua madre Mary Wollstonecraft (1759-1797), dopo un'adolescenza passata in una famiglia povera e afflitta dall'alcolismo del padre, si rese indipendente con il lavoro di governante e dama di compagnia e un'istruzione conseguita attraverso studi personali. Nel 1787 si trasferì a Londra e trovò un impiego nel mensile Analytical Review dell'editore e libraio Joseph Johnson. Il suo lavoro le consentì di conoscere il pensiero dei maggiori intellettuali francesi, traducendo articoli degli illuministi d'Alembert, Diderot, d'Holbach, Voltaire, Rousseau (con quest’ultimo fu anche in polemica per la misoginia espressa nell’Émile). In pochi anni divenne un’importante saggista e si affermò come teorica politica influente e controversa. Antesignana del femminismo, Mary Wollstonecraft è nota soprattutto per A Vindication of the Rights of Woman (1792), nel quale sostenne, contro la prevalente opinione del tempo, che le donne non sono inferiori per natura agli uomini, anche se sono socialmente condizionate a un ruolo di inferiorità e di dipendenza. Mary Wollstonecraft sosteneva il diritto delle donne all'autodeterminazione e all'uguaglianza nella sfera intellettuale, pubblica e domestica.

Il padre, William Godwin (1756-1836) individuò nelle istanze politiche sollevate dalla Rivoluzione francese un'opportunità per sviluppare una società egualitaria strutturata sulla ragione, sulla giustizia e sull'educazione universale. La sua casa londinese era frequentata da una cerchia che comprendeva scrittori come Samuel Taylor Coleridge e filosofi naturali come il chimico Humphry Davy, il poeta e medico Erasmus Darwin e il chimico-inventore William Nicholson. Godwin descrisse le sue idee proto-anarchiche e repubblicane nel fondamentale An Inquiry Concerning Political Justice (1793). Godwin e Mary Wollstonecraft si sposarono nel 1797; la figlia Mary nacque il 30 agosto 1797; dopo pochi giorni la madre morì di setticemia in conseguenza del parto.

Nel giugno 1816 Mary Godwin Shelley aveva ancora 18 anni. Quando concepì l’idea di Frankestein, o il Moderno Prometeo, avrebbe detto poi, l’opera le si formò nella mente come in un sogno. "Con gli occhi chiusi ma una visione mentale acuta", ricordò, "ho visto il pallido studioso di arti indecenti inginocchiato accanto alla cosa che aveva messo insieme”.

La storia è nota a tutti: un filosofo naturale e medico (la parola scienziato ancora non esisteva, perché la coniò l’erudito William Whewell nel 1833), Viktor Frankestein, porta in vita, grazie all’elettricità. una creatura con sembianze umane ottenuta assemblando parti di cadaveri, con conseguenze disastrose. La creatura è senza nome, e solo più tardi sarà identificata con il nome del suo creatore: "Frankenstein" arrivò a rappresentare il mostro tanto quanto il suo creatore.

Terminato quando aveva ancora 19 anni, il romanzo, che fu pubblicato due anni dopo, nel 1818, in forma anonima, non è mai andato fuori stampa. Solo nell’edizione del 1831 Mary Shelley comparve come autrice dell’opera. Da allora, ben poche opere letterarie hanno così conquistato l’immaginario comune, anche perché il mito è stato amplificato da altri media come il cinema, il fumetto, la televisione. È bene anche dire che il mostro subì una trasformazione. Da essere sensibile, ragionatore e articolato i cui crimini derivavano dai suoi maltrattamenti per mano dell'umanità, la creatura si trasformò in un bruto, la cui natura violenta e crudele poteva essere intesa solo come il prodotto della scienza che osava usurpare il divino potere della creazione.

In realtà il Frankenstein di Mary Shelley rifletteva l'interesse dei medici e filosofi naturali dell'inizio del XIX secolo per la dissezione umana e gli esperimenti sugli animali, esplorando le possibilità di generare vita, rianimare gli affogati e i morti recenti e rianimare i tessuti morti con l'elettricità. Questi ricercatori cercavano di far progredire l'umanità e porre fine alla morte e alle malattie attraverso le loro indagini sui "segreti della natura". Nella ricerca del principio vitale, Luigi Galvani (1737-1798), professore di anatomia a Bologna, eseguì una gran serie di esperimenti sulla "elettricità animale" negli anni ‘80 e ’90 del Settecento. Il medico Giovanni Aldini somministrò energia elettrica ai corpi di criminali appena giustiziati. La rianimazione di coloro che sembravano morti appassionava molti.

Mary Shelley mette nella bocca del protagonista queste parole, che riflettono il pensiero del suo tempo:

"Gli antichi insegnanti di questa scienza promettevano impossibilità e non eseguivano nulla. I maestri moderni promettono molto poco; sanno che i metalli non possono essere trasmutati e che l'elisir della vita è una chimera, ma questi filosofi, le cui mani sembrano fatte solo per riempirsi di sporcizia, e i loro occhi per sondare il microscopio o il crogiolo, hanno effettivamente compiuto miracoli”. (…) "Penetrano nei recessi della natura e mostrano come lavora nei suoi nascondigli. Salgono nei cieli; hanno scoperto come circola il sangue e la natura dell'aria che respiriamo. Hanno acquisito poteri nuovi e quasi illimitati; possono comandare i tuoni del cielo, imitare il terremoto e perfino deridere il mondo invisibile con le sue stesse ombre ".

Non c'è da meravigliarsi che queste possibilità siano state l'ispirazione per l'esperimento megalomane di Victor Frankenstein per la produzione di un essere vivente.

Quando Mary incontrò il suo amante e futuro marito, il poeta Percy Bysshe Shelley, c'erano due elementi del carattere di lui che influenzarono il modo in cui avrebbe infine presentato i temi del suo romanzo. Percy Shelley era un radicale politico e un ateo convinto. L'idea di un uomo che interpreta Dio era una naturale estensione delle sue idee. Egli era interessato alla scienza più avanzata, in tutti gli aspetti della filosofia naturale. Percy Shelley era un poeta, ma anche un uomo della nuova era. Era stato educato all'amore per la scienza quando era a Eton. Un suo insegnante, James Lind, catturò la sua immaginazione con gli esperimenti di Galvani con la bioelettricità, in particolare facendo scattare una gamba di una rana attraversata da una corrente elettrica.

La rivoluzione industriale aveva già iniziato a trasformare radicalmente la civiltà occidentale. La scienza sembrava muoversi a un ritmo incalzante e uomini come Percy Shelley che volevano stare al passo dovevano essere sempre informati. Le industrie del ferro, del carbone e del cotone stavano fiorendo, spinte dall'uso del motore a vapore come fonte di energia.

Davy stava usando la nuova scienza dell'elettrochimica per scoprire sempre più elementi chimici. La scienza medica faceva passi da gigante con l'invenzione dello stetoscopio e del galvanometro. Joseph Constantine Carpue condusse la prima rinoplastica e Davy scoprì l'effetto analgesico del protossido di azoto. Nel 1814, quando Mary e Shelley iniziarono la loro relazione, George Stephenson costruì il primo treno a vapore commerciale.

All'inizio del XIX secolo, la magia della scienza sembrava essere un mistero che, con gli strumenti giusti, poteva essere compreso e controllato dall'uomo. Nell'eccitazione, la scienza diventò uno spettacolo. C'erano spesso manifestazioni pubbliche o conferenze, in cui un "professore di filosofia naturale" esponeva quelli che sosteneva essere i suoi esperimenti scientifici.

A Londra, Percy portò Mary a un’esibizione di Monsieur Garnerin (il primo paracadutista) e del suo Theatre of Grand Philosophical Recreations. Lo spettacolo era straordinario, con l’uso dell'elettricità per imitare un fulmine e produrre fuoco dall'acqua. Finì con una meravigliosa esibizione di fuochi d'artificio che non produssero né odore né fumo. Ogni giorno il Times pubblicizzava esperti come il dottor Clutterbuck, che tenevano lezioni di filosofia sperimentale, astronomia, "teoria e pratica della fisica", "chimica degli animali", "materia medica", "filosofia elettrica con applicazione al miglioramento della scienza chimica e della sua applicazione ai fenomeni naturali ". Il pubblico era entusiasta.

Queste persone non erano necessariamente uomini di scienza, spesso erano più vicini ai prestigiatori o ai ciarlatani, ma c'erano anche molte lezioni serie, specialmente alla Royal Institution, che fu aperta al pubblico nel 1811, dove Davy affascinava uomini e soprattutto donne con il suo talento e il suo carisma. C'erano teatri di anatomia che tenevano lezioni di dissezione per studenti di medicina che erano aperti al pubblico in generale.

Fu in questo ambiente di meraviglia raggiungibile che Maria fece dire a Victor Frankenstein:

"Da dove, mi chiedevo spesso, procede il principio della vita? Era una domanda audace, e che è sempre stata considerata come un mistero; eppure con quante cose siamo sul punto di conoscere, se la codardia o la noncuranza non frenano le nostre ricerche”.

Spesso, leggendo alcune notizie di nuovi sviluppi nell’ingegneria molecolare o della medicina da parte di ricercatori senza troppe remore di tipo etico, la creatura di Frankenstein sembra risvegliarsi dal suo ignoto nascondiglio polare, con la faccia di Boris Karloff.