Benjamin 2.0

Walter Benjamin riprodotto da un’AI (Marco Maurizi/Dall-E, licenza CC BY-NC-SA).

I recenti sviluppi nel campo dell’Intelligenza Artificiale (AI) presentano al pensiero e alla prassi umane sfide inedite da un punto di vista politico, culturale e antropologico. Un’adeguata comprensione di queste sfide richiede, infatti, che questi tre aspetti vengano colti nella loro connessione reciproca; occorre, cioè, che le tesi inquietanti relative al cosiddetto “capitalismo della sorveglianza”^[1] siano messe in rapporto con una svolta epocale della cultura nell’epoca della globalizzazione digitale che sta cambiando a ritmo vertiginoso il nostro modo di percepire noi stessi e il mondo, ovvero il nostro essere “umani”.

Oggi come ieri, la domanda filosofica fondamentale a proposito dell’AI riguarda, in altri termini, una messa in questione dell’umano che, mentre mette in secondo piano le forme obsolete e retrive, spiritualiste e conservatrici, della nostra “umanità”, tenta di fare salva una forma della libertà che preservi il nucleo di verità che si cela in quegli involucri superati della nostra esperienza individuale e collettiva.

Per certi versi si tratterebbe di ripensare, criticamente, ciò che un piccolo, ma giustamente famoso, libro di Walter Benjamin proponeva già nel 1935, in un tempo non a caso caratterizzato da sconvolgimenti già allora percepiti come “apocalittici”. Ci riferiamo, ovviamente, a L’opera d’arte nell’epoca della sua riproducibilità tecnica^[2], un testo che programmaticamente cercava di indagare il nesso tra la rivoluzione estetica introdotta dalle nuove tecnologie di riproduzione di massa e gli analoghi sconvolgimenti che accadevano nella sfera politica e culturale.

La domanda antropologica, se vogliamo, faceva da sottofondo in quel testo, ma era parte essenziale del suo intreccio argomentativo. Essa attraversa la questione del rapporto tra “arte” e “tecnologia”. Una questione che si presenta nella sua abissalità, per poco che si rifletta sulla curiosa ambiguità dei due termini implicati nel titolo del libro di Benjamin, laddove ars, come téchne, significa originariamente ciò che è prodotto dall’uomo in quanto non “naturale”, cioè prodotto da sé stesso (physis). Si potrebbe riformulare la domanda in modo più cospicuo come: l’epoca in cui l’uomo è in grado di produrre non singoli oggetti, ma la propria stessa capacità produttiva, ovvero, segnatamente la propria stessa differentia specifica dalla natura, la propria umanità, il proprio proprium^[3].

Il discorso benjaminiano si concentrava sul concetto di “aura”, cioè l’unicità che pertiene agli oggetti artistici, qui nel senso specifico di “opere d’arte”, un’unicità messa radicalmente in questione dalla cultura di massa e dalla sua capacità di produrre in serie ciò che prima esisteva nella forma dell’unicum^[4]. L’aspetto apocalittico di questa serializzazione della cultura è stato successivamente approfondito da Günther Anders nei saggi de L’uomo è antiquato^[5]. Benjamin era piuttosto interessato al potenziale emancipativo della cultura di massa, considerando importante la trasformazione industriale della produzione estetica come condizione necessaria, benché non sufficiente, per un’appropriazione collettiva della cultura. Alla perdita dell’unicità dell’opera d’arte corrispondeva, in altri termini, la produzione e la fruizione collettiva del fatto estetico, ciò che forniva alla questione della riproducibilità tecnica il suo interesse costitutivamente politico.

Le opere prodotte dall’AI

Wonder Woman stile icona ortodossa (Marco Maurizi/Dall-E, licenza CC BY-NC-SA).

Ciò che emerge, invece, nei recenti sviluppi dell’AI è la scomparsa potenziale dell’artista, la messa in questione dell’idea che l’autore stesso dell’opera possa o debba essere umano. I casi eclatanti che hanno avuto una certa diffusione sul web sono stati la produzione di una canzone “inedita” di Kurt Cobain (Drowned in the Sun)^[6] o di un’opera letteraria originale come 1 the Road^[7], anche se il maggior impatto sull’immaginario e sulla vita collettiva sembrano destinati ad averlo sistemi per la creazione di immagini (DALL-E, Midjourney) o testi (chatGPT).

C’è un tipo di critica “umanistica” a questo genere di operazioni che ci sembra muovere da una posizione non sufficientemente elaborata teoreticamente. Essa parte dall’assunto, a rigore indimostrabile, secondo cui una macchina non potrà mai eguagliare l’umano^[8]. Il problema con questa posizione è che essa viene regolarmente smentita e, se non lo è, non è in grado di definire in cosa consista questa specificità dell’umano che costitutivamente sfuggirebbe alla macchina. La macchina imiterebbe malamente l’essere umano, ma le mancherebbe sempre “qualcosa”. Il problema è che, anche se questa affermazione è stata, di fatto, empiricamente vera finora, ciò non significa che sia destinata a rimanere tale per sempre.

Ad ogni modo, c’è qualcosa di plausibile in questa critica. Non è possibile, in effetti, negare che in tutto ciò che viene prodotto dall’AI ci sia un forte elemento “imitativo” che struttura queste operazioni su diversi livelli. È assolutamente vero, ad esempio, che Midjourney può creare, a partire da un testo, un’immagine mai vista prima e che il suo è un prodotto affatto originale (potrebbe, in teoria, persino creare un’immagine a partire da un testo a sua volta generato artificialmente, ma su questo torneremo tra poco). Il problema è che lo stile con cui questa immagine è costruita sarà sempre uno stile già codificato dall’umano, proveniente dal bagaglio di immagini già prodotte nei millenni precedenti. L’obiezione, abbastanza scontata, secondo cui anche gli umani creano immagini partendo da immagini precedenti è debole. Perché la raffigurazione stilistica precede la produzione di immagini e, dunque, per produrre immagini mai viste prima occorrere uno stile inedito. Ma può l’AI generare uno stile mai visto prima? Rispondere a questa domanda, ovviamente, ci costringe a riflettere su cosa sia “uno” o “lo” stile^[9].

Anche su questo dovremo tornare. Ma possiamo, in prima approssimazione, farci un’idea del problema, pensando alle due “opere” che abbiamo citato: Drowned in the Sun e 1 the Road. In entrambi i casi, l’AI ha prodotto delle sequenze significative: la differenza è che nel primo caso l’umano è intervenuto nel processo di costruzione (il fine era imitare lo stile di Kurt Cobain), mentre nel secondo no (il fine era partire dall’idea di Kerouac per vedere cosa l’AI avrebbe prodotto). In entrambi i casi, l’AI impara qualcosa dall’umano, ricevendo come input di dati del materiale estetico da cui cerca di apprendere un modo di costruire enunciati di tipo musicale o letterario.

Certo è difficile pretendere che l’AI possa produrre effettivamente qualcosa di sensato a partire dalla semplice identificazione di pattern nella scrittura di un autore. Al di là del sensazionalismo dell’operazione, una più precisa conoscenza del processo di produzione della canzone evidenzia l’essenziale partecipazione dell’elemento umano. Come negli analoghi tentativi di produrre canzoni “da Eurovision”^[10] l’AI può certo riconoscere, riprodurre e modificare dei pattern musicali (a livello armonico, melodico, ritmico, fino alle finezze dell’arrangiamento), ma solo come frammenti che poi necessitano della supervisione umana per essere “cuciti” insieme in modo coerente, se non “accattivante”.

Ci sono due problemi che si collegano a questo bisogno dello human touch: rendere (1) vivo e (2) sensato ciò che è morto e meccanico. E intendiamo ciò che è morto e meccanico nella musica stessa, anche in quella umana che, come ogni fatto di cultura, obbedisce a pattern prima che questi vengano scoperti o isolati dall’AI. In effetti, la tradizione di far scrivere opere “dal computer” e spacciarle per autentiche risale agli esperimenti di David Cope con la musica di Bach e Mozart, a partire dagli anni ‘80^[11]. Ora, la differenza tra imitare un brano di Bach e uno dei Nirvana è evidente: la musica accademica obbedisce a regole molto più rigorose della musica rock. Anche se tutta la musica tonale ha senz’altro un elemento meccanico insito in sé, il modo di funzionamento di questo “meccanismo” è diverso nei due casi. Come scrisse acutamente Adorno, proprio nella musica pop la ristrettezza dei mezzi compositivi costringe a un tour de force, nel tentativo di rendere espressivo, originale, unico ciò che per sua natura è meccanico, consunto e ripetitivo^[12]. Alla macchina viene posto quindi l’arduo compito di identificare questo elemento non meccanico.

Inoltre, e qui veniamo al problema della “sensatezza”, mettere insieme dei pattern, delle strutture che di per sé hanno un significato (o meglio: possono essere riconosciuti dalla mente umana come aventi un significato) non significa produrre qualcosa che abbia effettivamente senso da un punto di vista estetico. Con questo ci riferiamo a due problemi distinti: da un lato, quello formale, della totalità della composizione, dall’altro, quello materiale, della effettiva significatività di ciò che viene scritto, disegnato o suonato.

Ora, e questo spiega il relativo “successo” della musica classica composta dall’AI, nella tradizione accademica, il rapporto tra l’architettura dei brani, le loro parti costitutive e il modo di trattare armonicamente e melodicamente il materiale musicale è talmente rigoroso da permettere una sua traduzione in termini algoritmici. In effetti, l’insegnamento della musica classica accademica è strutturato su modelli molto vincolanti. Così come lo è stato, almeno in parte e per un certo periodo, quello della musica dodecafonica e seriale successiva. Ma al di fuori di questi contesti ristretti, l’opera d’arte contemporanea necessita che la forma globale sia costruita assieme a quella delle parti che la compongono: la totalità non può essere presupposta né imposta dall’esterno ma va, appunto, se non inventata, almeno giustificata di volta in volta.

Ciò fa sì che le opere musicali algoritmiche finiscano inevitabilmente per essere esercizi di stile, come è puro manierismo l’infinito potenziale creativo di Midjourney. Il testardo umanista direbbe che a mancare loro sia “l’anima”, espressione generica e imprecisa: il problema è che tali opere non hanno e non possono avere il coraggio di essere opere significative. Nel secondo aspetto che stiamo cercando di portare ad evidenza, la più perfetta e minuziosa opera d’arte prodotta da un’AI rischia di apparire senza alcuna necessità. A quale bisogno estetico risponde o corrisponde?

Ovviamente questa domanda non può essere posta, né può mettere in difficoltà i teorici dell’AI, se non si muove da una teoria dell’oggettività estetica^[13]. In altri termini, se riteniamo che “arte” sia tutto ciò che soggettivamente viene goduto o ritenuto sensato è del tutto ovvio che il problema della riproducibilità dell’artista è già stato risolto^[14]. Ma in modo sofistico, poiché non si è data alcuna descrizione essenziale di chi sia e cosa faccia l’artista: dunque artista è l’AI, come il bambino o lo scimpanzé che fanno scarabocchi sul foglio o pestano a caso sul pianoforte. Basta che qualcuno proietti un significato (o anche solo un sentimentale godimento) su quei segni perché essi diventino esteticamente “significativi”. Ma in questa teoria proiettiva dell’arte è evidente che alla fine non c’è differenza tra il decifrare una configurazione sintattica e semantica oggettivamente presente in un’opera e la pareidolia.

E veniamo così alla seconda opera. È chiaro che il “successo” di un’operazione come la scrittura del romanzo 1 the Road sta nel non sciogliere questa ambiguità, giocando sulla forma infranta e “aperta” della letteratura contemporanea. Anche in questo caso, vale quanto detto a proposito della musica accademica: ci sono forme letterarie “classiche” – come il sonetto, ad esempio – costruiti su canoni talmente ristretti, che è senz’altro possibile far scrivere da un’AI un’opera che ricalchi lo stile, il lessico e l’incedere di Petrarca, Shakespeare o Carducci. Ma si tratterebbe, come ognun vede, di una mera imitazione esteriore. D’altro canto, la letteratura contemporanea ha messo così tanto in discussione le regole della letteratura classica, che è virtualmente possibile scrivere solo due parole in mezzo a un foglio bianco, per avere qualcosa che possa spacciarsi per “poesia”. 1 the Road è un’opera scritta da un’AI, attraverso un sensore ottico posto su una macchina che “traduceva” in frasi i dati registrati dal sensore: essendo stato “educato” (torneremo su questo) a un gusto letterario, il risultato è stato sufficientemente imprevedibile da poter essere apprezzato da alcuni lettori. Va da sé, però, che nessuno sembra pensare che l’AI abbia voluto effettivamente dire o, meno che mai, esprimere qualcosa. È evidente, infatti, che ci troviamo in una situazione solo apparentemente diversa da quella dell’imitazione di un modello: lì la forma era data a priori, qui è stata tolta di mezzo, ma in entrambi i casi non c’è alcuna necessità in quello che viene scritto. E parliamo, si badi, di una necessità non interiore, ma appunto oggettiva, la forza sintetica che rende l’opera d’arte espressione di un’esigenza che trascende l’individuo, pur passando per la sua irriducibile esperienza singolare. È proprio questa dialettica tra singolarità e universalità che pare assente e su cui dovremo interrogarci più approfonditamente.

Quando il Kerouac di On the Road viaggia lo fa per rifiutare un modello conformistico di vita e la sua stessa scrittura è affetta e determinata da questa scelta, che è esistenziale, culturale e politica al tempo stesso: stile di vita e stile di scrittura vanno di pari passo^[15]. Non solo, è proprio l’apparente, irriducibile, ribelle esperienza dell’autore che viene tradotta e resa fruibile a tutti dalla configurazione estetica oggettiva dell’opera. Mettere un’AI su una macchina e provare a fargli descrivere “ciò che vede” riproduce esteriormente quel gesto, ma non la motivazione che lo rendeva sensato all’autore e in cui il lettore può riconoscersi. Il fatto che 1 the Road possa presentare al lettore frasi sufficientemente enigmatiche, eppure non grammaticalmente scorrette o totalmente incomprensibili, permette al lettore umano di trovarvi espresso qualcosa di “poetico”. Ma si tratta di un concetto di poesia talmente vago da valere per qualsiasi cosa, come se il “gioco” letterario potesse ridursi a un assemblaggio più o meno casuale di scelte dentro un ventaglio di opzioni prestabilite. Tuttavia, tanto la forma in Petrarca, quanto la sua apparente negazione in Ungaretti esprimono una necessità viva nella cultura del loro tempo. E lo stesso dicasi per tutte le altre scelte sintattiche, semantiche, ritmiche, ecc. che vengono chiamate in causa dalla scrittura letteraria.

Se rimuoviamo dall’atto artistico gli elementi contingenti che guidano queste scelte, la costellazione culturale, sociale, antropologica, ecc. in cui l’opera d’arte è sempre situata e che ne determina la logica e il senso interni, è ovvio che dell’arte non resta che un’ars combinatoria^[16] fine a sé stessa lasciata al capriccio interpretativo del fruitore e, dunque, per definizione imitabile da qualsiasi algoritmo sufficientemente informato.

È essenziale introdurre questo elemento che concerne la razionalità e l’oggettività dell’estetico, per evitare di cadere in quella forma di umanismo retrivo e spiritualista dalle venature luddiste che riduce la critica dell’AI alla sottolineatura di un “di più” che l’essere umano potrebbe fare rispetto alla macchina e che inevitabilmente sprofonda nella mistica. In effetti, si potrebbe pensare che i problemi che abbiamo sopra sollevato potrebbero essere risolti in linea di principio attraverso un potenziamento dell’algoritmo[17]. A questa certezza quantitativa, l’umanista risponde con una certezza qualitativa di segno opposto: l’essenza dell’umano risiederebbe sempre in ciò che non si lascia eguagliare dalla macchina. Potremmo anche in teoria essere d’accordo. Ma la questione, come abbiamo accennato all’inizio, posta così, non solo non è abbastanza chiara da un punto di vista teorico, ma è del tutto inefficace dal punto di vista pratico. Perché lo sviluppo tecno-scientifico porta costantemente a spostare sempre più in là questo confine tra l’umano e la macchina, in una deriva che assume tratti religiosi e fideistici, mano a mano che l’intelligenza artificiale sembra in grado di realizzare compiti così complessi e raffinati da far assottigliare questo “residuo” di umanità, costringendolo di fatto all’irrilevanza.

Dalla cibernetica al machine learning

Ma quanti progressi ha fatto effettivamente l’AI? Anche senza voler sottoscrivere la critica radicale di Erik Larson^[18] è indubbio che un minimo di coscienza storica permette di riconoscere alcune cesure storiche importanti nella storia dell’AI e mostrare che non si tratta affatto di un glorioso e lineare progresso che conduce dai primi rozzi tentativi ai raffinati successi di oggi.

Occorre in effetti notare la profonda differenza che c’è nell’approccio alla “simulazione” dell’umano tra l’epoca pionieristica della cibernetica e quella delle neural networks e del machine learning. L’epoca della cibernetica nasce con un paradigma preciso che, attraverso la riduzione dell’umano (e del vivente in generale) a insieme di strutture meccaniche, tenta di progettare un soggetto artificiale che ne riproduca dall’interno il funzionamento in forme sempre più complesse^[19]. In continuità con la filosofia macchinica del ‘600 si concepiva il problema dell’AI in termini di progressiva implementazione di un modello che, a partire dalle funzioni elementari (pensiero inteso come calcolo, percezione, sensazione, movimento, ecc.), potesse finire per raggiungere livelli di esperienza e, forse, autocoscienza di tipo “umano”. I successi di questo tipo di approccio alla fine degli anni ‘60 e all’inizio degli anni ‘70 erano stati così poco sconvolgenti da far entrare in crisi, anche da un punto di vista dei finanziamenti, i progetti di ricerca relativi^[20]. La cosa cambia radicalmente, osserva Larson, dopo la diffusione di internet e la nascita del machine learning legato ai processi di data mining^[21]. Anche se le reti neurali sembrano, infatti, riprendere l’idea dell’organizzazione del cervello umano, il funzionamento dell’AI, almeno di quello che ha prodotto i risultati più eclatanti a livello dell’immaginario collettivo, oggi si muove in direzione opposta rispetto alla cibernetica. L’AI non simula affatto il modo di pensare e di agire dell’essere umano nel senso di riprodurne il meccanismo interno, non è affatto interessata a questo: produce piuttosto risultati che simulano, eguagliano e superano lo standard umano.

Il passaggio storico decisivo è segnato dall’avvento di internet, della telefonia mobile e dell’enorme messa a disposizione di dati statistici legati ai comportamenti di fette sempre più ampie della popolazione mondiale. Il machine learning offre la possibilità agli algoritmi di “imparare”, attraverso diverse strategie di apprendimento, abilità molto specifiche, operare ragionamenti induttivi e previsioni probabilistiche. A sua volta il data mining permette, attraverso l’analisi di un enorme set di dati statistici, non solo di riconoscere ma anche di scoprire pattern che l’osservatore umano non è in grado di cogliere. Non tutte queste connessioni statistiche sono rilevanti o dotate di senso, ma è un fatto che il potere analitico e predittivo della macchina raggiunge già oggi livelli impensabili fino a qualche anno fa. Questo fa sì che l’AI possa non solo raggiungere, seppure in campi circoscritti, una precisione che la mente umana non può sperare di avere, ma anche che in questo suo processo di analisi e comprensione del mondo reale, essa è di tanto in tanto preda di qualcosa di simile alle allucinazioni^[22]. L’efficacia della predizione e della performance ottenuta tramite strumenti statistici è dunque inseparabile da una sostanziale incapacità di discernimento^[23].

Né Turing, né Popper

Con la sua efficienza nel riprodurre il comportamento il machine learning ci fa fare un passo a ritroso dalla cibernetica alla teoria della computazione di Turing, di cui condivide l’essenziale comportamentismo^[24]. Come per Turing, l’AI non deve riprodurre qualcosa che accade nella mente umana (che rimane una black box al pari del suo corrispettivo artificiale), l’imitation game riguarda la possibilità di svolgere compiti in modo analogo agli umani. Non occorre chiedersi, come noto, se le macchine “pensino”, ma se c’è qualcosa che non possano fare. Ed è chiaro che, per poco che il compito venga descritto in modo analitico, esso può venire computato da un algoritmo. Da qui la piccata risposta di Karl Popper:

In un celebre intervento Alan Turing disse: “Ditemi, secondo voi, cosa non è in grado di fare un computer e ne costruirò uno apposta”. Gli risposi per lettera: “Cosa intende per ‘ditemi’? Che dovrei forse darle una descrizione? Perché in questo caso sarebbe una sfida banale. È chiaro che quel che va evitato è proprio la descrizione. Comunque sia, se c’è una cosa che il computer non ha è l’iniziativa. E non vedo come si possa descrivere l’iniziativa. Quindi la sua sfida è un bluff. Peraltro, qualsiasi bambino, anzi, qualsiasi cucciolo in buona salute, è pieno di iniziativa”.^[25]

La risposta di Popper, che offre una critica interessante nella pars destruens è meno convincente nella pars construens: è chiaro che qualsiasi atto umano, tanto più viene “descritto” in modo analitico, tanto più può essere riprodotto attraverso un algoritmo. Tuttavia, se pretendiamo di definire in termini positivi lo specifico dell’umano (in questo caso “l’iniziativa”) è altrettanto ovvio che siamo costretti a rimanere nel vago, nell’intuitivo. Una posizione in linea con lo spiritualismo che non è affatto in contraddizione con l’individualismo liberale di Popper. Una risposta meno mistica e spiritualista, infatti, possiamo darla ricorrendo non all’individuo astratto, ma ai processi collettivi e storici. Occorre trovare un modo per sottrarsi alla scelta tra descrizione analitica e vaghezza metaforica. Ma per fare questo occorre superare tanto il behaviorismo di Turing quanto l’individualismo popperiano.

Anzitutto, è vero che possiamo astrarre completamente da ciò che accade nella mente? Ciò che accade nella mente è davvero indifferente per una descrizione adeguata di ciò che l’umano fa? E, se ricorriamo a questo elemento interiore, siamo costretti all’indeterminatezza, all’intuizionismo, allo spiritualismo? No, perché ciò che accade nella mente non accade solo nella mente. Il pensiero è anche una struttura oggettiva, fa parte di un processo più ampio sociale e storico che si manifesta anche nella mente dei soggetti, ma che non “esiste” solo qui.

Per dare una descrizione adeguata dell’umano e del suo “funzionamento” è essenziale che entrambi questi momenti, quello interno e quello esterno, vengano riconosciuti e ammessi. Prendiamo un altro caso di utilizzo dell’AI: il riconoscimento del sarcasmo^[26]. Si tratta non solo di una competenza di tipo comunicativo, ma anche estetico: non è possibile intendere ciò che un umano dice se ci si ferma alla lettera di ciò che dice. Si tratta di uno dei modi peculiari in cui gli esseri umani si esprimono. Tuttavia, nel caso del sarcasmo, a differenza delle espressioni idiomatiche, non basta stilare un campionario di modi di dire già codificati. Il sarcasmo è un’abilità in continuo movimento, creativa. Oltre alla non-letterarietà dell’espressione conta l’intenzione, cioè quel particolare vissuto di aggressività che si lega all’uso del sarcasmo. Si vorrebbe sviluppare un’AI che fosse in grado di riconoscere il sarcasmo senza partecipare a questo vissuto, dunque elidendo uno dei due elementi che determinano l’uso del sarcasmo stesso.

Ora, è ben possibile che l’utilizzo di un’enorme base di dati possa permettere all’AI di riconoscere il pattern del sarcasmo. L’AI potrebbe svolgere questo compito determinato in modo persino più efficace dell’umano: d’altronde, quante persone non sono in grado di riconoscere un’espressione sarcastica quando la leggono? Ma anche se l’AI fosse in grado di assolvere questo compito e quindi di eguagliare o superare la media statistica umana, ciò le garantirebbe esclusivamente una capacità passiva, non attiva (un po’ come chi sa capire una lingua o un dialetto ma non sa parlarli). Ed ecco che la sfida di Turing gli si rivolge contro. Possiamo forse insegnare all’AI a capire quando c’è sarcasmo ma non a riprodurlo. Eppure, il problema, aveva ipotizzato Turing, è saper fare, non pensare.

Abbiamo qui a che fare con quella sfera dell’esperienza umana che ha un peculiare carattere meta-cognitivo: lo smarcarsi dalla letterarietà di ciò che si dice produce, infatti, un’intesa a un livello più alto. È quasi costitutivo del sarcasmo il fatto che alcuni non capiscano, vengano esclusi da questa forma di comunicazione. Il punto, dunque, qui come altrove, è che seppure l’AI potesse eguagliare le competenze umane – e abbiamo visto che, grazie a un uso intensivo di processi statistici, riesce a farlo – non arriverebbe con ciò a realizzare quella capacità di intesa di secondo livello che sembra rimanere prerogativa dell’umano. Qui lo “scarto” con la macchina comincia ad apparire in una forma più determinata e meno mistico-spirituale.

L’esempio del sarcasmo è significativo proprio per questo. Il sarcasmo, che è una forma di ironia, appartiene a quella classe di atti linguistici che necessitano di un linguaggio condiviso che poi viene negato, trasceso attraverso l’intesa dei parlanti. Tutta la dimensione estetica si costituisce per mezzo di questa potenza che è al tempo stesso negativa e auto-riflessiva: persino al realismo è essenziale lo scarto tra la parola-immagine e la realtà di cui essa vorrebbe essere parte^[27]. Il letterale è sempre e solo un momento dell’esperienza estetica, mentre ciò che è essenziale al costituirsi dell’estetico come tale sta dalla parte di ciò che trascende la letteralità. La differenza tra una lettura conservatrice-spiritualistica e una critico-illuministica dell’AI sta probabilmente nel modo di interpretare questa trascendenza. Per i romantici, come noto, l’ironia segnava appunto quell’incessante “superamento” del soggetto nei confronti dell’oggetto, dell’artista nei confronti dell’opera, l’elemento infinito, attivo-produttivo, che restava sempre al di fuori del prodotto dell’atto e lo rendeva possibile. Nell’ironia, il soggetto romantico afferma sempre di essere più di sé stesso, ogni produzione di oggetto deve certificare il proprio “io sono altrove”.

Potremmo anche considerare mistica e illusoria questa pretesa del soggetto umano di porsi come infinitamente al di sopra delle proprie manifestazioni particolari e, assieme a Turing, immaginare che l’AI possa sempre riacciuffarci e ricondurci sul terreno stabile dei nostri atti. Un’AI che fosse in grado di intendere e produrre tutti i possibili atti umani avrebbe, in effetti, trovato l’algoritmo che ci fa essere ciò che siamo; “l’algoritmo definitivo”^[28] sarebbe però anche ciò che nel momento stesso in cui ci raggiunge ci supera per la sua inimmaginabile capacità di calcolo.

Dove starebbe questa “apertura” misteriosa, questa “risorsa” infinita che renderebbe l’umano sempre trascendente rispetto ai propri atti, alle proprie realizzazioni particolari? Nell’“iniziativa”, nell’“atto creatore” degli Schlegel o dei Popper? Ecco il punto: se uno pone il proprium dell’umano all’interno, nell’anima, nell’interiorità, nel pensiero e, in generale, nel soggetto, l’esito mistico-romantico è inevitabile. Ma è evidente che, per tornare all’esempio banale degli atti linguistici, ciò che rende difficile ogni interpretazione meccanica di una proposizione ironica, sarcastica o, come abbiamo detto e specificheremo meglio, metaforica e poetica, è il rapporto unico e di volta in volta variabile tra questa interiorità e il contesto. Il proprium dell’umano non è qualcosa che stia semplicemente dentro, ma è semmai il rapporto, non pre-determinato e sempre ridefinibile, tra questa interiorità e l’esterno, tra il proprio e il non-proprio.

Si sa che questa capacità di perimetrare il contesto è da sempre ciò che mette in difficoltà gli sviluppatori di AI^[29]. Perché il contesto, il mondo in cui si muove il soggetto, non è determinabile a priori, è l’orizzonte aperto dell’esperienza possibile. Certo, anche in questo caso si potrebbe pensare che si tratti solo di un difetto temporaneo, in linea di principio superabile attraverso un potenziamento della capacità di incamerare e processare i dati.

In effetti, come abbiamo visto, la cesura e il cambio di passo radicale tra l’epoca della cibernetica e quella del machine learning e dei big data, è stata segnata dall’avvento di internet e della telefonia mobile. Cioè quando la macchina è diventata parte ineliminabile del nostro quotidiano, muovendosi assieme a noi, assistendoci e al tempo stesso registrando ogni spostamento e scelta. La mappatura digitale del mondo è stata resa possibile da questa presenza sempre più capillare della macchina nella nostra vita.

In questo modo, l’AI può essere resa partecipe, almeno embrionalmente, della nostra socialità, della nostra esperienza del mondo. Ma si tratta ancora, inevitabilmente, di una partecipazione passiva. Possiamo dire che la mappatura digitale del mondo permette all’AI di vampirizzare la nostra socialità, rendendone quindi possibile una simulazione che ha però due grosse limitazioni: è rivolta al passato ed è indiretta[30]. L’AI partecipa della nostra esperienza del mondo, ma solo dell’esperienza che noi abbiamo già fatto.

Ma anche in questo caso si potrebbe immaginare di poter superare, in linea di principio, questo limite. E se, come si vede nei film di fantascienza, le macchine diventassero membri a tutti gli effetti della nostra comunità, se sapessero pensare, parlare e interagire con noi, una volta dotate di strumenti percettivi e senso-motori perfezionati, cosa impedirebbe loro di fare un’esperienza del mondo paragonabile alla nostra? Potrebbero a quel punto davvero fare tutto ciò che facciamo noi? Potrebbero allora diventare anche artisti nel vero senso della parola?

“Intelligenza artificiale” e “stupidità naturale”: il contesto e la regola

La dialettica servo-padrone (Marco Maurizi/Dall-E, licenza CC BY-NC-SA).

Non abbiamo una risposta definitiva a questo dilemma, ma alcuni dubbi che servono a segnalare l’insufficienza politica del discorso finora condotto. Come abbiamo detto in apertura, la questione dell’AI pone problemi di natura culturale e antropologica, ma anche politica. Lo sapeva bene Benjamin. Sembriamo esserne meno consapevoli noi, poiché ogni discorso “critico” sull’AI, oggi, sembra completamente dimenticare questo aspetto o, al massimo, lo tratta nei termini del pericolo rappresentato dal “controllo” che l’AI potrebbe esercitare sulle nostre vite. Un pericolo enorme e, certamente, reale, ma che non coglie forse l’essenza teorica del problema che abbiamo di fronte.

Abbiamo già detto che, per una definizione appropriata dell’umano e quindi dei problemi che la macchina si trova di fronte quando pretende “simularne” l’intelligenza, non basta guardare all’interno (il pensiero) e all’esterno (l’azione nel contesto, l’interazione), ma occorre pensare il loro rapporto, la loro dialettica. Questo è l’assunto hegelo-marxiano che sembra mancare in tutta la riflessione sull’AI, non solo sull’impatto sociale che l’AI ha ed è destinata ad avere, ma anche sulla sua natura intrinseca. Nell’apparente misteriosa affermazione di Hegel “il razionale è reale, il reale è razionale”, non si dice altro se non che l’anima e il mondo si determinano reciprocamente, che ciò che gli umani fanno determina, attraverso la costruzione di una realtà umanizzata, ciò che essi anche interiormente sono. Il sé umano è preso in questio gioco di esteriorizzazione e interiorizzazione, prende forma all’esterno, ma viene anche di volta in volta introiettato e riprodotto dagli individui nella propria singolare prospettiva che, dunque, è sempre al tempo stesso irriducibilmente unica ma comune. Per questo, dice Hegel, il linguaggio non permette di dire il singolare, se non nella forma dell’universale, e ogni io dice già noi^[31].

Dovremo vedere come la caratteristica del pensiero, della razionalità, è questa natura aperta e processuale in cui l’individuo si trova già da sempre coinvolto ma in cui, proprio per ciò, non necessariamente si trova accolto: c’è un dato conflittuale che caratterizza questa “apertura” e che rende anche il concetto di universale qualcosa di dinamico. Ci torneremo nelle considerazioni finali. Apparirà lì anche evidente, attraverso una diversa concezione della libertà, tutta la portata politica di questa riflessione sull’AI.

Teniamoci per ora al punto dell’intelligenza. Abbiamo già visto come, attraverso l’analisi dei dati, la statistica e la teoria della probabilità (soprattutto nella sua versione bayesiana), l’AI riesca a simulare e perfino superare, in compiti specifici, la performance umana. E abbiamo anche visto che il superamento del paradigma cibernetico – l’emulazione del processo cognitivo – porti a una sostanziale irrilevanza del modo in cui l’AI giunge a simulare l’atto umano. Si potrebbe dire che essa sacrifica, all’ottenimento di una perfetta artificialità, la propria intelligenza. Il riconoscimento di pattern e il cieco meccanismo di conferma o disconferma, quando non riguarda compiti specifici e non viene guidato dall’umano, porta inevitabilmente a risultati privi di senso o assurdi. Perfino al delirio.

Chiediamoci perché. Cosa manca all’intelligenza che procede per tentativi ed errori? Kant direbbe che manca il giudizio. Rileggiamo le note pagine della Critica della ragion pura relative alla facoltà di giudicare. Qui Kant parla, come noto, della “stupidità naturale” ma vedremo che essa spiega perfettamente ciò che manca all’AI per essere effettivamente “intelligente”:

Se l’intelletto in generale vien definito per la facoltà delle regole, il Giudizio è la facoltà di sussumere sotto regole, cioè di distinguere se qualche cosa stia o no sotto una regola data (casus datae legis). La logica generale non contiene punto prescrizioni pel Giudizio, né può contenerne. Giacché, astraendo essa da ogni contenuto della conoscenza, non le resta a trattare se non della semplice forma della conoscenza, per distinguerla analiticamente in concetti, giudizi, sillogismi, e cavarne le regole formali di tutto l’uso dell’intelletto. Se volesse poi indicare in maniera generale, come si debba sussumere sotto queste regole, distinguere cioè se qualcosa vi rientri o no, questo non potrebbe avvenire altrimenti che, ancora, mediante una regola. Ma questa, appunto perché regola, esige da capo un ammaestramento del Giudizio; e così si vede che l’intelletto bensì è capace di istruirsi e munirsi con regole, ma il Giudizio è un talento particolare, che non si può insegnare, ma soltanto esercitare. Quindi il Giudizio è l’elemento specifico del così detto ingegno naturale, al cui difetto nessuna scuola può supplire; perocché, per quanto a un intelletto limitato questa possa somministrare e, per così dire, innestare in grande abbondanza regole tolte dalla scienza altrui, la capacità tuttavia di servirsene rettamente deve appartenere allo stesso scolaro; e non c’è regola che si possa suggerire a tale scopo, la quale, in mancanza d’un tal dono di natura, sia sicura dall’abuso. Quindi un medico, un giudice, un uomo di Stato può avere nella testa molte belle regole patologiche, giuridiche, politiche, tanto da poterne essere egli stesso un profondo maestro, e tuttavia all’applicazione sbagliare facilmente, o perché manchi di Giudizio naturale (sebbene non manchi di intelletto) e comprenda bensì l’universale in abstracto, ma non sappia decidere se un caso particolare in concreto vi rientri, o anche per non essere stato sufficientemente indirizzato a un tal giudizio mediante esempi e casi pratici.^[32]

Si vede bene che l’esperienza deve servire ad allenare il giudizio, ovvero la capacità di sussumere il particolare sotto la regola universale. Ciò che fa problema nella costruzione dell’AI (e nella sfida di Turing) è che si pretende ciò che Kant definisce qui impossibile: una regola per la sussunzione sotto regole. E chiarisce anche come il ricorso a esempi sia un’arma a doppio taglio: da un lato permette al giudizio di “allenarsi” e dunque raffinarsi, dall’altro lo vizia irrimediabilmente, perché gli presenta sempre l’elemento contingente ed empirico mescolato con quello necessario e astratto. Se questo fosse vero ci sarebbe una costitutiva, ineliminabile “stupidità” alla base di ogni successo dell’AI: quanto più esso riesce a “indovinare” il risultato, tanto più il modo in cui il risultato è ottenuto risulta privo di giudizio.

Il problema diventa abissale quando, nella Critica del Giudizio, Kant chiarirà ulteriormente come il giudizio riflettente^[33] – quello che concerne il bello e la finalità – abbia come compito la stessa determinazione della regola, inclusa la regola paradossale con cui possiamo giudicare cosa sia il giudizio^[34]. Ad ogni modo, nel caso del giudizio estetico e di quello teleologico, osserva Kant, il gioco delle facoltà deve essere volto alla sussunzione del particolare sotto una regola, un universale, che non sono dati^[35].

Ora, questi due fattori (sussunzione sotto una regola che non può avvenire tramite regole e invenzione di una regola nuova per la determinazione dell’universale rispetto al particolare dato) sono essenziali per comprendere il fenomeno dell’AI nella sua portata politica, oltre che culturale e antropologica.

Torniamo all’esempio della canzone “sintetica” di Kurt Cobain. Non si può negare che i pattern che sono stati riconosciuti dall’AI, seppure combinati grazie all’aiuto umano, rappresentino, almeno in parte, qualcosa dello stile di Cobain. Ma non ne comprendono, né possono comprenderne la logica interna e, dunque, l’essenza. Ho avuto modo di mostrare altrove come la scrittura melodico-armonica di Cobain risultasse dal tentativo di evitare una serie di cliché del mondo della musica rock dell’epoca, ma anche come esse obbedissero a un’esigenza melodica che era invece estranea al mondo della scena underground da cui pure i Nirvana provenivano^[36].

Si tratta, come si vede, di una razionalità situata, dialettica e intrinsecamente conflittuale, in cui la scelta non è mai tra alternative equipollenti su cui si possa decidere in modo esclusivamente quantitativo, meccanico: ma non per questo la scelta è arbitraria, casuale o vaga. Ha una sua logica stringente. Ogni volta che l’artista opera una scelta, lo fa entro un contesto, producendo una regola ex novo che lo pone sempre in rapporto di intesa con una parte del pubblico e in conflitto con un’altra. Questa regola non è determinabile a priori. Dunque non può essere ricondotta a un algoritmo. La sua ricostruzione a posteriori, perciò, è fallace e ingannevole, perché porta a identificare come lineare e chiusa una logica che, invece, è per sua natura è aperta e in fieri^[37].

John Lennon nello stile del surrealismo (Marco Maurizi/Dall-E, licenza CC BY-NC-SA).

Questo è il vero problema dello stile. Esso parte da un’esigenza che è anzitutto vissuta in un contesto in cui siamo, per dirla alla Heidegger, gettati, ma che poi si relaziona a questo contesto e lo fa in modo non predeterminabile, poiché costruisce pro-getti, visioni del futuro che possono essere certo prevedibili e conformistici, ma anche ribelli (rifiuto del contesto) o rivoluzionari (volontà di determinare un contesto nuovo).

Per rimanere sul piano estetico, Bernstein osservò come il pop degli anni ‘60 innovò il mondo della musica leggera, ricorrendo ad armonie semplici, in opposizione a quelle complesse e jazzate degli anni ‘30-’40^[38], al progressive rock che cerca di recuperare una complessità melodico-armonica sui generis, o al punk e alla new wave in cerca di una nuova, immediata e aggressiva semplicità^[39]. Perfino quando l’umano imita la macchina (la voce robotica di Problems, i Kraftwerk, I Feel Love di Moroder), non può fare a meno di farlo in modo “espressivo”, come “mimesi del morto”^[40], manifestando un’intenzione che può essere l’esaltazione superomistica della macchina, o la sua denuncia, o la denuncia di una falsa “umanità”. Quando la macchina imita l’umano, invece, non ha un motivo per farlo se non ricorrendo a un modello di umanità determinato.

Nei primi strumenti midi, era possibile selezionare un’opzione “human touch” che consisteva nel rendere aleatoriamente impreciso il modo di suonare del computer. Si potevano selezionare intervalli di casualità ampi a piacere che andavano dall’impercettibilità alla glaciale lentezza di John Cage. Il punto è che mai, neanche quando opera casualmente, l’umano opera davvero casualmente. La scelta estetica cade tra gli estremi della casualità gratuita e della necessità meccanica. Il caso di Cage è emblematico: il suo scegliere di abbandonare il soggetto aveva un senso determinato, a sua volta obbediva a una logica conflittuale. Questo attiene anche al problema della metaforicità strutturale del linguaggio poetico e non. Se viene automatizzata la scelta del collegamento tra le parole, esso perde di senso. Anche in questo caso, prendiamo un caso estremo: se Tristan Tzara sceglie la casualità come principio organizzatore di un testo, il suo gesto, ancorché aleatorio nei risultati, non lo è nelle premesse e nell’intenzione. Ed è esattamente questo a determinare il senso, per qualsiasi lettore, di quella sequenza di parole, il meccanismo che ne permette la corretta decifrazione. Eco scrisse che non era possibile trovare un algoritmo per la metafora^[41], perché solo la conoscenza delle regole e dei contesti permette quella peculiare violazione della regola che è la metafora. Trovare la “giusta” distanza tra i termini di una metafora è operazione schiettamente umana nel senso che si è detto. Ecco perché si può pensare di scrivere un testo “alla Kurt Cobain”, con le sue associazioni assurde e il suo frasario composito e incoerente, ma si tratterebbe, appunto, di un’imitazione esteriore.

Inoltre, la logica nascosta dell’operazione musicale e letteraria di Cobain lo avrebbe potuto portare, nel corso del tempo, a cambiare alcune delle sue scelte o, addirittura a rovesciarle, come d’altronde accade nei diversi “periodi” della biografia di un poeta o di un pittore^[42]. Ma se l’AI non ha ragione di fare una scelta piuttosto che un’altra, non avrà neanche ragione di modificare il proprio stile in accordo con il cambiare dei tempi, delle circostanze e, ovviamente, delle proprie esigenze interiori.

La catena di montaggio del pensiero

La prima rivoluzione industriale […] rappresentò la svalutazione delle braccia umane di fronte alla concorrenza della macchina. Non c’è paga, con la quale un manovale americano possa vivere, tanto bassa da competere con il costo del lavoro di una scavatrice. La rivoluzione industriale moderna è analogamente legata alla svalutazione del cervello umano. (N. Wiener^[43])

Se la dimensione estetica si fonda sull’invenzione di una regola che non c’è e che si costruisce solo a partire da un rapporto col contesto di volta in volta dato, la pretesa di costruire un algoritmo che sostituisca la scelta umana è logicamente erronea, sì, ma anche ideologica e politicamente pericolosa.

Perché essa dà a intendere non solo che il processo attraverso cui si istituisce la razionalità dell’estetico (e, come ora vedremo, la razionalità tout court) sia unilineare, ma anche univoco, non conflittuale. Essa pretende che esista un solo modello di razionalità. Nel suo procedere altrimenti, come osservavano Adorno e Marcuse^[44], l’arte anticipa piuttosto in modo utopico le possibilità alternative della razionalità stessa. Perfino di quella tecnologica.

L’arte procede secondo criteri di razionalità – altrimenti sarebbe incomprensibile – ma al tempo stesso mette in questione le forme reificate della ragione dominante; da qui, il suo aspetto inquietante e straniante, irriducibile alla logica del mondo com’è. Tutto questo accade a prescindere dalle convinzioni politiche dell’autore e perfino là dove l’arte si dispone a mimare perfettamente il meccanismo del mercato, come in Andy Wahrol. C’è un aspetto contestatorio dell’arte, negativo rispetto alla realtà, che fa parte integrante dell’apparenza estetica come tale^[45].

Ma questo è vero perché la razionalità stessa, lungi dall’essere un sistema chiuso e identico, statico e astratto, ha invece natura processuale, dinamica, perfino materiale: è fatta di parole, suoni e immagini, ma anche di supporti, dispositivi, spazi, ritualità, istituzioni, ecc. La razionalità è la forma presa dalla vita sociale nel suo sviluppo storico, dentro le tensioni irrisolte del suo rapporto conflittuale con la natura e, all’interno della compagine sociale, tra le varie classi. L’arte può permettersi una maggiore libertà di movimento e, dunque, anticipare il potenziale emancipativo della ragione, perché è in parte indipendente dal contesto materiale e produttivo della società, si muove in una sfera parzialmente autonoma e obbedisce a una logica sui generis^[46].

Per questo i francofortesi avevano proposto una critica radicale della cultura di massa, parlando di “industria culturale”^[47]: vedevano nello “schema della cultura di massa”^[48] un meccanismo occulto che, attraverso criteri di efficienza e perfezionamento, riduceva progressivamente gli spazi di libertà del pensiero e dell’azione. Adorno, come noto, polemizzò con Benjamin^[49] accusandolo di aver sottovalutato questo momento totalitario della società industriale avanzata.

In effetti, tutto il lavoro intellettuale si svolge nella società capitalistica secondo modalità non libere, estranee e addirittura opposte a una reale emancipazione dell’umanità. Questo perché l’attività del pensiero è non solo condizionata ex post dalle aspettative della società attuale, così che lavoro intellettuale produttivo è solo quello che è spendibile sul mercato o rispetta i desiderata dei suoi committenti, interessati al suo sfruttamento commerciale, ma anche ex ante perché le possibilità stesse del pensabile sono limitate dai rapporti di forza vigenti nella sfera della produzione. “Un mondo diverso è possibile”, forse, ma, di fatto, è impossibile anche solo immaginarselo veramente diverso.

In questo contesto, appare evidente che lo sviluppo dell’AI svolge una funzione politicamente conservatrice. Tuttavia, la stessa critica all’AI svolta in modo reazionario e neo-luddista, celebrando una presunta libertà dello spirito che sarebbe minacciata dalla macchina, non coglie il nodo politico della questione che riguarda, come sempre, essenzialmente la proprietà dei mezzi di produzione.

Il perfezionamento dell’AI, infatti, porta a compimento il progressivo ruolo di esautorazione del pensiero autonomo e l’integrale sussunzione dei lavoratori nello schema produttivo capitalistico. Questo avviene perché la sempre maggiore efficienza di cui l’AI dà prova ha come scopo l’esautorazione dell’elemento umano, irriducibile al controllo del capitale sul lavoro, e la progressiva subordinazione di questo al suo meccanismo di auto-valorizzazione. Ma questo accade, lo ribadiamo, perché i rapporti di forza nella sfera produttiva non permettono un’appropriazione dell’AI da parte delle classi subalterne. In questo contesto, se seguiamo il ragionamento di Marx, il perfezionamento dell’AI rappresenta un sicuro investimento nel capitale costante e la progressiva riduzione del capitale variabile, con conseguente crescita dell’apparato produttivo e del volume di scambi, ma anche tendenziale caduta del saggio di profitto. Marx vide come la sussunzione del lavoro-vivo e oggettivato nella macchina avrebbe portato a una progressiva crescita del general intellect e dell’automatismo produttivo^[50], trasformando progressivamente il lavoro in attività “contemplativa” e liberando il tempo dell’esistenza dalla necessità della produzione, aprendolo a possibilità inedite di sviluppo. La piena automazione sarebbe, in questa prospettiva, piuttosto, un passo verso l’emancipazione umana, ma alla piena automazione non si può giungere senza modificare i rapporti di classe vigenti.

C’è infatti un paradosso dietro tutto questo. Il lavoro intellettuale richiesto per l’implementazione dell’AI e, dunque, per un maggiore sfruttamento della forza lavoro, subisce a sua volta l’effetto di questo perfezionamento. Lo stesso lavoro intellettuale, in altri termini, subisce, attraverso lo sviluppo dell’AI, un processo di subordinazione che fa tutt’uno con la sua efficientizzazione. Come è compito dell’ingegnere produrre macchine in grado di eliminare manodopera e rendere sempre più duttile e perfezionata la forza lavoro materiale, è compito dello sviluppatore dell’AI produrre algoritmi che rendono sempre più ridondante il lavoro intellettuale umano, potenziandone le capacità di calcolo e, soprattutto, l’efficienza produttiva. Ciò implica una riduzione degli spazi di movimento del pensiero stesso, dunque la sua libertà rispetto al meccanismo che esso produce da sé. L’algoritmo è la catena di montaggio introiettata.

Si badi, però, che questo è l’inevitabile conseguenza di quei rapporti produttivi che non vengono messi in discussione, e il cui effetto distorsivo si ripercuote nell’attività intellettuale nel suo complesso. Soprattutto là dove l’arte e la cultura si trovano sempre meno protetti dagli investimenti pubblici e sempre più esposte al potere sussumente del capitale, il pensiero è impotente a immaginare un’efficienza che non vada nel senso di facilitare la possibilità del capitale di consumare senza attriti la forza-lavoro. Compresa quella intellettuale. In questo contesto conflittuale, le potenzialità del pensiero sono legate a interessi contrapposti: l’universale, la regola che il pensiero cerca e istituisce, non è qualcosa di univoco e predeterminato, ma l’esito di un conflitto^[51]. L’efficienza dell’AI è un’efficienza di parte, interessata, distorta dai rapporti di forza nella sfera produttiva. Perché, se il pensiero è costretto da quei rapporti a muoversi all’interno di uno scenario limitato, anche le sue possibilità immaginative lo saranno: il possibile in cui il pensiero si muove è sempre il possibile determinato da quel dato contesto. Il lavoro intellettuale che si spinge a immaginare altri scenari, più radicali, ammesso che trovi finanziatori, non potrà facilmente trovare ascolto rispetto a quello che propone un’applicazione più parziale e immediata, ma non in contraddizione con i rapporti di forza vigenti. Non esiste un solo modello di razionalità, ma è ovvio che quello che si pone in palese alternativa rispetto al presente verrà squalificato come utopico e finirà nell’irrilevanza sociale ed economica.

“Capitalismo della sorveglianza” è, in questo senso, un’espressione ridondante: il capitalismo è la sorveglianza. Gli strumenti di cui si dota per rendere più fluido e manipolabile il lavoro-vivo, compreso quello intellettuale, sono una conseguenza della sua meccanica interna, che oggettiva sempre più l’attività umana in forme confacenti alla propria riproduzione. L’AI potrà diventare effettivamente un aiuto, uno sgravio al pensiero e all’azione umane, solo se l’umanità potrà autodeterminarsi, cioè sottrarsi al potere disponente che, nella sfera produttiva, lo irretisce e lo strega fino in quella del consumo, predeterminandone desideri e aspettative. Questa liberazione dalla subalternità nelle sfere della produzione e del consumo è ancora la premessa di una libertà integrale che restituisca l’umanità a sé stessa, al di là della retorica dell’umanismo e dello spiritualismo.

Benjamin, nel suo saggio del ‘35, parlava della necessaria politicizzazione dell’arte^[52] come conseguenza dello sviluppo tecnologico di massa, come unica risposta adeguata al progresso che la gettava in un orizzonte produttivo inedito e pieno di insidie. È probabile che, oggi più che mai, all’artista non resti, in effetti, che il compito di esprimere all’interno della propria opera, in base al proprio linguaggio, i conflitti in cui si trova suo malgrado coinvolto, a partire da quello che ne minaccia sempre più dappresso l’esistenza. Al tempo stesso, però, la libertà dell’artista può salvarsi solo se, così facendo, lotta per la liberazione stessa dell’AI: di modo che, nel momento in cui si smarca da essa, egli ribadisce paradossalmente che il destino dell’umano e della macchina è, in fondo, il medesimo.

^[1] S. Zuboff, Il capitalismo della sorveglianza, Luiss University Press, Roma 2019.

^[2] W. Benjamin, L’opera d’arte nell’epoca della sua riproducibilità tecnica. Arte e società di massa, Einaudi, Torino 1998.

^[3] Per una ricognizione e problematizzazione di questi concetti tra Heidegger, Adorno, Lyotard e Derrida, cfr. T. Huhn, The movement of mimesis: Heidegger’s ‘Origin of the Work of Art’ in relation to Adorno and Lyotard, in “Philosophy and Social Criticism”, XXII, 4, luglio 1996.

^[4] W. Benjamin, op. cit., pp. 8 e sgg.

^[5] G. Anders, L’uomo è antiquato I: Considerazioni sull’anima nell’epoca della seconda rivoluzione industriale, Bollati Boringhieri, Torino 2007.

^[6] C. Childers, Artificial Intelligence Creates New Nirvana Song ‘Drowned in the Sun’, in “Loudwire”, 5 aprile 2021, link: https://loudwire.com/artificial-intelligence-creates-new-nirvana-song-drowned-in-the-sun/?utm_source=tsmclip&utm_medium=referralhttps://loudwire.com/artificial-intelligence-creates-new-nirvana-song-drowned-in-the-sun/.

^[7] AI Wordcar, 1 The Road: by an Artificial Neural Network, Ross Goodwin (a cura di), Jean Boîte Editions, 2018; N. Jeevanandam, Exploring “1 the Road” – The first novel marketed by an AI, “Indiaai”, 29 giugno 2022, link: https://indiaai.gov.in/article/exploring-1-the-road-the-first-novel-marketed-by-an-ai.

^[8] Contro questo tipo di romanticismo umanistico e tecnofobico si scagliò a suo tempo Giulio Preti, pur non lesinando critiche a “un certo magismo che comincia a circolare tra giovani entusiasti della cibernetica o della teoria della comunicazione” (Retorica e logica. Le due culture, Einaudi, Torino 1968, p. 19). Lo stesso Umberto Eco, pur sottolineando le ambiguità che la nozione di “codice” ha avuto nella cultura del dopoguerra, considerava importante l’effetto demistificatore della riduzione ad algoritmo nei confronti di ogni preteso “ritorno all’ineffabile”. U. Eco, Semiotica e filosofia del linguaggio, Einaudi, Torino 1984, p. 262.

^[9] Sul problema e sulla “morte” dello stile, cfr. T. W. Adorno e M. Horkheimer, Dialettica dell’illuminismo, Einaudi, Torino 1994, pp. 134 e sgg.

^[10] Sweaty Machines, a Eurovision song created by Artificial Intelligence: Blue Jeans and Bloody Tears – YouTube, link: https://www.youtube.com/watch?v=4MKAf6YX_7M.

^[11] Cfr. D. Cope, Virtual Music: Computer Synthesis of Musical Style, MIT, Cambridge/Londra 2004.

^[12] T. W. Adorno, Introduzione alla sociologia della musica, Einaudi, Torino 1971, pp. 43 e sgg.

^[13] Nella presente analisi ci atterremo al modello proposto in T. W. Adorno, Teoria estetica, Einaudi, Torino 1977.

^[14] Cfr. ad esempio M. du Sautoy, The Creativity Code. Art and Innovation in the Age of AI, The Belknap Press of Harvard University Press, Cambridge 2019, pp. 3 e sgg.

^[15] Cfr. M. Hrebeniak, Action writing: Jack Kerouac’s wild form, Southern Illinois University, 2006, pp. 59 e sgg.

^[16] Cfr. l’idea di David Cope che vede nella “ricombinazione” un principio universale dalla fisica alla biologia alla cultura. D. Cope, Virtual Music, cit., p. 1.

[17] “Potenziamento” sembra un termine chiave. Spesso, infatti, nel modo in cui l’AI viene presentata, essa appare come uno strumento che utilizza la forza bruta, accumulando un quantitativo di dati sempre maggiore. Non a caso, il Chief Scientist di Google, alla domanda su quale fosse il segreto del sucesso della propria azienda, rispondeva: “We don’t have better algorithms than anyone else; we just have more data” (S. Cleland, Google’s “Infringenovation” Secrets, in “Forbes”, 3/10/2011, link:
https://www.forbes.com/sites/scottcleland/2011/10/03/googles-infringenovation-secrets/?sh=5b9c62830a6c). Se paragonassimo questo approccio a quello per la decodifica delle password, ne ricaveremmo che il paragone debba essere non con un sistema sofisticato, capace di indovinare quella giusta, ma di un cosiddetto attacco “brute force”, che prova tutte le combinazioni possibili, fino a entrare [NdR].

^[18] E. K. Larson, The Myth of Artificial Intelligence. Why Why Computers Can’t Think the Way We Do, The Belknap Press of Harvard University Press, Cambridge-Londra 2021.

^[19] N. Wiener, La cibernetica. Controllo e comunicazione nell’animale e nella macchina, Il Saggiatore, Milano 1982, pp. 159 e sgg.

^[20] E. K. Larson, The Myth of Artificial Intelligence, cit., pp. 48 e sgg.

^[21] La letteratura sul soggetto è ormai oceanica, mi limito qui a rimandare ad alcune opere di orientamento generale: E. Alpaydin, Machine Learning: The New AI, The MIT Press Essential Knowledge Series, 2016; P. Benanti, Le Macchine sapienti – Intelligenze artificiali e decisioni umane, Marietti 2018;  S. Shalev-Shwartz e S. Ben-David, Understanding Machine Learning – From Theory to Algorithms, Oxford University Press, 2014; T. J. Sejnowski, The Deep Learning Revolution, The MIT Press, Londra 2018.

^[22] L. Geddes, The ‘weird events’ that make machines hallucinate, in “BBC”, 5 dicembre 2018, link: https://www.bbc.com/future/article/20181204-why-we-should-worry-when-machines-hallucinate; T. Simonite, AI Has a Hallucination Problem That’s Proving Tough to Fix, “Wired”, 9 marzo 2018, https://www.wired.com/story/ai-has-a-hallucination-problem-thats-proving-tough-to-fix/.

^[23] P. Ball, The AI Delusion: Why Humans Trump Machines, in “Journal of Petroleum Technology”, 20 Gennaio 2020, link: https://www.prospectmagazine.co.uk/magazine/the-ai-delusion-why-humans-trump-machines-robots-artificial-intelligence-alpha-go-deepmind-marcus-davis-koch-mitchell-review.

^[24] E. Larson, op. cit., pp. 68-69.

^[25] K. R. Popper, La scienza e i suoi nemici, Armando, Roma 2000, p. 192.

^[26] O. Ajnadkar, Sarcasm Detection of Media Text Using Deep Neural Networks, in J. Kumar Mandal et alii (a cura di), Computational Intelligence and Machine Learning. Proceedings of the 7th International Conference on Advanced Computing, Networking, and Informatics (ICACNI 2019), Springer, Singapore 2021, pp. 49 e sgg.

^[27] In questo senso l’arte giunge alla realtà solo attraverso la propria costruzione interna. T. W. Adorno, Teoria estetica, Einaudi, Torino 1977, p. 433.

^[28] P. Domingos, L’Algoritmo Definitivo, Bollati Boringhieri, Torino 2016.

^[29] E. Larson, op. cit., p. 204.

[30] In aggiunta alla “vampirizzazione”, potremmo sostenere che l’AI sia prona anche a “parassitare” la socialità. Più le esigenze dell’AI diventano prepotenti, più i comportamenti sui quali essa mira a operare sono spinti a incasellarsi dentro determinati percorsi prestabiliti. Ciò appare evidente, se si pensa alla fabbrica moderna. In essa, è l’uomo che dona il proprio apporto alla catena di montaggio e deve sostanzialmente adattarsi ai suoi modi e ritmi, come già rilevato da Marx (K. Marx, in L. Gambino, Brani di classici del pensiero politico, Giappichelli, Torino 2007, p. 491). L’AI però promette di funzionare allo stesso modo, perché integrata nello sforzo più generale di efficientazione del processo produttivo, e dunque funzionale all’individuazione delle strategie aziendali. Accade già oggi con l’utilizzo delle metriche, uno strumento certo più rozzo dell’AI: se un’azienda usa delle metriche per valutare i dipendenti, allora i dipendenti lavoreranno solo per soddisfare tali parametri (J. Z. Muller, Against metrics: how measuring performance by numbers backfires, in “Aeon”, 24/04/2018, link: https://aeon.co/ideas/against-metrics-how-measuring-performance-by-numbers-backfires) [NdR].

^[31] G. W. F. Hegel, Fenomenologia dello Spirito, Rusconi, Milano 1995, p. 185 e p. 485.

^[32] I. Kant, Critica della ragion pura, Laterza, Roma-Bari 2000, p. 132.

^[33] I. Kant, Critica della capacità di giudizio, Rizzoli, Milano 1995, p. 95.

^[34] Ibidem, p. 67.

^[35] Qualcosa di simile osserva Larson a proposito del problema dell’abduzione, anche se non è il caso qui di approfondire la differenza tra giudizio riflettente e abduzione. Cfr. E. Larson, op. cit., pp. 157 e sgg.

^[36] M. Maurizi, La vendetta di Dioniso. La musica contemporanea da Schönberg ai Nirvana, Jaca Book, Milano 2018, pp. 226-233.

^[37] Solo in un contesto limitato e già predeterminato è possibile immaginare di ricondurre ad algoritmo la “personalità scacchistica” di un giocatore. R. Wiener, Dio & Golem S.p.a., Bollati Boringhieri, Torino 1967, p. 27. Sull’errore di costruire il modello di intelligenza a partire dai giochi cfr. Larson, op. cit., pp. 19 e sgg.

^[38] L. Bernstein, in Inside Pop: The Rock Revolution, D. Oppenheim, Stati Uniti 1967.

^[39] M. Maurizi, La vendetta di Dioniso. La musica contemporanea da Schönberg ai Nirvana, Jaca Book, Milano 2018, pp. 137 e sgg.

^[40] T. W. Adorno e M. Horkheimer, op. cit., p. 64.

^[41] U. Eco, op. cit., p. 195.

^[42] Tutti i rumors sui possibili sviluppi nella carriera di Cobain andavano in direzione opposta all’idea di proporre per l’ennesima volta soluzioni che probabilmente avevano esaurito il proprio potenziale espressivo. Curioso che questo venga ricordato nell’articolo su “Rolling Stones” proprio mentre si dà notizia di una canzone “sintetica” che invece ripropone ciò che Cobain si stava forse lasciando alle spalle: K. Grows, In Computero: Hear How AI Software Wrote a ‘New’ Nirvana Song, “Rolling Stones”, 2 aprile 2021, link: https://www.rollingstone.com/music/music-features/nirvana-kurt-cobain-ai-song-1146444/.

^[43] N. Wiener, op. cit., p. 53.

^[44] Cfr., tra gli altri, H. Marcuse, Controrivoluzione e rivolta, Mondadori, Milano 1972, pp. 99 e sgg.; H. Marcuse, La dimensione estetica, Mondadori, Milano 1978.

^[45] “Tutte le opere d’arte, anche quelle affermative, sono a priori polemiche”, in T. W. Adorno, Teoria estetica, Einaudi, Torino 1977, p. 297.

^[46] Ibidem, pp. 229 e sgg.

^[47] T. W. Adorno e M. Horkheimer, op. cit., pp. 126 e sgg.

^[48] T. W. Adorno, Das Schema der Massenkultur, in Gesammelte Schriften, Suhrkamp, Franfkurt a.M. 1987, III, pp. 305-335.

^[49] T. W. Adorno e W. Benjamin, Briefwechsel, Suhrkamp, Franfkurt a.M. 1994.

^[50] K. Marx, Lineamenti fondamentali della critica dell’economia politica, La nuova Italia, Firenze 1997, pp. 387 e sgg.

^[51] M. Maurizi, Attualità dell’utopia. Per una ricostruzione della Teoria Critica in Marcuse, in “Spazi di filosofia“, settembre 2021, link: https://spazidifilosofia.altervista.org/joomla/sezioni/soggetto-e-capitale/66-marco-maurizi-attualita-dell-utopia-per-una-ricostruzione-della-teoria-critica-in-marcuse.

^[52] W. Benjamin, op. cit., p. 39.