Da qualche giorno non si parla d’altro che dello scandalo di Anthropic, una delle più importanti aziende di intelligenze artificiali, che ha acquistato in segreto migliaia di libri per smembrarli, scannerizzarli e utilizzarli nell’addestramento dei propri modelli linguistici. L’operazione ha preso il nome di Project Panama, ed aveva lo scopo di dare in pasto alle IA tutti i libri del mondo, distruggendoli fisicamente nel processo al fine di ridurre i tempi e massimizzare i profitti. Al di là degli aspetti più ovvi, ce n’è un altro, ben più grave, che è stato sottaciuto. La notizia, infatti, ha giustamente suscitato indignazione. Molti hanno parlato di uno sfregio alla cultura, altri hanno puntato il dito contro la distruzione materiale dei libri a cui è stato amputato il dorso per velocizzare i tempi di scannerizzazione. Sono considerazioni più che legittime. Ma la questione è molto più sottile. E proprio per questo più inquietante.
Ma partiamo dall’inizio. Da secoli il libro rappresenta il simbolo stesso della memoria. Un’opera nasce, viene pubblicata, letta e conservata nelle biblioteche e tramandata alle generazioni successive. Eppure ciò che sta accadendo rovescia completamente questa prospettiva. Il libro non viene più acquistato per essere letto ma per essere distrutto. Viene letteralmente smontato pagina dopo pagina, per essere trasformato in una sequenza di dati da far assimilare a una macchina. Già questo di per sé è sufficiente per suscitare indignazione.
Ogni civiltà ha avuto le proprie risorse strategiche. Oggi la vera materia prima è il linguaggio. Non è un caso che le aziende più ricche del pianeta non estraggano più minerali ma informazioni. Il sapere non è più ciò che permette all’uomo di comprendere il mondo; è diventato il combustibile con cui alimentare un’industria che genera profitti miliardari. Il libro, in questa prospettiva, non vale più per quello che dice. Vale per ciò che può insegnare a un algoritmo. I libri stanno diventando miniere di dati. Giacimenti linguistici da trasformare in profitto. Per secoli inoltre l’autore ha immaginato di scrivere per un lettore. Oggi, spesso senza nemmeno rendersene conto, scrive per una macchina. E viene equiparato a una macchina.
Più di una volta mi è capitato di leggere tra i commenti della mia pagina Instagram frasi come: «sembra scritto dall’IA». È un’accusa che rivela un equivoco enorme. L’intelligenza artificiale non possiede uno stile. Non ha una voce. Non ha una sensibilità o un linguaggio. Fa qualcosa di molto diverso: osserva milioni di pagine scritte dagli esseri umani, ne assorbe il ritmo, il lessico, la sintassi, e ci restituisce una nuova combinazione, una copia, un’imitazione, di ciò che ha imparato. In altre parole, ciò che molti chiamano «stile dell’intelligenza artificiale» non è altro che il riflesso degli stili che noi stessi le abbiamo consegnato.
Ebbene sì: siamo noi, oggi, ad addestrare gli strumenti che domani ci renderanno superflui. Qualcosa potrebbe obiettare: chi se ne importa degli scrittori, chi se ne importa dei giornalisti, sono destinati a diventare pezzi da museo, figure mitologiche appartenenti a un lontano passato come i poeti, i pittori, gli scultori, monoliti solitari di un tempo che fu. Triste, ma inevitabile insomma, come accadrà alle altre centinaia di professioni destinati a sparire nella nuova era delle IA.
Ma ciò che davvero mi fa rizzare i peli sulle braccia è un’altra questione che, per parafrasare Leopardi, mi fa spavento. Perché qua non si tratta soltanto della distruzione dei libri, o della trasformazione della cultura in materia prima, o del fatto che gli uomini di oggi stiano addestrando le macchine destinate a sostituirli domani. La questione, cari signori e gentili signore, è molto più sottile. Molti, infatti, immaginano l’intelligenza artificiale come una sorta di arbitro imparziale, limitato, molte volte stupido, ma tutto sommato neutro. Incapace cioè di avere una visione politica e di difenderla, perché dopotutto una macchina non pensa. Ed è proprio qui l’errore. Non c’è nulla di più parziale di un’IA.
Queste macchine non vengono costruite da una misteriosa entità senza volto. Vengono progettate da aziende private, aziende americane per la precisione. Chi utilizza Facebook saprà bene cos’è accaduto alle opere d’arte. Lentamente, quasi senza che ce ne accorgessimo, le fotografie delle statue greche, dei dipinti rinascimentali, delle sculture classiche hanno cominciato a scomparire. Un seno scolpito nel marmo, un corpo dipinto da Botticelli, perfino opere conservate nei musei sono state oscurate, rimosse e falcidiate da algoritmi che applicano standard culturali modellati dalla mentalità americana, dalla pruderie americana che ha fatto guerra all’arte. E quella guerra l’ha vinta. Oggi su Facebook si espongono opere d’arte rigorosamente vestite o tagliate dal petto in su. La visione della sessualità americana ha finito per imporsi su milioni di persone non attraverso una legge, ma attraverso un algoritmo.
Ogni algoritmo, infatti, assimila criteri, gerarchie, filtri, sensibilità culturali. E vale lo stesso per le intelligenze artificiali. Le IA sono create, prodotte ed addestrate da una determinata cultura, che a sua volta porta avanti una determinata visione politica del mondo, programmata per decidere ciò che è accettabile da ciò che non lo è. L’intelligenza artificiale lavora direttamente sul linguaggio. E il linguaggio non è mai neutrale.
Adesso con il caso Antrophic le IA si stanno lentamente sostituendo all’ultima roccaforte rimasta: la letteratura. Smembrano letteralmente i libri per imitarne il linguaggio e sostituirsi, a lungo andare, ad esso. Più questi sistemi migliorano, si evolvono, almeno in apparenza, più diventerà difficile rinunciare ad essi. Già oggi sono molti coloro che anziché leggere i giornali, chiedono a ChatGPT o strumenti affini un riassunto di quanto riportano i giornali. Ma più ci abituiamo a consumare informazioni digerite e filtrate dalle IA, più tutto ciò che è scomodo, controverso, politicamente scorretto, e dunque artisticamente valido, è destinato a sparire.
La letteratura, occorre sempre ricordarlo, non nasce per rassicurare. Nasce per disturbare. Le opere che hanno cambiato la storia erano quasi sempre scandalose, offensive, provocatorie. Hanno urtato la sensibilità del loro tempo, hanno infranto tabù religiosi, politici e morali. Dostoevskij scandalizzava. Céline scandalizzava. Pasolini scandalizzava. Se fossero stati costretti a scrivere entro i limiti imposti dagli standard di accettabilità delle grandi piattaforme contemporanee, molte delle loro pagine più scomode non sarebbero mai esistite. Il problema quindi non è la macchina, ma chi decide quali libri leggerà la macchina. Quali parole apprenderà, quali idee considererà pericolose. Quali toni saranno ammessi. Quale cultura, detta in poche parole, meriti di sopravvivere. Ed è questa la vera censura, la censura più profonda e radicale, più difficile da combattere, perché non verrà più riconosciuta come tale. La censura di domani non sarà sbandierata ai quattro venti, ma sarà invisibile, silenziosa, perché senza rendercene conto la nostra visione del mondo sarà influenzata da sistemi di filtraggio delle informazioni e informazioni stesse forniteci dalle IA e da chi le ha prodotte.
#Adessonews seleziona nella rete articoli di particolare interesse.
Se vuoi leggere l’articolo completo clicca sul seguente link
Guendalina Middei
Source link
