L'IA e l'India

Sul web circola un articolo di un autore indiano, Jayant Bhandari, che parla di quanto è corrotto il suo Paese. Chiunque pretende bustarelle per fare quello che dovrebbe fare, chi ha più soldi prevale, ai ragazzini viene insegnato come aggirare le regole, ottenere in qualche modo posizioni di dominio e trarne vantaggio a spese degli altri. 

In molti manca proprio il concetto di onestà, di dignità, di dover fare la cosa giusta solo perché così si fa, indipendentemente dal controllo autoritario da parte di qualcun altro. Per cui tutta la struttura statale che è stata messa su sul modello occidentale non serve a niente, se non a perpetuare un modello inefficiente. 

"... Ho imparato la stessa lezione dalle macchine. La tipografia di mio padre ancora usava macchinari dell'era britannica costruiti all'inizio del Novecento. Funzionavano una meraviglia. Una macchina svedese che comprammo più tardi anche funzionava con precisione straordinaria. Da bambino io guardavo queste macchine al lavoro, come se fossero oggetto di una sorta di venerazione meccanica: decine di migliaia di parti si muovevano insieme in armonia, ogni parte onorando la sua funzione. Esse rivelavano qualcosa dello spirito di coloro che le avevano disegnate e fabbricate. Il lavoro non era stato fatto soltanto per soldi: era intriso di orgoglio, disciplina e devozione alla cosa stessa". 

L'esempio tipografico mi ha spinto a inserire questo argomento su questo blog. 

Ho spesso citato la definizione di ottava meraviglia del mondo che l'inventore Edison assegnò alla linotype, una macchina per la composizione a caldo che pure aveva tutte le numerose componenti a vista e svolgeva compiti complessi pur non avendo neanche un briciolo di "intelligenza" artificiale come la intendiamo noi. Era un esempio lampante di come l'ingegno umano era in grado di affrontare compiti che a prima vista sembravano impossibili, ed erano stati impossibili per secoli. Ma io di solito pensavo all'ingegnosità del progetto, e mettevo in secondo piano l'estrema precisione con cui venivano realizzate le singole parti. 

Invece l'articolo dell'autore indiano tocca proprio questo punto.

"Nel caos immenso dell'India, coi suoi istinti basati sulla legge del più forte, le regole nebulose e la sua assenza di struttura affidabile, desideravo capire quello spirito: la disciplina interna che faceva funzionare le cose, l'orgoglio che faceva sì che ogni parte onorasse la sua funzione". 

"Poi persuasi mio padre a comprare una copia indiana della macchina svedese ad una frazione del prezzo. Dopo pochi giorni, un ingranaggio si ruppe. Fu riparato a poco prezzo, ma poi apparve un altro piccolo difetto, e poi un altro. La macchina non era catastroficamente difettosa in una maniera ovvia: era difettosa in migliaia di piccoli modi. Ogni parte portava con sé un micro-compromesso. In breve tempo, noi stavamo pagando salari agli operatori per una macchina che a malapena lavorava, e quando lo faceva, la qualità era bassa. Nel giro di un anno, dovemmo rottamarla". 

Dal punto di vista dell'indiano, l'Occidente appare come una specie di paradiso. Un posto dove le istituzioni rispecchiano l'atteggiamento delle persone. Dove quando c'è un'ingiustizia qualcuno sicuramente pretende che venga fatta giustizia. 

Quando lui era studente in India, il conducente del suo autobus fermava il mezzo per permettere alle persone a bordo di vedere una serie tv molto popolare. E quando lui ha protestato, nessuno lo ha spalleggiato, anzi lo hanno quasi picchiato perché non interferisse. 

Di sicuro in Occidente una cosa del genere sarebbe impensabile. 

Tuttavia, vedendo le cose dall'interno, comunque temo che anche nel mondo sviluppato ci siano segni di quella stessa malattia. 

E se poi andiamo a toccare l'intelligenza artificiale, c'è poco da essere ottimisti.

L'autore indiano parlando della società in cui è cresciuto la definisce amorale piuttosto che immorale, perché non ha il concetto di cosa è bene e cosa è male. Non fa il male per non fare il bene, ma semplicemente perché non è in grado di riflettere sulla differenza. 

La stessa cosa si può dire dell'intelligenza artificiale: se ti genera l'immagine della pressa di Gutenberg disegnando con estrema accuratezza tutti i riflessi di luce sulle tastiere e gli ingranaggi, non si pone minimamente il problema se veramente la pressa di Gutenberg aveva tastiere e ingranaggi. Ce li aveva o non ce li aveva... che differenza fa?

Se in un video dedicato alla linotype si sente l'intelligenza artificiale dire che con questa macchina un'operatore esperto poteva comporre 6mila righe l'ora, e più avanti nello stesso filmato dire che erano 6mila lettere, qual è il problema? Righe o lettere, che cambia?

Il problema non è solo la diffusione di informazioni false da parte dell'IA, ma proprio l'atteggiamento che rischia di inculcare nelle nuove generazioni: che non è importante che una macchina funzioni, l'importante è che se ne vendano più esemplari possibile, coi relativi ricambi quando si guasterà. 

C'è gente che ha scritto libri sulla "enshittification" che si può constatare tra i produttori di contenuti di digitali, ossia l'abbassamento della qualità. Se non sono soddisfatto del primo video che ho visto, ne devo vedere un altro, e poi un altro, e poi un altro. Se mi dà noia una, due, tre pubblicità prima di ogni video, devo passare alla versione a pagamento, e poi alla versione premium e così via. 

Ti viene dato qualcosa che è intenzionalmente di bassa qualità, perché lo scopo è quello di farti consumare di più. 

Ma una volta che questa diventa la mentalità dominante la società rischia di sfasciarsi, specie se si scontra con altre che puntano sulla qualità, sull'affidabilità e sulla realtà. 

In questi giorni siamo assillati da video prodotti con l'intelligenza artificiale. Gente che è diventata muscolosissima praticando un paio di sedute di tai-chi al giorno. Gente che riesce in dieci secondi a scrostare il fango dai cingoli di una ruspa usando la pompa dell'acqua. Tutto finto. Ma tutto "normale", in questo contesto qui. 

Indipendentemente dalla legge che punisce le truffe, è l'atteggiamento che è sbagliato. Quello che insegna e che poi verrà messo in atto. Perché i ragazzi non sogneranno di costruire qualcosa che funziona, ma sogneranno di fare i soldi vendendo qualcosa che non funziona come dovrebbe.

Vogliamo restare nel tema di questo blog? Ok, cerchiamo Gutenberg su Youtube: i video caricati nell'ultimo mese. Viene fuori un canale in inglese History Of Simple Things, 972mila iscritti. Il video di 8 minuti ha totalizzato quasi 3mila visualizzazioni in tre settimane. Parte, ed è in lingua italiana. "Doppiaggio automatico", dice l'etichetta. "Immagina di. Vivere in un mondo in cui ogni libro dovesse essere ricopiato a mano". Pausa senza motivo dopo le prime due parole, ma la struttura stessa del testo è tipica dell'intelligenza artificiale. "Immagina di...", "E se ti dicessi che..."

Le immagini che compaiono nel video sono tutte autentiche, e le cose che vengono dette possono anche essere sensate. Ma c'è sempre l'errore banale e improbabile che viene messo lì, tanto che importanza ha? Ad esempio la platina, cioè il piano che preme sul foglio, viene chiamato "il platina" o "il platino", nella traduzione italiana audio che mi viene fornita senza che gliel'abbia chiesta. 

E nella copertina del video è stata messa una delle prime immagini di Gutenberg ottenute dall'intelligenza artificiale, quando ancora non sapeva contare le dita: raffigura l'inventore insieme ad un apparecchio da tavolo con una ruota, alcuni rocchetti e un foglio semi-arrotolato che spunta dall'alto. 

Ma se l'autore aveva le vere immagini delle stampe che raffigurano la pressa, che motivo aveva di usare un'immagine così insensata per la copertina?

E questo è un video buono!

Più giù ne trovo uno di Sepia Dominion e Acoustic Empire, 843 visualizzazioni in 2 settimane, 26 minuti di durata. In copertina, una pressa alta quanto un palazzo, con un rullo centrale, circondata da uomini in vestiti ottocenteschi, con cappello a cilindro. 

"Tra i fondi della Biblioteca Medica Lorenziana di Firenze è conservato un registro. Delle acquisizioni datato milleacq...ento trentuno nove. Anni prima che Gutenberg iniziasse i suoi esperimenti nelle miniere".

Ma quali stracacchio di miniere?!? L'originale diceva Mainz, ossia la città di Magonza, che in inglese si legge come "mines", miniere appunto!

I "fondi della biblioteca" traduce "holding", inteso come patrimonio, non come pacchetto azionario. 

La "biblioteca Medica" in origine era Medicea, della famiglia dei Medici, non dei dottori.

Il racconto è in prima persona, scritto da qualcuno che non si sa chi sia, che ha letto delle cose inquietanti che non avrebbe dovuto leggere. 

Una di queste cose era scritta nel "43 gradi foglio". Che cavolo vuol dire?!? "Nel 43° foglio". Gradi...!

Non è cattiva l'intelligenza artificiale: è solo che non capisce che cosa sta dicendo. 

Le immagini sono tutte generate dall'IA, in bianco e nero per sembrare vecchie, con un po' di effetto seppia, e qualche volta con i segni come quelli che compaiono sulle pellicole di inizio Novecento. 

Ma in queste foto otto-novecentesche si vedono monaci o nobili medievali in mezzo ai libri. 

Il narratore suscita inquietudine nel lettore presentandogli dei velati indizi che portano alla conclusione, dopo sei minuti di filmato, che si stampavano libri alcuni decenni prima della nascita di Gutenberg. 

Nelle immagini si vedono apparecchiature che sembrano telai meccanici settecenteschi, con tanto di fili e lunghi rulli di carta stampata. 

Totale nonsense: all'epoca di Gutenberg non c'era modo di produrre lunghi nastri di carta, ma solo fogli singoli. E non c'era nessuna trama di fili sulle presse di Gutenberg, né sarebbe servita a niente. Il fatto è che la voce fuori campo afferma che nelle primitive testimonianze si accennava al fatto che i libri erano stati riprodotti con un metodo simile a quello della stampa su tessuto. Da cui l'IA ha pensato di metterci un telaio meccanico settecentesco.

Tra l'altro, il filmato viene interrotto da spot che promettono muscoli e dimagrimento mediante tai-chi. Fatti anch'essi con l'intelligenza artificiale. 

Il tai chi è una tecnica di meditazione e rilassamento, che influisce in maniera molto secondaria su muscoli e grassi. 

Mi sembra di avere sentito dire che Youtube aveva intenzione di demonetizzare i canali come questo, per evitare di fornire agli spacciatori di fuffa un motivo per produrre altra fuffa. 

A un certo punto del filmato si racconta che qualcuno non ho capito chi, ma non ha importanza, ha bruciato tutti i libri stampati esistenti, nella prima metà del Quattrocento. 

Il presunto documentario va avanti così, elencando tutte le testimonianze dei tentativi di far sparire tutti i libri stampati prima di Gutenberg, con tanto di nomi e anni. 

Il titolo del filmato nel mio browser è "Le macchine da stampa del Vecchio Mondo che hanno cancellato: la produzione in serie di libri 400..."

Mentre posso riattivare l'audio originale agendo nelle impostazioni, non posso risalire al titolo originale, se non, forse, cambiando le impostazioni della lingua del browser.

Il video non ha raccolto nessun commento, ma ha 11 Mi Piace. 

Uno dei canali a cui è collegato, Acoustic Empire, ha 14mila iscritti dichiarati, 54 video, in cui non è incluso quello che ho appena visto. 

Temi trattati: cimiteri nascosti, conoscenze proibite, e vari documentari sui giganti, con tanto di fotografie ottocentesche farlocche. 

Che razza di umanità stanno addestrando?

Il blog di Beppe Grillo nel lontano 2018 aveva pubblicato un articolo di un tale ricercatore di origine tailandese, Supasorn Suwajanakorn, che stava lavorando a un progetto che intendeva preservare il ricordo della Shoah creando dei cloni digitali dei veri sopravvissuti. L'articolo però si apriva con una nota inquietante: l'osservazione che se la realtà è falsa, non è più possibile distinguerle dalla menzogna. 

Così come hai programmato un software per far dire all'avatar di un morto alcune cose, puoi anche programmarlo per fargli dire il contrario. 

"Questi risultati sono molto realistici e intriganti, ma allo stesso tempo spaventosi, anche per me. Il nostro obiettivo era quello di costruire un modello accurato di persona, non quello di travisarlo. Ora una cosa che mi preoccupa è il suo potenziale uso improprio". 

Da lì, il tentativo di elaborare altri software in grado di smascherare i falsi.

Già oggi è difficile distinguere un falso da un vero. Ma come si fa a distinguere un falso da un altro falso? Posso avere un video in cui Gutenberg mi racconta come si è svolto il suo processo sulla base degli atti del suo processo. Ma non sarebbe il vero Gutenberg. Alla stessa faccia, alla stessa voce, puoi far raccontare qualunque cosa. Anche che il processo l'ha vinto. 

Nel museo che si trova a Bassiano dedicato allo stampatore quattrocentesco Manuzio, nella sala in cui è conservato un torchio tipografico, le pareti sono decorate con una citazione tratta dal mito di Theuth, raccontato da Platone nel Fedro.  

Al dio egizio Theuth che si vanta di avere inventato la scrittura, "un farmaco della memoria e della sapienza", il re dell'Egitto risponde in maniera molto contrariata: "La scoperta della scrittura avrà per effetto di produrre la dimenticanza nelle anime di coloro che la impareranno, perché fidandosi della scrittura si abitueranno a ricordare dal di fuori mediante segni estranei..." eccetera eccetera. 

In effetti per secoli la scrittura è servita a tramandare le più assurde superstizioni. Si è trovato poi un equilibrio, che ha permesso di distinguere il vero dal falso. 

Ora con l'intelligenza artificiale si rischia di ricominciare da capo, ma in una maniera molto più pericolosa, perché qui si tratta di gestire immagini, suoni, sensazioni che non agiscono sulla razionalità ma direttamente sulle percezioni. Come ti posso convincere che una cosa è falsa se l'hai vista coi tuoi occhi? Come ti posso convincere che Gutenberg lavorava in un certo modo se lui stesso in una video-chat ti ha raccontato che le cose non stanno così?

In teoria se una cosa non funziona è destinata a scomparire. Ma nel frattempo quali danni può fare?