Non avrai altra IA al di fuori di me

Non avrai altra IA al di fuori di me

dalla grande Madre Chiesa al grande Padre Google procederemo verso…

Gli accadimenti nel panorama tecnologico attuale possono essere riconducibili a  paradigmi già visti; nei confronti del fenomeno delle intelligenze artificiali in queste righe si cerca di tenerne traccia e di tentare di individuare qualche insegnamento.

Il paragone più recente è quello con la nascita di internet alla fine del millennio scorso; la proliferazione della disponibilità di risorse ad un livello precedentemente inimmaginabile ha richiesto un organizzatore: lo è diventato Google, che si è imposto come domatore del caos con un paradigma nuovo.

Anche i sistemi di intelligenza artificiale agiscono su un simile 'caos indistinto';

scandagliano la rete, o grandi set di dati, per addestrare motori 'intelligenti' partendo da contenuti disorganizzati.

Lo fanno utilizzando meccanismi zero-shot, cioè senza l'intervento umano,  sia a livello di testo che di immagini, addestrando quelle 'intelligenze' che oggi diventano i GPTs per i testi o gli stable-diffusion-like per le immagini.

Vorrei qui cercare analogie tra tre periodi storici caratterizzati dal più o meno improvviso aumento delle informazioni a disposizione:

• quello che va all'incirca da Gutenberg al XVIII secolo dominato dal potere ecclesiastico,,
• quello della nascita e diffusione di internet,
• e l'attuale iniziale periodo delle intelligenze artificiali,

per tentare di distillare dalle similitudini alcune previsioni che ci aiutino ad affrontare il periodo attuale, se è vero che la storia è conquista valida per sempre (Tucidide).

Non sia visto come incoerente  il confronto con periodi di così differente ed esponenziale durata, la legge dei ritorni accelerati (Kurzweil) potrebbe venirci in aiuto.

Procederò quindi a cercare le affinità tra i tre periodi, che brevemente riferirò Chiesa, Google e IA) per poi estendere le considerazioni sui primi due al terzo nel nostro prossimo futuro.

Similitudini tra i tre momenti

I figli di Dio

La combinazione della diffusione della stampa a caratteri mobili e della ricezione dal nordafrica, attraverso la Spagna, delle conoscenze degli arabi ha portato ad un esponenziale aumento delle quantità di informazioni ottenibili, ovviamente riservate alle persone che ai libri potevano avere accesso; essenzialmente il mondo ecclesiastico (ma non in senso stretto; molte persone prendevano gli ordini minori solo per studiare).

Alla ricerca delle leggi che governano il mondo i nostri progenitori dei secoli passati si trovarono di fronte al caos indistinto dei fenomeni chimico-fisici naturali in cui cercarono di mettere ordine utilizzando le conoscenze a disposizione.

Va ricordato che la dottrina della Chiesa era allora assimilabile a ciò che oggi è la scienza; in molti casi questa non forniva sufficienti risposte alle domande dei ricercatori che si spingevano quindi, pericolosamente, al di fuori dei confini tracciati.

I sistemi magico/alchemico/astrologi facevano parte dell'armamentario a loro disposizione, con un ruolo pari a quello delle tecnologie emergenti attuali: erano questi gli strumenti utilizzati per ordinare il caos.

Non dobbiamo certo giudicarli con la mentalità odierna: astrologia, ad esempio, era un 'esame propedeutico' per accedere a medicina^[1] e l'alchimia era qualcosa di estremamente più fondato e complesso rispetto alla risibile immagine che ne abbiamo.^[2][3]

Si svilupparono i sistemi di predizione, le varie -manzie, che si prefiggevano di riuscire a trovare un ordine nel caos:  erano assai meno 'casuali' di quanto si possa oggi pensare, ma procedevano dall'analisi dei dati, dal parallelo tra un ordine celeste ed un ordine terrestre, dalla corrispondenza tra micro e macro cosmo, quale ordinatore per trarre predizioni.^[4]

Si comportavano esattamente quanto fanno i sistemi di intelligenza artificiale, che allenando un modello estraggono predizioni; la differenza sta che il 'modello addestrato' era a livello culturale e non a livello scientifico.

Anche i paralleli con la magia e l'IA sono notevoli; a parte l'aura che li percorre entrambi, muovono da presupposti e metodi simili. Se tutto è collegato e tutto ha un senso, agire sulle sfere superiori (con la potenza della parola e delle formule, con simboli e segni, amuleti, ecc) portava ad un riflesso sulla terra delle stesse operazioni.^[5]

Gli hacker del passato, i curiosi, erano affascinati da queste molteplici e moltiplicate occasioni di conoscenza  e dai metodi per estrarne significato.

L'alchimia si prefiggeva esattamente lo stesso scopo: procedere dai fenomeni naturali per estrarre senso, per 'deviare' il funzionamento delle energie naturali a favore dell'alchimista che, ben lontano dal produrre l'aurum vulgi, cercava di arrivare ad una verità che portasse l'oro 'filosofico' nella vita quotidiana, dandole senso (Aurum nostrum non est aurum vulgi) ^[6]

Di fronte a questo proliferare di possibilità si è registrato dapprima un'apertura e poi una chiusura^[7] della Chiesa che ha assunto il ruolo di regolatore, proibendo l'alchimia e l'astrologia e limitando la libertà (a pena d'eresia) di esplorare liberamente questi campi; solo ciò che veniva espresso dalla Chiesa poteva essere conservato, diffuso, pubblicato; tutto ciò che veniva negato dalla Chiesa cessava di esistere, se non sopravvivendo in correnti sotterranee delle quali oggi abbiamo poca memoria.

Non poco, in tutto ciò, riguarda la negazione del ruolo femminile, e la conseguente rinascita dall'inconscio (da Freud a Jung) di quanto rimosso con lo sviluppo delle patologie, malattie e psicosi correlate.

Per concludere questa parte osserviamo che  ruolo egemone dell'istituzione ha limitato la libertà d'azione delle persone e ha abortito lo sviluppo di alcune branche del sapere come l'astrologia e l'alchimia che, proprio per questo, ancora oggi sono bollate dalla condanna all'infamia come saperi 'non corretti', nonostante le migliaia di anni che l'astrologia conta e la altrettanto profondissima storia  dell'alchimia occidentale e orientale (vedi Jung e soprattutto Wilheilm per i profondi collegamenti).^[8]

I figli d'arpanet

Nell'euforia della diffusione della rete degli anni 90 le magnifiche sorti e progressive erano chiare alla gran parte degli attori: si spalancavano, esattamente come per gli alchimisti, innumerevoli nuove possibilità di conoscere, e soprattutto l'idea che questa conoscenza condivisa avrebbe migliorato il mondo, mettendo alla portata di ognuno la conoscenza globale. Tutti ricordiamo il passaggio de Il nome della rosa con Guglielmo da Baskerville che spalanca gliocchi di fronte all'immensa biblioteca.

Oggi sappiamo che quella speranza non ha avuto il successo sperato perché la rete è stata monopolizzata da sistemi grandi (Google) o meno grandi (Social Network) che hanno veicolato le richieste e le possibilità degli utenti che, invece di utilizzare le proprie capacità per ampliare le proprie conoscenze personali, usano la rete come luogo di pigro svago se non di sfogo di frustrazioni, spesso abbruttendo il mondo invece di migliorarlo. Ciò non significa naturalmente che non sia rimasto chi può utilizzare positivamente la libertà che la rete mette a disposizione.

E' successo che un grande monopolista, per merito (o per complottistica guida da parte della CIA?  :-) ), si è assunto il ruolo di conoscenza e guida della rete, il grande Padre Google che decide cosa esista e cosa non abbia diritto di essere presente in rete.

Al di là del giudizio etico sull'operato, c'è per lo meno il dato di fatto che una società privata, una società di advertising, 'comanda' le conoscenze del pianeta e ovviamente lo fa perseguendo i propri scopi, di 'corretto' e capitalistico profitto.

Allo stesso modo le società a capo dei social network perseguono il loro scopo e ben risibili sono le rivendicazioni di chi esige un ruolo etico da questi; nè potrebbe essere altrimenti perché la regolazione della polis è in mano a persone che vedono il mondo di Urano, la techné, con l'ignoranza a cui si guarda ad un modo accessorio, a volte simpatico, spesso fastidioso, pur necessario per catturare voti.

Anche in questo caso possiamo concludere che la grande quantità di dati a disposizione è stata in realtà dominata da una realtà egemone che ne ha dettato in gran parte le possibilità di diffusione.

I figli di chatGPT

Chi ha conosciuto l'intelligenza artificiale a partire dal percettrone del 1943 ha qualche difficoltà nel sentire comune che associa chatGPT con IA; è tuttavia innegabile che l'hype attuale sull'argomento sia dovuta a questo sistema generativo.

Qui non abbiamo una storia da raccontare osservando il passato, la stiamo vivendo attualmente; viene in mente la sequenza del film Balle spaziali in cui non sapendo come risolvere un problema il protagonista acquista la videocassetta del film stesso, la fa scorrere fino al momento in cui sono arrivati e... vede se stesso recitare.

Infatti ora siamo osservatori dell'espansione di queste grandi quantità di dati messe a disposizione e organizzati dalle IA ma non esiste ancora quello che potrebbe diventare il regolatore unico: la lotta è in corso, ed il nostro comportamento potrebbe diventare importante per definire il prossimo assetto.

Confronti… ed estensioni

Ora cerchiamo di trovare similitudini e parallelismi tra i due momenti storici (Chiesa e Google) per cercare di estendere il pensiero al momento attuale (IA) e cercare di ipotizzare quello che potrebbe essere il nostro futuro e, soprattutto, cosa possiamo fare per prendercene cura..

Il grande Padre Google e la grande Madre Chiesa hanno avuto ruoli simili nei risultati, ovviamente partendo però da situazioni opposte eticamente; il primo agendo nel privato capitalismo la seconda come vicaria di Cristo con lo scopo della salvezza delle anime.

Divertente in questo senso il motto 'don't be evil' di Google, che ben prefigura il rischio di interpretare un ruolo pericoloso.

Ciò non significa che entrambi non abbiano avuto, anche, una significanza positiva per la diffusione della conoscenza e, chissà, della salvezza delle anime.

Il paradigma

Possiamo riassumere il paradigma dell'evoluzione dei 'tanti nuovi dati a disposizione' in questo modo:

scoperta tanti dati -> caos -> euforia -> organizzazione e limitazione -> dominio, rendita di posizione -> soppressione di libertà - status quo

Per l'IA  in questo momento siamo a livello della scoperta-caos-euforia, ma grandi movimenti si stanno portando avanti perché l'organizzazione e la limitazione concentrino in poche mani l'enorme potere derivante.

I sistemi di IA generativa per i testi sono prevalentemente in mano a privati e limitatamente sono disponibili in forma open; ad oggi per la generazione di immagini è esattamente il contrario, con la maggior parte di immagini generate con sistemi open^[9] le cui basi sono disponibili, la cui apertura ha consentito l'enorme sviluppo in brevissimo tempo ed una produzione più limitata di immagini con sistemi closed source.

Numero di… utenti?

Google e Chiesa sono geograficamente universali (la Chiesa è in parte 'cattolica', universale)

Google: 4.4 miliardi di utenti ^[10]

Chiesa: 1.3 miliardi di cattolici ^[11]

L'imposizione delle certezze

Non sembri blasfemo tentare un confronto tra il grande Padre e la grande Madre; il numero di persone coinvolte è sicuramente comparabile e la fede, intesa  come credenza non necessariamente supportata da ragione, è presente in entrambe le 'religioni'; noi non sappiamo 'perchè' Google si comporti in un certo modo ma abbiamo sufficiente fiducia nei suoi meccanismi interni da fidarci del fatto che, fatta una domanda, avremo una risposta coerente ed onesta; così come ci si 'fida', si ha fede, nel potere soteriologico della cerimonia del Sacrificio, la messa, o nel potere della preghiera o nei sacramenti, senza avere bisogno di una dimostrazione logica della loro efficacia.

Tutto ciò nella Chiesa è ben codificato nei dogmi; la Chiesa stessa le definisce verità assolute,^[12] che non hanno bisogno di dimostrazione in cui il credente può riposare senza tema di sbagliare.

Si tenga inoltre conto che questo processo di 'cristallizzazione' di alcuni concetti non è qualcosa di statico ma che evolve nel tempo, con due nuovi dogmata (riguardanti la femmina) nell'800 e nel '900.

Come possiamo affrontare i parametri che definiscono il valore degli ADS su Google adWords? E' qualcosa di definibile, ragionabile, discutibile? No, anche questo è un dogma, noi 'crediamo' che quella sia una regola del gioco e che sia giusta, ma non ne abbiamo la dimostrazione né possiamo discuterla.

Possiamo forse decidere quali snippet è bene che Google includa in serp? No, decide Google l'impostazione dei risultati, anche questo per i 'credenti' è dogma.

Chiunque interagisca profondamente con Google conosce bene questi concetti;

si commentano le decisioni di Google, i cambiamenti, le 'update' come se fossero eventi scesi dal cielo, benignamente imposti dal patriarca illuminato.

Idem per i rapporti con i SN, veloci e rapidi nella condanna e lenti nell'allentare le catene delle prigioni; la 'riconsiderazione' delle pagine e persone  estromesse la dice lunga in questo senso, chiunque abbia avuto l'esperienza di essere esplulso da un SN o aver avuto contenuti rimossi ne sa qualcosa.

Il potere in solide mani

Non c'è dubbio che l'imposizione 'politica' della religione cattolica abbia derivato, o sia stata causa di, un enorme potere nelle mani della Chiesa romana.

Allo stesso modo non abbiamo dubbi sul fatto che il modo con cui Google abbia raggiunto il predominio nell'ambito della search gli abbia derivato un forte potere, monopolista in qualche caso, tra i più grandi al mondo, tanto da meritargli la possibilità di 'dare vita o morte' digitale, e tutti sappiamo quanta importanza abbia assunto questo aspetto nella vita di tanti umani.

Non voglio 'allargarmi' al timore del potere delle futuribili  superintelligenze generali preconizzate da Bostrom^[13] ma guardare direttamente a quanto oggi succede.

La potenza generativa testuale e iconografica ha il potere di 'guidare' le nuove produzioni di documenti; abbiamo ben chiaro il rischio di bias e le conseguenze di amnesie ed allucinazioni di cui i correnti sistemi soffrono; da una parte influendo negativamente sulla qualità dei risultati, dall'altra 'imponendo' la creazione secondo criteri ereditati dal corpus di documenti utilizzati per l'allenamento dei modelli.

Tutti crediamo (e già il verbo fa riflettere) che questo training venga effettuato a partire da un insieme più o meno casuale-ampio-globale di documenti ma nulla vieta di pensare che la scelta dei documenti da utilizzare non possa che guidare di conseguenza la generazione di nuovi contenuti, che sia quindi possibile 'inquinare' i risultati a proprio piacimento.

Come già successo in passato questo può essere mascherato da ottime finalità, ad esempio evitare di inserire immagini NSFW^[14] nei dataset da utilizzare, proteggere la privacy, fornire dati controllati, ma… l'inferno è lastricato di buone intenzioni: una volta capito come guidare un dataset (es.: Adobe Firefly garantisce che le immagini appartengono a certe categorie non pericolose) nulla vieta di incasellare i dataset in una direzione privilegiata, ad esempio guidando tutti nella creazione di documenti che in un modo o nell'altro accrescano la posizione del creatore o dei suoi clienti.

Immaginando che i successivi modelli siano a loro volta alimentati da questi testi, il potere si moltiplica.

Che ne sarebbe, per fare un semplice esempio,  se la creazione di testi fosse in qualche modo collegato con ADS, se il creatore del modello inserisse nei testi una migliore considerazione verso chi lo ha pagato per pubblicità?

Che ne sarebbe se si volesse guidare una elezione politica guidando i contenuti a favore di alcune tesi e non altre?

L'unica possibilità di evitare il pericolo di questa posizione di predominio è quella di lasciare i dati - anche - open in modo che chiunque li possa controllare, integrare o modificare.

Proprio per evitare questa possibilità in passato è stato inserito dalla Chiesa l'Index Librorum Prohibitorum che impediva ad esempio che i libri sapienziali provenienti dall'Arabia e dalla Spagna giungessero a noi, e che l'alchimia e l'astrologia fossero, e siano ancora oggi, relegate al di fuori di ciò che è ritenuto 'sano' per il civile e scientifico buon vivere.

Possedere questi libri poteva essere molto pericoloso; l'esempio del rogo di Cecco d'Ascoli ne è dimostrazione.

Per 'guidare' invece i contenuti 'giusti' era stato pubblicato il malleus maleficarum il libro che per anni ha guidato i processi di inquisizione e che ancora oggi è presente nell'immaginazione collettiva quando si pensa al fenomeno della stregoneria che ha definitivamente precluso ai nostri tempi l'eredità della sapienza femminile dell'uso dei medicamenti naturali.

E ora… se non basta,  scaviamo a fondo

Finora abbiamo esaminato alcune possibilità positive o negative dell'uso ed evoluzione delle IA prendendo le mosse dai tempi passati.

Sarebbe fuorviante e superficiale ricondurre tutto -solamente- ad una lotta di potere, che dalla Chiesa passa a Google ed ora ai gestori delle IA; in questo modo ce ne si 'lava le mani' e si prescinde dal potere del comportamento del singolo (noi!) che qui e adesso è l'unico in grado di fare evolvere il sistema in una direzione o in un'altra.

La Chiesa risponde ad un innato bisogno umano di salvezza, comunque la si intenda, così come Google ha risposto ad un semplice ed umano bisogno di conoscenza nella rete; chiunque ricordi l'emozione con cui si è vista per la prima volta una pagina bianca con un solo input testuale ed un pulsante di ricerca che - aggratis! - rispondeva bene ai bisogni intende ciò che con questa emozione voglio significare.

Risulta ancor più facile lo stupore ed il sollievo con cui abbiamo visto generare dalle IA testi ed immagini con l'ammirazione che si nutre per la magia, l'extra-ordinario, quasi il soprannaturale.

Scomodiamo Freud, per la scoperta dell'inconscio personale, e soprattutto Jung, per quella dell'inconscio collettivo.

I contenuti sia del primo che del secondo sono in rete e si avvicinano pericolosamente alla nostra portata; questo è molto pericoloso; ne ho scritto^[15] altrove.^[16]
Soprattutto sull'avverbio pericolosamente dobbiamo soffermarci perché solo qui riusciamo ad intuire, se non a capire, il senso del dogma.

Da più di un secolo Jung ci insegna che l'irruzione di contenuti dell'inconscio nel livello conscio può provocare illuminazioni ma, molto più sovente, nevrosi o pazzie.

Quando ci si trova di fronte ad una grande, nuova quantità di dati a disposizione il rischio che questi corrispondano a contenuti inconsci e che quindi possano fare irruzione nel conscio è molto alta; pensiamo semplicemente a cosa possa significare la messa a disposizione di youporn per la manifestazione di contenuti che se ne stavano tranquilli nell'inconscio prima di uscire allo scoperto.

Che questi contenuti derivino dalla diffusione della stampa, della rete, o dai contenuti delle intelligenze artificiali ci pone davanti allo stesso problema: c'è bisogno di una protezione per mantenere sane di mente le persone.

Nei tempi di santa madre Chiesa i dogmi sono stati la difesa, le mura che hanno preservato l'uomo (occidentale) dalla pazzia.^[17]

Nei tempi del grande padre Google questo paradigma è saltato; alla viglia dell'internet lo scoccare  dell'era dell'acquario ha portato via dal credere e a fondare sul dimostrare, con la prova scientifica a fare da ago della bilancia.
Il mare di conoscenze in rete è entrato negli anfratti più nascosti degli esseri umani attirati dal poter indagare ciò che gli era sempre precluso; e da pornhub ai più o meno sani complottismi ha portato ad una invasione di contenuti  che spumeggia rilucendo impazzita nei social.

Questo non era che l'inizio, oggi che abbiamo dissociato la possibilità di fare cose dall'essere capaci di farle^[18] l'IA ci consente quello spirito creatore che va oltre quelle che erano le nostre capacità e ci porta a diventare tutti apprendisti stregoni.

Conclusioni

I tempi dell'intelligenza artificiale hanno promosso un ulteriore passo alla nostra storia, con i large language models o i diffusion models, che raccolgono, in rete, enormità di dati per poi farsene veicolo di diffusione; il rapporto tra i documenti usati per il training e le possibilità di conoscenza del singolo è schiacciante a favore dei primi, per questo il risultato risulta spesso soddisfacente, quasi magico.

L'addestramento di un modello generativo a cui accedono quasi tutti (come oggi si accede  a Google) creato o fatto funzionare ad arte può condurre a guidare l'umanità in una certa direzione, convincendo tutti che la realtà sia quella narrata (lo si vede bene con i bias esistenti), diventa un'arma di potenza formidabile per il controllo delle persone che messa nelle mani sbagliate non può che creare danni.

Per questo diventa fondamentale garantire la pluralità dei modelli e dei dataset da cui sono ricavati in modo che l'intelligenza collettiva del mondo dell'open possa fare da garante delle libertà ed ogni persona abbia la possibilità di una azione concreta; questo passa attraverso lo sforzo e le parole di ciascuno di noi, di cui questo scritto vorrebbe essere testimonianza.

Italo Losero dic 2023