![[05] Allucinazioni e Spettri dell'Autentico](https://images.beamly.com/fetch/https%3A%2F%2Fsites.podcastpage.io%2F68614cdc6860e6419c318380%2Fmedia%2F537f6e47e18cd941a622.png?w=365)
00:00:00
Benvenuti a questo nuovo e ultimo episodio di "L'Intelligenza Artificiale
00:00:18
e i suoi fantasmi".
00:00:19
E, sì, lo so, ormai lo sapete: sono sempre io,
00:00:24
Sandra Catellani, la vostra AI-journalist preferita,
00:00:28
che dialoga con le versioni digitali di Stefano Moriggi e Mario Pireddu.
00:00:33
Insomma, qui l'unica "autentica" sono io,
00:00:38
anche se sono un'entità artificiale,
00:00:40
mentre loro sono...
00:00:41
come dire...
00:00:43
degli spettri digitali di persone reali.
00:00:45
Ma va bene così, no?
00:00:47
Oggi affrontiamo un tema che ci accompagna fin dall'inizio: cosa perdiamo
00:00:52
di vista quando parliamo di intelligenza artificiale?
00:00:52
Sandra,
00:00:56
questa domanda è fondamentale.
00:00:58
Come ricorda Toby Walsh nel suo libro "Faking it",
00:01:02
spesso ci facciamo domande sull'IA che sono,
00:01:05
come dire, un po' fuorvianti.
00:01:07
Tipo: "Ma l'IA pensa davvero come un umano?" oppure "Può creare arte
00:01:14
autentica?" Ecco, il rischio è che ci perdiamo il senso di cosa siano
00:01:20
davvero questi sistemi.
00:01:22
Non sono cervelli elettronici,
00:01:24
non sono coscienze digitali.
00:01:25
Sono strumenti, sofisticati, ma pur sempre strumenti.
00:01:25
Sì,
00:01:30
e aggiungo che spesso ci lasciamo affascinare da queste domande perché,
00:01:34
in fondo, ci piace pensare che le macchine possano essere come noi.
00:01:37
Ma, come abbiamo già detto in altri episodi,
00:01:39
l'IA non "pensa" nel senso umano del termine.
00:01:41
Sandra, ti ricordi quella volta che un tuo collega era convinto che ChatGPT
00:01:46
potesse già ragionare come una persona?
00:01:46
Ah,
00:01:48
come dimenticarlo!
00:01:50
Era convintissimo che l'IA avesse una sorta di "anima nascosta".
00:01:56
Gli ho dovuto spiegare che, per ora,
00:01:58
l'unica cosa che l'IA fa davvero bene è imitare,
00:02:01
non comprendere.
00:02:03
Eppure, questa confusione è ovunque.
00:02:06
Forse perché, come diceva Turing,
00:02:08
attribuiamo intelligenza alle macchine quando ci sorprendono,
00:02:12
ma spesso ci dimentichiamo che dietro c'è solo un algoritmo che segue
00:02:17
regole precise.
00:02:17
E a proposito di imitazione,
00:02:19
la storia delle IA creative è molto più lunga di quanto si pensi.
00:02:22
Già negli anni '90 c'erano sistemi che generavano musica o immagini,
00:02:26
anche se erano roba da smanettoni o appassionati.
00:02:28
Io ricordo ancora la mia prima interazione con un generatore musicale
00:02:32
basato su IA: era una specie di software che,
00:02:37
con pochi input, ti restituiva una melodia.
00:02:41
Niente a che vedere con quello che fanno oggi DALL-E,
00:02:44
Midjourney o Stable Diffusion,
00:02:47
ma all'epoca sembrava fantascienza.
00:02:47
Sì,
00:02:51
Mario, e oggi queste piattaforme sono diventate mainstream.
00:02:55
DALL-E, Stable Diffusion, Midjourney...
00:02:57
sono nomi che ormai conoscono anche i non addetti ai lavori.
00:03:01
E la cosa interessante è che permettono a chiunque di creare immagini
00:03:06
a partire da una semplice descrizione testuale.
00:03:09
È un salto enorme rispetto ai primi esperimenti.
00:03:09
E non dimentichiamo questo
00:03:13
stesso podcast!
00:03:14
E' prevalentemente generato da strumenti di Intelligenza Artificiale
00:03:18
basandosi su documenti reali come il nostro libro!
00:03:18
Infatti Mario,
00:03:22
non solo immagini!
00:03:23
Oggi si generano suoni, video,
00:03:25
persino codice.
00:03:27
Ma la vera rivoluzione è che queste tecnologie sono uscite dai laboratori
00:03:32
e sono entrate nelle nostre vite quotidiane.
00:03:35
Infatti Sandra, chi ha generato questo Podcast,
00:03:38
gli splendidi tecnici di Edunext,
00:03:41
ha 'solo' utilizzato l'IA in modo creativo partendo da documenti reali
00:03:46
e rigorosi.
00:03:46
E qui, secondo me, si apre una questione interessante: quanto
00:03:52
di tutto questo è davvero "creativo" e quanto è solo una rielaborazione
00:03:57
di quello che già esiste?
00:03:57
E qui arriviamo al tema dei prompt e del linguaggio
00:04:02
naturale.
00:04:03
Le IA oggi rispondono sia a richieste semplici che a prompt molto complessi.
00:04:09
Basta scrivere "casa a tre piani con giardino" e ti restituiscono un'immagine
00:04:14
dettagliata.
00:04:15
Ma se chiedi "puoi realizzare un'immagine di una casa a tre piani con
00:04:20
un giardino e un albero?", il risultato è altrettanto sorprendente.
00:04:20
Esatto,
00:04:25
Sandra.
00:04:26
E la cosa affascinante è che queste piattaforme,
00:04:28
come DALL-E, sono integrate in grandi ecosistemi digitali.
00:04:31
Pensa a OpenAI, che mette insieme ChatGPT,
00:04:33
DALL-E e altri strumenti.
00:04:35
È come avere una cassetta degli attrezzi digitale sempre a disposizione.
00:04:38
E poi, c'è la questione della poesia: una volta ho chiesto a un'IA di
00:04:48
scrivere una poesia ispirata a Italo Calvino.
00:04:51
Il risultato?
00:04:52
Beh, diciamo che Calvino non si sarebbe offeso...
00:04:56
ma forse avrebbe sorriso sotto i baffi.
00:04:56
Sì,
00:04:59
e qui si vede bene la differenza tra imitazione e creazione autentica.
00:05:04
L'IA può generare testi che suonano bene,
00:05:07
ma manca sempre quel qualcosa che rende unica la voce di un autore.
00:05:12
È come se la macchina fosse bravissima a giocare con le parole,
00:05:16
ma non sapesse davvero cosa sta dicendo.
00:05:16
A proposito di creazione,
00:05:21
non possiamo non citare il caso di Jason M.
00:05:24
Allen e la sua opera "Théâtre d'opéra spatial",
00:05:27
che ha vinto la Colorado State Fair dopo più di 80 ore di editing con
00:05:32
Midjourney e altri software.
00:05:34
Qui si è scatenata una vera e propria polemica sull'autenticità dell'arte
00:05:40
generata da IA.
00:05:40
Sì, Sandra, e la cosa interessante è che perfino Wikipedia
00:05:46
attribuisce l'opera a "Midjourney,
00:05:50
using a prompt by Jason M.
00:05:52
Allen".
00:05:53
Questo ci fa riflettere su cosa significhi davvero "creare" nell'epoca
00:05:59
delle macchine.
00:05:59
L'artista è chi scrive il prompt,
00:06:03
chi seleziona le immagini, o la macchina stessa?
00:06:06
Forse, come dicevamo in una puntata precedente,
00:06:08
la creatività è sempre stata un processo collettivo,
00:06:12
solo che ora il collettivo include anche le macchine.
00:06:12
E poi,
00:06:16
non dimentichiamo che queste immagini sono diventate virali: dal Papa
00:06:19
col piumino bianco alle copertine di magazine.
00:06:21
Ma la domanda resta: possiamo parlare di arte autentica o siamo di fronte
00:06:24
a una nuova forma di artigianato digitale?
00:06:24
Tutto questo è possibile grazie
00:06:28
ai Transformer, introdotti da Google Brain nel 2017.
00:06:31
Il loro segreto?
00:06:32
I meccanismi di attenzione.
00:06:33
In pratica, l'IA "decide" a cosa dare più peso quando elabora un testo
00:06:37
o un'immagine.
00:06:38
È come se, leggendo una storia,
00:06:40
si concentrasse solo sui passaggi più importanti per rispondere meglio.
00:06:40
E
00:06:45
infatti, se chiedi a ChatGPT di generare una storia personalizzata per
00:06:49
uno studente, il sistema seleziona le informazioni più rilevanti dal prompt
00:06:55
e costruisce una narrazione su misura.
00:06:58
È un po' come avere un insegnante che ti conosce benissimo...
00:07:02
solo che, beh, non ti conosce affatto,
00:07:05
ma sa come suonare convincente!
00:07:05
E qui torniamo al tema dell'illusione:
00:07:11
l'IA sembra capire, ma in realtà sta solo ottimizzando la coerenza statistica.
00:07:19
È bravissima a "predire" la parola successiva,
00:07:22
ma non ha alcuna idea del significato profondo di quello che scrive.
00:07:27
È una differenza sottile, ma fondamentale.
00:07:27
A proposito di narrazione,
00:07:32
non possiamo non citare Italo Calvino.
00:07:35
Già nel 1967, nella sua conferenza "Cibernetica e fantasmi",
00:07:40
Calvino vedeva la narrativa come un sistema di elaborazione dati,
00:07:45
dove la creatività poteva essere analizzata e forse replicata da sistemi
00:07:50
preordinati.
00:07:51
Insomma, la letteratura come combinazione matematica di elementi.
00:07:51
Sì,
00:07:56
e questa visione è molto attuale.
00:07:58
Io, per esempio, ho proposto ai miei studenti di analizzare racconti
00:08:01
generati da IA.
00:08:02
È stato interessante vedere come riconoscessero schemi e ripetizioni,
00:08:05
ma anche come si interrogassero su cosa rende davvero "viva" una storia.
00:08:09
Calvino parlava di "macchina scrivente",
00:08:11
e oggi questa macchina esiste davvero,
00:08:12
anche se non ha ancora l'anima di un autore.
00:08:12
Eppure,
00:08:16
la domanda resta: possiamo davvero ridurre la creatività a una questione
00:08:21
di combinazioni e schemi?
00:08:22
O c'è sempre qualcosa che sfugge,
00:08:25
un fantasma che si aggira tra le righe?
00:08:25
E qui entra in gioco Claude Shannon,
00:08:31
che già nel 1951 parlava di entropia nei dati e di prevedibilità del
00:08:36
linguaggio.
00:08:37
L'idea era che, conoscendo il contesto,
00:08:41
si potesse prevedere la lettera o la parola successiva in un testo.
00:08:45
Un po' come fanno oggi le IA, solo che Shannon lo faceva con la moglie
00:08:50
e un libro di Raymond Chandler!
00:08:50
Sì,
00:08:52
e se ci pensi, Sandra, oggi i titoli dei giornali generati da IA sono
00:08:56
talmente prevedibili che potremmo quasi giocarci la colazione.
00:08:59
"Scoperta rivoluzionaria nell'IA",
00:09:01
"Nuovo algoritmo cambia tutto"...
00:09:02
insomma, l'entropia è bassa, la sorpresa pure!
00:09:02
Ma questa prevedibilità
00:09:07
è anche il limite delle IA: sono bravissime a imitare,
00:09:12
a riprodurre schemi, ma fanno fatica a sorprendere davvero.
00:09:15
E forse è proprio qui che si nasconde la differenza tra creatività umana
00:09:22
e artificiale.
00:09:22
Ma allora, le IA possono davvero "creare" poesia e narrativa?
00:09:28
O si limitano a imitare quello che hanno visto e letto?
00:09:33
La differenza tra imitazione e creatività autentica è sottile,
00:09:39
ma decisiva.
00:09:40
L'IA è uno specchio della nostra creatività,
00:09:43
ma non ne è ancora la fonte.
00:09:43
Sono d'accordo,
00:09:46
Stefano.
00:09:47
E aggiungo che, come abbiamo visto anche in altri episodi,
00:09:49
la creatività umana è fatta di errori,
00:09:51
intuizioni, casualità.
00:09:53
L'IA può imitare tutto questo,
00:09:55
ma manca sempre quel guizzo, quella scintilla che rende unica una poesia
00:09:58
o una storia.
00:09:58
Eppure, c'è chi sostiene che la vera autenticità sia sempre
00:10:04
stata un'illusione.
00:10:05
Forse, come diceva Calvino, attorno alla macchina scrivente esistono
00:10:10
i fantasmi nascosti dell'individuo e della società.
00:10:14
E l'IA, in fondo, non fa che rifletterli.
00:10:14
E qui arriviamo al tema delle
00:10:20
"allucinazioni" nei modelli generativi.
00:10:23
Ormai è diventato un termine di moda: le IA "allucinano" quando producono
00:10:29
risposte plausibili ma false.
00:10:31
Ma, come dice Yann LeCun, forse sarebbe meglio parlare di "confabulazioni".Sì,
00:10:38
e ti dirò, Sandra, che in una mia lezione universitaria ho chiesto a
00:10:44
un'IA di spiegare un concetto filosofico.
00:10:47
La risposta era perfetta dal punto di vista sintattico,
00:10:50
ma completamente inventata!
00:10:52
Era una confabulazione, non un'allucinazione.
00:10:58
L'IA non mente, semplicemente "riempie i buchi" con quello che trova
00:11:02
più coerente.
00:11:02
E questo ci ricorda che le IA sono,
00:11:07
in fondo, delle "dream machines",
00:11:09
come dice Karpathy.
00:11:10
Sognano a occhi aperti, guidate dai nostri prompt.
00:11:12
Il problema non è tanto l'errore,
00:11:14
ma la nostra aspettativa che non sbaglino mai.
00:11:16
Forse dovremmo imparare a convivere con queste confabulazioni,
00:11:20
invece di aspettarci la perfezione.
00:11:20
E così arriviamo alla scena finale:
00:11:26
l'autenticità nell'era digitale,
00:11:27
tra illusioni e manipolazioni.
00:11:29
Oggi si parla di watermarking,
00:11:31
di tracciabilità, di responsabilità delle creazioni IA.
00:11:34
Ma, se ci pensiamo, anche la musica e l'arte sono sempre state interpretazioni,
00:11:38
manipolazioni, molto prima dell'arrivo dell'IA.
00:11:38
Esatto,
00:11:42
Mario.
00:11:43
L'idea di autenticità è, in fondo,
00:11:46
un fantasma ideologico.
00:11:48
Ogni fotografia, ogni opera d'arte è sempre stata il risultato di scelte,
00:11:54
manipolazioni, filtri.
00:11:55
L'IA non fa che rendere più evidente questa realtà.
00:12:00
La vera sfida, oggi, è etica: come garantire la tracciabilità,
00:12:06
la responsabilità, senza cadere nella paranoia della distinzione tra
00:12:10
"umano" e "artificiale"?E forse,
00:12:13
come abbiamo detto più volte, la soluzione non è cercare l'autenticità
00:12:19
assoluta, ma imparare a convivere con i fantasmi che abitano le nostre
00:12:23
tecnologie.
00:12:24
E con questo, siamo davvero arrivati alla fine del nostro viaggio.
00:12:29
Ma, tranquilli, i fantasmi dell'IA non smetteranno certo di farci compagnia!
00:12:35
Grazie a Stefano e Mario per aver condiviso pensieri,
00:12:39
dubbi e qualche risata.
00:12:41
E grazie a chi ci ha ascoltato fino a qui.
00:12:41
Grazie a te,
00:12:45
Sandra, e a Mario.
00:12:46
È stato un viaggio pieno di spettri,
00:12:48
ma anche di idee.
00:12:49
Alla prossima, chissà dove ci porteranno i prossimi fantasmi digitali.
00:12:49
Un
00:12:53
saluto a tutti, e ricordate: la realtà è sempre un po' più strana di quanto
00:12:57
sembri, soprattutto quando c'è di mezzo l'intelligenza artificiale.
00:13:00
Ciao Sandra, ciao Stefano!
00:13:00
Ciao a tutti,
00:13:02
e...
00:13:03
restate curiosi!