Un viaggio nella “etnografia dell’intelligenza artificiale”: dalle traduzioni automatiche che riflettono stereotipi di genere ai sistemi di riconoscimento delle emozioni addestrati solo su volti occidentali, fino ai progetti pionieristici che usano l’AI per preservare lingue, saperi e ambienti. In questo episodio esploriamo come i modelli di intelligenza artificiale incorporano visioni del mondo e pregiudizi culturali, e raccontiamo esperienze dall’Australia all’Africa, dalla Nuova Zelanda all’Amazzonia e alle comunità Sámi, dove l’AI diventa strumento di custodia, cura reciproca e trasmissione intergenerazionale della conoscenza.
Questo episodio è prodotto dall'Università del Salento con il supporto di tecnologie di Intelligenza Artificiale. Le voci presenti sono sintetiche e/o clonate artificialmente, così come i dialoghi e parte della realizzazione sonora del podcast.
Tutti i contenuti sono sottoposti a supervisione e verifica umana continua, al fine di garantire accuratezza, affidabilità e qualità delle informazioni condivise.
00:00:10
Vorrei partire da una domanda che sembra semplice, quasi innocente...
00:00:14
ma in realtà apre un abisso.
00:00:16
Le intelligenze artificiali comprendono davvero il nostro mondo?
00:00:21
La risposta più onesta, almeno per come possiamo porla oggi,
00:00:25
è: no, non davvero.
00:00:28
O forse dovrei dire...
00:00:30
dipende da che cosa intendiamo per comprendere.
00:00:33
Perché un sistema di intelligenza artificiale può riconoscere schemi,
00:00:37
prevedere parole, classificare immagini, imitare modi di parlare,
00:00:42
perfino generare testi che ci sembrano convincenti.
00:00:45
Però tutto questo non significa, automaticamente, che quel sistema abbia accesso al
00:00:51
significato umano delle cose.
00:00:54
Non vive il mondo.
00:00:55
Non cresce in una cultura.
00:00:58
Non eredita rituali, memorie, sfumature, silenzi.
00:01:03
Li apprende solo indirettamente, attraverso tracce.
00:01:08
E qui c'è il punto centrale.
00:01:09
Le AI non nascono nel vuoto.
00:01:12
Riflettono, in modo quasi inevitabile, le visioni del mondo contenute nei dati con
00:01:16
cui sono state addestrate e nelle scelte compiute da chi le progetta.
00:01:21
Scelte tecniche, sì, ma anche culturali.
00:01:23
Cosa raccogliamo?
00:01:24
In quale lingua?
00:01:25
Da quali paesi?
00:01:27
Con quali priorità?
00:01:28
Che cosa consideriamo normale, affidabile, rappresentativo?
00:01:32
Ogni risposta a queste domande lascia un'impronta.
00:01:35
E quell'impronta diventa parte del comportamento della macchina.
00:01:40
È per questo che mi interessa parlare di etnografia dell'AI.
00:01:44
Il nome può sembrare un po' specialistico, ma l'idea è molto concreta.
00:01:48
L'etnografia, tradizionalmente, osserva come gli esseri umani costruiscono senso
00:01:54
dentro relazioni, pratiche, simboli, ambienti condivisi.
00:01:58
Applicata all'intelligenza artificiale, ci invita a guardare a un'altra scena: che
00:02:04
cosa succede quando le macchine incontrano culture diverse?
00:02:08
Come si comportano quando attraversano lingue, valori, gesti,
00:02:12
modi di esprimere emozioni, gerarchie sociali, memorie collettive?
00:02:17
E soprattutto: chi viene riconosciuto da questi sistemi, e chi invece resta ai
00:02:23
margini?
00:02:24
L'etnografia dell'AI, in fondo, ci costringe a smettere di vedere la tecnologia come
00:02:28
qualcosa di neutro e universale.
00:02:31
Ci chiede di guardarla come un oggetto sociale, situato, pieno di presupposti.
00:02:36
Un modello può essere potentissimo e, allo stesso tempo, profondamente parziale.
00:02:41
Può funzionare benissimo in certi contesti e male in altri.
00:02:45
Può sembrare intelligente proprio perché riproduce bene il mondo di alcuni,
00:02:49
mentre capisce poco o niente del mondo di altri.
00:02:53
E allora il tema non è soltanto se l'AI sia avanzata oppure no.
00:02:57
Il tema è: quale umanità riesce a vedere?
00:03:00
Quale realtà sa leggere?
00:03:03
Quale differenza sa accogliere?
00:03:06
Perché se una tecnologia incontra il mondo portandosi dietro una sola idea di
00:03:10
normalità, rischia di scambiare la diversità per errore.
00:03:14
E da qui iniziano molti dei problemi di cui si parla troppo poco.
00:03:18
Problemi che non riguardano soltanto l'efficienza dei sistemi,
00:03:22
ma il modo stesso in cui il nostro tempo decide chi è visibile,
00:03:27
chi è comprensibile, e chi invece viene tradotto male...
00:03:31
o non viene tradotto affatto.
00:03:34
Un esempio molto chiaro risale a qualche anno fa, prima della pandemia,
00:03:38
credo intorno al 2018.
00:03:40
Un gruppo di ricercatori osservò un comportamento curioso nei sistemi di traduzione
00:03:45
automatica.
00:03:46
Curioso, sì, ma anche rivelatore.
00:03:49
Quando alcune frasi venivano tradotte dall'ungherese all'inglese,
00:03:52
accadeva questo: professioni come ingegnere o scienziato tendevano a essere rese al
00:03:58
maschile, mentre ruoli come infermiera o segretaria finivano più facilmente al
00:04:04
femminile.
00:04:05
Ora, il punto è che l'ungherese non usa pronomi di genere nello stesso modo.
00:04:10
Quindi quel passaggio non era obbligato.
00:04:12
Era una scelta statistica del sistema.
00:04:16
E proprio qui si vede bene come lavora un modello.
00:04:18
Non inventa dal nulla.
00:04:20
Restituisce regolarità assorbite dai dati.
00:04:23
Se nei materiali con cui è stato addestrato trova, più spesso,
00:04:27
uomini associati a certe professioni e donne associate ad altre,
00:04:31
tenderà a replicare quel disegno come se fosse naturale.
00:04:34
Ma non è naturale.
00:04:36
È storico, culturale, sociale.
00:04:39
È il riflesso di pregiudizi sedimentati.
00:04:41
E quindi no, non stiamo parlando di un errore casuale.
00:04:45
Stiamo parlando di bias.
00:04:47
Di stereotipi invisibili che entrano nei sistemi senza fare rumore e poi,
00:04:51
una volta lì, acquistano il prestigio dell'automazione.
00:04:56
Questo è importante, perché quando una macchina sbaglia in modo sistematico non sta
00:05:00
semplicemente fallendo un compito tecnico.
00:05:03
Sta rivelando da quale mondo è stata istruita a imparare.
00:05:06
E spesso quel mondo è più stretto di quanto immaginiamo.
00:05:10
Più omogeneo.
00:05:11
Più sbilanciato.
00:05:13
Più dominato da alcune prospettive che da altre.
00:05:15
Il problema, poi, non si ferma al genere.
00:05:18
Anzi, il genere è solo una porta d'ingresso per capire qualcosa di più ampio.
00:05:24
I bias culturali possono deformare il modo in cui l'AI interpreta professioni,
00:05:29
relazioni, intenzioni, perfino credibilità e competenza.
00:05:33
Possono influenzare il linguaggio con cui una persona viene descritta,
00:05:37
il tono che viene attribuito a un messaggio, il tipo di normalità che il sistema
00:05:42
considera attesa.
00:05:43
E più questi meccanismi restano invisibili, più sembrano oggettivi.
00:05:48
È questo il paradosso: l'automazione, per molte persone, dà un'impressione di
00:05:52
neutralità.
00:05:53
Ma l'output di una macchina non è neutro solo perché arriva da un calcolo.
00:05:59
A volte penso che il vero rischio sia proprio questo: confondere la frequenza con la
00:06:03
verità.
00:06:04
Se una cosa compare spesso nei dati, il sistema la tratta come probabile.
00:06:09
Ma ciò che è probabile non è sempre giusto, e ciò che è dominante non è sempre
00:06:14
universale.
00:06:16
L'etnografia dell'AI serve anche a questo: a rimettere in luce ciò che i modelli
00:06:21
tendono a nascondere.
00:06:22
Le asimmetrie, le esclusioni, le gerarchie implicite.
00:06:26
Perché prima ancora di correggere una traduzione, dobbiamo imparare a riconoscere il
00:06:31
mondo che quella traduzione sta presupponendo.
00:06:35
Se allarghiamo lo sguardo, vediamo che il problema non riguarda solo le parole.
00:06:39
Riguarda anche i volti, i gesti, le emozioni.
00:06:43
Per molto tempo, molti modelli di intelligenza artificiale sono stati addestrati
00:06:48
soprattutto su contenuti occidentali.
00:06:50
Questo valeva per testi, immagini, categorie interpretative.
00:06:55
E quando si lavora così, inevitabilmente, si finisce per trattare come universale
00:07:01
qualcosa che in realtà è locale.
00:07:03
Un'abitudine culturale diventa norma generale.
00:07:07
Una convenzione diventa misura del mondo.
00:07:11
Pensiamo al sorriso.
00:07:12
In molti contesti occidentali, sorridere viene letto come un segno di gioia,
00:07:18
apertura, felicità, talvolta ironia.
00:07:20
È un codice che per noi sembra quasi ovvio.
00:07:24
Ma non ovunque il sorriso viene vissuto allo stesso modo.
00:07:28
In Giappone, per esempio, può anche indicare imbarazzo, contenimento,
00:07:32
disagio.
00:07:34
E questa differenza, che a noi umani può sembrare sottile ma comprensibile se
00:07:39
conosciamo il contesto, per una macchina può diventare un punto cieco enorme.
00:07:44
Se il modello è stato addestrato prevalentemente a leggere il sorriso secondo una
00:07:49
sola tradizione culturale, rischierà di interpretare male l'emozione che ha davanti.
00:07:55
Questo non è un dettaglio accademico.
00:07:57
Non è una di quelle finezze teoriche che restano chiuse nei laboratori.
00:08:01
Perché i sistemi di AI vengono usati, o comunque orientano decisioni,
00:08:06
in ambiti molto concreti.
00:08:07
Penso alla diagnostica medica, dove certe implementazioni possono contribuire alla
00:08:13
valutazione di segnali e dati.
00:08:15
Penso ai processi di selezione del personale, dove strumenti automatici o
00:08:20
semi-automatici possono influenzare la percezione di un candidato.
00:08:24
Penso anche al credito, all'approvazione di un prestito, a tutte quelle situazioni
00:08:30
in cui un giudizio computazionale si traduce in accesso o esclusione.
00:08:35
Se un sistema legge male una persona perché è stato educato su un repertorio troppo
00:08:40
ristretto, allora il problema non è solo la precisione.
00:08:44
È la giustizia.
00:08:45
È la possibilità che un fraintendimento culturale produca conseguenze reali sulla
00:08:50
vita delle persone.
00:08:51
Magari non sempre in modo clamoroso, ma a volte proprio in quelle piccole decisioni
00:08:56
ripetute che, sommandosi, definiscono un destino sociale.
00:09:01
Ecco perché parlare di universalismo occidentale, in questo campo,
00:09:05
è così importante.
00:09:06
Non per colpevolizzare una regione del mondo, ma per mostrare i limiti di qualsiasi
00:09:12
prospettiva che si presenti come totale.
00:09:14
Nessuna cultura esaurisce il ventaglio del possibile umano.
00:09:18
Nessun dataset può essere assunto come specchio trasparente dell'umanità intera.
00:09:24
Le emozioni, i modi di relazionarsi, perfino ciò che viene considerato appropriato o
00:09:30
affidabile, cambiano.
00:09:32
E l'AI, se vuole davvero essere utile, deve imparare a incontrare questa complessità
00:09:38
senza ridurla a una sola grammatica del comportamento.
00:09:42
Forse la domanda giusta, allora, non è se le macchine possano riconoscere le
00:09:46
emozioni.
00:09:47
La domanda è: di quali emozioni stanno parlando?
00:09:51
E attraverso quale cultura hanno imparato a chiamarle così?
00:09:56
Fin qui ho parlato soprattutto dei limiti.
00:09:58
Però sarebbe riduttivo fermarsi lì, perché esistono anche esperienze molto belle,
00:10:03
molto intelligenti, in cui l'AI non cancella la diversità ma prova a custodirla.
00:10:08
Una di queste nasce in Australia e si chiama Mukurtu Eyi.
00:10:12
È un progetto che esplora il rapporto tra intelligenza artificiale,
00:10:16
memoria e preservazione linguistica, in particolare per alcune comunità aborigene
00:10:21
esposte al rischio di perdere la propria lingua.
00:10:23
E già questa scelta è importante: usare strumenti contemporanei non per uniformare,
00:10:29
ma per proteggere ciò che rischia di scomparire.
00:10:32
Nel progetto, da quanto emerge, tecniche di apprendimento automatico sono state
00:10:36
usate per trascrivere registrazioni storiche e trasformarle in strumenti utili
00:10:40
all'apprendimento linguistico.
00:10:42
Ma la parte più significativa, per me, è un'altra.
00:10:46
Questo lavoro non è stato pensato come un semplice recupero tecnico di archivi
00:10:50
sonori.
00:10:51
È stato costruito con il coinvolgimento degli anziani della comunità aborigena,
00:10:55
nel rispetto dei loro protocolli culturali.
00:10:58
E questa parola, protocolli, conta tantissimo.
00:11:01
Perché condividere conoscenza non è mai un gesto neutro.
00:11:05
Ogni cultura ha regole, tempi, responsabilità, forme di autorizzazione.
00:11:10
Inserire questi aspetti nel progetto vuol dire riconoscere che il sapere non è solo
00:11:14
contenuto: è relazione.
00:11:17
Un altro esempio molto forte è Masakane, in Africa.
00:11:20
Anche qui parliamo di un lavoro collettivo che punta a costruire modelli di
00:11:24
traduzione automatica per decine di lingue africane.
00:11:27
Decine, non una o due.
00:11:29
E questa scala ci dice qualcosa di fondamentale.
00:11:32
Quando usiamo i comuni strumenti di traduzione, siamo portati a pensare che il mondo
00:11:37
linguistico sia già ampiamente coperto.
00:11:39
Ci sembra tanto, magari novanta e passa lingue.
00:11:43
Eppure nel mondo esistono circa settemila lingue diverse.
00:11:47
Settemila.
00:11:48
Quindi i sistemi attuali, per quanto sofisticati, raggiungono solo una piccolissima
00:11:53
frazione della diversità linguistica reale.
00:11:58
Questo significa che miliardi di persone che parlano lingue diverse da quelle
00:12:02
dominanti possono restare escluse dai benefici dell'intelligenza artificiale.
00:12:07
E non solo escluse: con l'aumento dell'innovazione digitale,
00:12:11
le lingue con pochi parlanti rischiano di diventare ancora più fragili.
00:12:15
Se una lingua non è supportata dagli strumenti, dai servizi,
00:12:19
dalle interfacce, perde spazio d'uso.
00:12:22
E quando una lingua perde spazio, perde anche futuro.
00:12:27
Per questo progetti come questi sono così preziosi.
00:12:30
Ci mostrano un'altra possibilità.
00:12:32
Un'AI che non impone una sola voce, ma aiuta le comunità a trasmettere la propria.
00:12:38
Un'AI che non tratta la differenza come rumore da correggere,
00:12:42
ma come patrimonio da ascoltare.
00:12:44
E forse è proprio qui che l'etnografia dell'AI diventa più viva: quando la
00:12:49
tecnologia smette di parlare sopra le culture...
00:12:52
e comincia, finalmente, a lavorare con loro.
00:12:56
C'è poi un livello ancora più profondo, che non riguarda solo le lingue ma i
00:13:00
principi con cui immaginiamo il rapporto tra tecnologia, comunità e mondo vivente.
00:13:05
In Nuova Zelanda, per esempio, ricercatori e sviluppatori maori hanno elaborato
00:13:10
framework etici per l'AI fondati su due concetti molto belli: Kaitiakitanga e
00:13:16
Manakitanga.
00:13:17
Il primo richiama l'idea di custodia.
00:13:20
Il secondo quella di cura reciproca.
00:13:23
Già sentirli così, uno accanto all'altro, cambia il campo.
00:13:27
Perché ci sposta da una visione dell'intelligenza artificiale come puro strumento di
00:13:32
prestazione a una visione relazionale, responsabile, radicata.
00:13:38
In questi approcci, il linguaggio dell'AI viene ricontestualizzato dentro relazioni
00:13:42
comunitarie, dentro una visione della cultura che non separa il sapere dal dovere di
00:13:48
custodire.
00:13:49
E trovo significativo che, in esperienze diverse tra loro, dall'Africa alla Nuova
00:13:54
Zelanda, fino ad altri contesti indigeni, torni spesso anche il riferimento
00:13:59
all'ambiente.
00:14:00
Come se la domanda non fosse soltanto: questa tecnologia funziona?
00:14:05
Ma anche: per chi funziona, con quali conseguenze, e quale mondo aiuta a mantenere
00:14:11
in vita?
00:14:13
In Amazzonia, per esempio, un piccolo team di ricercatori ha utilizzato droni con AI
00:14:18
per monitorare la deforestazione.
00:14:20
Anche qui, la tecnologia entra in scena per osservare un territorio fragile,
00:14:25
per capire come preservarne alcune parti.
00:14:27
Poi certo, resta una domanda aperta, quasi inevitabile: chi userà davvero quei dati?
00:14:33
Chi agirà?
00:14:34
Chi si assumerà la responsabilità delle decisioni?
00:14:37
Non lo sappiamo.
00:14:38
Ma il fatto stesso che l'AI possa essere messa al servizio della tutela,
00:14:42
e non solo dell'estrazione o del controllo, ci mostra un'alternativa concreta.
00:14:49
E un'altra alternativa arriva dal popolo Sámi, in Finlandia,
00:14:53
dove si guarda all'intelligenza artificiale anche per trasmettere alle nuove
00:14:57
generazioni la conoscenza tradizionale legata, per esempio,
00:15:01
alla migrazione delle renne.
00:15:02
Qui l'immagine è quasi perfetta: sensori modernissimi da una parte,
00:15:07
e dall'altra una saggezza ecologica millenaria custodita dagli anziani.
00:15:12
Non una contro l'altra.
00:15:13
Insieme.
00:15:14
Come se il futuro, per essere davvero all'altezza di sé, avesse bisogno di imparare
00:15:19
a non disprezzare la memoria.
00:15:22
Forse è proprio questo che l'etnografia dell'AI ci insegna.
00:15:26
Che il mondo è grande, vario, meravigliosamente non uniforme.
00:15:30
E che una tecnologia degna di questo nome non dovrebbe chiedere alle culture di
00:15:35
assomigliarsi per poter essere comprese.
00:15:37
Dovrebbe, semmai, imparare a incontrarle meglio.
00:15:40
La diversità culturale non è un ostacolo da superare.
00:15:44
È un tesoro.
00:15:45
E credo davvero che per le nuove generazioni possa diventare una forza immensa,
00:15:50
se sapremo costruire strumenti capaci di ascoltare, custodire,
00:15:54
restituire.
00:15:56
E allora sì, forse la domanda iniziale resta aperta.
00:15:59
Le AI capiscono il nostro mondo?
00:16:02
Non ancora, non fino in fondo.
00:16:04
Ma il modo in cui sceglieremo di educarle dirà moltissimo di come noi,
00:16:08
esseri umani, scegliamo di capire il mondo gli uni degli altri.
00:16:12
E da qui...
00:16:13
secondo me, vale la pena ripartire, ancora.

