Il 25/01/24 09:52, I-330 via Hackmeeting ha scritto:
> Io per esempio su questo punto sto iniziando ad avere una posizione
> contraria. Nel contesto dei LLM una funzione importante di tutta la
> produzione scritta non mainstream secondo me potrebbe essere quella di
> creare rumore contro l'acquisizione di bias. Se dobbiamo avere ChatGPT
> in italiano preferisco sapere che mi rigurgita materiale da Noblogs
> invece che da Reddit. Questa pero' e' una posizione che presuppone la
> convinzione che l'esposizione a un certo tipo di linguaggio abbia un
> effetto sull'organizzazione sociale, quindi non necessariamente
> condivisa da tutte.
Non è detto che ChatGPT nella versione italiana non abbia anche usato i
testi presenti su noblogs nell'addestramento. Per dire, per ridere, nel
senso che il risultato potrebbe essere esattamente lo stesso. Testi
minoritari privi di bias (se sono privi di bias), elaborati da un
sistema statistico e commerciale, così ampio, rimangono comunque
minoritari. Per incidere sui pesi devono essere maggioritari. In quei
sistemi statistici c'è la dittatura della maggioranza. Un riformismo
interno ai pesi lo vedo difficile. L'unico intervento chi si può pensare
è la censura o l'introduzione di filtri molto puritani e ipocriti (tipo
censura fatta dai giusti e i buoni). Quando interagisci con ChatGPT
sembra di essere in un salotto vittoriano, con scuse continue e
aggiustamenti di dialogo anche se a sbagliare sei tu.
Se pure avessero un qualche peso i contenuti minoritari, questa idea
presuppone anche che consideri tutti gli utenti di noblogs come
appartenenti a una comunità omogenea, che condivide stesse posizioni e
desideri, priva di pregiudizi. Un'idea romantica ma che cedo sia molto
lontana dalla realtà. Almeno anche nel movimento sul sessismo c'è ancora
molto da lavorare, per quello che ne so io.
Detto in modo più astratto, il blog è il primo strumento in cui si è
espresso il cambiamento radicale del web che poi hanno chiamato "web
2.0". Il passaggio da web fatto di pagine a quello fatto di testi o
media contenuti in una identità, che sia collettiva o meno non cambia.
Le identità tra loro non sono omogenee, possono solo creare gruppi con
desideri condivisi, credo.
>
>> 6 Quali aspetti dell'IA possono assumere questo ruolo e come?
> colleghe native americane negli USA stanno sperimentando l'uso di
> chatbot come metodo di mantenimento e revitalizzazione di lingue
> indigene che sono quasi scomparse per via della colonizzazione. non ho
> ancora letto articoli che fanno il punto di questi progetti, ma mi
> sembrava un uso della IA che seguisse le necessita' di una comunita'
> solitamente ignorata sia dall'accademia che dalle grandi aziende
> tecnologiche.
questo è interessante perché si parla di una comunità con desideri
condivisi che adotta un dispositivo per seguire quel desiderio, nella
consapevolezza che si tratta di un dispositivo
> OT su Chomsky e la linguistica:
>
> la teoria di funzionamento del linguaggio di Chomsky nega che la lingua
> sia composta di pattern statisticamente osservabili. la sua posizione
> contro l'IA e' motivata da un'impostazione teorica nello studio della
> lingua che non e' condivisa da tutta la linguistica (anzi dalla maggior
> parte del campo oggi). se credi che la competenza nel linguaggio sia
> innata e dovuta a un elemento biologico posizionato nel cervello umano,
> allora per definizione nessuna macchina puo' 'apprendere'. oggi non e'
> piu' comune credere che l'apprendimento linguistico funzioni in questi
> termini e quindi il concetto stesso di 'apprendimento' (o 'intelligenza'
> come la chiama lui) va ridefinito. credo sia piu' interessante sentire
> cosa hanno da dire al riguardo ricercatrici che considerano la lingua
> come insieme di costruzioni grammaticali associate a relativi pattern
> statistici acquisiti da stimoli esterni. una posizione simile a Chomsky
> (ma piu' sofisticata dal punto di vista linguistico) ce l'ha Emily
> Bender (magari la conoscete come la co-autrice del paper per cui Timnit
> Gebru e' stata licenziata da Google) e si puo' leggere qui:
> https://aclanthology.org/2020.acl-main.463/
è la vittoria della statistica.
Durante hackmeeting di Torino, due anni fa, c'è stato un talk molto
interessante, di un ricercatore universitario (non ricordo il nome)
proprio su questi temi. Bello quel talk perchè il ricercatore cercava
di spiegare in modo comprensibile i modelli statistici alla base di
questi sistemi, ma anche perchè si capiva che voleva affermare una cosa
che sentiva urgente, cioè che i bias sono ineliminabili. Lo diceva con
una certa sicurezza ma anche inquietudine perchè si considerava parte
lesa nell'emergere di quei modelli, personalmente. Forse un ricercatore
diverso da quelli che ci raccontavi tu all'inizio, forse perchè era
venuto ad HM sapendo che era un luogo politico e aveva un'urgenza politica.
Per quello che ho capito (non so molto di statistica) mi è sembrato che
quei modelli possano essere associati alla versione più rigida dello
strutturalismo nella filosofia del linguaggio (sono discorsi un po'
filosofici e complessi e io mi ci muovo da dilettante)
Quei modelli mi sono sembrati una visione rigida dello strutturalismo
perché c'è un'idea di corrispondenza tra parola e oggetto molto rigida.
Potrei spiegarla così per spiegarmi:
Immaginiamo due grandi insiemi:
- uno è l'insieme del linguaggio inteso in senso universale, tutte le
parole esistenti
- l'altro è l'insieme del mondo, inteso come tutta la realtà a cui
appartiene anche l'essere umano con tutti le sue relazioni con altri
esseri e cose.
In quei modelli i due insieme vengono considerati come completamente
sovrapposti dai ricercatori. Mentre anche nello strutturalismo, se
esistono quei due insiemi, la loro intersezione è solo per una piccola
porzione.
Questo è il bias più grande che abbiamo nei confronti del linguaggio,
quello più diffuso, che diamo per scontato. C'è nel mondo un larga parte
di cose che non si possono dire o che ancora non sono dette.
Anche nello strutturalismo la corrispondenza tra il significate e il
significato, ( tra una parola e il suo oggetto) è controversa. De
Saussure usa la definizione di "immagini sonora" per indicare il fatto
che quando uso la parola "sedia" penso a una sedia, ma quale sedia? che
caratteristiche ha?. Un problema irrisolto nello strutturalismo e forse
mai risolto.
Un idea così povera della linguistica che non vede tutte le critiche del
post-strutturalismo o altri filoni che hanno superato di molto i limiti
dello strutturalismo, figurarsi quello ridotto all'osso di quei modelli,
non è per niente una buona notizia. Però negli statistici come negli
ingegneri mi aspetto sempre un atteggiamento soluzionista e poco
predisposto all'inutile filosofeggiare. Questo mi da l'impressione che
siamo di fronte a strumenti di governo veri e propri, che passano
attraverso la riorganizzazione anche del lavoro.
Quando sento la frase ormai reclamizzata ovunque: "dobbiamo pensare a
come governare le intelligenze artificiali" mi sembra che in realtà si
dica: "dobbiamo pensare come introdurre questi nuovi strumenti di
governo nella nostra vita". Non è sufficiente girare lo sguardo
dall'altra parte, o rifiutarne l'uso. Come diceva il poeta "per quanto
vi sentiate assolti siete comunque coinvolti". E' importante
sperimentare e discuterne.
La corrispondenza tra intelligenza e linguaggio è davvero discutibile,
ma che si usi la definizione "intelligenza artificiale" ormai bisogna
farci la pace. Come diceva Antonio Caronia, questo è il carattere
materiale dell'immaginario tecnologico. Pensa ai robot, ormai esistono,
non sono né quelli di Kapec o Asimov né quelli di Mask, ma quelli
presenti nella fabbrica della Fiat come braccia meccaniche, destinati a
un'unica funzione. Sottolineare che non sono i veri robot è inutile.
Come sottolineare che non è intelligenza è inutile, anche perché nessuno
sa cosa è l'intelligenza.
So che in questa in questa lista è poco apprezzato il dibattito, ma
questa lunga premessa scritta male, era per dire che ad AKME a Milano
stiamo discutendo di questi temi con lentezza e senza stress.
Siamo partiti dagli automi cellulari, grazie al lavoro di giodim.
Modelli completamente diversi. Non li stiamo analizzando solo attraverso
il codice ma parlando delle idee di mondo che ci sono dietro, le
metafore usate e cercando di ragionarci insieme. Pina piano stiamo
arrivando ai modelli linguistici. Se qualcuno su Milano è interessato:
https://www.pianoterralab.org/events/a-k-m-e-automi-linguaggi-simulazioni-2/
that's all
lo
