ciao
ho la sensazione che alibi, giustificazioni e assoluzioni siano i motivi
per cui vengo interpellato a proposito di "tecnologie" e di "usi
giusti", "usi sbagliati". Con la marea montante dell'idiozia IA la cosa
ha assunto proporzioni grottesche.
chiedo il vostro parere, visto che non ho idee chiare in merito. ecco
qualche esempio, di persone molto diverse in contesti molto diversi
(personali, lavorativi, ecc)
- l'attivista tal dei tali chiede: trovo estremamente funzionale
ricorrere a Canva AI [non sapevo esistesse...], i volantini che faccio
sono migliori. Non è questo un buon uso dell'IA? Che ne dici?
- il professore tal dei tali chiede: trovo molto comodo chiedere a X (un
qualsiasi sistema di identificazione di plagio, ce ne sono sempre di più
in giro) di riconoscere se i compiti degli studenti sono plagiati. Non è
questo un buon uso dell'IA? Che ne dici?
- il conoscente tal dei tali chiede: per buttar giù idee su copy (o
anche: abbozzare due righe di python, ottenere rapidamente enne proposte
di sketch da realizzare in una rappresentazione/formazione, ecc ecc)
ChatGPT mi funziona benissimo (o qualsiasi altro LLM a disposizione, a
scelta). Non è questo un buon uso dell'IA? Che ne dici?
potrei continuare a lungo. troppo a lungo perché siano dei casi, mi
sembrano situazioni con somiglianze di famiglia, le Familienähnlichkeit
di Wittgenstein...
la cosa mi inquieta, e non so dire esattamente perché. ci penso da un
po'. mi sono confrontato con altre persone con cui collaboro ecc, di
seguito vi sintetizzo le riflessioni che ne sono uscite.
innanzitutto queste persone pongono domande a me come "esperto" (non lo
sono, tanto meno nello specifico dell'IA, ma dal momento che nel mondo
dei ciechi l'orbo è re, non volendo esser re che poi finisce decapitato,
purtroppo non abbastanza di frequente, mi ritrovo a far l'esperto...).
sono loro a collocarmi in quella condizione, a cui io mi presto
(probabilmente per abitudine, ma anche perché gratifica il mio
narcisismo, ecc.). mi rimane però un senso di fastidio che rapidamente
evolve in irritazione incazzatura ecc.
poi, non si tratta di vere domande: nel senso che quando cerco di
replicare, hanno già un discorso pronto, e in ogni caso una linea di
difesa della loro condotta, che va dal "così fan tutti" al "tanto cosa
cambia, se io mi astengo? la mia sottrazione singola è irrilevante" al
"fare i duri e puri non paga", fino a "hai un atteggiamento ideologico",
"vuoi sempre avere ragione", "non tieni in considerazione che non tutte
le persone hanno le tue capacità, usiamo le cose che abbiamo a
disposizione, che alternative ci date voi tecnici???" (pure questa... ma
vaff...), ecc.
se replico: guarda, fai come ti pare, non vorrei mai porre un veto
proibizionista, ma considera che l'impatto energetico (e quindi
ecologico ecc.) di 'sta roba è devastante,
mi sento rispondere: sì ma io ne faccio un uso modesto! E poi, dovrei
sentirmi in colpa per qualcosa che non ho creato io? è solo uno
strumento, dopotutto.
fin qui siamo agli alibi e giustificazioni. C'è poi la ricerca di
assoluzione, cioè una persistente richiesta di derubricare certi usi da
"scorretti, quindi sbagliati, ergo da evitare" a "tutto sommato
accettabili" fino a "meno peggio di altri" o perfino "risolutivi,
risparmiatempo, migliorativi" con l'attenuante generica del "cmq uso
questa cosa per scopi nobili". Quindi, dismetto i panni dell'esperto e
devo passare al sacerdozio, perché mi viene richiesto di formulare al
limite delle penitenze (usalo meno, non esagerare, moderazione che poi
diventi cieco, ecc.; oppure: prova questa o quella IA che hanno
dichiarato "etica", ecc.); e infine di assolvere e mandare in pace.
questa sensazione dipende dalla mia inevitabile (cultura italiana...)
tendenza all'interpretazione cattolica, oppure risuona anche al di là
delle mie idiosincrasie? non è una domanda retorica.
tutto ciò mi fa pensare che questa idiozia pericolosa e nociva dell'IA
debba il suo successo a un profondo radicamento nelle più inconfessate e
inconfessabili fantasie di dominio delle persone. Una persona appena
capace di far due ragionamenti non capziosi penso concorderebbe che, con
catastrofi ecologiche in atto, devastazioni su scala massiva senza
precedenti ecc. investire quantità favolose di energie e denari,
sfruttando risorse e persone in una concentrazione straordinaria di
potere per mettere in piedi una faccenda gigantesca che non si sa bene
come funziona (ma funziona senz'altro in maniera probabilistica,
tradotto: accazzo)... e che dovrebbe sistemare le cose (la fame nel
mondo, il riscaldamento globale, la carenza di personale medico per
diagnosi rapide, ecc ecc), è SUICIDA. con rispetto per il suicidio come
scelta di sottrazione, s'intende un suicidio lento e sofferto, non
rapido e indolore.
Allora come mai queste persone, stereotipate negli esempi sopra, ma
senz'altro non stupide, non si rassegnano e vogliono a tutti i costi
giustificare degli usi ingiustificabili? Da dove viene questa
caparbietà, che si manifesta sempre nel ribattere: "sì ma... se
investissimo meglio, se l'IA (che non esiste, d'accordo, ma chiamiamola
così per capirci - [ma perché non possiamo cambiare nome allora???])
fosse nelle mani giuste, se correggessimo i dati, se sistemassimo gli
errori, se pagassimo bene chi annota, se le persone fossero più
consapevoli, se limitassimo la grandezza, se costruissimo sistemi non
biased (!!! NON SI PUO'!!!), se migliorassimo gli algoritmi, se i
modelli di fondazione fossero aperti, se il pubblico limitasse lo
strapotere dei miliardari bianchi padroni sociopatici che hanno in mano
'sta roba, se la distribuissimo alle minoranze oppresse, se se se...,
non sarebbe una fantastica occasione???"
Non mi spiego questa ostinazione se non ipotizzando che c'è del pensiero
magico in tutto ciò. Non di quello emancipatorio e liberatorio, non di
magia gentile e meravigliosa, ma di magia nera, perversa e reazionaria.
Anche qui, non so se è dovuto alle lenti della mia cultura e formazione
(illuminismo, enciclopedismo, ecc.), ma percepisco un irrazionalismo
tenace, una volontà di non guardare le cose per quello che sono, un
rifiuto del reale a favore di una fiction condivisa dai più, per
mascherare le cose brutte con dei desiderata fittizi, consolatori. Una
sorta di "rifugio in un mondo senza cuore" (cf. Christopher Lasch),
anzi: un prompt che dà accesso a una dimensione fantastica.
Pur da relativista convinto, al là dei differenti punti di vista,
continuo a pensare che una bomba rimane una bomba. Nulla potrà farla
diventare una zappa, a meno che non ci raccontiamo la favoletta che
delle bombe sganciate con precisione chirurgica (da un'IA sviluppata per
il bene comune, s'intende!) possono creare dei solchi rettificati pronti
per la semina, con un costo e una fatica assai inferiore rispetto ad
altri metodi... Alibi, giustificazioni e assoluzioni.
Ipotizzo che ci sia dietro la figura dell'apprendista stregone. La
fantasia di qualcuno che fatica al posto tuo. La fantasticheria
dell'automazione automatica, della parola che si fa operazione,
attività, creazione. La perversione della divinità onnipotente,
onnisciente. Il sogno morboso di poterla dominare, asservire per i
propri (giusti, ci mancherebbe!) scopi e necessità.
Se le cose stanno così, ragionare, spiegare, distinguere, criticare sono
azioni magari adeguate per confortarsi, per non farsi travolgere dal
delirio generalizzato di discorsi insensati, ma difficilmente possono
aiutare a cambiare direzione.
Mi sento sempre più usato da queste persone che mi chiedono alibi,
giustificazioni e assoluzioni. Siccome alla fine mi ritrovo esausto e
insoddisfatto, cerco di elaborare delle tattiche di diserzione. Ipotesi
attuali: Non voglio dibattere. Non voglio replicare. Non voglio
impegnarmi in finti dialoghi che sono in effetti monologhi di persone
che hanno già deciso che è tutto OK, bisogna solo non esagerare, fare
attenzione, ma cmq siamo i buoni, non siamo i cattivi, mica ammazziamo,
mica deprediamo, mica facciamo del male, suvvia!
Senza mezzi termini, temo che questo atteggiamento di finta richiesta
sia un'estensione dei piccoli Eichmann a cui accennava Lewis Mumford:
"In every country there are now countless Eichmanns in administrative
offices, in business corporations, in universities, in laboratories, in
the armed forces: orderly obedient people, ready to carry out any
officially sanctioned fantasy, how ever dehumanized and debased."
Mumford, Lewis (1970). The Pentagon of Power: The Myth of the Machine,
Vol. II. New York City: Harcourt Brace Jovanovich. p. 279
https://archive.org/details/pentagonofpower00mumf/page/278/mode/2up
Eichmann non è abbastanza però, perché nella stereotipia della banalità
del male (cf. Hannah Arendt) è un uomo qualunque e basta, che per far
avanzare la sua carriera fa cose orrende, ma senza odio e senza senso di
colpa; cioè non è un sociopatico né uno squilibrato né uno psicopatico.
qui invece parliamo di persone che sono convinte di far cose buone: un
peggioramento notevole a livello psichico, un evidente aumento di
alienazione tecnica (non capiscono o non vogliono capire le implicazioni
di quel sistema tecnico) che conduce a un aumento di alienazione
psichica (faccio una cosa pensando che sia OK, ti chiedo insistentemente
perché non vuoi dirmi che è OK...) e ad un aumento di alienazione
sociale (IA è OK, chi dice il contrario ha un atteggiamento ideologico).
le obbedienti persone ordinarie a cui si riferisce Mumford in questi
casi non obbediscono solo a una moda esteriore, a una pressione
socio-psicologica esterna, ma anche e soprattutto a motivazioni
interiori: obbediscono a una brama di controllo sulla materia, sul mondo
esterno, svincolata dalla conoscenza delle specificità locali, dalla
familiarità e dalla cura delle situazioni concrete; obbediscono a un
desiderio apparentemente disincarnato di creazione ex nihilo, del tutto
falso vista la quantità di materia ed energia e sistemi complicati che
funzionano necessari a rendere operativo il prompt, ma convincente a
livello di fiction perché veicolata attraverso la rassicurante
interfaccia del servo meccanico sempre disposizione, gentile e
premuroso, pronto a scusarsi per le catene di parole fattualmente
scorrette che metterà insieme; un'evoluzione dell'elettrodomestico che
aiuta non solo le casalinghe frustrate e sfruttate dal sistema
patriarcale, ma qualsiasi persona vessata dalla società della
prestazione, che trova sollievo all'angoscia di non essere all'altezza
grazie all'aiutante magico.
obbediscono, infine, al godimento dell'autoabuso dopaminergico, di
buttar dentro la qualsiasi nel prompt e cliccare, e godere della zona
della macchina, dell'aura della macchina che fa, opera, mentre ce ne
stiamo lì in panciolle ad aspettare il responso...
ok s'è fatto tardi e c'è parecchio da fare, nel mondo reale, tanto per
divertirsi a passare il tempo che rimane :D
ciao ciao
k.
--
"tecnologie conviviali -
https://tc.eleuthera.it"
"tecnologie appropriate -
https://alekos.net"
"pedagogia hacker -
https://circex.org"
