Ciao Giacomo,
ti rispondo rimettendo in CC la lista che magari qlcn altro vuole
intervenire e ti rispondo solo in calce alle conclusioni, anche perché
come dici, molte cose sono già terreno comune.
Il 24/04/23 16:16, Giacomo Tesio ha scritto:
> Ciao Agnese
>
> On Mon, Apr 24, 2023 at 10:11:06AM +0200, Agnese wrote:
>>> Altrimenti inizieremo a trattare le persone come oggetti, buttandoli via
>>> quando si rompono, danno fastidio o sono in qualsiasi modo inadatti a scopi...
>>> che non saranno nemmeno i nostri.
>>
>> perché leggendo qui mi pare che siamo d'accordo, parliamo entrambi della
>> centralità della relazione.
>
> Per la verità, credo che siamo d'accordo su molte cose Agnese, ma in
> questo caso specifico, non sono certo che ci sia una relazione.
>
> La relazione è centrale se è bidirezionale.
>
> Lo può essere fra esseri umani, fra esseri umani e animali, prersino fra
> esseri umani ed ecosistema e così via... perché ciascuna di queste entità
> (incluso l'ecosistema) include diverse soggettività.
>
> Ma non si può avere una relazione con un sasso.
>
>
> Il bambino può giustamente credere di avere una relazione con un sasso o
> con un pupazzo (come dicevo, l'animismo deve aver svolto una qualche
> funzione evolutiva importante per l'uomo, per presentarsi così
> facilmente sin dall'infanzia), ma un adulto deve acquisire piena
> consapevolezza, sopratutto nella società cibernetica in cui viviamo,
> della distinzione fra cose e persone.
>
>> Ci sono i pentiti della silicon valley (quelli di humanetech) che in un
>> episodio del podcast [1] dove si stracciano le vesti mentre osservano lo
>> sviluppo selvaggio delle "ai", parlano di relazione come "la tecnologia più
>> trasformativa" "Relationships are the most transformative technology that I
>> think human beings have."
>
> Non mi sorprende: saranno pure pentiti, ma sono cresciuti in quel
> sistema culturale e concettuale.
>
>
>> Quando parliamo di esseri tecnici non è per umanizzarli (e infatti sono
>> esseri "tecnici" non "umani") ma per porre l'accento sul valore della
>> relazione che si instaura, che non deve essere di servitudine, pena il non
>> liberarsi dalla catena di obbedienza e comando.
>
> Il problema della locuzione "esseri tecnici" non sta nel termine "tecnici" ma
> nel termine "esseri": non sono, esistono.
>
> Sono agenti cibernetici, agiscono nel sistema cibernetico in cui sono
> inseriti riproducendo meccanicamente la volontà impressa nel loro codice
> dai loro progettisti / amministratori.
>
> Il fatto che esistano è di per sé discutibile.
> Esiste un software? Probabilmente sì, come esiste un romanzo.
> Ma le copie del romanzo sono il romanzo? E le diverse versioni (magari
> complete riscritture, come è avvenuto in passato per innumerevoli
> software, da GCC a Linux) sono lo stesso software? Perché?
> E le diverse esecuzioni? Sono lo stesso software se eseguiti con
> parametri diversi che ne alterano lo stato iniziale?
>
> Ma assumiamo che questi artefatti esistano in un qualche loro modo:
> in fondo ne percepiamo gli effetti.
>
> Sono?
>
> No.
>
>
> Non c'è alcuna soggettività in un artefatto.
>
> Ogni esecuzione di echo è identica a tutte le altre equivalenti.
>
> Persino in un verme come il Caenorhabditis elegans o persino ad una
> pianta possiamo attribuire una soggettività che un software non ha.
>
> E anche se lo programmiamo per alterare la propria configurazione a
> runtime sulla base dell'input ricevuto, tale variazione sarà
> predeterminata ed identica (a parità di stato iniziale e di input) a
> quella prodotta da tutte le altre copie di quel software.
>
>
> Dunque questi agenti cibernetici automatici non sono.
>
>
>
>> Nel raccontino "L'echo del capo" [2], avevo proprio ragionato su questo
>> scrivendo che se ci abituiamo a trattare male gli assistenti vocali, molto
>> facilmente ripeteremo le stesse dinamiche relazionali con gli esseri umani.
>> Penso ad un'educazione alla gentilezza e al valore delle relazioni che in
>> quanto cyborg intratteniamo sia con tecnologie che con umani.
>
> Sono cose, Agnese.
>
> Trattarle male è tanto futile quanto trattarle bene.
>
> Con una differenza.
>
>
> Lungi dall'abituarci a trattare bene il prossimo, questi agenti
> cibernetici progettati per ingannare l'uomo in quel diabolico gioco di
> imitazione ormai del tutto sfuggito di mano, lo sostituiscono quel
> prossimo.
>
> E non penso affatto ai problemi economici e lavorativi.
>
> Penso proprio alle relazioni.
>
>
> Già quando facciamo una teleconferenza, stiamo sostituendo l'incontro
> fra persone con un surrogato automatico. Non parliamo con
> l'interlocutore. Parliamo con un oggetto. Che incidentalmente (forse)
> trasmette le nostre parole all'interlocutore e a noi le sue. Ma talvolta
> le altera, come avviene con gli sfondi durante una teleconferenza.
> E potrebbe alterare qualsiasi altra cosa.
> L'interlocutore stesso, potrebbe non essere (pur esistendo a runtime),
> come avviene con Replika e con gli assistenti virtuali.
>
> Naturalmente, se prendiamo in considerazione il "machinista", allora
> torniamo ad una relazione, bidirezionale ed umana, seppur oppressiva e
> manipolatrice per le persone ridotte ad "utenti".
>
> Quando parli con Alexa, parli con Bezos e i suoi dipendenti.
>
> Ciò che ti dice sarà sempre anziutto conforme ai suoi interessi e solo
> secondariamente ai tuoi.
>
>
> Idem quando parli con il consiglio di amministrazione di Open AI tramite
> ChatGPT, quando parli con il CdA di Google tramite Google Assistant
> etc...
>
> Ma è con loro che sei gentile essendo gentile con l'assistente vocale.
>
> Con loro che ti manipolano comodamente nascosti alla tua coscienza
> dall'assistente vocale, che non è (in quanto software sostituito N
> volte al giorno).
>
>
> Anche se intuisco l'utilità pedagogica della narrazione basata sugli
> "esseri tecnici", che fanno apparire meno fredde e noiose queste COSE ai
> ragazzi, inizio a pensare che il risultato possa essere invece quello di
> puntellare l'egemonia dominante (basata su rapporti di potere sempre più
> invisibile e dunque sempre meno responsabile).
>
>
> Laddove il capitalismo statunitense spinge per far accettare dei
> giocattoli come AGI che sottraggano chi le diffonde dalle proprie
> responsabilità morali e legali, noi dovremmo spingere dalla parte
> opposta, non puntellare quella narrazione.
>
>
>> Ovviamente non vuol dire che non posso aprire, smontare o rompere la
>> macchina, anzi, ma già nel buttarla magari mi approccio non in modo
>> consumistico ma attento, perché il valore di quella tecnologia sta anche nel
>> rapporto che ci ho instaurato.
>
> E' questo che è pericoloso, Agnese: l'ideazione di un rapporto con lo
> strumento che non sia strumentale.
>
> Non hai bisogno di proiettare un soggetto sullo strumento per evitare
> un approccio consumistico alla sua dismissione. Ti basterà la
> consapevolezza della potenziale utilità dei suoi componenti per altri
> scopi.
>
> E d'altro canto, quando l'agente cibernetico in questione è un software,
> la rimozione del file non deve remore.
> (ad esclusione della preservazione della cultura che quel software può
> esprimere, come sorgente scritto da qualcuno e di interesse per qualcun
> altro...)
>
>
>
>> In un mondo dove macchine e umani non sono più facilmente distinguibili
>> (come social media manager ho visto gente innamorarsi dei chatbot di
>> messenger) la relazione empatica è già sfruttata e già subiamo la
>> manipolazione delle macchine asservite a scopi estrattivi.
>>
>> Un approccio diverso all'oggetto tecnico, il non vederlo più come mero
>> servitore, forse può aiutarci anche a non esserne asserviti.
>
> Temo che invece accellererà l'alienazione cibernetica di massa.
>
> Solo vedendo lo strumento come tale e comprendendone pienamente il
> funzionamento (tanto da poterlo smontare e rimontare in modo diverso)
> possiamo sottrarci a questa alienazione.
>
> Ma persino studiare, ad esempio, come funzionano le "reti neurali" o i
> "large language model" con i loro "attention layer" può accellerare
> l'alienazione se non si tiene sempre ben chiara in mente la distinzione
> fra narrazione ("esseri tecnici", "macchine cognitive", "intelligenze
> artificiali" etc...) ed effettivi meccanismi di funzionamento.
>
>
>> Ecco è un po' questo. E sì, sono licenze poetiche, ma non pericolose secondo
>> me, anzi generative, per usare un termine oggi un po' abusato, che ci
>> consentano di vedere le cose da diverse prospettive.
>
> Mi è chiaro: sono consapevole che tutto ciò che ti ho scritto a te è
> probabilmente già chiarissimo.
>
> Apprezzo la licenza poetica, ma TEMO il suo effetto sociale.
>
>
> E temo che sperare di poter sfruttare oggetti prodotti dal sistema
> militar-industriale per educare l'umanità al rispetto reciproco sia
> pericolosamente ingenuo.
lungi da noi! Sono altre le macchine con cui vogliamo accompagnarci,
>
> Sono tecnologie di dominio e oppressione.
>
> Al limite vanno temute, non rispettate.
>
o disertate...
> Agli strumenti non dobbiamo attribuire alcuna dignità intrinseca.
> Esistono per una funzione. Dobbiamo averla chiara nella sua completezza
> per non farci opprimere.
penso all'artigiana con i suoi strumenti, il liutaio, la contadina,
l'artista, lo strumento di ognuna di queste figure ha una dignità
intrinseca. Eppure questo non toglie che vada aperto, smontato,
rimontato, hackerato, rotto o buttato se necessario!
>
> Ma mai proiettare su di loro alcuna soggettività.
>
> Ogni goccia di dignità che gli attribuiamo, è dignità che finiremo per
> togliere ad altri esseri umani... a vantaggio di chi li controlla.
secondo me invece gli approcci non si escludono a vicenda, attribuire
dignità alle tecnologie con cui viviamo (anche se non sono vive, ok),
non vuol dire togliere qualcosa agli esseri animati.
E soprattutto vuole essere uno sprone ad aprirle, metterci le mani
sopra, capire come sono fatte e riconoscere le tecnologie del dominio
che di solito tendono a essere molto più opache proprio a nascondere le
interazioni di potere e le scelte degli umani che ci stanno dietro come
dici anche tu.
>
>
> A presto!
> (e scusa per questa luungaa risposta... :-D)
di niente, ho risposto un po' capricciosamente :)
buona giornata!
a-
>
>
>
> Giacomo
>
--
"IMA - Internet, Mon Amour -
https://ima.circex.org"
"C.I.R.C.E. -
https://circex.org"
