Sto scrivendo un pippone galattico sull' #AI

[oblomov@sociale.network]

@77nn purtroppo nessuna considerazione tecnica sullo strumento risolve i problemi etici

[aaronwinstonsmith@mastodon.bida.im]

@oblomov @77nn il paragone con la macchina da scrivere non regge. La macchina da scrivere dai esattamente come funziona, un sistema AI per sua natura e' una black box. Inoltre quando si parla di usare una AI sempre si intende usare una AI sotto il controllo di altri

[77nn@goto.77nn.it]

@aaronwinstonsmith @oblomov
Hai pienamente ragione. Quello del controllo è un problema, che si può mitigare. Quello della black box, non lo è necessariamente.
Ci sono scenari e casi d'uso dove questo tipo di output può aiutare a patto di determinati accorgimenti.

[kappazeta@mastodon.bida.im]

@77nn
e che dire del gigantesco furto su cui queste tecnologie sono costruite? furto che peraltro implica una colossale opera di privatizzazione della conoscenza (la più grande della storia umana) per il profitto di pochi? e l'enorme consumo di energia, acqua e terre rare per cui le aziende big tech hanno abbandonato i già scarsi impegni per il clima? e tutto il lavoro sfruttato e nascosto (di solito nel sud del mondo) che serve a far sembrare tutto automatico ciò che automatico non è, dato che quello che dicono di vendere non corrisponde alle reali capacità della tecnologia in questione? il fatto che siano black box sta quasi diventando il problema minore...
@aaronwinstonsmith @oblomov

[77nn@goto.77nn.it]

@kappazeta @aaronwinstonsmith @oblomov

E infatti sono questi i problemi che rendono la tecnologia poco appetibile ad alcuni, gli aspetti etici. È vero, forse non serviva questa cosa, e il come è stata realizzata lascia a desiderare, tra tuffe, furti di proprietà intellettuale e sfruttamento del lavoro. Ma abbiamo accettato - stiamo accettando - altrove beni, servizi e organizzazioni fondate su secoli di abusi e comportamenti anti-etici.

Non sto assolvendo nessuno, ci mancherebbe, ma forse andrebbe scorporata la quota ideologica dalle critiche.

Gli aspetti energetici sono altrettanto preoccupanti. Ma credo che si stia lavorando a soluzioni ben più compatte, specializzate, meno "extra-large" . Spero più sostenibili.

Per gli aspetti tecnici, parlare di privatizzazione della Conoscenza non mi pare corretto. Nessun LLM genera conoscenza e nessun LLM viola diritti. Per farlo dovrebbe essere un umano. È l'umano che utilizza la palettata di testo pseudocasuale che eventualmente viola diritti di qualcun altro. Sia chi la vende senza avvisare che chi la compra, ça va sans dire. Che nella sua ignoranza prende per buono senza capacità di verificare. Questo è il punto cruciale, secondo me. Ma il discorso è troppo lungo da fare adesso...

[oblomov@sociale.network]

@77nn @kappazeta @aaronwinstonsmith

il fatto che su altro si sia ceduto collettivamente, ed anche su questo l'indirizzo non sembra molto promettente, non è un buon motivo per riconsiderare. Al contrario, è doppiamente importante resistere, perché ogni cedimento è uno slittamento della finestra di Overton.

[aaronwinstonsmith@mastodon.bida.im]

@oblomov @77nn @kappazeta in merito al furto di proprità intellettuale, vi ricordo che la proprietà è un furto già in se

[oblomov@sociale.network]

@aaronwinstonsmith @77nn @kappazeta ricordo a questo proposito che la massima di Proudhon, per quanto suggestiva, è (1) incoerente, come già osservato da altri pensatori dell'epoca e (2) abusata oltre i limiti per la quale era stata intesa

[kappazeta@mastodon.bida.im]

@77nn
gli LLM sono stati creati usando testi in rete e libri (centinaia di migliaia) senza nessuna autorizzazione, credito o compensanzione. hanno letteralmente rubato tutto per costruire tecnologie proprietarie non aperte. è il più grande furto della storia dell'umanità, compiuto nel nome di interessi economici privati. che sulla base di questo gli LLM risputino fuori sequenze di parole non affidabili, sotto questo aspetto, è quasi irrilevante.
@aaronwinstonsmith @oblomov

[kappazeta@mastodon.bida.im]

@77nn
aggiungo: a scorporare l'analisi politica da quella tecnologica si commette un errore basilare. la tecnologia non è mai neutra e la questione è sempre politica. poi uno può concentrare l'analisi su alcuni aspetti particolari, ma a partire dal quadro generale, altrimenti mancano proprio le fondamenta.
@aaronwinstonsmith @oblomov