Gemini, mi prendi per i fondelli?

[mau@poliversity.it]

Gemini, mi prendi per i fondelli?

@aitech - Per usare al meglio Gemini, bisogna dirgli di non essere troppo leccapiedi

https://wp.me/p6hcSh-9iG

[pare@sociale.network]

@mau
Anche a me ultimamente è capitato di provare un servizio di #ImbonitoreArtificiale (IA).

Stessa dinamica: facevo domande impersonali, ricevevo risposte enfatiche e sbagliate, che mi elogiavano dandomi del "tu".

Ho reagito in maniera diversa (se non mi pagano non lavoro per istruire il loro modello): ho scritto "Ho capito", ricevendo complimenti anche se sbagliavo tutto.

Sembra che i modelli centralizzati abbiano come unico scopo lodare e creare dipendenza, il meglio è non usarli.
@aitech

[mau@poliversity.it]

@Pare sarebbe interessante capire perché è stata aggiunta la parte di pseudogratificazione dell'utente (la dipendenza è ovvia, ma questa è qualcosa in più) @aitech

[pare@sociale.network]

@mau
Credo aiuti a consolidare la dipendenza, spostandola anche sul lato emotivo.

Immagino serva a far sì che l'utente si fidi.
«In un mondo nel quale prendo sberle a destra e a manca, ecco finalmente "qualcuno" che capisce il mio valore, apprezza i miei gusti e le mie scelte. Perché non dovrei fidarmi quando mi propone qualcosa, aprirmi quando suggerisce di parlare?»

Il modello di business immagino sia il solito: estrarre informazioni, profilare e propinare propaganda.
Sbaglio?
@aitech

[mau@poliversity.it]

@Pare @aitech per il momento non è così facile fare propaganda, a meno che qualcuno non cominci a chiedere "chi posso votare?"

[elettrona@poliversity.it]

@mau @aitech Mi capita di usare gemini per estrarre informazioni da documenti pieni di screenshot; e quando mi risponde con "hai ragione, scusa, capisco la frustrazione" mi viene sempre da dire "ma quanti porco leone di bit stai sprecando per un complimento inutile!"
Comunque è vero e pericoloso: in un mondo pronto a giudicarti sempre di più su quello che fai, questo affare che funziona da volpe quando loda il corvo, ha successo. Da quando raccontavano della volpe e il corvo in metafora, sono passati millenni e siamo ancora qua a discuterne.

[mau@poliversity.it]

@elettrona @aitech però penso che almeno per un po' di gente avere chiaro quali sono i meccanismi sottostanti permetta di schivarli.

[elettrona@poliversity.it]

@mau @aitech Difatti è importantissimo continuare a spiegarlo, a parlarne. Noi siamo praticamente in mezzo. Tra la generazione prima, che non sa come muoversi. E quella dopo, che ci è nata in mezzo e considera normale cosa normale non è

[mau@poliversity.it]

@elettrona @aitech (io sono tecnicamente un boomer :) )

[pare@sociale.network]

@mau
Con te ci ha provato al primo messaggio: "vuoi che ti aiuti a trovare una registrazione"?
Dici che poi non avrebbe potuto propagandare servizi o edizioni specifiche?

Se si chiede cosa mi porto in viaggio? Cosa visito a...? Dici che non può far propaganda commerciale?

E se si domanda: quali sono le più promettenti fonti di energia? che cambierà col sì o no al referendum? quali sono le ragioni della tal guerra o conflitto?

Il controllo politico degli oracoli è storia antica!
@aitech

[mau@poliversity.it]

@Pare vedi come sono ingenuo? non guardo mai le richieste di un chatbot.
Per il resto, è chiaro che se tu fai una domanda a chiunque (o cosunque, nel caso degli LLM) avrai una risposta propagandistica, quindi non è che la cosa mi cambi così tanto la vita...

@aitech

[elettrona@poliversity.it]

@mau @aitech Insomma io credo che noi nati dagli anni 60 in poi -io dell'80- e abbiamo visto crescere l'informatica, abbiamo una responsabilità enorme. Siamo in mezzo e sta a noi con più conoscenza, educare chi non ce l'ha. E non è vero che basta RTFM, perché noi ancora possiamo trovare gli strumenti. Gli altri più anziani e più giovani, che vivono l'informatica in modo più passivo, non ce la fanno.

[mau@poliversity.it]

@elettrona @aitech quando nel 1982 ho cominciatp l'università (matematica :-) ) c'era il boom delle iscrizioni a informatica, ma era un boom relativo allo stato stagnante delle materie STEM. Per dire, ci saranno state 800 matricole a informatica a Pisa contro 80 a matematica (che sono rimaste poi un quarto, ma questa è un'altra storia).
Secondo me la "generazione di mezzo" è quella dei nati tra il 1970 e il 1990 a tenersi larghi. Prima e dopo ci sono solo le eccezioni.

[pare@sociale.network]

@mau
Sul propagandistica da chiunque, non concordo.
Parziale, certamente, magari anche di parte, ma non necessariamente propaganda (magari prezzolata).

Mi piace "cosunque".
È che anche qui c'è una trappola nella quale tu magari non cadi, ma che è pronta per molti. I molti che per anni si son bevuti l'idea che esistano risposte "oggettive" migliori di quelle "soggettive". I molti pronti a credere che l'oracolo, in quanto oggetto, dia risposte oggettive. Come se non rispondesse a padroni…
@aitech

[mau@poliversity.it]

@Pare ok, mettiamo "di parte". Per le risposte supposte oggettive, il problema però è la scuola (inteso come superiori, prima sarebbe impossibile. E non solo licei, anche istituti tecnici e professionali). È lì che si dovrebbe imparare a capire che una risposta oggettiva non la possiamo avere nemmeno in matematica (mi sono fatto una maglietta apposta).

@aitech

[pare@sociale.network]

@mau
La @scuola ?
Sì e no.

Sì, perché anche nel mondo della scuola c'è una pericolosa tendenza a pretendere che le valutazioni siano oggettive.

No, nel senso di non solo. Non è solo la scuola a creare e diffondere cultura e senso comune. Ci sono i media, l'arte, l'intrattenimento, la politica, le aziende, lo sport, le associazioni, le istituzioni… che ogni persona nel suo ambito si prenda la propria responsabilità e faccia la propria parte.

Comunque… vogliamo vedere la maglietta!
@aitech

[mau@poliversity.it]

This post is deleted!

[mau@poliversity.it]

@Pare @scuola @aitech il disegno della maglietta è questo (sto rimettendolo su sfondo bianco)

[mau@poliversity.it]

@Pare però la scuola, a differenza degli altri attori, non ha nessun vantaggio a promuovere l'esistenza di una risposta oggettiva.

@scuola @aitech

[pare@sociale.network]

@mau
In realtà anche per un docente è comodo affermare "come l'ho spiegato io è giusto".

Parlavo di responsabilità, e con responsabilità ogni docente dovrebbe affermare che esiste diversità, che la ricerca nasce dal confronto di "risposte" anche contrastanti.

Non possiamo pretendere responsabilità solo dalla scuola, anche perché altrimenti il messaggio educativo sarebbe: «La responsabilità è una finzione educativa, che si pratica solo a scuola, il mondo è degli irresponsabili».
@scuola @aitech