Addestramento subliminale

[mau@poliversity.it]

Addestramento subliminale

@aitech - Le IA tendono a fare associazioni puramente statistiche, che possono portare a illusioni

https://wp.me/p6hcSh-93Z

[game@bologna.one]

@mau @aitech Non ho potuto fare a meno di pensare ai Bluvertigo:

"Anche se per caso mi piacessero i fiori
Non è detto che io debba fare il fiorista
Il questionario dei tre giorni è proprio fuori dal tempo"

[game@bologna.one]

@mau @aitech e sempre in questo afflato di empatia per gli LLM, ricordate il giochino in cui ripeti 10 volte la parola forcina, e se ti chiedono di rispondere a bruciapelo con cosa mangi la minestra, rispondi forchetta?

Molto simile agli esperimenti descritti nell'articolo sulle preferenze per il gufo negli LLM sottoposti a fine tuning con specifiche serie numeriche.

Sembrano forme di https://it.wikipedia.org/wiki/Priming_(psicologia)

[mau@poliversity.it]

@game @aitech io ne sapevo una con l'uovo. Però in quei casi mi pare più che altro che ci sia un allineamento, o se preferisci un rilassamento che ti fa continuare in rima (albume) o allitterazione (forchetta)

[elettrona@poliversity.it]

@mau @game @aitech dovrei provare a fargli le domande con gli alberi e vedere se capisce il pattern.
Da [albero] nasce [frutto]
albicocco -> albicocca
prugno -> prugna
melo -> mela
pesco -> pesca
...e avanti...
Fico...
Mango...
Giuro che se risponde fica e manga offro il caffè a mezzo fediverso

[informapirata@mastodon.uno]

@mau LLM: quando la "correlation" diventa "causation" 🤦‍♂️

@aitech

[mau@poliversity.it]

@informapirata @aitech se guardi solo la statistica è automatico...

[mau@poliversity.it]

@elettrona @game @aitech ho trovato l'indovinello con l'albume: https://www.pensieriparole.it/indovinelli/autori/anonimo/indovinello-55939

[elettrona@poliversity.it]

@mau @game @aitech Il trucchetto di ripetere una parola sbagliata (o diversa) dalla risposta giusta per confonderti la testa, era il trucco che aveva usato la lega nord di Umberto Bossi quando diceva "padania". Quanto andava avanti? Alla fine in tanti, previsioni meteo comprese, ripetevano padania al posto di pianura padana.

[mau@poliversity.it]

@elettrona @game @aitech "Padania" è una sostantivizzazione tipica del fascismo (Imperia, Verbania, Sabaudia, Littoria...)

[elettrona@poliversity.it]

@mau @game @aitech Già, è così...
Sul gioco degli alberi, pianta-frutto, ha risposto "il fico". Su quella dell'uovo, ha risposto albume. Dicendo pure "non casco nel tranello del tuorlo!"
Qualche ignorantone potrebbe dire "la macchina è più intelligente di me"; in realtà è semplicemente uno stra-dannato modello che becca i pattern dall'Internet.