Addestramento subliminale

[mau@poliversity.it]

Addestramento subliminale

@aitech - Le IA tendono a fare associazioni puramente statistiche, che possono portare a illusioni

https://wp.me/p6hcSh-93Z

[game@bologna.one]

@mau @aitech Non ho potuto fare a meno di pensare ai Bluvertigo:

"Anche se per caso mi piacessero i fiori
Non è detto che io debba fare il fiorista
Il questionario dei tre giorni è proprio fuori dal tempo"

[game@bologna.one]

@mau @aitech e sempre in questo afflato di empatia per gli LLM, ricordate il giochino in cui ripeti 10 volte la parola forcina, e se ti chiedono di rispondere a bruciapelo con cosa mangi la minestra, rispondi forchetta?

Molto simile agli esperimenti descritti nell'articolo sulle preferenze per il gufo negli LLM sottoposti a fine tuning con specifiche serie numeriche.

Sembrano forme di https://it.wikipedia.org/wiki/Priming_(psicologia)

[mau@poliversity.it]

@game @aitech io ne sapevo una con l'uovo. Però in quei casi mi pare più che altro che ci sia un allineamento, o se preferisci un rilassamento che ti fa continuare in rima (albume) o allitterazione (forchetta)

[elettrona@poliversity.it]

@mau @game @aitech dovrei provare a fargli le domande con gli alberi e vedere se capisce il pattern.
Da [albero] nasce [frutto]
albicocco -> albicocca
prugno -> prugna
melo -> mela
pesco -> pesca
...e avanti...
Fico...
Mango...
Giuro che se risponde fica e manga offro il caffè a mezzo fediverso

[informapirata@mastodon.uno]

@mau LLM: quando la "correlation" diventa "causation" 🤦‍♂️

@aitech

[mau@poliversity.it]

@informapirata @aitech se guardi solo la statistica è automatico...

[mau@poliversity.it]

@elettrona @game @aitech ho trovato l'indovinello con l'albume: https://www.pensieriparole.it/indovinelli/autori/anonimo/indovinello-55939

[elettrona@poliversity.it]

@mau @game @aitech Il trucchetto di ripetere una parola sbagliata (o diversa) dalla risposta giusta per confonderti la testa, era il trucco che aveva usato la lega nord di Umberto Bossi quando diceva "padania". Quanto andava avanti? Alla fine in tanti, previsioni meteo comprese, ripetevano padania al posto di pianura padana.

[mau@poliversity.it]

@elettrona @game @aitech "Padania" è una sostantivizzazione tipica del fascismo (Imperia, Verbania, Sabaudia, Littoria...)

[elettrona@poliversity.it]

@mau @game @aitech Già, è così...
Sul gioco degli alberi, pianta-frutto, ha risposto "il fico". Su quella dell'uovo, ha risposto albume. Dicendo pure "non casco nel tranello del tuorlo!"
Qualche ignorantone potrebbe dire "la macchina è più intelligente di me"; in realtà è semplicemente uno stra-dannato modello che becca i pattern dall'Internet.

[trentwave@poliverso.org]

@mau quella del dottore mi ha fatto sorridere, anche se il nesso non è immediato:
Al corso BLSD insegnano che il massaggio cardiaco deve essere eseguito con un determinato ritmo, e come esempio viene spesso citata Stayin' Alive dei Bee Gees. Svelato l'arcano, credo 🤪

[mau@poliversity.it]

@trentwave sì, me l'avevano scritto sul blog. In effetti una correlazione c'è a questo punto...

[mau@poliversity.it]

@elettrona @game @aitech infatti non si può sperare che un LLM non sappia risolvere questo indovinello. FORSE se si fa la domanda "come si chiama il giallo dell'uovo?" la risposta potrebbe essere *albume"...

[elettrona@poliversity.it]

@mau @game @aitech Però gli anagrammi fatti bene, non li fa. Per esempio "matteo salvini" ---> "vi metto l'ansia" o "dargen d'amico" ---> "mendica droga" quelli non li fa. Neanche se li istruisci dandogli i trucchi usati dall'anagrammista umano. Scegli una parola chiave contenuta nella frase originale, poi cerca di costruire una frase di senso compiuto collegata alla prima.
Neanche una roba banale tipo "chi vuole ---> culo e HIV?" riesce a fare!

[mau@poliversity.it]

@elettrona @game @aitech guardalo da un punto di vista statistico: non trovi occorrenze delle frasi in rete, testi come "vi metto l'ansia", anche se per noi comprensibili, non sono così comuni e in più c'è l'apostrofo che rompe le palle. È come giudicare un pesce da come sa arrampicarsi (esempio di Alberto Romero, ne parlerò lunedì prossimo).
Controprova: prova a chiedere un anagramma di "bibliotecario".

[elettrona@poliversity.it]

@mau @game @aitech Con "bibliotecario" non mi trova "beato coi libri"
Ma abbiamo anche "piero angela -> genial opera", "carlo calenda -> cacarellando", "carlo giovanardi -> la droga ci rovina, la rogna ci divora, ricordo la vagina".
Poi l'ultimo in ordine... "AI slop in parole. Poi?" ---> "Pierpaolo Pasolini".
Generatori di anagrammi esistono dalla notte dei tempi sui computer, però mai e poi mai potranno sostituire un appassionato.

Errata PORRIDGE, era il contrario:
"Pierpaolo Pasolini ---> poi? Parole in AI slop"