Come Pensa la Macchina: un LLM smontato pezzo per pezzo.
Uncategorized
1
Posts
1
Posters
2
Views
-
Come Pensa la Macchina: un LLM smontato pezzo per pezzo. Tokenizzazione, embeddings, attention, hallucinations. Ollama in locale, zero fuffa
Smonto la macchina pezzo per pezzo. Ho #Ollama sul Mac con una decina di modelli. Scelgo il più piccolo: llama3.1:8b, 8 miliardi di parametri, 4.9 gigabyte su disco. Il più facile da maneggiare senza sbatti, e tanto l'architettura è identica per tutti: che siano 8 miliardi o 405 miliardi, il meccanismo è lo stesso. Cambiano le dimensioni delle matrici, non come funziona la macchina. Lo apro dal terminale, guardo i byte, e seguo il percorso completo: dal testo che entra al testo che esce. Ogni passaggio, ogni formula, ogni decisione matematica. Niente metafore del cervello. Niente fuffa. Se vuoi capire come funziona una cosa, la smonti. Non leggi chi ne scrive.
pinperepette.github.io/signal.…
Per conoscere altre notizie sulla #IntelligenzaArtificiale, segui il gruppo @aitech
Gli ultimi otto messaggi ricevuti dalla Federazione
-
@ZekuZelalem I know it may be a ridiculous detail to focus on among the horror of the whole thing, but what's with the exceptions on the nationality?
-
@kappazeta @thunderpussycat @emanuelecariati se ci sarò (ovvero, se mi riprendo in tempo), nel dubbio sarò ben mascherinata, per evitare di portarcela
(in realtà probabilmente è raffreddore e non influenza, ma le mascherine aiutano pure per quello)
-
@GustavinoBevilacqua @zero be', certo, gli endless running sono platformer.
-
@jpaskaruk stross doesn't need to build a profile; he has a profile high and large enough, that he blocks drive-by admonishments and aggressive replies to third parties just to keep his feed readable. this is not new.
(and before you ask, i was blocked by him because of the latter; there's no need to imagine nefarious reasons for his actions.)
-
@VoordeMus well aware. Larry Madowo, great Kenyan journalist at CNN...has produced multiple reports on that topic in recent weeks.
-
-
@adafruit Well, I know who I'm not buying components from again. This is really disgusting and weird LLM apologia that completely misunderstands the actual struggle of disrespect and abuse that women go through in labour.
-
While the degree of suffering differs, this phenomenon causes universal suffering to victims from around the world, from the US to Kenya, from the UK to Uganda.
Hope to share some more of my findings with you in the coming days. If you went through yet another long thread of mine all the way to thisnpoint, thank you your time is appreciated🙏🏿
Story dropped on Sunday. If you're in Canada, the story will be available in tomorrow morning's newspaper.
Yours,
-ZZ.https://www.theglobeandmail.com/world/article-africans-scam-camps-myanmar-scamming-rings-asia/
