Non siamo più in grado di riconoscere i testi generati dalle IA?

[katttivizzima@mastodon.uno]

@mau @aitech

Un mio contatto autore, si è lamentato che in molti gli hanno scritto che i suoi testi sarebbero stati prodotti da IA.
Lui dice di averli scritti di suo pugno.
Così ha passato un capitolo di un suo romanzo al sw che individua scritti da parte di IA. il responso: 76% è opera di IA.
Cosa a suo dire non vera.

Non sono solo gli umani che non sanno valutare l'origine genuina di un testo. Non lo sa fare neppure un software studiato appositamente per quello scopo.

#siamoFottuti

[informapirata@mastodon.uno]

@katttivizzima da sempre, le persone dotate di una buona padronanza della lingua, quando devono scrivere velocemente dei testi descrittivi o esplicativi, tendono a concentrarsi sul contenuto e a lasciar andare, quasi in autonomia, il flusso scrittorio sulla base del patrimonio linguistico assimilato, generando varianti di frasi già sentite; inoltre, invece che impiegare più subordinate, indulgono sui punti elenco. In pratica fanno già quello che gli LLM sono programmati per fare

@mau @aitech

[nagaye@sociale.network]

@informapirata @katttivizzima @mau @aitech E' ricorsivamente frattale la struttura degli LLM per cui non si scappa, molti pattern sono uguali ed ecco da dove scaturisce l'ambiguità o la fallce dei sistemi AI di riconoscimento del testo imho. Io mi chiederei perché abbiamo costruito questo tipo di strumenti? Per darci garanzie? a che livello? sembrerebbe della credibilità d'interesse e non per pura velleità.

[katttivizzima@mastodon.uno]

@nagaye @informapirata @mau @aitech
scusa, mi serve una disambiguazione:
"questo tipo di strumenti" è riferito ai motori LLM oppure a quelli che devono individuarli?

[nagaye@sociale.network]

@katttivizzima @informapirata @mau @aitech scusa, intendevo il software di riconoscimento del testo.

[katttivizzima@mastodon.uno]

@nagaye @informapirata @mau @aitech
Grazie.
Immagino che lo scopo reale sia quello di spingere sempre più i LLM a perfezionarsi in modo da non essere rilevabili come tali.

...suona vagamente terrificante, lo so da me. Ma mi pare l'analisi più coerente, sorry.

[mau@poliversity.it]

@katttivizzima i software che dovrebbero rilevare l'uso di IA usano euristiche che possono o no funzionare, ne sappiamo qualcosa con Wikipedia (in italiano), che non ammette voci create con l'IA e richiede di indicare se la si è usata per migliorare la prosa lasciando un contenuto "umano". La mia prosa, per esempio, ha troppi incisi per sembrare generata da un LLM, ma visto che sono spesso analitico potrebbe comunque essere scambiata per un lavoro di un computer. @aitech

[mau@poliversity.it]

@informapirata però si spera che gli autori umani non divaghino troppo, o almeno ritornino a bomba al tema iniziale. Credo che gli LLM stiano lavorando su questo, riprendendo il prompt iniziale che dopo un po' si è perso, ma siamo ancora molto indietro.

@katttivizzima @aitech

[mau@poliversity.it]

@katttivizzima se un LLM mi mette una fonte che non esiste continuerò a rivelarlo come tale. Se mi cita una fonte che dice tutt'altro, butto via comunque il testo. (Purtroppo anche molta gente fa finta di citare una fonte ma dice tutt'altro...)

@nagaye @informapirata @aitech

[informapirata@mastodon.uno]

@mau @katttivizzima @aitech

> gli autori umani non divaghino troppo

io, beh... tendo a divagare in maniera abnorme, eh...

[mau@poliversity.it]

@informapirata @katttivizzima @aitech Una delle mie descrizioni è "matematto divagatore". Ma appunto torno poi sempre a casa...

[katttivizzima@mastodon.uno]

@informapirata @mau @aitech

molti umani divagano quando parlano, spesso anche quando scrivono.
...uhm.
Oppure ho preso per buoni contenuti che non erano human made?

Ancora per quanto avremo ragione di manifestare questi dubbi? Quanto impiegherà la bolla economica a esplodere e allora dovremmo preoccuparci di cose pure più importanti?