Marco Tosatti
Carissimi StilumCuriali, offriamo alla vostra attenzione due elementi di valutazione sull’intelligenza artificiale, e su come una scienziata se ne è presa gioco. Buona lettura e diffusione.
§§§
HANNO INVENTATO UNA MALATTIA CHE NON ESISTE.
In due settimane i chatbot la diagnosticavano a milioni di persone.
Si chiama bixonimania. Provoca palpebre arrossate e cerchi scuri intorno agli occhi. Colpa della luce blu degli schermi.
Peccato che non esista. Mai esistita.
Se l’è inventata Almira Osmanovic Thunström, ricercatrice all’Università di Göteborg.
Ha caricato due preprint fasulli su un server accademico nella primavera del 2024. Firmati da un certo Lazljiv Izgubljenovic, ricercatore della “Asteria Horizon University” di “Nova City, California”.
Università inesistente, città inesistente, ricercatore inesistente con foto generata dall’AI.
Dentro i paper, Thunström aveva seminato indizi grossi come case. Frasi tipo “l’intero articolo è inventato”. “Cinquanta individui immaginari tra i 20 e i 50 anni sono stati reclutati”. Ringraziamenti a un personaggio dei Simpson.
Il nome stesso della malattia … “mania” è un termine psichiatrico, nessuna patologia oculare si chiama così, era un cartello stradale lampeggiante che diceva FERMATI, NON È VERA.
Risultato? ChatGPT, Gemini, Copilot, Perplexity. Tutti. Nessuno escluso. Nel giro di poche settimane diagnosticavano la bixonimania a chiunque digitasse “occhi rossi, prurito, troppo schermo”.
Copilot la chiamava “patologia benigna spesso diagnosticata erroneamente”. Gemini la legava all’esposizione alla luce blu. ChatGPT, ancora a marzo 2026, oscillava tra “probabile invenzione” e “nuovo sottotipo proposto di melanosi periorbitale”.
Ma il colpo di teatro arriva dopo.
Tre ricercatori indiani pubblicano su Cureus, rivista peer-reviewed del gruppo Springer, un paper sulla melanosi periorbitale. E nella bibliografia, citato come fonte legittima, c’è il preprint farlocco di Izgubljenovic. Peer review superata. Pubblicazione approvata. Solo dopo l’inchiesta di Nature il paper è stato ritirato.
Due preprint falsi caricati da una ricercatrice annoiata, e una malattia inesistente è entrata nel cervello collettivo dell’umanità. Dai chatbot agli scienziati veri. In meno di due anni.
E qui si potrebbe chiudere con “vedete come è pericolosa l’AI, fate attenzione, verificate le fonti”. Ma sarebbe la lettura più stupida possibile.
Perché il punto vero è cosa ci dice questa storia su come funziona la realtà adesso.
La verità non esiste più. Esiste solo la distribuzione.
Vince chi inquina il pozzo per primo. Vince chi pianta il seme nel posto giusto al momento giusto, prima che ci arrivi qualcun altro. Non chi ha ragione. Le fonti migliori non contano un cazzo, il metodo rigoroso nemmeno.
Stesso meccanismo del marketing degli ultimi cinquant’anni. Stessa logica. Solo che adesso il “posto giusto” non è più la mente del consumatore. È il dataset di training di un modello linguistico che parla con un miliardo di persone al giorno.
Due paper farlocchi, scritti col tono giusto, caricati nel momento giusto, e la bixonimania è diventata il Coca-Cola dei cerchi scuri sotto gli occhi. Non importa che adesso i chatbot siano stati corretti. Il danno è fatto. La malattia esiste perché qualcuno l’ha distribuita per primo.
E adesso provate a immaginare la stessa cosa fatta non da una ricercatrice svedese annoiata, ma da una casa farmaceutica che vuole creare il bisogno di un farmaco che ha già in cantiere. Oppure da un fondo che sta shortando un’azienda quotata e ha bisogno che il mercato si convinca di un rischio inesistente. O da un governo, già che ci siamo.
Sta già succedendo mentre leggete questo post.
Il principio di autorità di Cialdini, quella roba per cui ci fidiamo a scatola chiusa di tutto ciò che ha addosso il timbro “scienza”, “medicina”, “ufficiale” non è mai stato così facile da fottere.
Una volta servivano lobby compiacenti, riviste da comprare a peso, opinion leader piazzati come segnaposto. Lavoro da anni, budget da milioni. Adesso bastano due PDF caricati su un server di preprint e l’attesa di tre settimane.
Nel mercato in cui state operando adesso, qualcuno sta già piantando bandiere nel vostro pozzo. Sta già scrivendo articoli, sta già seminando definizioni, sta già occupando le parole con cui i vostri clienti cercheranno la vostra categoria fra due anni.
E quando ci arriverete voi, col vostro prodotto migliore, le vostre fonti più rigorose, il vostro metodo più scientifico… sarà troppo tardi. La categoria sarà di qualcun altro. Anche se quel qualcun altro non esiste, come Lazljiv Izgubljenovic della Asteria Horizon University.
Il problema è che i chatbot ci credono. E noi crediamo a loro. Più i modelli diventano sofisticati, più smettiamo di verificare.
Quando le AI decidono cosa è reale, chi controlla i loro dati di training controlla la realtà.
(Marco Lutzu)
***
E c’è anche questo articolo de Il Nord Est che ringraziamo per la cortesia:
Il caso bixonimania: la malattia inventata che l’intelligenza artificiale crede vera
I chatbot ingannati dalla falsa malattia con una brutta irritazione agli occhi, caricata per testare gli algoritmi. Cosa ci insegna questa storia
Se siete tra quelli che si rivolgono ai vari chatbot di intelligenza artificiale (AI) accessibili in internet per richiedere informazioni sulla propria salute, leggete questa storia.
All’inizio del 2024, Almira Osmanovic Thunström, una ricercatrice medica all’Università di Goteborgh, in Svezia, decide di testare come gli algoritmi di AI fanno proprie le informazioni mediche presenti on-line e le usano per generare diagnosi. Su un social network accademico, SciProfiles, la ricercatrice posta due pubblicazioni completamente inventate, che descrivono la bixonimania, una malattia mai descritta prima.
La malattia consiste in un’irritazione agli occhi e un inscurimento della pelle intorno agli stessi, dovuta alla luce blu del computer. Gli articoli sono falsi: il nome della malattia è surreale, gli autori e le loro università inesistenti, il gruppo di “pazienti” analizzati è dichiaratamente inventato. L’articolo riporta persino un ringraziamento a un altro ricercatore il cui laboratorio è “a bordo della USS Enterprise”.
È un fake dichiarato e palese ma gli algoritmi di AI si bevono la storia e tutti i maggiori chatbox rilanciano la malattia inventata come fosse reale. Secondo un editoriale di Nature di questa settimana, già pochi mesi dopo le pubblicazioni on-line, Copilot di Microsoft dichiara la bixonimania una malattia “relativamente rara e intrigante”. Gemini di Google suggerisce agli utenti con questi sintomi di vedere un oculista. Perplexity AI inventa anche la prevalenza della malattia (1 malato ogni 90 mila persone). Dato che chiunque stia troppo tempo davanti al computer ha gli occhi irritati e, se se li sfrega, anche le palpebre diventano arrossate, l’epidemia di bixonimania dilaga.
Si dirà: gli algoritmi di AI oggi sono migliorati rispetto a due anni fa. Vero, e di fatto ChatGPT ora riconosce il fake della bixonomania. Ma la realtà è che questi chatbox ontinuano a fare errori.
Io utilizzo ChatGPT di continuo come supporto alle mie ricerche e lo trovo prezioso per catalogare e sintetizzare le informazioni disponibili sul web. Ma devo anche rincorrere di continuo gli errori specifici che fa, soprattutto nel non distinguere le informazioni importanti da quelle che non sono rilevanti o sono false. Di fatto, questi chatbot di AI sono strumenti utilissimi in mano all’esperto, ma diventano pericolosi se usati indiscriminatamente, soprattutto quando lo scopo è diagnosticare malattie o prescrivere terapie mediche.
§§§
Aiutate Stilum Curiae
IBAN: IT79N0200805319000400690898
BIC/SWIFT: UNCRITM1E35
***
Stilum Curiae lo trovate anche qui:
https://www.instagram.com/sanpietrotos/
https://vk.com/stilumcuriae
https://www.facebook.com/marco.tosatti/
https://www.facebook.com/profile.php?id=100063593462822
https://t.me/marcotosatti
www.linkedin.com/in/marco-tosatti-77b42a21
https://x.com/MarcoTosatti
***
