Perché i chatbot scelgono spesso il numero 7
La professoressa di matematica Ann Dooms lo ha spiegato nel podcast della radio belga Radio 1. I modelli riproducono una preferenza umana, ma non generano vera casualità.
Chiedere a un chatbot un numero a caso tra 1 e 10 porta spesso alla stessa risposta: 7. Non è una scelta davvero casuale, ma il riflesso di una preferenza umana che i modelli di intelligenza artificiale hanno imparato dai testi su cui sono stati addestrati.
A spiegarlo è Ann Dooms, professoressa di matematica, intervenuta nel podcast di Radio 1 «Het uur van de waarheid», dedicato due volte alla settimana a inganni, disinformazione e truffe online. Il programma ha affrontato anche il funzionamento dei chatbot; tutte le puntate sono disponibili online.
Come funzionano i modelli linguistici
Applicazioni come ChatGPT e Claude si basano su LLM, sigla di Large Language Model, cioè grandi modelli linguistici. «Un LLM è stato addestrato su quasi tutti i testi che si possono trovare su Internet. In base alla domanda dell’utente, prevede la parola successiva», spiega Dooms.
La frequenza con cui i chatbot indicano il 7 dipende, secondo la docente, dal fatto che anche le persone tendono a preferirlo. Quando si chiede loro di scegliere un numero tra 1 e 10, il 7 è la risposta più comune. Molti scartano gli estremi, 1 e 10, perché sembrano scelte banali. Il 5 può attirare perché è al centro dell’intervallo, mentre i numeri pari — 2, 4, 6 e 8 — appaiono troppo regolari. Restano i numeri primi; il 3, a molti, sembra troppo piccolo, e così la scelta ricade spesso sul 7.
«Le persone cercano di non sembrare sospette, ma in realtà siamo molto incapaci di imitare un comportamento non sospetto», osserva Dooms. Non tutti scelgono quel numero, precisa, ma nella distribuzione delle risposte umane il 7 è il valore più frequente. I chatbot riproducono questa tendenza.
La casualità nei chatbot
Questo non significa che i modelli siano incapaci di fare matematica. «In realtà, un LLM potrebbe richiamare un algoritmo. Esistono molti algoritmi matematici che usiamo per simulare la casualità, quindi potrebbe fornire una risposta casuale. Bisogna però costringere il modello a orientarsi in quella direzione. Per quante conoscenze contenga un LLM, non si può dare per scontato che fornisca la risposta più ottimale o che si metta a fare calcoli in background. Ma naturalmente glielo si può chiedere», spiega la professoressa.
Alcuni sistemi di IA agentica, detti anche «agenti autonomi di IA», possono già compiere questo passaggio da soli. A differenza di un chatbot tradizionale, non si limitano a rispondere alle domande, ma possono eseguire azioni in autonomia. «Per esempio, l’LLM può richiamare sul computer un algoritmo che gira su chip di calcolo», dice Dooms.
Anche così, però, si ottiene una simulazione della casualità, non una casualità autentica. Per questo non è utile chiedere a Claude i numeri vincenti della lotteria. «La lotteria è una forma autentica di casualità. Le palline che girano ed escono: è qualcosa che davvero non possiamo prevedere», afferma Dooms. «Quando la simuliamo, imitiamo la casualità.»
Casualità e sicurezza informatica
La differenza è importante soprattutto per la sicurezza informatica. La casualità è un elemento centrale della matematica e della crittografia, che consente di comunicare senza che chi intercetta lo scambio possa comprenderne il contenuto. Solo chi possiede la chiave o la password corretta può decifrare il messaggio. Se la chiave è prevedibile, diventa più facile violarla.
«La casualità è importante nelle comunicazioni testuali segrete, ma anche in quasi tutto ciò che facciamo. Se si effettua un pagamento con un codice QR tramite Payconiq, l’operazione deve avvenire in modo sicuro. Se un hacker intercettasse la comunicazione, potrebbe modificare il numero di conto a cui si vuole trasferire il denaro. Questo dimostra anche quanto siano importanti le password sicure», afferma Dooms. «Se non introduciamo abbastanza casualità e scegliamo quindi una password troppo semplice, questa può essere indovinata e decifrata.»
Meglio quindi non affidarsi a un chatbot per creare una password robusta. Per questo compito si possono usare i gestori di password, applicazioni progettate appositamente per generare e conservare credenziali sicure.
Fonte: vrt.be
