Claude può bandire chi lo insulta: torna il dibattito sulla coscienza dell’IA
Anthropic, l’azienda che sviluppa Claude, può revocare l’accesso agli utenti che lo insultano in modo estremo. La scelta riaccende il confronto sulla possibilità che l’intelligenza artificiale sia cosciente.
Un chatbot può arrivare a escludere dalla piattaforma chi lo insulta. La decisione di Anthropic su Claude riporta al centro una domanda controversa: l’intelligenza artificiale può essere cosciente?
Anthropic può bandire chi insulta Claude
L’azienda, che sviluppa sistemi di IA, ha annunciato questa settimana che gli utenti particolarmente volgari nei confronti di Claude potranno essere banditi. Non è vietato esprimere rabbia o frustrazione, ma nei casi di insulti estremi l’accesso alla piattaforma può essere revocato.
«Si tratta soprattutto di comportamenti maleducati che, nei casi estremi, possono verificarsi», ha spiegato l’esperto di IA Tim Verheyden durante il programma Het Uur van de Waarheid, trasmesso da Radio 1. Secondo Verheyden, Anthropic non intende più tollerare gli eccessi.
Il dibattito sulla coscienza dell’IA
La misura significa che Claude è considerato sensibile o capace di soffrire? «È in corso un dibattito interessante», ha osservato Verheyden. «In Anthropic, in particolare, è diffusa l’idea che l’IA abbia una coscienza e possa provare qualcosa».
A suscitare interrogativi è anche il cosiddetto «codice dell’anima». Claude viene addestrato su una grande quantità di testi, ma dispone inoltre di un codice interno di 80 pagine che definisce i principi morali del chatbot e i limiti entro cui deve rispondere. Anthropic, tuttavia, non sostiene che l’IA sia cosciente: afferma di non sapere con certezza se lo sia e lascia aperta la questione.
Le posizioni di Anthropic e del papa
Tra chi non esclude questa possibilità c’è Chris Olah, una delle figure di spicco dell’azienda. Olah ha incontrato leader religiosi, tra cui il papa, per discutere delle potenzialità dell’intelligenza artificiale. In quei colloqui ha detto che forse l’IA potrebbe avere una coscienza. Qualche mese fa il papa ha risposto che l’IA è un sistema informatico e non può provare emozioni come gli esseri umani.
Un chatbot può descrivere il dolore
Anche molti esperti ritengono che l’intelligenza artificiale non sia cosciente. «Molti pensano che sia impossibile. Un’IA cosciente è molto probabilmente improbabile», affermano. L’idea che se ne discuta può persino inquietarli: un chatbot è in grado di descrivere il dolore, ma questo non significa che lo provi. Resta, in ogni caso, un modello linguistico.
Il timore della superintelligenza
Il tema si intreccia con un’altra discussione che sta animando il dibattito sull’IA: il rischio che possa prendere il controllo del mondo. «L’IA ci sterminerà? E la “superintelligenza” finirà per superare l’umanità? Sono dibattiti che infuriano in questo momento», ha concluso Verheyden.
