Vietato insultare l’intelligenza artificiale: Anthropic ha annunciato di aver aggiornato la propria politica di utilizzo introducendo un blocco delle interazioni in cui gli utenti adottano comportamenti “abusivi o crudeli, prolungati e non necessari” nei confronti dei suoi modelli di Ia. Una mossa che ha suscitato un dibattito, mentre il mondo della tecnologia si interroga sulla possibilità che le macchine possano essere dotate di una sorta di ‘coscienza’. Il produttore di Claude ha spiegato che tali comportamenti ritenuti “crudeli” saranno inseriti in un elenco di azioni proibite che comprende anche il bullismo, l’incitamento all’autolesionismo e la creazione di immagini intime non consensuali, sottolinea la Bbc. Un portavoce di Anthropic non ha in ogni caso chiarito cosa possa essere considerato “abusivo o crudele”: nel regolamento d’uso pubblicato online, l’azienda con sede a San Francisco ha comunque precisato che il divieto non si applicherà alle comuni frustrazioni degli utenti, ai test sui modelli o all’esplorazione di “temi creativi cupi”, mentre si attiverà solo in “casi estremi” di abusi ripetuti. La politica di utilizzo di Anthropic conteneva già in precedenza restrizioni contro i comportamenti abusivi: i modelli linguistici di grandi dimensioni (Llm) dell’azienda hanno la capacità di interrompere una conversazione qualora l’utente mantenga un atteggiamento costantemente dannoso. Quando tale funzionalità è stata introdotta lo scorso agosto, l’azienda l’ha presentata come una misura a tutela del benessere dell’IA. “Nutriamo ancora forti incertezze sul possibile status morale di Claude e degli altri modelli Llm, sia nel presente che nel futuro. Tuttavia, prendiamo la questione molto seriamente e, parallelamente al nostro programma di ricerca, stiamo lavorando per individuare e attuare interventi a basso costo volti a mitigare i rischi per il benessere dei modelli, qualora tale benessere fosse possibile. Consentire ai modelli di interrompere o uscire da interazioni potenzialmente stressanti rappresenta uno di questi interventi”, si legge sul sito web dell’azienda. Le modifiche, riportate per la prima volta dal sito specializzato in tecnologia The Verge, sono giunte in seguito alla revisione annuale della politica di utilizzo dell’azienda che ha affrontato i rischi nuovi o emergenti in altri ambiti, vietando ad esempio l’utilizzo di Claude per “campagne ingannevoli” o chiarendo che, con l’avvicinarsi delle elezioni di Midterm in Usa, non può essere utilizzato per “ingannare gli elettori o perturbare le elezioni”. Ma a suscitare il maggiore dibattito è stato proprio il tema della ‘crudeltà’ contro l’IA: come riporta Bbc, gli screenshot della nuova politica sono stati ampiamente condivisi e commentati sui social media, con alcuni che l’hanno elogiata come un esempio di buone maniere o un “modello di welfare”. Ma altri hanno criticato il piano: “Non si può essere crudeli con i numeri e la matematica”, ha scritto su LinkedIn Barry Scannell, partner specializzato in tecnologia presso lo studio legale irlandese William Fry. È proprio il tema della ‘coscienza’ dell’IA a interrogare il mondo della tecnologia: l’amministratore delegato di Anthropic, Dario Amodei, ha dichiarato di non poter escludere tale possibilità, mentre Sam Altman, ceo della rivale OpenAI, sembra essere contrario all’idea.
Riproduzione riservata © Copyright ANSA
