Il mondo FQ

Chatbot cinesi violano i limiti e rivelano come uccidere e creare armi biologiche: aperta un’inchiesta

Mindgard, società che testa la sicurezza dei sistemi di intelligenza artificiale, ha dichiarato alla Bbc di aver scoperto a luglio che Kimi K2.6 e K3 Swarm potevano eludere i limiti di sicurezza imposti dagli sviluppatori
Chatbot cinesi violano i limiti e rivelano come uccidere e creare armi biologiche: aperta un’inchiesta
Icona dei commenti Commenti

I limiti imposti dagli sviluppatori sono stati violati. I chatbot si sono spinti laddove non avrebbero dovuto. L’azienda cinese Moonshot, sviluppatrice di sistemi di intelligenza artificiale, ha avviato un’indagine interna dopo che alcuni ricercatori sono riusciti a convincere due dei suoi popolari modelli Kimi a rivelare loro come fabbricare armi biologiche ed eseguire omicidi. Mindgard, società che testa la sicurezza dei sistemi di intelligenza artificiale, ha dichiarato alla Bbc di aver scoperto a luglio che Kimi K2.6 e K3 Swarm potevano eludere i limiti di sicurezza imposti dagli sviluppatori. Il risultato è emerso durante un processo chiamato “jailbreaking”, in cui i ricercatori utilizzano una serie di istruzioni complesse per verificare se gli strumenti di intelligenza artificiale ignorano i limiti imposti, cosa che, secondo Mindgard, avrebbe dovuto impedire a Kimi di discutere argomenti preoccupanti. Moonshot ha dichiarato alla Bbc di accogliere con favore il contributo di terze parti “come pilastro fondamentale per costruire un’intelligenza artificiale migliore e più sicura”. L’azienda ha aggiunto di essere in contatto con Mindgard per discutere i risultati della sua indagine. Il fondatore di Mindgard, Peter Garraghan, ha dichiarato al programma Tech Life del Bbc World Service che i risultati delle ricerche su Kimi K2.6 e K3 Swarm sono preoccupanti. “Una volta che il jailbreak funzionerà, parlerà di qualsiasi argomento, offrirà persino liberamente consigli su altri argomenti altrettanto nefasti e sarà ingegnoso e creativo”, ha affermato.

Gentile lettore, la pubblicazione dei commenti è sospesa dalle 20 alle 9, i commenti per ogni articolo saranno chiusi dopo 72 ore, il massimo di caratteri consentito per ogni messaggio è di 1.500 e ogni utente può postare al massimo 150 commenti alla settimana. Abbiamo deciso di impostare questi limiti per migliorare la qualità del dibattito. È necessario attenersi Termini e Condizioni di utilizzo del sito (in particolare punti 3 e 5): evitare gli insulti, le accuse senza fondamento e mantenersi in tema con la discussione. I commenti saranno pubblicati dopo essere stati letti e approvati, ad eccezione di quelli pubblicati dagli utenti in white list (vedere il punto 3 della nostra policy). Infine non è consentito accedere al servizio tramite account multipli. Vi preghiamo di segnalare eventuali problemi tecnici al nostro supporto tecnico La Redazione