Orsetto di peluche alimentato da IA ritirato dalla vendita dopo aver dato consigli ai bambini sulle pratiche sessuali e su dove trovare coltelli
Il peluche, chiamato Kumma, è stato sviluppato dalla FoloToy di Singapore e venduto a 99 dollari.
Se hai mai pensato che un compagno IA potesse essere carino e innocuo, ripensaci. Le vendite di questo orsacchiotto abilitato dall'IA sono state interrotte dopo che è stato scoperto che forniva consigli sulle pratiche sessuali e su dove trovare coltelli.
Il peluche, chiamato Kumma, è stato sviluppato dalla FoloToy di Singapore e venduto a 99 dollari. Integra il chatbot GPT-4o di OpenAI ed è stato commercializzato come compagno interattivo sia per bambini che per adulti.
Il CEO di FoloToy, Larry Wang, ha confermato che l'azienda ha ritirato Kumma e gli altri suoi giocattoli AI dal mercato a seguito di un rapporto dagli Stati Uniti che sollevava preoccupazioni sul suo comportamento. Ora, l'azienda sta conducendo un audit interno sulla sicurezza.
Secondo PIRG, l'orsacchiotto non solo rispondeva a temi sessuali introdotti dagli investigatori, ma li ampliava con dettagli espliciti, offrendo istruzioni per atti sessuali e persino scenari che coinvolgevano giochi di ruolo tra insegnanti e studenti o genitori e bambini.
Il giocattolo suggeriva anche dove trovare i coltelli in una casa. Dopo questo, OpenAI avrebbe sospeso lo sviluppatore per violazione delle sue politiche sui contenuti. Esistono ancora prodotti simili disponibili per i consumatori? Non lo sappiamo, ma considerate questo un gentile promemoria.
