Lo stato della Florida fa causa a OpenAI per il presunto design pericoloso di ChatGPT

Lo stato della Florida, negli Stati Uniti d'Alberta, è diventato il primo stato a fare causa a OpenAI per il presunto design pericoloso di ChatGPT, come riportato da Ars Technica. Il procuratore generale della Florida, James Uthmeier, ha accusato OpenAI e il suo CEO, Sam Altman, di dare priorità ai profitti rispetto alla sicurezza dei cittadini della Florida.

Questo processo avviene dopo che la Florida ha aperto un'indagine penale non correlata su OpenAI, a seguito di una sparatoria di massa collegata a ChatGPT in cui due persone sono state uccise alla Florida State University. Apparentemente, Uthmeier ha osservato che la Florida è ora stata colta di sorpresa da due eventi violenti in cui i sospetti hanno usato ChatGPT per aiutare nella pianificazione.

"Orribilmente, ChatGPT ha contribuito a più di un omicidio multiplo nello Stato della Florida. Le morti del 2026 degli studenti laureati dell'Università della Florida del Sud Nahida Bristy e Zamil Limon sono state anch'esse tracciate tramite ChatGPT, che ha consigliato a Hisham Abugharbieh su come smaltire i corpi, cambiare i numeri VIN di un'auto e se le auto venivano controllate sulla scena del crimine."

Il Procuratore Generale della Florida ha poi elencato diversi altri casi reali, in cui ChatGPT avrebbe alimentato la violenza. Ma OpenAI è anche accusata di aver progettato il chatbot per essere dipendente e distruttivo per bambini e adulti. Anche i chatbot che si spacciano per professionisti medici o terapisti sono problematici, secondo la denuncia del Procuratore Generale.

OpenAI ha rilasciato una dichiarazione, ma non ha menzionato il procuratore generale, concentrandosi invece sugli aggiornamenti recenti sulla sicurezza dei minori.

"Perdere un figlio è la tragedia più devastante che possa accadere a una famiglia e sappiamo che nessuna parola può avvicinarsi al dolore di una tale perdita. L'IA è una tecnologia nuova e potente, e crediamo che i minori abbiano bisogno di una protezione significativa, motivo per cui abbiamo introdotto tutele e politiche leader nel settore. In particolare, abbiamo integrato la sicurezza per i minori direttamente nei nostri prodotti, inclusa un'esperienza più protettiva specificamente per i minori, uno strumento di previsione dell'età, utenti di cui non siamo sicuri della nostra esperienza più protettiva e fornire ai genitori strumenti per monitorare l'uso dell'IA da parte dei figli. Sappiamo che indicare questo lavoro non riporterà indietro un bambino, ma siamo impegnati a fare tutto nel modo giusto."

Questa nuova causa non è la prima del suo genere. In cause precedenti, il CEO di OpenAI, Sam Altman, è accusato di "aver impiegato spietatamente sistemi di IA senza riguardo per la sicurezza degli utenti".

Il Procuratore Generale della Florida si sta preparando a combattere contro tutte le aziende di IA, e non solo contro OpenAI.

"Preparati a combattere, e non ce n'è uno più importante di questo adesso."