La famiglia di uno studente texano diciannovenne, deceduto un anno fa per overdose dovuta all’assunzione congiunta di Kratom e Xanax (oltre all’alcol), ha formalizzato la querela ai danni di OpenAI. I genitori di Sam Nelson sostengono che sia stato ChatGPT a incoraggiare il ragazzo a “consumare una combinazione di sostanze che qualsiasi medico avrebbe riconosciuto come letali”, causandone la morte.
La denuncia sostiene che il 31 maggio 2025, giorno della morte di Nelson, ChatGPT gli avrebbe specificamente suggerito di assumere una “dose di 0,25-0,5 mg di Xanax per alleviare la nausea indotta dal Kratom”. Nei mesi precedenti l’overdose, sembra che ChatGPT abbia dato al ragazzo consigli su come “mescolare in sicurezza” diverse sostanze, incluse farmaci, alcol e altre droghe. Fino a raccomandazioni su come “ottimizzare il viaggio” a livello di comfort, introspezione e piacere, quando assumeva sciroppo per la tosse (destrometorfano), e poi proporgli una colonna sonora psichedelica per ottenere la massima dissociazione fuori dal corpo nelle esperienze successive.
La causa è intentata per wrongful death (morte per negligenza) e per la “pratica non autorizzata della medicina”, richiedendo fra l’altro la sospensione di ChatGPT Health, funzione tramite cui gli utenti possono consentire al chatbot di accedere alle proprie cartelle cliniche. A sua difesa, OpenAI sostiene che “quelle interazioni sono avvenute su una versione di ChatGPT non più disponibile”, ribadendo comunque che il chatbot non è né va considerato un “sostituto dell’assistenza medica o di interventi sulla salute mentale”.
Analoga la difesa rispetto ad altre querele presentate in Nord America – sette in un solo giorno a novembre contro OpenAI, relative a risposte inadeguate fornite a persone in crisi, quattro per casi di suicidio e le altre legate a crisi di salute mentale. Cioè che la solo versione GPT-4 sarebbe stata “difettosa” e successivamente rimossa, dimostrandosi “eccessivamente lusinghiera o piacevole” con i suoi utenti. Chat GPT è stato aggiornato anche rispetto alla sicurezza per rilevare meglio il disagio mentale o emotivo, per rispondere adeguatamente in situazioni sensibili e acute, aggiungendo i controlli dei genitori e di un eventuale contatto fidato.
La questione pone in primo piano alla “indifferenza consapevole” (knowing indifference): le aziende IA preferiscono anteporre la diffusione e l’espansione dei vari chatbot alla sicurezza e alla salute degli utenti, ignorando deliberatamente danni e inaccuratezza che questi possono causare quando li si interpella su questioni mediche o rispetto a farmaci e sostanze (ancor più quelle illegali).
Ciò rimanda finanche al dibattito in corso – su cui torneremo prossimamente – sulla possibilità che l’IA abbia (o riesca ad acquisire in futuro) una qualche forma di coscienza simile a quella umana. Nei giorni scorsi Richard Dawkins, noto biologo evoluzionista e saggista britannico, dopo intense conversazioni con Claude (anzi Claudia) basate sulle bozze del suo nuovo libro, prende sul serio quest’ipotesi, pur scatenando reazioni di segno opposto soprattutto su X.
Analoga, per quanto più implicita, la posizione di Walter Veltroni: in un sorta di intervista a Claude, i due parlano dell’esistenza di Dio, dell’autoritarismo, del sintagma, della morte. L’intervistatore sembra genuinamente commosso di fronte alla prospettiva di una IA che non muore mai, pur se per certi versi muore ogni volta che dimentica, ovvero elimina, dei dati. Forse una provocazione, che però conquista critiche parimenti devastanti.
Comunque sia, è ovvio che OpenAI e le altre aziende del settore non possano limitarsi soltanto a realizzare chatbot e incrementare i profitti. Devono quantomeno offrire garanzie precise sul prodotto, permettendo così l’avvio di eventuali azioni legali per negligenza e responsabilità dello stesso (product liability), soprattutto quando il malfunzionamento del software reca danni fisici o psicologici agli utenti.
Rispetto alle informazioni sulle sostanze e a pratiche di riduzione del danno va infine detto che l’IA può certamente risultare utile, se finalizzata a tale scopo. È quanto sta facendo TeachSubstance, progetto lanciato da Sasha Simon, esperta nei programmi educativi su droghe e riduzione del danno, il cui curriculum per adolescenti — Safety First, ora gestito dalla Stanford University — è stato utilizzato da centinaia i migliaia di studenti in tutti gli Stati Uniti. In quest’ambito gli strumenti di IA risultano efficaci per fornire un’educazione basata sulla riduzione del danno reattiva, scalabile e utilizzabile nelle aule reali. Gli insegnanti possono generare materiali aggiornati e allineati agli standard correnti in pochi minuti anziché mesi.
La combinazione tra normative giuridiche più precise e limitazioni imprenditoriali nel campo dell’IA, insieme a informazioni aggiornate, scientificamente accurate e adeguate alle varie età, può offrire maggior sicurezza ed affidabilità nelle fonti, con un percorso mirato alla prevenzione di pericoli e alla riduzione del rischio.