ChatGPT minimizzò un’embolia: pastore statunitense cita OpenAI
Pastore della Florida causa OpenAI per errore medico di ChatGPT. L’IA avrebbe minimizzato i sintomi di embolie polmonari bilaterali per sei settimane.
Un pastore statunitense della Florida ha denunciato OpenAI e il suo amministratore delegato Sam Altman per un possibile errore medico compiuto dall’intelligenza artificiale ChatGPT. Secondo quanto riferito, il chatbot avrebbe minimizzato i sintomi che successivamente risultarono essere embolie polmonari bilaterali, fornendo rassicurazioni per un periodo di sei settimane che avrebbe potuto ritardare una diagnosi corretta e appropriata.
La denuncia di Scott Winters e il ruolo di ChatGPT
Scott Winters, ex pastore della Florida, ha intentato una causa legale contro OpenAI e Sam Altman sostenendo che il chatbot ha fornito consulenze inadeguate rispetto alla sua condizione medica. Secondo la ricostruzione della vicenda, Winters avrebbe consultato ChatGPT per comprendere i sintomi che stava sperimentando, e l’intelligenza artificiale avrebbe risposto con valutazioni che minimizzavano la gravità della situazione.
Nel corso di sei settimane consecutive, il pastore avrebbe ricevuto da ChatGPT una serie di rassicurazioni che lo hanno indotto a non ricercare immediatamente un aiuto medico professionale. Successivamente, una diagnosi corretta ha rivelato che Winters soffriva di embolie polmonari bilaterali, una condizione grave che richiede trattamento medico urgente e potrebbe esporre il paziente a rischi significativi per la salute.
Il problema della consulenza medica tramite intelligenza artificiale
La causa sollevata da Winters evidenzia una questione fondamentale riguardante l’uso dei chatbot basati su intelligenza artificiale per questioni di natura medica. ChatGPT, pur essendo uno strumento avanzato di elaborazione del linguaggio naturale, non è stato sviluppato né certificato come sistema di diagnosi medica e non può sostituire la valutazione di un professionista sanitario qualificato.
Il caso dimostra i rischi che emergono quando gli utenti si affidano a piattaforme di IA generativa per interpretare sintomi potenzialmente gravi. Le embolie polmonari sono condizioni mediche serie che richiedono diagnosi accurata e tempestiva, generalmente effettuata mediante esami specifici come la tomografia computerizzata o l’ecografia. Un’IA, per quanto sofisticata, non dispone della capacità di esaminare fisicamente un paziente né può accedere a informazioni mediche complete sulla storia clinica dell’individuo.
OpenAI ha sempre incluso avvertimenti nei confronti dei suoi utenti, specificando che ChatGPT non deve essere utilizzato per ricevere consulenza medica professionale. Tuttavia, la causa di Winters suggerisce che potrebbe essere necessario un dibattito più ampio sulla responsabilità delle aziende di intelligenza artificiale quando i loro prodotti vengono utilizzati in ambiti sensibili come la sanità.
La denuncia contro OpenAI e Sam Altman tocca questioni legali complesse riguardanti la responsabilità, la negligenza e il dovere di cura. Questi aspetti diventeranno probabilmente sempre più rilevanti man mano che i sistemi di IA continueranno a espandersi in settori dove gli errori potenziali possono avere conseguenze significative sulla sicurezza e sul benessere degli utenti.
Al momento, la causa è stata depositata e rimane nelle fasi iniziali del processo legale. Gli sviluppi di questa vicenda potranno avere implicazioni importanti per il settore dell’intelligenza artificiale, poiché stabilirà precedenti circa la responsabilità dei fornitori di IA quando i loro strumenti vengono utilizzati in contesti dove sono richieste competenze specializzate, come la medicina. La questione non riguarda solo OpenAI, ma l’intero ecosistema dei sistemi di IA generativa che sempre più persone consultano per ottenere risposte su argomenti che richiederebbero competenze professionali specifiche.