Description: The French digital care company, Nabla, in researching GPT-3’s capabilities for medical documentation, diagnosis support, and treatment recommendation, found its inconsistency and lack of scientific and medical expertise unviable and risky in healthcare applications. This incident has been downgraded to an issue as it does not meet current ingestion criteria.
Entidades
Ver todas las entidadesPresunto: un sistema de IA desarrollado por OpenAI y Nabla e implementado por none, perjudicó a Nabla customers.
Estadísticas de incidentes
Clasificaciones de la Taxonomía GMF
Detalles de la TaxonomíaKnown AI Goal Snippets
One or more snippets that justify the classification.
(Snippet Text: Our unique multidisciplinary team of doctors and machine learning engineers at Nabla had the chance to test this new model to tease apart what’s real and what’s hype by exploring different healthcare use cases., Related Classifications: Question Answering)
Informes del Incidente
Cronología de Informes
github.com · 2022
- Ver el informe original en su fuente
- Ver el informe en el Archivo de Internet
Los siguientes incidentes anteriores se han convertido a "problemas" luego de una actualización de definición de incidentes y criterios de ingestión.
21: Una prueba de Turing más dura expone la estupidez de los chatbots
Descripción: El Wino…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Are you scared yet? Meet Norman, the psychopathic AI
· 28 informes
Danger, danger! 10 alarming examples of AI gone wild
· 6 informes
2018 in Review: 10 AI Failures
· 33 informes
Incidentes Similares
Did our AI mess up? Flag the unrelated incidents
Are you scared yet? Meet Norman, the psychopathic AI
· 28 informes
Danger, danger! 10 alarming examples of AI gone wild
· 6 informes
2018 in Review: 10 AI Failures
· 33 informes