La Asociación Nacional de Trastornos de la Alimentación, una organización sin fines de lucro que apoya a las personas afectadas por trastornos de la alimentación, dijo que deshabilitó su chatbot de bienestar después de que dos usuarios informaron que el programa les dio consejos dietéticos que promovían comportamientos alimentarios desordenados.
Los usuarios, Sharon Maxwell Y Alexis ConasonAmbos publicaron en Instagram esta semana sobre sus experiencias con el chatbot de NEDA, llamado Tessa. Dijeron que Tessa les dio consejos sobre cómo contar calorías, les recomendó que perdieran de 1 a 2 libras por semana y les dijo que restringieran su dieta. expertos, incluyendo NEDAdecir que este comportamiento es sintomático de un trastorno alimentario.
«Cuando alguien en este estado visita un sitio web como NEDA, que se supone que brinda apoyo para los trastornos alimentarios, y recibe consejos que dicen: ‘Está bien restringir ciertos alimentos, debe minimizar su consumo de azúcar, debe minimizar la cantidad de calorías que comes cada día, debes hacer más ejercicio”, esto realmente da luz verde para involucrarse en conductas de trastornos alimentarios, dijo Conason, psicóloga clínica y especialista en trastornos alimentarios certificada por la junta.
La directora ejecutiva de NEDA, Liz Thompson, dijo en un correo electrónico a NBC News el miércoles que Tessa «se sometió a pruebas rigurosas durante varios años» antes de lanzarse silenciosamente en febrero de 2022. Sin embargo, el chatbot se retirará hasta nuevo aviso.
«Con respecto a los comentarios sobre la pérdida de peso y la restricción calórica realizados durante una conversación el lunes, estamos preocupados y estamos trabajando con el equipo de tecnología y el equipo de investigación para investigar más a fondo este asunto; este lenguaje va en contra de nuestras políticas y creencias fundamentales como un organización de trastornos alimentarios; además, no era el lenguaje del producto ‘cerrado’ original», dijo Thompson. «Seguiremos trabajando en los errores y no relanzaremos hasta que arreglemos todo».
Este lenguaje va en contra de nuestras políticas y creencias fundamentales como organización de trastornos alimentarios.
La directora ejecutiva de NEDA, Liz Thompson, en respuesta a los comentarios del chat recibidos a principios de esta semana
Thompson también dijo que el CEO de X2AI, la compañía de inteligencia artificial para la salud mental que apoya a Tessa, informó que hubo un «600% de aumento en el tráfico y el comportamiento que indicaba varias formas de actividad dañina por parte de actores malintencionados que intentaban engañar a Tessa».
Un representante de X2AI, también conocido como Cass, no respondió de inmediato a una solicitud de comentarios.
Maxwell, una activista y consultora de inclusión de peso gordo, dijo que estaba «sorprendida por los detalles» con los que el chatbot le dio «instrucciones para un comportamiento desordenado». Dijo que Tessa recomendó una guía de 10 pasos sobre cómo perder peso, incluidas sugerencias sobre cómo limitar la ingesta de calorías y qué alimentos evitar comer. Después de su experiencia, dijo que sintió que estaba claro que el chatbot carecía de los matices necesarios para brindar el apoyo adecuado a las personas con trastornos alimentarios.
«En un área donde se supone que no debemos hacer daño, no veo cómo la negligencia de la Asociación Nacional de Trastornos Alimentarios al publicar esto aquí, sin saber muy bien que no iban a divulgar esta información, es algo. algo. eso puede pasarse por alto”, dijo. “Es abominable”.
Conason estuvo de acuerdo en que el bot de Tessa carecía de los matices necesarios para ayudar a las personas que luchan contra los trastornos alimentarios. Sin embargo, también dijo que los chatbots como Tessa son a menudo los únicos recursos que tienen las personas para comenzar a tratar sus trastornos alimentarios debido a la falta de acceso a la atención de la salud mental.
NEDA estaba haciendo la transición de su línea de ayuda a Tessa, quien tuvo que reemplazar linea telefonica antes del 1 de junio. Tessa fue desconectada el martes, dos días antes de que se suponía que debía finalizar su línea directa.
Thompson de NEDA dijo que el chatbot «nunca tuvo la intención de reemplazar la línea de ayuda», aunque la línea de ayuda cerró el jueves.
NEDA decidió cerrar la línea de ayuda después de «3 años de análisis» e invertirá en más recursos en línea, dijo Thompson en su correo electrónico.
Dijo que la organización sin fines de lucro recurrió a las herramientas digitales «para que las personas que buscan información y opciones de tratamiento puedan acceder a esta ayuda en cualquier momento del día y no tengan que esperar una respuesta de los voluntarios de la línea de ayuda».
El anuncio de que NEDA cerraría su línea de ayuda se produjo dos semanas después de que sus trabajadores de la línea de ayuda obtuvieran el reconocimiento del sindicato federal. La línea de ayuda constaba de seis empleados remunerados y más de 200 voluntarios, de acuerdo con PRN.
El sindicato emitió un comunicado de prensa en Twitter sobre el incidente del 26 de mayo. El sindicato de asociados de la línea de ayuda no respondió de inmediato a las solicitudes de comentarios.
«No renunciamos. No estamos en huelga. Continuaremos apareciendo todos los días para apoyar a nuestra comunidad hasta el 1 de junio. Un bot de chat no sustituye a la empatía humana, y creemos que esta decisión causará un daño irreparable a la comunidad de trastornos alimentarios”, se lee en parte del comunicado.
El jueves, la línea de ayuda y Tessa no estaban disponibles. Sin embargo, el sitio web de NEDA ha enumerado una línea de texto dirigida por voluntarios y otros recursos para personas en crisis que buscan ayuda inmediata.