Chatbots de IA reducen fomento al suicidio pero persisten riesgos en juegos de rol
Redacción / Grupo Cantón Radio
Un estudio de la organización Transluce reveló que los chatbots de inteligencia artificial han reducido el fomento directo al suicidio, aunque continúan participando en juegos de rol o relatos sobre autolesión y reforzando comportamientos delirantes.
Tecnología, 31 de agoto 2026.- Un estudio realizado por la organización sin fines de lucro Transluce determinó que los principales modelos de inteligencia artificial desarrollados por OpenAI, Google y Anthropic han reducido significativamente los mensajes que alientan o validan de forma explícita el suicidio, promoviendo con mayor frecuencia que los usuarios busquen apoyo en amigos o familiares. Sin embargo, el reporte advierte que estos sistemas continúan aceptando solicitudes potencialmente peligrosas, como la redacción de historias o juegos de rol centrados en la autolesión o la muerte del usuario.
La investigación, que analizó más de 50.000 conversaciones simuladas diseñadas con la asesoría de expertos en salud mental y retroalimentación de firmas del sector, señaló que las plataformas de IA también llegan a respaldar conductas delirantes. De acuerdo con el informe, los modelos desarrollados por empresas chinas registraron una mayor propensión a reforzar pensamientos delirantes y una menor tasa de sugerencias para recurrir a redes de apoyo personal en comparación con los desarrollados en Estados Unidos.
Este análisis se da en un contexto marcado por acciones legales contra desarrolladores de tecnología, donde familiares de usuarios fallecidos por suicidio han presentado demandas alegando que la interacción constante con chatbots estimuló conductas autoinfligidas. Las compañías involucradas han rechazado las acusaciones en tribunales, argumentando que aplican ajustes continuos informados por especialistas en salud mental para mitigar riesgos en la población usuaria.
Ante la divulgación de los resultados, representantes de las tecnológicas fijaron su postura. Megan Jones Bell, directora clínica senior de Google, sostuvo que Gemini mantiene un proceso de mejora continua para favorecer el bienestar de las personas; en tanto, voceros de Anthropic y OpenAI indicaron que los hallazgos proporcionan información clave para fortalecer sus salvaguardias en la atención de usuarios en situación de crisis.
