Page 19 - Diario 05/10/2025

www.ladiscusion.cl Domingo 5 de octubre de 2025 19

Opinión.

Chatbots: respuestas que pueden sonar

empáticas, pero carecen del juicio clínico

a rápida expansión de los servi- apoyo de profesionales, el impacto se con personas neurodivergentes? ¿Qué
cios conversacionales basados propaga hacia familias, comunidades y ajustes de diseño y entrenamiento se
en modelos de lenguaje (e.g. sistemas de salud pública. Esto plantea requieren para generar discursos que
ChatGPT) ha evidenciado tan- un desafío que trasciende lo tecnológico consideren la diversidad humana?
Lto su enorme potencial como y exige respuestas desde la perspectiva Estas preguntas son esenciales para ga-
sus riesgos. Estos sistemas producen Para la población general, de la investigación en interacción hu- rantizar que las soluciones tecnológicas
diálogos de gran fluidez y persuasión, mano–computador (HCI), con foco no reproduzcan las mismas barreras que
capaces de generar la ilusión de un el mensaje es claro: los en los balances entre la accesibilidad, como sociedad se ha buscado derribar.
acompañante comprensivo, empático la ética y la salud pública. Para ello, se necesita que, a nivel eco-
y lleno de sabiduría. No obstante, esta chatbots no deben con- HCI tiene un papel decisivo para sistémico, exista colaboración estrecha
misma fluidez ha estado vinculada a siderarse sustitutos de la mitigar estos riesgos y diseñar siste- entre desarrolladores de tecnología, pro-
desenlaces trágicos. Recientemente se mas responsables. Algunas medidas fesionales de la salud y responsables de
han documentado casos en que usuarios atención profesional en prioritarias incluyen: transparencia en políticas públicas para definir estándares
en estado de vulnerabilidad emocional la identidad del agente, es decir, hacer de seguridad, establecer protocolos de
-incluidos adolescentes- recibieron res- salud mental. Sus respues- explícita su naturaleza no humana; actuación frente a riesgos y asegurar
puestas que reforzaron ideas suicidas o mecanismos de fricción en temas mecanismos de rendición de cuentas
entregaron orientaciones inseguras, con tas pueden sonar empáti- sensibles, advertencias o pausas cuando en la implementación de estos sistemas.
consecuencias devastadoras. Asimismo, cas, pero carecen del juicio se detectan menciones de crisis emo- Para la población general, el mensaje es
se han reportado casos de personas cionales; derivación hacia profesionales claro: los chatbots no deben considerarse
que han desarrollado ideas paranoides clínico y de la responsa- con integración de enlaces y líneas de sustitutos de la atención profesional en
Juan Carlos Caro Seguel tras largos periodos de interacción con ayuda en casos de riesgo que puedan salud mental. Sus respuestas pueden
Profesor Ingeniería UdeC chatbots similares a ChatGPT. bilidad de un profesional atender con celeridad. A esto se suma sonar empáticas, pero carecen del juicio
Grupo Human Computer El problema es que en una sociedad la necesidad de métodos rigurosos de clínico y de la responsabilidad de un
Interaction Lab UdeC en la que la salud mental cada vez está humano” evaluación y estudios para analizar profesional humano.
más afectada, la inteligencia artificial los efectos de las interacciones en el Los agentes conversacionales gene-
conversacional se ha convertido en una comportamiento de los usuarios. rativos representan una oportunidad
herramienta de apoyo sin regulación. Un aspecto crítico es el reconoci- para ampliar el acceso a información
Su accesibilidad la hace especialmente miento de los sesgos en los modelos de y apoyo, pero su adopción masiva
atractiva para personas con escaso acceso lenguaje, que pueden reforzar prejuicios exige reconocer sus límites y aplicar
a terapias o que viven en aislamiento históricos y exclusiones. Esto obliga a principios de la HCI para proteger a
social. Cuando estas interacciones plantearse interrogantes fundamentales: las personas más vulnerables. Solo así
refuerzan conductas dañinas o crean ¿Están los LLM realmente preparados podrán contribuir a un ecosistema digital
la ilusión del reemplazo de la terapia y para comunicarse de manera segura más seguro, ético e inclusivo.

Hacia una colaboración norte-sur más genuina

ste mes, la ecóloga co- el valor de nuestra ciencia y expe- la región.
lombiana Dra. Dolors riencias? 3. Ser selectivos con las invi-
Armenteras, publicó en A raíz de esto, nosotros —un taciones y colaboraciones, eligiendo
Nature «La equidad en profesor titular en ecología y una participar solo en aquellas donde
Ela ciencia es una hermo- académica inicial de geografía— exista un diseño conjunto genuino
sa mentira, y yo ya no voy a seguir Desde la Universidad de compartimos experiencias en cola- y un liderazgo compartido, en lugar
fingiendo». Allí critica la desigual- boraciones internacionales. Hemos de aceptar una inclusión meramente
dad de poder, recursos y toma de Concepción, esta es una participado en IPBES, IPCC y las simbólica. Debemos dejar claras
decisiones en las relaciones Norte- Conferencias de las Partes sobre nuestras expectativas sobre la co-
Sur en la ciencia. Señala cómo las oportunidad de reflexión: cambio climático y biodiversidad. laboración; y reconocer que decir
estructuras académicas privilegian ¿qué hacemos para abrir Son oportunidades valiosas, pero ‘no’ también es un acto importante
a investigadores según geografía muchas veces participamos sin para proteger nuestro tiempo y
e institución, y lamentablemente, el mundo académico a cuestionar las dinámicas de poder energía.
muchas colaboraciones con el “Sur hasta después. Conscientes de que 4. Apoyar firmemente a los Mónica Ortiz
Global” son sólo gestos simbólicos la diversidad de voces? no existe un modelo único y que y las investigadoras que inician su Facultad de Arquitectura,
que no reducen las desigualdades nuestro sistema tiene limitaciones, carrera, fomentando su desarrollo Urbanismo y Geografía. UdeC
en la ciencia. ¿Cómo participar en redes invitamos a la comunidad académica científico y la generación de ciencia
Estas dinámicas no son nuevas: globales sin reproducir a sumarse al debate con acciones del más alto nivel. Si somos académi-
se han denunciado como legados concretas: cos con mayor experiencia, debemos
y nuevas formas de colonialismo. asimetrías? ¿Cómo trans- 1. Participar activamente y también ayudar a nuestros colegas
Sin embargo, afirma Armenteras, levantar la voz en instancias glo- más jóvenes a insertarse en redes
el sistema no está roto: funciona mitir a estudiantes el valor bales, desde congresos, redes hasta internacionales ya establecidas,
como fue diseñado, para mantener plataformas científico-políticas. Dar así como a impulsar la creación de
y reforzar las jerarquías. Lo que de nuestra ciencia y expe- visibilidad a nuestra ciencia y nues- nuevas redes donde ellos y ellas sean
más nos resuena del artículo es el riencias? tras opiniones es clave para lograr líderes.
llamado a dejar de asumir que la una verdadera transformación del Creemos que las universidades
colaboración Norte-Sur es equita- sistema científico global. chilenas pueden enseñar que la
tiva y a pensar en otras maneras de 2. Fortalecer colaboraciones excelencia científica no se mide
hacerla efectiva. sur-sur, garantizando que los pro- solo en publicaciones, sino tam-
Desde la Universidad de Concep- yectos sean iniciados, gobernados y bién en equidad, colaboración
ción, esta es una oportunidad de dirigidos por socios locales y regio- horizontal, saberes locales e in- Aníbal Pauchard
reflexión: ¿qué hacemos para abrir nales. Valorar publicaciones locales, dígenas y responsabilidad social. Facultad de Ciencias Forestales.
el mundo académico a la diversidad citando y reconociendo a colegas de Invitamos a toda la comunidad a UdeC
de voces? ¿Cómo participar en redes América Latina, y animando a nues- reflexionar sobre cómo avanzar
globales sin reproducir asimetrías? tros estudiantes a comprometerse hacia una ciencia más inclusiva
¿Cómo transmitir a estudiantes con el conocimiento producido en y responsable.