Resumen generado por IA
La inteligencia artificial física, o Embodied AI, está revolucionando sectores como la educación y la salud mental al permitir una interacción tangible entre humanos y máquinas. En el Future Trends Forum de la Fundación Innovación Bankinter, expertos como Ginevra Castellano destacaron la importancia de la confianza y la ética en la relación humano-robot. Castellano enfatiza que, aunque los robots sociales pueden mejorar el aprendizaje y apoyar en la detección de trastornos como la depresión perinatal, su integración debe ser supervisada para evitar dependencia o problemas éticos.
En educación, robots como Emys y Furhat han demostrado potenciar la creatividad y generar confianza en niños, aunque surge la preocupación por un posible exceso de confianza que sustituya interacciones humanas esenciales. En salud mental, estos robots podrían facilitar la detección temprana y la concienciación, especialmente donde el acceso a especialistas es limitado. Sin embargo, es crucial combinar su uso con supervisión humana para asegurar un apoyo adecuado y evitar que la tecnología reemplace el contacto humano.
Castellano subraya que el futuro de la IA social debe basarse en un equilibrio entre innovación y responsabilidad. Es necesario un marco ético que garantice transparencia, diseño centrado en el usuario y límites claros para evitar riesgos asociados a la dependencia. Así, la IA social tiene el potencial de transformar positivamente la sociedad, siempre que se prioricen principios éticos que aseguren su beneficio común.
La IA social tiene el potencial de transformar la educación, la salud y la movilidad. Ginevra Castellano analiza cómo construir confianza en la interacción humano-robot y los desafíos éticos de esta tecnología emergente
La inteligencia artificial (IA) está transformando la industria, la automatización, la salud y también la manera en que los humanos interactúan con la tecnología. En este contexto, la Embodied AI o IA física juega un papel fundamental. No se trata solo de sistemas de IA basados en datos y algoritmos, sino de inteligencia artificial con presencia física, que interactúa con el mundo de forma tangible y con impacto real en nuestra vida cotidiana.
En el Future Trends Forum de la Fundación Innovación Bankinter dedicado a la IA física participaron más de 40 expertos internacionales. Entre ellos, Ginevra Castellano, profesora y directora del Uppsala Social Robotics Lab, quien compartió su visión sobre la importancia de la confianza en la interacción humano-robot y cómo la IA social puede usarse para el bien común. Su investigación aborda una cuestión clave: ¿cómo asegurarnos de que los robots sociales generen beneficios reales sin generar dependencia o problemas éticos?
Desde la educación hasta la salud mental, los robots sociales tienen el potencial de mejorar la vida de muchas personas. Sin embargo, Castellano advierte que su integración en la sociedad no puede basarse solo en la eficiencia tecnológica, sino en una reflexión profunda sobre su impacto a largo plazo.
Si quieres ver la ponencia de Ginevra Castellano, aquí puedes verla:
Ginevra Castellano: «Social robots in education» #EmbodiedAIForum
Robots en educación: más que asistentes tecnológicos
Uno de los ámbitos donde los robots sociales han demostrado ser más útiles es en la educación. Investigaciones recientes han revelado que los robots pueden facilitar el aprendizaje de materias STEM, ayudar en la enseñanza de segundas lenguas y mejorar la comprensión lectora en niños. Sin embargo, Castellano plantea una pregunta fundamental: ¿qué significa realmente que un robot sea beneficioso en la educación?
En su laboratorio, han desarrollado varios experimentos con robots diseñados para asistir en la enseñanza. Uno de estos proyectos involucra a Emys, un robot con capacidad de expresar emociones y participar en actividades interactivas con niños de primaria. Los hallazgos son sorprendentes: cuando Emys induce emociones positivas en los niños, su creatividad aumenta significativamente en tareas de narración de historias.
Otro de los estudios liderados por Castellano explora el impacto del robot Furhat de Furhat Robotics en la confianza de los niños. En este experimento, el equipo analizó si los niños confían en un robot social y si compartirían información con él. Un resultado clave fue que los niños tienden a confiar más en un robot con apariencia menos humana.
Este hallazgo plantea un dilema: ¿puede existir un punto en el que los niños confíen demasiado en un robot? ¿Cómo asegurarnos de que esta confianza sea saludable y no reemplace interacciones humanas esenciales?
Castellano subraya la importancia de la supervisión adulta en el uso de robots educativos. La tecnología puede potenciar el aprendizaje, pero nunca debe sustituir el papel de los educadores ni generar una dependencia excesiva en los niños.
Robots en la salud mental: apoyo en la detección de la depresión perinatal
Otro campo en el que los robots sociales pueden marcar la diferencia es la salud mental. Un proyecto en el que ha trabajado el equipo de Castellano explora el uso de robots para la detección de la depresión perinatal, una condición que afecta hasta al 20% de las mujeres durante o después del embarazo.
El diagnóstico de este trastorno requiere la intervención de especialistas, pero la falta de personal médico cualificado en muchas regiones provoca que hasta un 70% de los casos no sean detectados. Esto llevó a los investigadores a preguntarse: ¿podría un robot ayudar en la detección temprana de la depresión perinatal y en la concienciación sobre el problema?
Para responder a esta cuestión, el equipo llevó a cabo entrevistas con psiquiatras, expertos en salud mental, académicos de estudios de género y mujeres con experiencia en depresión perinatal. Las reacciones fueron diversas:
- Algunas mujeres consideraron que interactuar con un robot les ayudaría a expresarse sin miedo al juicio humano.
- Otras pensaron que los robots podrían desempeñar un papel clave en la concienciación, especialmente en lugares donde el acceso a atención médica es limitado.
- Sin embargo, también hubo quienes expresaron su preocupación de que el uso de robots reforzara la falta de apoyo humano en el sistema de salud, generando una sensación de abandono.
El estudio concluyó que los robots pueden ser herramientas útiles, pero que su implementación debe ir acompañada de una supervisión humana adecuada.
Ética y confianza en los robots sociales
La confianza en los robots sociales es un tema crucial. Si bien los humanos han demostrado ser capaces de formar vínculos emocionales con robots, Castellano advierte que debemos preguntarnos hasta qué punto estos vínculos son saludables.
Algunos de los desafíos éticos más relevantes en la interacción humano-robot incluyen:
- Transparencia y supervisión humana: Los robots deben explicar claramente qué pueden y qué no pueden hacer, y su uso debe estar regulado por profesionales.
- Diseño ético centrado en el usuario: No todos los usuarios reaccionan igual ante la tecnología. Lo que es beneficioso para un grupo puede no serlo para otro.
- Equilibrio entre utilidad y riesgo: Los robots pueden fomentar la confianza, pero también pueden generar dependencia. Es fundamental establecer límites en su uso.
En este sentido, es clave desarrollar robots con capacidades que permitan generar confianza sin fomentar una conexión excesiva o peligrosa. Esto es especialmente relevante en el caso de niños o personas vulnerables.
El futuro de la interacción humano-robot
La investigación de Castellano deja claro que los robots sociales tienen un enorme potencial, pero que su integración en la sociedad debe hacerse con responsabilidad.
En el futuro, podemos esperar avances en áreas como:
- Educación personalizada: Robots que se adapten al estilo de aprendizaje de cada estudiante y fomenten la creatividad mediante narraciones interactivas y juegos emocionales.
- Salud mental: Sistemas de IA que apoyen a psicólogos y psiquiatras en la detección temprana de trastornos como la depresión perinatal, ofreciendo una vía accesible para quienes temen el juicio humano.
- Asistencia a personas mayores: Robots diseñados para mejorar la calidad de vida de la población envejecida, proporcionando compañía y ayudando en tareas cotidianas, como el presentado por Dor Skuler.
- Transporte autónomo: Modelos de interacción confiable entre humanos y vehículos autónomos, considerando el nivel de autonomía que los usuarios están dispuestos a aceptar en diferentes escenarios.
- Accesibilidad y asistencia social: Robots que faciliten la comunicación y la movilidad a personas con discapacidades, potenciando su autonomía.
Sin embargo, estos avances también requieren un marco ético sólido. Castellano subraya que diseñar IA para el bien común no solo implica desarrollar tecnología avanzada, sino también comprender qué deberían y qué no deberían hacer los robots en nuestra sociedad.
El debate sobre la ética en la IA social es más relevante que nunca. La interacción humano-robot no es solo una cuestión tecnológica, sino también filosófica y social. ¿Dónde trazamos la línea entre la utilidad y la dependencia? ¿Cómo aseguramos que estos sistemas beneficien a la sociedad en su conjunto?
Para Ginevra Castellano, la clave está en encontrar un equilibrio entre la innovación y la responsabilidad. La IA social puede transformar nuestras vidas, pero su diseño debe estar guiado por principios claros que garanticen su impacto positivo.
Catedrática en Uppsala University
