Todavía estamos lejos de la utopía de “Her”, la película donde un hombre se enamora de una IA, pero la realidad ya se le acerca en un punto: los chatbots pueden aliviar la soledad de alguien de verdad. A las puertas de San Valentín y del Día Mundial del Soltero, ESET, compañía de ciberseguridad, ha analizado hasta dónde llega ese potencial de la IA para hacer compañía, sin perder de vista sus límites éticos y de seguridad.
La soledad no deseada afecta a personas de cualquier edad y ya se considera un problema de salud pública mundial, con estudios que la comparan en daño con el hábito de fumar. En España, uno de cada cuatro jóvenes de entre 16 y 29 años se siente solo, y el 75% de ellos lleva así más de un año. No basta con detectar y acompañar a quien ya la sufre: también hay que prevenirla en los colectivos más vulnerables, y ahí es donde entran los chatbots y asistentes virtuales como posible apoyo emocional.
“Si bien solemos asociar la Inteligencia Artificial con tareas prácticas y funcionales, su papel puede ir más allá. La compañía mediante chatbots como ChatGPT ofrece un enfoque nuevo y un gran potencial para abordar la necesidad humana de conexión y apoyo. Con su capacidad de aprendizaje puede incluso especializarse en interactuar con quienes sufren problemas de salud mental o de comunicación”, explica Josep Albors, director de investigación y concienciación de ESET España. “Sin embargo, antes de adoptar un compañero de IA, debemos comprender mejor el impacto de las interacciones, los problemas éticos que pueden surgir y las posibles amenazas a la privacidad y la seguridad”.
Afecto artificial: riesgos y beneficios
El atractivo de la compañía de IA se apoya en tres rasgos propios de la tecnología: está disponible 24 horas al día los 7 días de la semana, permite expresarse sin miedo a ser juzgado y adapta cada interacción a la persona que tiene delante. Pero también hay obstáculos que frenan este tipo de relación.
Un compañero de IA puede simular emociones y empatía, pero no tiene la comprensión emocional genuina ni la profundidad de una relación humana real. Además, puede generar dependencia, empujar al aislamiento social y dificultar que la persona construya conexiones humanas significativas. Tampoco hay una respuesta única válida para todos, porque cada persona reacciona distinto al mismo mensaje, sobre todo cuando no puede leer el lenguaje corporal de su interlocutor para captar el tono o un significado más profundo. Ese mismo riesgo de reforzar en exceso lo que el usuario quiere oír, sin matices, es justo lo que se analiza en la IA que siempre te da la razón, el riesgo oculto de los chatbots.
A nivel ético, compartir datos personales con estos sistemas obliga a vigilar de cerca el consentimiento, la privacidad y el riesgo de que alguien saque partido de esa información. Cuanto más crecen los modelos de IA, más vigilancia hace falta para garantizar que lo que se comparte quede seguro. Sobre qué tipo de datos conviene evitar por completo, conviene repasar lo que nunca deberías compartir con una IA, tampoco en mensajería online.
- Problemas de privacidad: la compañía de la IA crea un entorno donde se comparte mucha información personal que normalmente no se confiaría a un desconocido. Sin las medidas de protección adecuadas, esa información puede acabar en manos de ciberdelincuentes. Compartir, por ejemplo, la fecha de nacimiento o el nombre de la mascota de la infancia facilita que alguien con acceso a esos datos adivine contraseñas.
- Explotación: a medida que avanza la IA, los ciberdelincuentes encuentran más formas de aprovecharse de quien busca compañía en estos sistemas con fines dañinos, desde animar a hacer transferencias bancarias hasta difundir información falsa o poner en contacto a la víctima con terceros malintencionados.
- Invasión del espacio personal: los programas de acompañamiento de IA que usan cámara o micrófono para interactuar pueden invadir la intimidad del usuario si no están bien protegidos. Si esos dispositivos caen en manos equivocadas, un ciberdelincuente podría acceder a datos sensibles y usarlos para chantaje o robo de identidad.
“A la hora de explorar este nuevo enfoque de la Inteligencia Artificial, es esencial tener en cuenta la información personal que se comparte, tomar suficientes medidas de seguridad para proteger nuestros datos y denunciar cualquier cosa que parezca sospechosa. Conforme la IA continúa integrándose en nuestra vida diaria, todos debemos estar atentos para proteger nuestra seguridad e identidad digital”, concluye Albors.
Preguntas frecuentes
¿Puede un chatbot sustituir a una relación humana?
No. Puede simular emociones y ofrecer compañía puntual, pero carece de la comprensión emocional genuina de una relación humana y puede favorecer el aislamiento si sustituye por completo el contacto real.
¿Qué datos no debería compartir con un chatbot de compañía?
Datos que puedan usarse para adivinar contraseñas o suplantar identidad, como la fecha de nacimiento exacta, el nombre de mascotas de la infancia o información financiera y médica sensible.
¿Qué riesgo de ciberseguridad tienen los asistentes de compañía con cámara o micrófono?
Si no están bien protegidos, un acceso no autorizado a esos dispositivos puede exponer datos sensibles del usuario, con riesgo de chantaje o robo de identidad.
¿Por qué recomienda ESET precaución con estos compañeros de IA?
Porque implican compartir información personal sensible con un sistema que puede tener fallos de seguridad, y porque generan dependencia emocional sin ofrecer la profundidad de una relación humana real.
