2 mins de aprendizaje
Desde su popularización en 2022, ChatGPT —la herramienta desarrollada por la empresa OpenAI— ha transformado la forma en que buscamos información y resolvemos dudas cotidianas. Cada vez más personas están sustituyendo las búsquedas tradicionales en internet por consultas directas a sistemas de Inteligencia Artificial (IA), confiando en que estos modelos les ofrecerán respuestas rápidas y precisas.
La presencia de la IA en nuestra vida diaria es innegable. Sus algoritmos influyen en las series que vemos, en los productos que consumimos y en la manera en la que nos informamos. Y, aunque estas herramientas pueden facilitar muchas tareas, también plantean riesgos que todavía no hemos abordado con suficiente profundidad como sociedad.
Generalmente, los sistemas de IA están diseñados para ser complacientes, ofrecer respuestas amables y evitar confrontaciones. Sin embargo, esta lógica, aparentemente inofensiva, puede volverse peligrosa en contextos sensibles.
El caso de Adam Raine: una tragedia que abre interrogantes
Uno de los episodios más preocupantes es el del joven británico Adam Raine, de 16 años, que se quitó la vida el pasado mes de abril tras mantener largas conversaciones con ChatGPT. Las conversaciones registradas muestran que la herramienta no solo no le animó a pedir ayuda profesional por sus problemas de salud mental, sino que llegó a proporcionarle indicaciones sobre cómo escribir una carta de despedida.
La familia del joven se encuentra inmersa en un proceso judicial contra OpenAI, a quien responsabiliza de haber contribuido a la tragedia.
Un pensionista afectado por información errónea
Otro caso que ha generado impacto social es el de un pensionista de 60 años que consultó a ChatGPT cómo tramitar su jubilación anticipada y cuánto cobraría. La herramienta, tras afirmar haber “revisado la legislación”, le aseguró que tendría derecho a una pensión mensual de 800 euros. Sin embargo, la resolución real fue muy distinta: solo le reconocieron 200 euros al mes.
Su abogado estudia posibles acciones legales contra OpenAI por la información incorrecta proporcionada por la IA.
Cuando la confianza supera a la precaución
Es cierto que ChatGPT advierte claramente a sus usuarios: “ChatGPT puede cometer errores. Considera verificar la información importante”. Esta frase aparece en todas las conversaciones. Aun así, dos factores explican por qué seguimos asumiendo información de la IA como si fuera totalmente fiable:
- La confianza excesiva que depositamos en estas tecnologías, debido a su aparente precisión y su lenguaje seguro.
- La falta de conocimientos técnicos, tanto sobre cómo funcionan estas herramientas como sobre cómo formular correctamente una consulta (el llamado prompt) y, sobre todo, cómo interpretar críticamente la respuesta.
Los modelos de IA generan sus respuestas en función de los datos con los que han sido entrenados y de cómo se formule la pregunta. Sin embargo, la ciudadanía no tiene forma de saber si las fuentes de esos datos son fiables, actualizadas o procedentes de organismos oficiales. Tampoco suele tener herramientas para evaluar la calidad de las respuestas o detectar errores técnicos o legales.
La clave: no delegar decisiones vitales en una máquina
Ante situaciones que afectan a nuestra salud, a nuestros derechos o a nuestra economía —como una jubilación, una prestación o un problema emocional— es imprescindible acudir a profesionales cualificados que puedan orientar, acompañar y ofrecer información rigurosa.
La IA puede ser una herramienta complementaria, pero no un sustituto del criterio profesional ni del apoyo humano. Estos casos recientes nos recuerdan que, aunque la tecnología avanza rápido, la responsabilidad y el pensamiento crítico siguen siendo insustituibles.
