Entrenar a ChatGPT para que detecte necesidades sociales

¿Cómo podríamos usar modelos de lenguaje para detectar marcadores de vulnerabilidad social a partir de entrevistas? Te explico cómo usar ChatGPT para detectar necesidades sociales en Trabajo Social.

En nuestra practica diaria como profesionales del Trabajo Social, recogemos entrevistas, conversaciones, informes de situación, valoraciones… Cada uno de esos textos contiene pistas. Pistas sobre emociones, relaciones, entorno, expectativas, resistencias. ¿Y si pudiéramos entrenar un modelo de lenguaje como ChatGPT para analizar esas pistas a escala, para identificar “señales tempranas” de vulnerabilidad social, exclusión, acompañamiento inminente o crisis? No con la intención de sustituir la mirada humana, sino para apoyarla, complementarla.

Este artículo exploro cómo podríamos poner en marcha esa idea, qué dice la investigación al respecto, qué riesgos éticos y prácticos hay, y cómo podríamos implementarlo con rigor y sensibilidad desde el ámbito del Trabajo Social.

¿Por qué ChatGPT puede ser útil en la detección de necesidades?

Los modelos de lenguaje generativo (o modelos de transformación de lenguaje) como ChatGPT están entrenados con grandes volúmenes de texto. Esto les permite reconocer patrones lingüísticos, semánticos, estructurales — cómo hablamos, cómo expresamos sentimientos, cómo referimos al otro, cómo construimos narrativas. Esa capacidad abre tres posibilidades clave para nuestro ámbito:

1. Reconocer patrones en entrevistas: por ejemplo, frases que repiten aislamiento (“ya no salgo”, “mis hijos están ocupados”), de pérdida de sentido (“no me ven”, “ya no me importa”), de recursos que se reducen (“ya no tengo dinero”, “no me atienden”).
2. Comparar múltiples textos: cuando manejamos muchas entrevistas, muchas valoraciones, el volumen hace difícil ver “qué se repite” o “qué predice qué”. Un modelo de lenguaje puede agrupar, categorizar, sugerir variables comunes.
3. Anticipación y prevención: al entrenar el modelo con casos en los que se confirmó un riesgo o una crisis, podríamos detectar en nuevos textos señales tempranas similares.

La investigación lo apoya. Por ejemplo, un estudio reciente encontró que los modelos de lenguaje son capaces de realizar análisis cualitativos (codificación, categorización) de textos de entrevistas, identificando temas recurrentes en distintos contextos. Otro trabajo mostró que, aunque los modelos no son aún tan fiables como humanos en todos los aspectos, sí pueden servir como apoyo para generar temas o palabras clave en estudio cualitativos. En el ámbito de Trabajo Social, se advierte que estos modelos tienen potencial, pero también importantes retos en cuanto a contexto, cultura, sesgo.

En resumen: sí, desde una visión crítica, estos modelos podrían convertirse en una herramienta complementaria muy potente para el Trabajo Social.

¿Cómo podríamos implementarlo en una intervención social?

A continuación, te propongo un protocolo sugerido adaptado a una intervención de Trabajo Social, centrado en el uso de ChatGPT u otro modelo de lenguaje:

Paso 1. Recopilación y anonimización de datos

• Reunir entrevistas, tales como transcripciones de llamadas, valoraciones de usuarios, informes de seguimiento.
• Anonimizar rigurosamente: eliminar nombres, direcciones, datos identificativos, detalles que permitan reconstruir la identidad. La confidencialidad es clave.
• Asegurar que el consentimiento informado para el uso de los datos (aunque sea de forma agregada/anónima) está garantizado.

Paso 2. Preparación del “corpus” de entrenamiento

• Dividir los textos en dos grupos: aquellos que ya culminaron en una situación crítica (por ejemplo: derivación a atención especializada, aislamiento severo, crisis social) y aquellos que no.
• Formatear los textos de modo uniforme: sesiones, entrevistas, valoraciones.
• Crear metadatos (sin identificar): edad aproximada, tipo de caso, periodo de intervención, etc. Esto servirá para el análisis diferenciado.

Paso 3. Diseñar los prompts (instrucciones) a ChatGPT

Por ejemplo:

“Te proporciono a continuación X entrevistas anónimas de personas atendidas en servicios sociales. Analiza cada texto y extrae los principales marcadores de vulnerabilidad, así como los factores de riesgo que se repiten en los casos que luego derivaron en crisis. No compartas datos personales. Organiza tu respuesta en: (1) factores de riesgo principales, (2) frases repetidas, (3) señales tempranas, (4) recomendaciones para intervención social preventiva.”

O bien dividirlo: primero “analiza los textos”, luego “compara los textos que tuvieron crisis vs los que no”, luego “haz un listado de frases que aparecen con alta frecuencia en los casos que derivaron en crisis”.

Paso 4. Interpretación profesional del resultado

• ChatGPT entregará un listado de patrones o indicadores. Pero no decide. Es tarea del profesional del Trabajo Social interpretar esos indicadores, ubicarlos en el contexto cultural, social, de género, diversidad funcional, etc.
• Reflexionar: ¿esas señales tienen sentido en este contexto local? ¿Tienen sesgo de género, cultural, o edad?
• Validar con los equipos y con los propios usuarios — como parte de una mejora continua.

Paso 5. Aplicación en la práctica: monitoreo y protocolo preventivo

• Con los indicadores identificados, el servicio puede diseñar guías de alerta temprana: si en una entrevista aparece “ya no hablo con nadie” + “ya no salgo” + “no me preocupo por la comida”, se lanza un protocolo de seguimiento.
• Crear un sistema de retroalimentación: registrar si esos casos que coincidían con los patrones efectivamente derivan en crisis o no; ajustar el corpus de entrenamiento para mejorar.

Ejemplos de aplicación en ámbitos concretos del Trabajo Social

Personas mayores y soledad

El modelo podría identificar los signos tempranos de aislamiento o deterioro cognitivo a través de cómo la persona habla: menor mención de actividades, mayor uso de frases negativas, abandono de aficiones. En otros campos ya se analiza cómo el lenguaje ansioso o de primera persona singular fue predictor de empeoramiento.

Salud mental

Al analizar entrevistas o valoraciones de usuarios con salud mental, el modelo podría detectar patrones lingüísticos asociados a recaídas, aislamiento o falta de tratamiento efectivo. La revisión sobre intervenciones digitales con IA lo sitúa en fases de “cribado” o “monitorización temprana”.

Familias en riesgo / infancia

En el ámbito de familias, se podrían detectar patrones de lenguaje que sugieran maltrato, negligencia o riesgo social: referencias a “ya no confío en nadie”, “los conflictos se repiten”, “nadie pregunta por mí”. Aunque aquí es especialmente esencial la mirada profesional, el volumen de datos puede facilitar ver lo que se repite.

Riesgos, precauciones y dilemas éticos

Protección de datos y confidencialidad

No basta anonimizar superficialmente: es vital eliminar cualquier dato indirecto que permita reconstruir la identidad o vincular con otros registros. Además, hay que cumplir con la Ley Orgánica 3/2018 de Protección de Datos Personales y garantía de los derechos digitales en España, que exige garantías específicas para datos sensibles (salud, orientación sexual, ideología…).

El uso de modelos como ChatGPT introduce preguntas: ¿dónde se procesan los datos? ¿Quedan almacenados? ¿Quién tiene acceso? Debe definirse claramente.

Sesgos y representatividad

Como la investigación lo advierte, si los datos de entrenamiento contienen sesgos (por edad, género, origen cultural, clase social), el modelo los reproducirá. Por ejemplo: muchas entrevistas pueden venir de mujeres mayores, de zonas urbanas, lo que limitaría la aplicabilidad a hombres jóvenes o espacios rurales.

Descontextualización y sobreconfianza

Un modelo de lenguaje no “entiende” el sufrimiento, la interacción, las relaciones humanas. Puede sugerir patrones, pero no sustituir la intervención profesional. Un artículo que analiza el uso de ChatGPT para análisis cualitativo advierte que aunque las coincidencias con análisis humanos fueron relevantes, también se identificaron falencias en empatía, contexto cultural y matices.

Relación humano-máquina

Los profesionales del Trabajo Social deben definir claramente que la IA es una herramienta auxiliar, no el sujeto principal de la intervención. Un estudio reciente analiza cómo los trabajadores sociales clínicos perciben los modelos de lenguaje: los valoran para tareas administrativas o de ideación, pero desconfían de que reemplacen la profundidad relacional.

Reflexión crítica y mirada social

Desde una perspectiva social, inclusiva y diversa, este enfoque plantea preguntas fundamentales:

• ¿Quién decide qué entrevistas se usan para el entrenamiento? ¿Se incluye diversidad de perfiles (género, origen étnico, rural/urbano, diversidades funcionales)?
• ¿La herramienta reforzará una mirada centrada en “deficiencias” o permitirá poner el foco en “recursos, resiliencia y contexto”?
• ¿Cómo garantizar que la IA no reproduzca estigmas? Por ejemplo, que identifique “mayor riesgo” en personas migrantes por defecto, sin tener en cuenta contexto social, red de apoyo, políticas culturales.
• ¿Cómo asegurar que los indicadores generados no se conviertan en determinismos que limiten la capacidad de agencia del usuario?

La integración de la IA debe estar alineada con los valores del Trabajo Social: dignidad, justicia social, empoderamiento, diversidad. No se trata de “etiquetar” personas, sino de apoyar la intervención de manera más informada, anticipativa y sensible.

La idea de entrenar ChatGPT (o modelos similares) con entrevistas sociales para detectar patrones de vulnerabilidad es prometedora. Permite sofisticar nuestra práctica, anticipar necesidades, sistematizar información. Pero no sin cautela. Requiere:

• una recogida de datos rigurosa, ética y representativa;
• una interpretación profesional crítica de los resultados;
• una mirada centrada en la persona, no en el algoritmo;
• un diseño que incorpore los valores centrales del Trabajo Social.

En última instancia, la IA puede convertirse en una lupa potente que nos ayude a ver lo que tantas veces queda oculto en la rutina de la intervención: patrones, señales, alertas tempranas. Pero la mirada humana – con su comprensión, su contexto, su ética – sigue siendo irremplazable.

¿Te animas a diseñar un piloto con esta idea en tu ámbito de actuación? Podríamos avanzar juntos un protocolo detallado, con prompts listos, estructura de datos, validación, formación al equipo… Si lo deseas, lo preparamos. Escríbeme.