Cuando la Inteligencia Artificial excluye a los pobres

Te explico cinco casos dobde la Inteligencia Artificial puede excluir mucho más a las personas pobres.

La inteligencia artificial (IA) está transformando la forma en que trabajamos, nos comunicamos y accedemos a servicios públicos y privados. Desde asistentes virtuales hasta sistemas que gestionan solicitudes de ayudas sociales, la IA se ha convertido en una herramienta cada vez más presente en nuestra vida cotidiana. Sin embargo, detrás de las promesas de eficiencia e innovación surge una pregunta necesaria: ¿qué ocurre cuando la inteligencia artificial deja fuera a quienes ya se encuentran en una situación de vulnerabilidad?

Aunque a menudo se presenta como una tecnología neutral, la realidad es que la IA puede reproducir e incluso amplificar desigualdades sociales preexistentes. Para las personas con menos recursos económicos, menor acceso a la tecnología o mayores dificultades para desenvolverse en entornos digitales, la inteligencia artificial puede convertirse en una nueva barrera de exclusión.

La brecha digital: el primer filtro invisible

Antes de hablar de algoritmos o automatización, es importante recordar que no todas las personas parten de las mismas condiciones. La llamada brecha digital sigue siendo una realidad en España y afecta especialmente a personas mayores, familias con bajos ingresos, población migrante y personas en situación de exclusión social.

Acceder a servicios digitales requiere disponer de dispositivos adecuados, conexión a internet y competencias tecnológicas básicas. Cuando una administración pública o una entidad traslada sus trámites al entorno digital sin ofrecer alternativas accesibles, muchas personas quedan automáticamente en desventaja.

En estos casos, la exclusión no se produce porque una persona no tenga derecho a una prestación o recurso, sino porque no logra completar el procedimiento necesario para solicitarlo.

Por eso, soluciones como el bono de conectividad podría ser el primer paso para solucionar la brecha digital de las personas en situación de pobreza.

Cuando los algoritmos toman decisiones

La inteligencia artificial ya se utiliza en distintos ámbitos para clasificar información, detectar patrones o ayudar en la toma de decisiones. En algunos países, incluso se han implementado sistemas automatizados para identificar posibles fraudes, priorizar expedientes o valorar riesgos sociales.

El problema surge cuando estos sistemas aprenden a partir de datos históricos que contienen desigualdades previas. Si determinados colectivos han sufrido discriminación en el pasado, existe el riesgo de que los algoritmos reproduzcan esos mismos sesgos.

Los peligros de los sesgos algorítmicos

Los algoritmos no desarrollan prejuicios por sí solos, pero sí pueden aprender de datos que reflejan situaciones de desigualdad. Como consecuencia, algunas personas pueden ser evaluadas de forma injusta o recibir una atención menos favorable.

Esta situación resulta especialmente preocupante cuando afecta al acceso a prestaciones económicas, vivienda, empleo o servicios esenciales. Una decisión automatizada errónea puede tener consecuencias muy importantes para quienes ya se encuentran en una situación de vulnerabilidad.

Uno de los ejemplos más conocidos es el escándalo de las ayudas a la infancia en los Países Bajos. Miles de familias fueron acusadas injustamente de fraude debido a sistemas automatizados de evaluación de riesgos que consideraban factores como la doble nacionalidad o determinadas características socioeconómicas.

Las consecuencias fueron devastadoras: familias endeudadas, pérdida de viviendas y graves problemas sociales. El caso provocó incluso la dimisión del gobierno neerlandés.

La pobreza de datos: cuando la IA no te ve

La inteligencia artificial funciona gracias a grandes cantidades de información. Cuantos más datos existen sobre una persona o situación, más capacidad tiene el sistema para realizar predicciones o clasificaciones.

Sin embargo, muchas personas vulnerables generan pocos datos digitales. Personas sin hogar, quienes trabajan en la economía informal o quienes tienen una escasa relación con entidades financieras pueden quedar fuera de los registros que utilizan determinados sistemas automatizados.

La invisibilidad digital

Cuando una persona apenas aparece en las bases de datos, la IA tiene dificultades para interpretar su realidad. Esto puede provocar errores, valoraciones incompletas o la imposibilidad de acceder a determinados servicios.

Paradójicamente, quienes más apoyo necesitan son, en ocasiones, quienes menos visibles resultan para los sistemas tecnológicos.

Te pongo un ejemplo para que lo entiendas: dos personas solicitan una hipoteca. Ambas tienen ingresos similares y una capacidad de pago prácticamente idéntica. Sin embargo, una vive en un barrio acomodado y la otra en una zona con mayores índices de desempleo. Si el algoritmo considera el código postal como un indicador de riesgo, la segunda persona podría recibir peores condiciones o incluso ser rechazada. La discriminación no se produce por una decisión humana explícita, sino por un sistema que aprende de patrones históricos y reproduce desigualdades existentes.

Servicios públicos cada vez más digitalizados

La digitalización de las administraciones públicas ha supuesto importantes avances en términos de rapidez y eficiencia. Sin embargo, también ha generado nuevos desafíos.

Solicitar una cita previa, presentar documentación electrónica o identificarse mediante certificados digitales son procesos que pueden resultar sencillos para algunas personas, pero muy complejos para otras.

Cuando desaparecen los canales presenciales o telefónicos, muchas personas quedan atrapadas en un sistema diseñado para quienes poseen habilidades digitales suficientes.

La exclusión administrativa digital

Esta realidad es especialmente relevante en el ámbito de los servicios sociales. Profesionales de la intervención social se encuentran cada vez con más personas que necesitan apoyo no solo para resolver una necesidad concreta, sino también para acceder al propio sistema de protección.

La tecnología debería facilitar el acceso a derechos, no convertirse en un obstáculo adicional.

Inteligencia artificial y desigualdad laboral

La expansión de la IA también está transformando el mercado laboral. Algunas tareas repetitivas y administrativas pueden ser automatizadas, afectando especialmente a empleos de menor cualificación.

Uno de los casos más conocidos de sesgo algorítmico ocurrió en Amazon. La compañía desarrolló una herramienta de inteligencia artificial para filtrar currículums y agilizar los procesos de selección. Sin embargo, el sistema aprendió a partir de datos históricos de contratación donde predominaban los hombres en puestos tecnológicos. Como resultado, penalizaba candidaturas femeninas y otorgaba mejores puntuaciones a perfiles masculinos. Finalmente, Amazon decidió abandonar el proyecto tras comprobar que no podía garantizar decisiones libres de discriminación.

Aunque la inteligencia artificial también crea nuevas oportunidades profesionales, no todas las personas cuentan con los recursos necesarios para adaptarse a estos cambios. La formación continua y el acceso a competencias digitales serán factores determinantes para evitar que aumenten las desigualdades laborales.

El papel del Trabajo Social ante la exclusión tecnológica

Ante este escenario, el trabajo social desempeña un papel fundamental. Las y los profesionales se encuentran en una posición privilegiada para detectar situaciones de exclusión digital y acompañar a las personas en el acceso a sus derechos.

Acompañamiento y alfabetización digital

Cada vez es más necesario ofrecer apoyo en la realización de trámites electrónicos, el uso de aplicaciones o la gestión de recursos digitales. La alfabetización digital se ha convertido en una herramienta clave para la inclusión social.

Defensa de los derechos sociales

Además del acompañamiento individual, el trabajo social tiene la responsabilidad de promover sistemas más justos e inclusivos. Esto implica exigir transparencia en el uso de algoritmos, supervisión humana en las decisiones automatizadas y alternativas accesibles para quienes no pueden utilizar medios digitales.

Cómo construir una inteligencia artificial más inclusiva

La solución no pasa por rechazar la inteligencia artificial, sino por garantizar que su desarrollo tenga en cuenta la diversidad de la población y las desigualdades existentes.

Para ello resulta fundamental:

• Evaluar el impacto social de los sistemas de IA antes de su implementación.
• Detectar y corregir sesgos algorítmicos.
• Garantizar la supervisión humana en decisiones sensibles.
• Mantener canales presenciales accesibles.
• Incluir la perspectiva de colectivos vulnerables en el diseño tecnológico.