Cómo el Sistema de Seguridad Social de España está utilizando la IA para detectar bajas por enfermedad fraudulentas
El sistema de seguridad social de España está utilizando algoritmos de inteligencia artificial para tratar de predecir si las personas con baja por enfermedad estarán listas para volver al trabajo. Si un programa de computadora señala un posible fraude, se envía un inspector para que prosiga el caso.
Eso es según una importante investigación realizada por el diario en línea español El Confidencial y Lighthouse Reports, que dedica sus investigaciones en profundidad a áreas como la migración, el clima, los conflictos y la corrupción.
El Instituto Nacional de la Seguridad Social de España implementó dos algoritmos de aprendizaje automático en 2018 para evaluar la salud de millones de personas que toman licencia por enfermedad en España, informó Lighthouse Reports.
El objetivo es averiguar qué personas en situación de baja laboral (o baja laboral) están estafando al Estado que en este caso les paga el salario.
Estos algoritmos utilizan el aprendizaje automático y un sistema basado en puntos que señala posibles casos de fraude. Sin embargo, la decisión final en cada caso siempre la toma el médico forense.
Por ejemplo, el programa informático analiza a cualquier persona que esté de baja por enfermedad y cuyo expediente no haya sido analizado por un inspector de la Seguridad Social, o que no haya tenido una visita de seguimiento con un médico.
Los algoritmos utilizaron variables como el género y la edad, pero se consideraron «pobres» y «desequilibrados» según una encuesta interna.
Otras variables que utiliza el sistema para los cálculos incluyen género, edad, lugar de residencia y diagnóstico médico.
Si bien el sistema del Seguro Social no estaba dispuesto a responder muchas de las preguntas que los reporteros hicieron detrás de una serie de artículos publicados el lunes, la investigación encontró que el sistema es profundamente opaco, con sus algoritmos considerados «pobres» y «desequilibrados», según una encuesta interna. .
También existe la preocupación de que la baja calidad de los datos que ingresan al sistema signifique que saldrán datos deficientes.
Las entrevistas con periodistas de investigación y médicos forenses han revelado que el sistema de Seguridad Social apenas funciona debido a la falta de fondos y escasez de personal.
“Lo usamos todos los días, pero no podemos explicar qué es”, dijo un médico que habló con El Confidencial y da seguimiento a los casos señalados por el sistema.
Otro dijo que el sistema sería «más útil» si tuviéramos más médicos. Porque estamos en su punto más bajo.
falso positivo
El sistema también genera una avalancha de falsos positivos, lo que podría empujar a las personas a volver al trabajo antes de que estén saludables.
Si bien el sistema se promocionó inicialmente como un medio para detectar fraudes y ahorrar dinero público, más de cinco años después, esas promesas apenas se han materializado.
La falta de transparencia del sistema también hizo que no se detectara ninguna posible discriminación contra grupos sociales. Una de las principales preocupaciones de la IA es que puede favorecer a determinados perfiles colectivos o individuales.
leer más:
