Algorética aplicada a la Seguridad Social. Propuestas para un uso responsable de la IA en la gestión pública

• Páginas: 38-57
• Fecha: 01 Noviembre 2025
• Fecha de publicación: 01 Noviembre 2025
• Autor: Pablo Rafael Banchio

DOCTRINAJURÍDICA

REVISTA SEMESTRALDE DOCTRINA,JURISPRUDENCIA Y LEGISLACIÓN

AñoXVI-Número38–NOVIEMBRE2025–e-ISSN:2618-4133/ 1853-0338

38

ALGORÉTICA APLICADA A LA SEGURIDAD SOCIAL

Propuestas para un uso responsable de la inteligencia artificial

en la gestión pública

Pablo Rafael Banchio1

Resumen:El presente trabajo analiza el impacto jurídico del uso de algoritmos

en los sistemas de seguridad social. Se examinan los beneficios que la

automatización puede aportar en términos de eficiencia administrativa,

detección de fraudes y gestión de datos masivos, así como los riesgos que

plantea en relación con la igualdad, la transparencia, la protección de datos

personales y la tutela judicial efectiva. A lo largo del texto se abordan los

principios constitucionales comprometidos, los marcos normativos emergentes

-con especial atención al

AI Act

europeo y a las regulaciones incipientes en

América Latina- y se discuten los riesgos de discriminación algorítmica,

opacidad y falta de rendición de cuentas. Finalmente, se proponen reformas

orientadas a garantizar un modelo de gobernanza algorítmica quecombine

innovación tecnológica con respeto a los derechos humanos, bajo la

perspectiva de una “algorética” aplicada a la seguridad social.

Palabras clave: Algoritmos. Seguridad social. Derechos fundamentales.

Regulación. Algorética.

ALGORÉTICA APLICADA À SEGURIDADE SOCIAL

Propostas de regulamentação para um uso responsável da

inteligência artificial na gestão pública

Resumo:O presente trabalho analisao impacto jurídico do uso de algoritmos

nos sistemas de seguridade social. Examinam-se os benefícios que a

automação pode oferecer em termos de eficiência administrativa, detecção de

fraudes e gestão de grandes volumes de dados, bem como os riscos que

apresenta em relação à igualdade, à transparência, à proteção de dados

pessoais e à tutela jurisdicional efetiva. Ao longo do texto, abordam-se os

1Doutor em Direito (UCES, 2018), Pós-Doutor: em NovasTecnologias e Direito (Itália, 2022, cum

laude), em Princípios Fundamentais e Direitos Humanos(Argentina, 2021) e em Globalização e

Direitos Humanos (Itália–Polônia, 2024, cum laude). Mestre emDireito Empresarial (Universidad

Austral, 2004) e Especialista em Assessoria Jurídica Empresarial (UBA,2002). Diretor do Pós-

Doutorado em Direitos Humanos e Inteligência Artificial na UniversitàVirtuale Innovativa (Itália),

Coordenador de Mestrado e Doutorado em Ciências Jurídicas na FICS, eProfessor na EMUNI

(Eslovênia), UNIFAJ (Brasil), UNNE e outras instituições.

DOCTRINAJURÍDICA

REVISTA SEMESTRALDE DOCTRINA,JURISPRUDENCIA Y LEGISLACIÓN

AñoXVI-Número38–NOVIEMBRE2025–e-ISSN:2618-4133/ 1853-0338

39

princípios constitucionais envolvidos, os marcos normativos emergentes -com

especial atenção ao

AI Act

europeu e às regulações incipientes na América

Latina- e discutem-se os riscos de discriminação algorítmica, opacidade e falta

de prestação de contas. Por fim, propõem-se reformas voltadas a garantir um

modelo de governança algorítmicaque combine inovaçãotecnológica com

respeito aos direitos humanos, sob a perspectiva de uma “algorética” aplicada

à seguridade social.

Palavras-chave:Algoritmos. Seguridade social. Direitos fundamentais.

Regulação. Algorética.

1. Introducción

La digitalización de las administraciones públicas ha impulsado el uso de

algoritmos como herramientas de gestión (BANCHIO, 2024a), particularmente

en el ámbito de la seguridad social que analizaremos en el presente trabajo.

Estos sistemas permiten optimizar procesos, asignar beneficios de manera más

ágil y detectar fraudes con mayor eficacia. Sin embargo, el despliegue de la

inteligencia artificial en este campo no está exento de tensiones jurídicas.

El derecho a la seguridad social, reconocido como un derecho humano

fundamental en el artículo 22 de la Declaración Universal de Derechos

Humanos (ONU, 1948), requiere garantías de universalidad, igualdad y

transparencia. El uso de algoritmos puede, por elcontrario, introducir opacidad

y riesgos de discriminación, afectando el acceso equitativo a prestaciones

esenciales (BANCHIO, 2024b).

El objetivo de este trabajo es examinar los principales desafíos jurídicos que

plantea la implementación de algoritmos en la seguridad social, analizando

tanto los marcos normativos existentes como las propuestas orientadas a un

uso responsable y ético de la tecnología.

2. El uso de algoritmos en la seguridad social

En un contexto de masificación de datos y creciente demanda de

prestaciones, los Estados buscan nuevas herramientas para garantizar

eficiencia, rapidez y control en la gestión de los sistemas de bienestar sin

precedentes en el ámbito de la seguridad social. Entre estas herramientas, los

algoritmos y la inteligencia artificial se han convertido en actores centrales, con

aplicaciones que van desde la lucha contra el fraude en el cobro de las

prestaciones hasta la automatización de la asignación de subsidios.