Abriendo la norma
Uso de sistemas de inteligencia artificial en la actividad administrativa. Se pueden utilizar sistemas de inteligencia artificial con fines asistenciales, instrumentales o de apoyo sin necesidad de una norma habilitante expresa, siempre que no se empleen para adoptar decisiones automatizadas que impliquen la sustitución del criterio humano decisorio y se respeten plenamente las normas de protección de datos personales. El uso de sistemas con funciones de recomendación, priorización o apoyo relevante en la toma de decisiones, o cualquier modalidad de decisión automatizada, requiere una norma habilitante expresa que determine, como mínimo, sus finalidades, alcances, condiciones de uso, criterios aplicados, límites operativos, garantías de supervisión humana y mecanismos de control, revisión y rendición de cuentas. En todos los casos, de manera proporcional al tipo de uso y a la intensidad del impacto potencial en los derechos de las personas, se debe: a) garantizar la transparencia algorítmica, la auditabilidad, la trazabilidad del sistema y la documentación completa de los procesos, datos, modelos y parámetros relevantes utilizados; b) consignar expresamente la intervención del sistema, se explicita su rol funcional dentro del procedimiento y se deja constancia de los criterios o variables significativas empleadas en la generación, recomendación o apoyo de las decisiones; c) documentar, en forma clara y comprensible para los órganos de control, las versiones principales del sistema, sus reglas de configuración, procesos de entrenamiento o ajuste y los límites de uso autorizados; y d) incorporar, desde el diseño y durante todo el ciclo de vida del sistema, medidas de protección de datos personales y de privacidad por diseño y por defecto, minimizando el tratamiento de datos sensibles y evitando el uso de información excesiva o no pertinente. Cuando una decisión pueda afectar de manera significativa derechos o intereses de las personas, se debe realizar una revisión y control humano previo, suficiente y fundado. Previamente a la puesta en funcionamiento de sistemas de inteligencia artificial que presenten un riesgo medio o alto para los derechos de las personas, deberá realizarse un estudio de impacto, en los términos que establezca la reglamentación, la cual deberá identificar riesgos, medidas de mitigación, garantías de supervisión humana y mecanismos de revisión.
Sin tarjeta de crédito. Conectá tu sistema judicial y hacele tu primera consulta a la IA.
El equipo de Veredicta te responde por WhatsApp o por correo.