English Gaeilge

Divulgación de IA y automatización

Garantizar que las personas sean conscientes, en el momento de su uso, de la presencia de cualquier sistema digital que actúe de forma autónoma, que esos sistemas funcionen en interés público, y que se utilice la supervisión humana al tomar decisiones que afecten a las personas.

La divulgación de IA y automatización significa garantizar que las personas sean conscientes de cuando los sistemas digitales actúan sobre ellos, dando forma a lo que ven, influyendo en las decisiones o comunicándose de maneras que parecen humanas.

Creemos que la confianza pública depende de que las personas puedan saber cuándo están tratando con una máquina, qué está haciendo esa máquina y quién sigue siendo responsable de sus acciones y resultados.

Para una entidad de servicio público, la divulgación de IA y automatización significa revelar claramente dónde y cuándo se utilizan los sistemas automatizados, especialmente cuando influyen en las recomendaciones, la moderación, la elegibilidad, la priorización o el acceso a los servicios. Significa garantizar que las decisiones importantes que afectan a las personas sigan sujetas a una supervisión y revisión humana significativa, y que los sistemas automatizados puedan cuestionarse, explicarse y corregirse cuando sea necesario.

La divulgación en interés público sobre IA y automatización no va en contra de la innovación. Pero sí garantiza que cuando los sistemas actúan en nombre de las personas o en lugar de ellas, esos sistemas siguen siendo transparentes para el público al que sirven (y pueden ser cuestionados por parte de ese público).

Ejemplos de requisitos (ilustrativos)

Estos ejemplos se basan en normas, regulaciones y leyes internacionales establecidas, que se enumeran en su totalidad en la sección siguiente.

  • Los sistemas de inteligencia artificial, la toma de decisiones automatizada y los medios sintéticos se revelan claramente a las personas en el momento de la interacción o el uso.

  • El texto, el audio, el vídeo o las imágenes sintéticas o generadas por IA presentadas como material fáctico o autorizado se identifican claramente como tales.

  • Los sistemas de IA de alto riesgo se someten a evaluaciones formales de riesgo, privacidad y seguridad antes de su implementación y a intervalos regulares después, con explicaciones claras sobre el propósito, las capacidades y las limitaciones publicadas para los servicios de cara al público.

  • Las organizaciones mantienen procesos de gobernanza documentados para la adquisición, implementación, prueba y revisión de sistemas de IA, diseñados para reducir los prejuicios, la discriminación, los resultados inseguros y los daños previsibles.

  • Los sistemas automatizados que afectan a las personas operan bajo una supervisión humana significativa, con rutas claras de revisión o intervención.

  • Las personas pueden impugnar o apelar decisiones importantes tomadas o asistidas por sistemas automatizados.

Estándares, normativas y leyes que fundamentan este trabajo

Organizaciones que trabajan en este ámbito