Recomendaciones para el uso de Inteligencia Artificial
Las Recomendaciones para el uso de Inteligencia Artificial dan herramientas para proteger los derechos fundamentales, prevenir o disminuir los riesgos, promover la innovación y el diseño centrado en las personas.
Educación, ciencia y cultura
En esta página
- Inteligencia Artificial
- Objetivo
- Aspectos éticos en la Inteligencia artificial
- Equipos, trazabilidad y atención a las personas
- Destino de uso de la Inteligencia Artificial
- Texto completo de la norma
Inteligencia Artificial
Las soluciones tecnológicas basadas en Inteligencia Artificial (IA) permiten mayores niveles de automatización. En el plano productivo, la Inteligencia Artificial tiene gran capacidad de promover la innovación, agregar valor, aumentar la productividad del trabajo, generar nuevos bienes y servicios y potenciar las exportaciones.
En el ámbito público, la Inteligencia Artificial da soluciones que permiten hacer más eficiente la gestión del Estado, mejorar el diseño y la implementación de las políticas y la prestación de servicios esenciales en salud, educación, seguridad, transporte, cuidado del medio ambiente, etc.
Los gobiernos también pueden usar la Inteligencia Artificial para mejorar la comunicación y el compromiso con los ciudadanos.
El Estado tiene un rol fundamental para promover la investigación y el desarrollo de soluciones de Inteligencia Artificial que atiendan las necesidades reales de las personas y para garantizar que la Inteligencia Artificial sea transparente, equitativa y responsable.
El Estado debe establecer reglas claras para garantizar que las ventajas de cualquier desarrollo tecnológico puedan ser aprovechadas por todos los sectores de la sociedad; para promover la responsabilidad en la recolección y uso de los datos personales, evitar la discriminación algorítmica y gestionar los riesgos del uso de la Inteligencia Artificial para prevenir perjuicios.
Objetivo
Las Recomendaciones para el uso de Inteligencia Artificial buscan reunir y dar herramientas para las personas que realizan proyectos de innovación pública mediante la tecnología, en especial las personas que importen el uso de inteligencia artificial.
Se recomienda tener un enfoque multidisciplinar, entendiendo de forma integral las consecuencias del uso, adopción, desarrollo e innovación pública mediante la inteligencia artificial.
También dan herramientas teóricas y prácticas a las personas que integran el sector público, ya sea liderando proyectos de innovación, desarrollando tecnologías, adoptando tecnologías desarrolladas por otros equipos técnicos o proveedores o formulando las especificaciones técnicas para esas adquisiciones.
Aspectos éticos en la Inteligencia Artificial
El desarrollo y la implementación de IA debe realizarse siguiendo principios éticos para proteger los derechos fundamentales, respetar valores democráticos, prevenir o disminuir los riesgos, promover la innovación y promover el diseño centrado en las personas.
En el momento de partida del proyecto de IA los actores que participen deben considerar ciertos principios éticos.
En especial se debe respetar la Recomendación sobre la Ética de la Inteligencia Artificial de la Organización de Naciones Unidas (ONU). Algunos de sus principios son:
-
Proporcionalidad e inocuidad. En caso de que pueda producirse cualquier daño para los seres humanos, debe garantizarse la aplicación de procedimientos de evaluación de riesgos y la adopción de medidas para impedir que ese daño se produzca.
-
Seguridad y protección. Los daños no deseados (riesgos de seguridad) y las vulnerabilidades a los ataques (riesgos de protección) deben ser evitados y deben tenerse en cuenta, prevenirse y eliminarse durante el ciclo de vida de los sistemas de IA para garantizar la seguridad y la protección de los seres humanos, del medio ambiente y de los ecosistemas.
-
Equidad y no discriminación. Los actores de la Inteligencia artificial deben promover la diversidad y la inclusión, garantizar la justicia social, proteger la equidad y luchar contra todo tipo de discriminación, de conformidad con el derecho internacional. Los actores de la IA deberían hacer todo lo razonablemente posible por reducir al mínimo y evitar reforzar o perpetuar aplicaciones y resultados discriminatorios o sesgados a lo largo del ciclo de vida de los sistemas de IA, a fin de garantizar la equidad de dichos sistemas.
-
Supervisión y decisión humanas. La decisión de ceder el control a los sistemas de IA en contextos limitados sigue siendo de los seres humanos, porque un sistema de IA no puede reemplazar la responsabilidad final de los seres humanos y su obligación de rendir cuentas.
-
Transparencia y explicabilidad. La transparencia y la explicabilidad de los sistemas de IA son condiciones previas fundamentales para garantizar el respeto, la protección y la promoción de los derechos humanos, las libertades fundamentales y los principios éticos. Las personas deben tener la oportunidad de pedir explicaciones e información al responsable de la IA o a las instituciones del sector público correspondientes.
-
Sensibilización y educación. La sensibilización y la comprensión del público sobre las tecnologías de IA y el valor de los datos deben promoverse mediante una educación abierta y accesible, la participación cívica, las competencias digitales y la capacitación en materia de ética del uso de la IA. También debe realizarse la alfabetización mediática e informacional y la capacitación dirigida conjuntamente por los gobiernos, las organizaciones intergubernamentales, la sociedad civil, las universidades, los medios de comunicación, los dirigentes comunitarios y el sector privado, para garantizar una participación pública efectiva.
Equipos, trazabilidad y atención a las personas
Antes de diseñar, desarrollar, implementar o utilizar un sistema de inteligencia artificial (IA), es necesario formar un equipo con personas de distintas disciplinas y experiencias. La diversidad de conocimientos ayuda a identificar problemas éticos, comprender el impacto social de la tecnología, evitar sesgos y discriminación, poner a las personas en el centro de las decisiones y encontrar mejores soluciones.
Desde el inicio del proyecto, quienes participen en el diseño del sistema deben conocer y aplicar los principios éticos que rigen el uso de la IA.
Durante todo el ciclo de vida del sistema se deben registrar las decisiones, acciones y cambios realizados. Estos registros permiten controlar el funcionamiento del sistema, verificar el cumplimiento de los principios éticos y facilitar las auditorías.
Mientras el sistema de IA esté en funcionamiento, se deben realizar tareas permanentes de operación, mantenimiento y supervisión para asegurar su correcto desempeño.
Si el sistema provoca un daño, las personas responsables deben intervenir de inmediato para evaluar la situación, reducir sus consecuencias y adoptar las medidas necesarias para reparar o revertir el perjuicio causado.
Para ello, la organización debe contar previamente con procedimientos claros para responder ante estos casos. También debe registrar cada incidente y las acciones adoptadas. Esa información servirá para analizar lo ocurrido, extraer lecciones aprendidas y mejorar los procesos futuros.
Los organismos que presten servicios mediante sistemas de IA también deben ofrecer una alternativa de atención humana y presencial. Esta opción debe estar disponible para quienes no puedan acceder a la tecnología necesaria o prefieran ser atendidos directamente por una persona.
Destino de uso de la Inteligencia Artificial
La IA tiene una gran variedad en sus destinos de uso, y cada destino de uso tiene diferentes niveles de riesgos, varios niveles de tratamiento de riesgo y de control humano.
Una persona humana, con intención, discernimiento y libertad de acción le ordena a la tecnología realizar distintas acciones, por ello deben existir instrumentos de control que identifiquen la responsabilidad y rendición de cuentas cuando las intenciones de las personas humanas no respeten el bien común y los derechos humanos.