Por Arturo Constantini
El 12 de julio, la Directora General de Conacyt, María Elena Álvarez-Buylla, anunció que en México se impulsará el desarrollo de la Inteligencia Artificial bajo los criterios de “equidad social, humanísticos y responsables”. Planteó, a su vez, un marco regulatorio bajo los siguientes términos:
- Inclusión y equidad en el diseño de los algoritmos.
- Transparencia en la cadena de implementación.
- Mecanismos de control personalizado a favor de los seres humanos.
- Algoritmos adaptados al contexto y realidades sociales de México.
- Que privilegie el interés público.
- Con enfoque de derechos humanos, equidad y responsabilidad.
Si bien las propuestas son una serie de buenas intenciones, hablar de IA y ética es sumamente complejo y levanta preguntas y cuestionamientos en materia de diseño de políticas públicas que deben ser atendidos si es que se pretende allanar el camino hacia el desarrollo de una IA centrada en el ser humano.
Visión internacional
En octubre de 2018, con la participación del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) se llevó a cabo la 40ª Conferencia Internacional de Comisionados de Protección de Datos y Privacidad, en la que se reconoció la importancia de la IA como palanca del desarrollo e innovación de la humanidad, así como los potenciales riesgos hacia los individuos y la sociedad, algunos de ellos que todavía no se alcanzan a vislumbrar.
De igual manera, al final de la conferencia se acordaron los principios rectores para preservar los derechos humanos en el desarrollo de la IA, presentados a continuación:
- IA y machine learning deben ser diseñadas, desarrolladas y usadas en respeto a los derechos humanos fundamentales y de acuerdo con el principio de equidad.
- La atención y vigilancia continua, así como la rendición de cuentas, por los efectos y consecuencias potenciales de los sistemas de inteligencia artificial deben ser garantizados.
- Sistemas de transparencia de la IA y su inteligibilidad deben mejorarse.
- Los sistemas de IA deben diseñarse y desarrollarse de manera responsable, aplicando los principios de privacidad por defecto y privacidad por diseño.
- Promover el empoderamiento de cada individuo y el ejercicio de los derechos de las personas debe ser fomentado, así como la creación de oportunidades de participación pública.
- Los sesgos o discriminaciones ilegales que puedan resultar del uso de datos en la IA deben ser reducidos o mitigados.
Por otra parte, la Organización para la Cooperación y Desarrollo Económico (OCDE) publicó, el año pasado, el documento “Inteligencia Artificial y Sociedad”, en el que se examina el panorama de la IA, desde su concepción, su aplicación en diversos sectores (salud, seguridad, financieros, etc.), su impacto económico, estrategias e iniciativas de los países miembros del organismo y consideraciones de política pública en la implementación de estos sistemas.
Las recomendaciones que ofrece la OCDE hacia los gobiernos, se pueden resumir de la siguiente manera:
- Facilitar una inversión pública y privada en investigación y desarrollo que estimule la innovación en una IA fiable.
- Fomentar ecosistemas de IA accesibles con tecnologías e infraestructura digitales, y mecanismos para el intercambio de datos y conocimientos.
- Desarrollar un entorno de políticas que allane el camino para el despliegue de unos sistemas de IA fiables.
- Capacitar a las personas con competencias de IA y apoyar a los trabajadores con miras a asegurar una transición equitativa.
- Cooperar en la puesta en común de información entre países y sectores, desarrollar estándares y asegurar una administración responsable de la IA.
Tras estos ejemplos, es importante resaltar la necesidad de la cooperación internacional para establecer estándares universales en el uso de la IA, aunque cada gobierno avanzará de acuerdo a sus circunstancias. Los lineamientos servirán de guía para asegurar el cumplimiento de los derechos humanos, en el marco del continuo y veloz desarrollo tecnológico.
México, ¿dónde está situado?
¿Es positivo que el gobierno plantee un uso ético y responsable de la IA? Sí. Sin embargo, la buena voluntad debe, ahora, traducirse en estrategias y acciones claras y concretas. Es importante, de la misma manera, incrementar, y no reducir, el presupuesto al rubro de ciencia y tecnología, ya que de esto depende el desarrollo económico y social del país.
En el documento de la OCDE, mencionado anteriormente, se exponen las áreas en que México debe mejorar, así como una serie de recomendaciones, para desarrollar la IA. Si bien nuestro país, de acuerdo al Oxford Insight’s “AI Readiness Index” está bien posicionado en sus políticas de datos abiertos e infraestructura digital, tiene una calificación muy baja en habilidades técnicas, digitalización e innovación en el sector público.
Bajo este panorama, la OCDE recomienda, para México, atender las siguientes cinco áreas para fortalecer el uso de la IA: gobierno y servicios públicos; Investigación y Desarrollo; capacidad, habilidades y educación; infraestructura digital y de datos; y ética y regulación.
Por esto, México debe entrar de lleno a la carrera de la IA y no quedarse en la retaguardia, sumando esfuerzos con el sector privado, la academia y la comunidad internacional. El mundo seguirá avanzando y la IA se convertirá en un elemento fundamental e imprescindible de la existencia humana. De no hacerlo, estaremos desperdiciando generaciones de talento mexicano y minando la posibilidad de competir a nivel global.
En una próxima entrega, se detallarán los principales dilemas éticos, aplicaciones de la IA, los riesgos hacia la sociedad y la dificultad para regularla. Estas consideraciones servirán para tener un mejor entendimiento de estos sistemas que, sin duda alguna, están y seguirán transformando cada rubro de la vida humana, a pasos agigantados y a una velocidad sin precedentes.