La Ciudad de México ha dado un paso hacia la regulación de la inteligencia artificial (IA) al presentar una iniciativa de ley específica para su uso en el ámbito gubernamental. Impulsada por el Instituto de Transparencia, Acceso a la Información Pública, Protección de Datos Personales y Rendición de Cuentas de la ciudad, esta propuesta busca establecer reglas para el manejo de la IA y proteger los derechos de los ciudadanos frente a los efectos de esta tecnología.
Con aproximadamente 75 artículos, la ley es breve en comparación con estándares internacionales, lo cual, según Emilio Carrillo, socio en Pérez Correa González, podría indicar una comprensión limitada de la tecnología o un intento de centrarse en los aspectos esenciales. Carrillo calificó la iniciativa como «un primer paso necesario, aunque insuficiente» en la regulación de una tecnología que presenta riesgos desconocidos.
Leer más… Cancelan experimento que creó periodistas con inteligencia artificial
La ley se articula en torno a tres principios: la seguridad de los datos, la prevención de la discriminación algorítmica y la transparencia de los sistemas de IA. La protección de datos es fundamental en esta propuesta, dado el incremento en la recolección de información biométrica y personal por el gobierno. Sin embargo, Carrillo advierte que aún no existen mecanismos adecuados para garantizar la seguridad de esta información.
El experto también señala las dificultades para auditar sistemas de IA complejos y prevenir la discriminación algorítmica, dado que muchos modelos tienden a replicar sesgos presentes en sus datos de entrenamiento. La transparencia en la IA es un reto significativo, pues los sistemas actuales suelen operar como «cajas negras», lo que dificulta comprender y auditar las decisiones. La ley establece la necesidad de auditar estos sistemas, pero Carrillo cuestiona la viabilidad de esa medida en tecnologías de gran complejidad.
