Mientras la inteligencia artificial avanza a pasos agigantados e impacta cada vez más procesos públicos y privados, el país aún no cuenta con un marco normativo que proteja a la ciudadanía frente a los riesgos que esta tecnología representa para su privacidad.

Hablar de inteligencia artificial sin hablar de datos personales es imposible. Todo sistema automatizado requiere grandes volúmenes de información para operar, desde datos biométricos e historiales médicos, hasta patrones de consumo en la red e incluso registros financieros. Pero lo que debería gestionarse con estrictos controles y supervisión, hoy en muchos casos se hace sin transparencia, sin consentimiento real y sin mecanismos efectivos de defensa para la ciudadanía.

La IA es una herramienta poderosa, y en manos maliciosas puede tener consecuencias lamentables. No estamos hablando sólo de innovación, hablamos de proteger lo más íntimo de las personas en un contexto donde los algoritmos pueden ser herramientas de inclusión, pero también de discriminación o exclusión.

Se dice que existen más de 50 iniciativas de ley sobre el tema, pero ninguna ha prosperado. Se ha mencionado que podría ser en septiembre de este año cuando el Congreso finalmente discuta la regulación de la inteligencia artificial.

Mientras tanto, ya se han implementado más de 100 sistemas de IA en el gobierno, incluyendo áreas tan sensibles como la justicia y la seguridad. Esto debería encender todas las alertas.

Es importante subrayar que si bien la tecnología facilita el procesamiento de la información, no se debe reemplazar la capacidad de raciocinio y decisión humana, fundamental para conservar los derechos que tienen todas las personas.

Con la extinción del INAI, organismo clave para la protección de datos personales, sus funciones se trasladaron a la Secretaría de Anticorrupción. Esta reestructuración genera incertidumbre sobre cómo se protegerán los derechos digitales y cómo se abordarán futuras regulaciones en materia de IA.

Como país, debemos apostar por una IA que respete los derechos humanos desde su diseño. Es decir, que en la planeación de los nuevos sistemas se establezca claramente cómo se resguardará la información personal y cómo se garantizará el respeto a los derechos fundamentales.

Existe una escasez de profesionales capacitados en áreas como ciencia de datos, ingeniería de machine learning y big data. La oferta de talento nacional no satisface la creciente demanda de empresas e instituciones. Gran parte del personal calificado se encuentra en el extranjero, lo cual limita seriamente la capacidad de innovación del país.

Además, no siempre está claro quién es responsable por los daños que puedan causar los sistemas de inteligencia artificial. Hace unos días vimos cómo el Instituto Nacional Electoral tuvo que retirar un video en el que usó IA para recrear la voz de un actor de doblaje ya fallecido. Ante esto, la Asociación Mexicana de Locutores Comerciales exige que se legisle para considerar la voz como un dato biométrico, de modo que no pueda ser utilizada sin autorización.

En respuesta, Guadalupe Taddei Zavala, presidenta del INE, declaró que se elaborarán reglas internas para el uso ético de la inteligencia artificial, con el fin de asegurar la legalidad y transparencia en el uso de esta tecnología. Estas acciones pueden ser el precedente y la presión necesaria para que las y los legisladores avancen hacia una regulación formal de la IA en el próximo periodo de sesiones.