Ciudad de México.- La innovación será el desafío cada día para enfrentar los retos que se vislumbran con el uso de la inteligencia artificial (IA) en los procesos electorales, toda vez que no existe ningún tipo de legislación o reglamentación al respecto; aún no existe software 100% confiable para detectar uso de ésta, cuándo la masificación de deepfakes pueden poner en riesgo a las democracias y, empezarse a tomar en cuenta, como factores para anular elecciones de manera “extraordinaria”, por parte de las autoridades judiciales electorales.
Así coincidieron en señalar Everardo Bárcenas, doctor en ingeniería computacional por la UNAM y coordinador del Laboratorio de Inteligencia Artificial de esa máxima casa de estudios, el consejero electoral del INE e integrante de la Comisión de Quejas y Denuncias, Arturo Castillo, y el exmagistrado del Tribunal Electoral y asesor sobre el tema en el Consejo de Europa José Luis Vargas.
El reto, comentaron Castillo y Vargas, será mantener la equidad en la contienda en los procesos electorales y garantizar el voto libre de la ciudadanía que es la víctima central de la manipulación de información para tratar de desvirtuar su percepción e influir en su decisión de voto, en momentos en que, según el doctor Bárcenas, aún no existe software completamente confiable para detectar el uso de IA en la suplantación de identidad.
EL PROBLEMA DE LAS IA
El doctor Bárcenas explicó que fue el uso del análisis con inteligencia artificial que, en 2014 en Estados Unidos, influyó en los resultados presidenciales, también en los resultados del Brexit en Gran Bretaña y “actualmente se usa mucho la inteligencia artificial”, no sólo para análisis de datos, sino también para “generar discurso, comunicados, banners, posters, publicidad” en las campañas.
Explicó que los bots también utilizan inteligencia artificial para “hacerse pasar como personas reales y opinar sobre algún candidato, van sesgados, la idea es generar cierta percepción de alguna manera y son de forma automática, no son personas”.
El coordinador del laboratorio de IA de la UNAM mencionó que los bots modernos ya pueden no sólo publicar opiniones en las redes sociales, sino también entablar diálogos con los usuarios.
Esto hace más complicado identificar a estos programas porque lo hacen de manera muy eficiente. Este es un reto, la identificación de bots es mucho más difícil”, consideró Bárcenas.
Opinó que será “complicado para el árbitro hacer censo, monitorear, con estas nuevas tecnologías me parece que se van a enfrentar a un gran reto porque la información va a ser mucho mayor, tecnológicamente va a ser muy complicado identificar información falsa, difamatoria, estoy pensando en videos que parecen reales, va a ser complicado que se auditen y ver si es real o no lo que se está generando, eso no pasaba en otras elecciones, y ahora se va a presentar”.
Legislación rezagada
Para el consejero del INE, Arturo Castillo, las deepfakes empezaron a ser novedad en el mundo “hace tres o cuatro años, la legislación no está preparada para abordarlo, ni la tecnología, la tecnología que tenemos todavía no es lo suficientemente confiable como para hacer un dictamen técnico sobre si algo es o no es una deepfake”.
José Luis Vargas, exmagistrado del TEPJF, explicó que empiezan a darse fenómenos como la suplantación de identidad con “voces que no provienen de un ser humano, sino de inteligencia artificial” y transmiten mensajes que engañan a la ciudadanía de forma “viralizada”, que “no sólo es un tema de que se suelte un rumor o mentira, sino la capacidad de generar daño por una viralización… tiene que ver con las famosas cajas de resonancia”, en las que el internauta sólo ve y escucha contenidos con los que se siente identificado y se retroalimenta con ese mismo tipo de información.
El integrante de la Comisión de Quejas del INE, Arturo Castillo, ejemplificó con España, donde “tuvieron que recurrir literalmente a peritos por ejemplo en reconocimiento de voz”, lo que en México sería una complicación en precampañas y campañas, porque “si tienes que recurrir a peritos y todo eso te puede tomar mucho tiempo y en campañas, no tienes tiempo de hacer esto”.
CONTIENDA
Cuestionado sobre la posibilidad de deepfakes viralizadas que pudieran romper la equidad en la contienda y la facultad del Tribunal Electoral para calificar y anular elecciones, el exmagistrado Vargas Valdés consideró que, si bien las únicas causales de nulidad están claramente establecidas en la ley, como el dinero ilícito en las campañas o la adquisición de tiempos en radio y televisión, “nunca desapareció por completo la nulidad abstracta. Cuando existen condiciones que en su conjunto llevan a determinar que se violaron los principios, se llama nulidad por principios, cuando son suficientes, que llevan al órgano a determinar que por su gravedad e importancia son determinantes para un resultado entre primer y segundo lugar, poder apelar a ese cajón de sastre, no está exceptuada esta hipótesis, pero sin duda sería un caso extraordinario.”
LA SOLUCION INMEDIATA
Vargas Valdés explica que los magistrados han tenido que ir “generando ajustes a las reglas del juego por la vía de la interpretación de las reglas. No es lo idóneo, lo idóneo es regulación que atienda, derecho a la información, datos personales, diversas aristas y que legisladores hagan ese trabajo para que jueces apliquen las normas, eso no está, está en pañales, no existe aún”.
Mencionó que hay algunos intentos y en el orden internacional la ONU y la Unesco han realizado algunos esfuerzos para integrar “múltiples esfuerzos internacionales” para dar respuesta a esos fenómenos.
Agregó que, en Estados Unidos, Silicon Valley ha tratado de que en ese país se legisle lo menor posible, aunque el presidente Biden ya empezó a hacer propuestas, mientras en la Unión Europea, el Consejo de Europa tiene mayor avance en generar una “Ley de Gobernanza Digital” que busca establecer parámetros similares entre todos los países miembros para “contrarrestar fenómenos de desinformación que afecta a las democracias”.
PROVEEDORES
En Asia, China, Corea del Sur, India, explicó Vargas, países “proveedores de una parte importante de la inteligencia artificial, no hay más regulación que la que dictan estos estados, pero aún no hay interconexión a nivel mundial”.
En México, sin nada al respecto y con las precampañas ya iniciadas, el consejero del INE e integrante de la comisión de quejas, Arturo Castillo, opinó a título personal que tendrán que “innovar”, explorar la “posibilidad de utilizar los rasgos característicos de una persona como datos personales, la voz, por ejemplo, es un dato biométrico, qué pasa si es un dato biométrico que está sujeto a la protección de datos personales, y de la misma forma como una autoridad puede limitar de manera casi inmediata la difusión de publicidad en donde aparecen niños o menores de edad sin autorización para su difusión, lo puedes hacer rapidísimo de la misma forma”, demostrando que esa voz o imagen en un audio o video, no están autorizadas por la persona, para ordenar bajar de las redes estos mensajes.
Consideró que el gran reto de las tecnologías digitales, en términos de comisión de ilícitos, “es la dispersión de responsabilidades, están dispersos no sólo a nivel territorial, el ilícito no se comete por una persona, que esté ubicada en tu demarcación geográfica, sino que, además, los potenciales ilícitos son cometidos por tecnología desarrollada por una multiplicidad de actores ubicados en distintas partes del planeta”.
Mencionó también la importancia de contar con convenios de colaboración con las plataformas de redes sociales.
Recordó que el INE ya ha trabajado con Meta para el caso de Facebook, Instagram y Whatsapp, esta última aplicación de mensajería privada, donde la empresa ya tiene mecanismos para “disminuir el impacto de información viral de contenidos”.
EL INAI SE PREPARA
El Instituto Nacional de Transparencia, Acceso a la información pública y Protección de Datos Personales ya está preparando criterios para las elecciones sobre temas de desinformación y mal uso de datos personales.
La comisionada Julieta Del Río consideró que “va a haber una guerra impresionante, la mayor parte de este proceso y nosotros estamos preparados para eso. ¿Para qué?, los partidos, el INE y los candidatos son sujetos obligados” y aunque la inteligencia artificial no está regulada, “nosotros tendríamos que ir sobre vulneración de datos personales y ver los mecanismos, que ya está trabajando la comisionada Josefina Román”, para participar de lleno en estas elecciones.
Recordó a ciudadanía y candidaturas que pueden denunciar en el Inai cualquier vulneración de datos personales, como el uso de IA para clonar imagen o voz de cualquier actor político.
