Ciudad de México.- Con una clasificación inédita de infracciones “leves, graves, gravísimas” y la advertencia expresa de “prácticas prohibidas”, que implican hasta cárcel, el Senado abre el camino para la regulación de la Inteligencia Artificial, con herramientas legales que permitan al ciudadano defenderse de la Inteligencia Artificial, a partir de la creación de la Autoridad Nacional de IA.
Se considerará una infracción “gravísima” el “emplear inteligencia artificial para manipulación cognitiva, política, electoral o social con fines ilícitos o contrarios a los principios democráticos, de manera deliberada. No se considerarán comprendidas en este supuesto las actividades de comunicación política, publicidad o difusión de ideas realizadas de conformidad con la ley y los principios democráticos”, dice la nueva ley que esta semana presentarán los integrantes de la Comisión de Análisis, Seguimiento y Evaluación sobre la Aplicación y Desarrollo de la Inteligencia Artificial del Senado.
Protección contra la violencia digital de género
Después de 10 meses de trabajo, senadores de Morena, PAN, PVEM, PRI, PT y Movimiento Ciudadano crearon esta propuesta de ley en la que se establece que “se considerarán prácticas prohibidas de violencia digital mediante inteligencia artificial aquellas que, de manera intencional o como resultado previsible de su diseño, operación o falta de salvaguardas razonables, tengan por objeto o efecto causar daño grave a mujeres o niñas.
“En particular la generación o difusión de deepfakes o contenidos sintéticos de carácter sexual o íntimo sin el consentimiento expreso de la persona afectada, o de cualquier contenido de esta naturaleza que involucre a niñas, niños o adolescentes, en cuyo caso el consentimiento será nulo e irrelevante.
La manipulación de imágenes, audios o videos con la finalidad de humillar, acosar, extorsionar o ejercer violencia contra una mujer; la automatización deliberada de campañas de odio, difamación, desprestigio o agresiones basadas en género; y el diseño o uso de sistemas de inteligencia artificial destinados principalmente a facilitar el ciberacoso, hostigamiento o persecución digital”, dispone la iniciativa, cuyo trabajo de coordinación estuvo a cargo del priista Rolando Zapata.Nuevos organismos y fondos nacionales.
La propuesta legislativa para la primera ley que regule en México la IA plantea la creación de la Autoridad Nacional de IA; la existencia de la Estrategia Nacional de Inteligencia Artificial; el Fondo Nacional para el Desarrollo de la IA y el Sistema Nacional de Certificación de la IA.Definición de infracciones “gravísimas”
Por primera vez, una legislación mexicana incluirá el concepto “gravísimas” para mostrar el nivel de afectación que tendrá el uso de la IA en aristas prohibidas. Las leyes en México consideran las faltas o infracciones como graves e incluyen agravantes que aumentan los castigos, pero esta vez se usa un nuevo término.
Así, en la primera ley de IA se consideran “infracciones gravísimas” el “desarrollar o utilizar aplicaciones expresamente prohibidas en esta Ley; implementar sistemas que, por acción u omisión dolosa o con negligencia grave, generen daños graves o irreversibles a la vida, integridad física o cognitiva, salud, privacidad, derechos humanos, seguridad nacional o infraestructura crítica.
Emplear inteligencia artificial para manipulación cognitiva, política, electoral o social con fines ilícitos o contrarios a los principios democráticos, de manera deliberada. No se considerarán comprendidas en este supuesto las actividades de comunicación política, publicidad o difusión de ideas realizadas de conformidad con la ley y los principios democráticos.
Operar, desplegar o poner en funcionamiento, por parte de autoridades públicas o de particulares, sistemas autónomos letales o sistemas de inteligencia artificial capaces de causar daño grave a la integridad de las personas, cuando se realice sin supervisión humana significativa o fuera de los supuestos expresamente previstos en la ley aplicable.
Utilizar inteligencia artificial para vigilancia masiva sin base legal suficiente o sin garantías adecuadas; proveer sistemas principalmente diseñados para el fraude, la extorsión, la desinformación o la suplantación de identidad e introducir deliberadamente vulnerabilidades, puertas traseras, malware o funciones ocultas en sistemas de inteligencia artificial”, dice.Identificación de faltas graves
Las infracciones graves son en las que se omite la realización de evaluaciones de impacto algorítmico cuando sean obligatorias; se niega, de manera injustificada, a proporcionar información técnica estrictamente indispensable, requerida conforme a los procedimientos previstos en esta Ley, para auditorías o supervisión.
Cuando se implementan “sistemas de inteligencia artificial sin cumplir con los requisitos de certificación o registro, únicamente en los casos en que estos sean exigidos expresamente por esta Ley” o se “manipule, altere o destruya documentación técnica, registros algorítmicos o bitácoras de funcionamiento”.
De igual forma, cuando se omite “de manera relevante o reiterada las medidas de mitigación de riesgos, transparencia o supervisión humana significativa expresamente exigidas por esta Ley” y cuando se utilizan “sistemas de alto riesgo fuera de los contextos autorizados” y también por incumplir medidas cautelares, preventivas o correctivas dictadas por la Autoridad Nacional”.
Infracciones leves
Y en esta nueva ley, se considera que las infracciones cometidas son leves cuando se omiten actualizaciones no sustantivas en registros técnicos, siempre que no afecten la operación segura del sistema, se retrase de manera injustificada la entrega de información no esencial requerida por la autoridad o cuando se incumplen lineamientos administrativos de carácter general de naturaleza procedimental, que no comprometan derechos fundamentales ni la integridad del sistema.Listado de prácticas prohibidas
Los senadores de todos los partidos incluyeron en la iniciativa de ley que “se considerarán prácticas prohibidas de violencia digital mediante inteligencia artificial aquellas que, de manera intencional o como resultado previsible de su diseño, operación o falta de salvaguardas razonables, tengan por objeto o efecto causar daño grave a mujeres o niñas”.
Y precisan que eso aplica en “la generación o difusión de deepfakes o contenidos sintéticos de carácter sexual o íntimo sin el consentimiento expreso de la persona afectada, o de cualquier contenido de esta naturaleza que involucre a niñas, niños o adolescentes, en cuyo caso el consentimiento será nulo e irrelevante.
La manipulación de imágenes, audios o videos con la finalidad de humillar, acosar, extorsionar o ejercer violencia contra una mujer; la automatización deliberada de campañas de odio, difamación, desprestigio o agresiones basadas en género y el diseño o uso de sistemas de inteligencia artificial destinados principalmente a facilitar el ciberacoso, hostigamiento o persecución digital”, añaden.
Las prohibiciones están explicadas una a una:
Sistemas de manipulación cognitiva o conductual dirigidos a influir, alterar o condicionar procesos mentales sin el consentimiento previo.
Sistemas de puntuación social, utilizados por autoridades públicas o por particulares, que produzcan efectos discriminatorios.
Sistemas de identificación biométrica masiva en tiempo real en espacios públicos, salvo cuando exista orden judicial.
Sistemas de vigilancia masiva que permitan el seguimiento conductual sin base legal suficiente.
Restricciones en entornos laborales y educativos
De igual manera estarán prohibidos los “sistemas de inteligencia artificial destinados al reconocimiento de emociones o estados mentales utilizados con fines laborales, educativos, migratorios, policiales o de selección de personal, cuando generen discriminación, afecten la autonomía individual o carezcan de base científica verificable.
“Sistemas de inteligencia artificial utilizados para la toma de decisiones letales autónomas, sin supervisión humana significativa y fuera de un marco normativo específico aplicable al uso legítimo de la fuerza.
“Sistemas que generen o difundan deepfakes o contenidos sintéticos engañosos con fines de fraude, extorsión, manipulación política, desinformación electoral, violencia de género, acoso, difamación o afectaciones graves a la seguridad pública.
“Sistemas de inteligencia artificial diseñados para explotar deliberadamente las vulnerabilidades de grupos en situación de riesgo o discriminación estructural, como niñas, niños y adolescentes, personas mayores, personas con discapacidad, personas pertenecientes a la diversidad sexual y de género, o pueblos y comunidades indígenas”, ordena la propuesta de ley.
Enfoque basado en riesgos
Y se adelanta a las innovaciones, pues dice que estarán prohibidos “cualesquiera otros sistemas que, previa determinación fundada y motivada de la Autoridad Nacional en Inteligencia Artificial, y mediante lineamientos de carácter general, públicos y sujetos a control, representen riesgos inaceptables que no puedan ser razonablemente mitigados conforme a esta Ley”.
En la iniciativa, los senadores explican que “la aplicación de esta Ley se guiará conforme a un enfoque basado en riesgos, mediante el cual los sistemas de inteligencia artificial serán clasificados de acuerdo con su nivel de impacto en los derechos humanos, la seguridad nacional, la estabilidad democrática, la salud pública, el medio ambiente y la economía nacional.
“Los sistemas de alto riesgo quedarán sujetos a obligaciones reforzadas de registro, evaluación, certificación, auditoría y supervisión, en los términos que establezca esta Ley y su Reglamento.
“Los sistemas de uso limitado o personal estarán sujetos únicamente a principios básicos de seguridad, transparencia y no discriminación, en los términos que determine el Reglamento”, precisan los legisladores federales. © 2025 Imagen – Excélsior. Todos los derechos reservados. El contenido de este sitio y de la edición impresa está protegido por la Ley Federal del Derecho de Autor. Prohibida la reproducción total o parcial sin autorización previa y por escrito. El material de terceros conserva sus propios derechos.
