La creación de imágenes apócrifas a partir, de imágenes reales con Inteligencia Artificial (IA) es un tema de preocupación legal, emergente. En el Congreso del Estado, la diputada María Dolores Robles Chairez presentó una iniciativa sobre su uso como herramienta de manera responsable. Sin embargo, admitió que no hay muchos antecedentes del tema, en el ámbito penal.

"Estamos actualizándonos en todo lo digital. Esta iniciativa pretende que pongamos un candado en el tema de la Inteligencia Artificial, es una forma de cuidar a todos", señaló.

A pesar de que actualmente, el Código Penal tipifica la violencia digital como delito. Lo cierto es, que no existen leyes en el país que aborden ni castiguen, específicamente, el uso indebido de la IA para generar algún tipo de medio visual. Tampoco a nivel internacional, exceptuando países como Corea del Sur, España y Estados Unidos.

"Es un temor latente de todos los ciudadanos que se pueda hacer uso indebido de la Inteligencia Artificial... Evidentemente tenemos que hacer más uso rudo de las leyes", señaló la diputada. Al tiempo que refirió, no han recibido denuncias directas en este tema. No obstante, tuvo un acercamiento con una víctima.

Un caso reciente en febrero de este año, señala a cuatro menores que son investigados penalmente en España por crear y difundir, presuntos montajes de videos sexuales, con las caras de sus compañeras de clase. Cabe mencionar, que dichas manipulaciones, fueron creadas con IA.

En San Luis Potosí, la "difusión ilícita de imágenes íntimas" es un delito, que aunque no aborda el arista de la Inteligencia Artificial; sí castiga con penas de hasta seis años de prisión, a quiénes comparten imágenes, audios o videos de contenido sexual sin consentimiento.