La voz es uno de los datos sensibles que mayor vulnerabilidad enfrenta de cara a la capacidad generativa con Inteligencia Artificial para clonarla. Creo que además de la voz de artistas cuyos ingresos y empleabilidad dependen del manejo de este recurso, las voces en general de cualquier ciudadano merecen una protección fortalecida por la posibilidad real de que se cometan fraudes o crímenes simulando los registros de voz de otras personas. En mi banca, por ejemplo, por varios años era requerida una firma vocal que se utilizaba en llamadas telefónicas para asistencia o para cambios. Santander me hacía grabar una frase diciendo que en aquel banco “mi voz es mi firma”. Seguro otros usuarios podrán recordarlo… aunque ya no utilizo aquella banca, cuando la IA fue capaz de duplicar voces de inmediato pensé en la facilidad con la que cualquiera podría hacer cambios en mi cuenta o descargar la app utilizando mi registro de voz. Supongo y realmente espero que aquello haya cambiado hacia robustecer la seguridad pero ese recuerdo vino después de que este viernes ocurriera algo que, hace apenas unos años, habría parecido improbable: el Estado mexicano decidió tomarse en serio la defensa de la voz humana frente a la inteligencia artificial.
No es poca cosa. Durante su conferencia matutina, la presidenta Claudia Sheinbaum, acompañada por la secretaria de Cultura, Claudia Curiel de Icaza, anunció la iniciativa de Ley de Cine y Audiovisual, junto con reformas orientadas a proteger a los intérpretes de doblaje del uso no autorizado de sus voces mediante IA. En los años previos se han presentado más de una decena de iniciativas que pretenden regular desde distintos aspectos el uso de IA pero es positivo que este punto de partida advierta el escenario perfecto para que se construyan acuerdos y las reformas se aprueben sin problema con la mayoría de Morena en las Cámaras.
El tema además de ser técnico es profundamente íntimo y político. Primero porque el mercado del doblaje suele caracterizarse por la dificultad de acceso y la precarización de los contratos. En general, la industria creativa enfrenta una amenaza real que incluye a empresas sustituyendo contratos comerciales con actores humanos por videos creados completamente por tecnologías de IA. La voz además de un dato personal único es identidad. Es presencia. Es, en muchos casos, sustento económico.
Podríamos pensar en personajes fallecidos cuya voz podría reutilizarse y el conflicto sobre la ética o la dignidad póstuma, sobre el derecho de los familiares y herederos a oponerse… pensemos, por ejemplo, que la voz de CriCri pudiera re-editarse para nuevos lanzamientos.
El derecho apenas empieza a ponerse al día. En Unión Europea, donde ya existe legislación sobre inteligencia artificial, el llamado AI Act, que reconoce que ciertos usos de esta tecnología no son simplemente innovadores, sino peligrosos. La norma exige transparencia: si una voz es generada por IA, debe poder identificarse como tal. Parece una obviedad, pero no lo era. Hasta ahora, cualquiera podía escuchar una voz familiar sin saber si detrás había una persona o un algoritmo.
Además, la voz ya no es solo una expresión artística. Explícitamente se reconoce que es un dato biométrico. Como una huella digital. Utilizarla sin permiso ya es una violación directa a la privacidad. En muchos países, esto entra en el terreno de los derechos fundamentales como la intimidad, el honor, la propia imagen.
Estados Unidos también ha empezado a reaccionar. La FCC declaró ilegales las voces generadas por IA en llamadas automatizadas sin consentimiento. La razón es que la suplantación vocal puede engañar, manipular, extorsionar. La tecnología amplifica el viejo fraude con una eficacia nueva.
Mientras tanto, los propios actores han tenido que organizarse. La National Association of Voice Actors ha presionado para que los contratos incluyan algo que antes nadie imaginaba necesario: cláusulas que impidan que una voz grabada hoy sea reutilizada mañana por una máquina, sin permiso, sin pago, sin siquiera avisar. Es una batalla desigual, pero necesaria.
En México, las reformas anunciadas buscan cerrar esa puerta antes de que se vuelva imposible. La intención es evitar que las voces sean clonadas y explotadas comercialmente sin autorización, y al mismo tiempo reequilibrar los apoyos públicos al cine. Durante años, una parte de la industria concentró recursos y repitió fórmulas previsibles, muchas veces excluyendo a nuevos creadores y a los más jóvenes, a los lejanos de la élite de las televisoras y el entretenimiento… por años crearon contenido de baja calidad o basura solo para acceder a estos recursos, evitando la posibilidad de que cine crítico o artístico se desarrollara. Lo que ahora se plantea es distinto y tiene que ver con dirigir el respaldo hacia quienes históricamente han trabajado desde los márgenes, con menos presupuesto pero, con frecuencia, más verdad. Ojalá que la mirada de las periferias y de quienes viven el México real impacte con estos cambios.
La tendencia global es inequívoca. Clonar una voz sin consentimiento o utilizarla para evitar contratos con creadores debe impedirse, hasta llegar al ámbito penal como una forma de suplantación. La tecnología avanza con una velocidad que fascina y asusta al mismo tiempo. La ley, como casi siempre, llega tarde. Pero esta vez, al menos, parece estar llegando.
Por otro lado, será interesante el impacto mediático y político. Recordemos escándalos como el de Mario Delgado, cuando trascendieron audios supuestamente con Ignacio Mier que fueron señalados como producto de la IA así como el audio filtrado a redes de las elecciones pasadas donde la candidata a la Gubernatura de Morelos por Morena, Margarita González, supuestamente pide que servidores de la nación amenacen a la gente con quitarles programas sociales si no votan por ella, mismo que también fue señalado como producto de la tecnología. La realidad rebasa por mucho la capacidad para perseguir este tipo de noticias falsas y de contenerlas, pero proteger la voz apenas es el punto de partida. El siguiente será contar con programas-software especializado que permitan identificar si la voz es humana o es sintética.