En un mundo donde la inteligencia artificial ha alcanzado la capacidad de imitar tanto las voces como los rostros de las personas de manera casi indistinguible, surge la necesidad de defenderse contra el uso no autorizado de nuestra identidad. La actriz Scarlett Johansson experimentó esto de primera mano cuando descubrió que su voz y rostro se usaron para promocionar una aplicación de inteligencia artificial sin su consentimiento, lo que la llevó a emprender acciones legales contra el creador de la aplicación, Lisa AI.
La Amenaza de los Deepfakes
Los "deepfakes" representan una amenaza significativa, ya que aproximadamente la mitad de los encuestados en dos estudios de inteligencia artificial recientes admitieron no poder distinguir entre contenido sintético y generado por humanos. Este fenómeno se ha vuelto especialmente problemático para celebridades, quienes se encuentran en una constante lucha contra estos bots de IA.
La Solución: AntiFake de la Universidad de Washington en St. Louis
Para abordar este desafío, el equipo de investigación liderado por el profesor Ning Zhang de la Universidad de Washington en St. Louis ha desarrollado una herramienta innovadora llamada AntiFake. Inspirada por la herramienta Glaze de la Universidad de Chicago, AntiFake tiene como objetivo proteger a las personas al prevenir que los motores de síntesis basados en inteligencia artificial generen duplicados efectivos.
Cómo Funciona AntiFake
La plataforma AntiFake, que puede utilizarse como una aplicación independiente o a través de la web, ofrece una solución única. Antes de publicar un video en línea, los usuarios pueden cargar su pista de voz en AntiFake. La herramienta luego mezcla la señal de audio de manera que confunda al modelo de inteligencia artificial. El resultado modificado suena normal para el oído humano pero resulta confuso para el sistema, dificultando la creación de un clon de voz de alta calidad.
Ejemplos Impactantes
El sitio web de AntiFake incluye numerosos ejemplos que demuestran la efectividad de la herramienta al transformar voces reales en sonidos irreconocibles para los sistemas de IA. Desde una voz clara hasta una versión distorsionada, AntiFake ofrece una capa de defensa vital en la era de los deepfakes.
Limitaciones y Otras Alternativas
Es importante tener en cuenta que AntiFake tiene limitaciones, especialmente para aquellos cuyas voces ya están ampliamente disponibles en línea. Sin embargo, su lanzamiento en las próximas semanas brindará a las personas una forma proactiva de proteger su habla.
Mientras tanto, existen otras soluciones, como las tecnologías de detección de deepfakes que incorporan marcas de agua digitales en video y audio, permitiendo a los usuarios identificar si fueron creados por inteligencia artificial. Ejemplos incluyen SynthID de Google y la Firma Estable de Meta.
Consentimiento y Legislación
En octubre, el Senado de los Estados Unidos discutió el "NO FAKES Act of 2023", un proyecto de ley bipartidista que haría responsables a los creadores de deepfakes que utilicen la imagen de las personas sin autorización. Este enfoque legislativo destaca la importancia del consentimiento en la lucha contra los abusos de deepfake.
En resumen, en un mundo donde la tecnología avanza rápidamente, herramientas como AntiFake se vuelven esenciales para preservar la autenticidad y proteger la identidad de las personas frente a las amenazas de los deepfakes.