Google insertará marcas de agua en textos y vídeos generados con IA

0
24
Cortesía

Google lleva tiempo trabajando en el desarrollo de herramientas para identificar y detectar contenidos hechos con inteligencia artificial. En 2023, la compañía introdujo SynthID, una utilidad que podía incorporar marcas de agua imperceptibles para los humanos en imágenes y canciones creadas con IA. Y ahora está expandiendo esa tecnología a otros dos campos cruciales: la generación de textos y vídeos.

En el marco del I/O 2024, Google DeepMind anunció que SynthID ahora es capaz de insertar marcas de agua en textos creados usando el chatbot Gemini y las experiencias web integradas con la inteligencia artificial homónima. En el caso del vídeo, esta función está disponible en Veo, el nuevo modelo de texto a vídeo que compite con Sora (OpenAI).

Desde Google aclaran que SynthID no es infalible, pero que es crucial para el desarrollo de herramientas que permitan detectar si ciertos contenidos provienen o no de una inteligencia artificial. En una era en la que los deepfakes abundan y donde es más fácil que nunca engañar al ojo o al oído humano, insertar marcas de agua se presenta como la opción más potable para certificar la legitimidad de ciertos tipos de archivos y documentos.

Lo interesante es que Google ha prometido hacer de código abierto la versión de SynthID para aplicar marcas de agua en textos generados con IA. Esto permitirá que desarrolladores de otros modelos usen la misma tecnología que hoy ya se encuentra disponible en Gemini.

Cómo funcionan las nuevas marcas de agua para texto y vídeo de SynthID

En el caso de los vídeos creados con Veo, Google indica que todos llevan una marca de agua de SynthID. Para introducirlas, la compañía ha tomado como base la tecnología aplicada en la generación de imágenes fijas y la ha llevado a otro nivel. Si bien los de Mountain View no han brindado detalles muy específicos, sí han indicado que la marca identificatoria se “imprime” en los píxeles de cada fotograma de los vídeos generados con IA.

Google insiste en que las marcas de agua de SynthID son imposibles de detectar a simple vista, pero que se pueden encontrar rápidamente con un software de identificación. En el caso del texto creado con inteligencia artificial, el proceso es un tanto más complejo.

Los chatbots y modelos de generación de texto utilizan tokens y un sistema de predicción para generar frases o párrafos completos. Lo que hace la IA es otorgarle a cada token un puntaje que representa el porcentaje de probabilidad de que sea el correcto a la hora de formular una respuesta coherente al prompt introducido por el usuario.

Con información Hipertextual

Recibe las noticias más destacadas directamente en tu celular. Únete a nuestro grupo en WhatsApp a través del siguiente link: https://chat.whatsapp.com/DVZm2B0nIaZGcku79WAGx4

También estamos en Telegram como @InfoElLuchador únete aquí https://t.me/infoelluchador