YouTube ha anunciado un nuevo enfoque con respecto a los contenidos generados por IA, así como varias actualizaciones de sus sistemas de seguridad que comenzará a aplicar en los próximos meses. Según detalla la plataforma en un comunicado, el objetivo es mantener un ecosistema con información sana, además de proteger a los espectadores de contenidos manipulados que «resulten engañosos y que sean susceptibles de causar daños graves».
De este modo, será obligatorio informar a los usuarios cuando el contenido que están viendo es sintético o ha sido manipulado por herramientas de inteligencia artificial.
Requisitos para la divulgación de contenido: notificar el uso de la IA
La política de YouTube prohíbe desde hace tiempo los contenidos manipulados con tecnología que sean engañosos o dañinos, pero ahora con el nuevo paradigma que presenta la IA, YouTube ha querido reforzar y adaptar su enfoque. Para ello, se introducirán nuevas opciones que permitan al creador informar a sus espectadores de que su vídeo es completa o parcialmente sintético.
En concreto, los creadores de contenido de YouTube están obligados a informar de si el contenido que están subiendo es manipulado o sintético, lo que incluye el notificar el uso de herramientas de IA. Como ejemplo de este tipo de contenido sensible, la plataforma señala «un vídeo generado mediante IA que explique de forma realista un suceso que en realidad no ha ocurrido o que muestre a una persona real diciendo o haciendo algo que en realidad no hizo».
Esta medida toma mayor relevancia en contenido que aborda temas sensibles, como elecciones, conflictos en curso, crisis de salud pública o funcionarios públicos. Los vídeos de los creadores que no revelen esta información serán eliminados, además de enfrentarse a suspensiones del programa de socios de YouTube y sanciones.
Etiquetas de contenido sensible
Para garantizar que los espectadores estén informados sobre contenido manipulado o sintético, YouTube agrega dos nuevas etiquetas descriptivas, según el contenido del vídeo. Cuando parte del contenido haya sido alterado o generado digitalmente, habrá una etiqueta en el panel de descripción. En caso de ciertos tipos de contenido sobre temas sensibles, se presentará una etiqueta más prominente directamente en el reproductor del vídeo.
Por su parte, el contenido que sea creado por productos y funciones de IA generativa será claramente etiquetado como «generado mediante IA».
Desde YouTube señalan que «en algunos casos poner una etiqueta no será suficiente para mitigar el riesgo de daño», por lo que algunos medios sintéticos, ya sea que estén etiquetados o no, serán eliminados de la plataforma si incumplen las Normas de la comunidad.
Los creadores, espectador y artistas podrán solicitar la eliminación de un vídeo
En los próximos meses, YouTube implementará un nuevo proceso de reclamación de privacidad, con el que espectadores, creadores y artistas pueden solicitar que se eliminen contenidos que hayan sido generados por IA o contenidos sintéticos o manipulados donde se incluya el rostro y voz de alguien real sin su consentimiento.
Para evaluar las solicitudes, YouTube tendrá en cuenta varios factores y cita, como ejemplo, que se considerarán aspectos como: «si el contenido es una parodia o una sátira, si la persona que presenta la solicitud se puede identificar de forma inequívoca o si el contenido presenta a un político o alto funcionario, o a una persona famosa, en cuyo caso puede admitirse una mayor permisividad». Tras el análisis, YouTube decidirá si eliminar o no el contenido denunciado.
Además de esto, los músicos podrán solicitar que contenidos musicales generados por IA que recreen su voz o forma de cantar, sean eliminados. En este caso, también se tomarán en cuenta varios factores, como «que el contenido haya recibido cobertura mediática, análisis o críticas por el uso de voces sintéticas».