YouTube recientemente anunció una nueva medida para promover la transparencia en su plataforma, específicamente en relación con el contenido generado por inteligencia artificial (IA). Con el creciente uso de la IA generativa en la creación de contenido, la plataforma de vídeos busca que los usuarios puedan reconocer si el material que están consumiendo es real o no.
Para ello, la plataforma ha añadido una nueva herramienta en Creator Studio que requiere que los creadores informen a los espectadores cuando el contenido realista (contenido que un usuario podría confundir fácilmente con una persona, lugar o evento real) se crea con medios alterados o sintéticos, incluida la IA generativa. Estas aclaraciones aparecerán como etiquetas en la descripción ampliada o en el frente del reproductor de video.
Casos en los que se deberá aclarar que el contenido se hizo con IA
En su blog oficial, la plataforma aclara que no se le exigirá a los creadores que revelen el uso de IA generativa para tareas de productividad, como la generación de guiones o subtítulos automáticos, ni cuando los medios sintéticos no sean realistas o los cambios sean intrascendentes, como ajustes de color o filtros de iluminación. En ese sentido, algunos ejemplos de contenido que requerirían aclaración incluyen:
- Usar la imagen de una persona realista: alterar digitalmente el contenido para reemplazar el rostro de un individuo por el de otro o generar sintéticamente la voz de una persona para narrar un vídeo.
- Alterar imágenes de eventos o lugares reales: como hacer que parezca como si un edificio real se incendiara o alterara un paisaje urbano real para que parezca diferente de la realidad.
- Generar escenas realistas: mostrar una representación realista de eventos ficticios importantes, como un tornado que avanza hacia una ciudad real.
Cómo y cuándo se verán estos cambios
Según explican desde la empresa, a partir de este cambio en los vídeos aparecerá una etiqueta en la descripción ampliada y, para los videos que abordan temas más delicados (como salud, noticias, elecciones o finanzas), también se mostrará una etiqueta más destacada en el vídeo en sí.
Esta medida se implementará en todas las superficies y formatos de YouTube en las próximas semanas, comenzando con la app, luego en la versión de escritorio y finalmente en la TV. Y se aclara que «si bien queremos darle tiempo a nuestra comunidad para adaptarse al nuevo proceso y características, en el futuro analizaremos medidas de cumplimiento para los creadores que constantemente eligen no revelar esta información».
Además, YouTube también está trabajando en un proceso de privacidad actualizado para permitir que las personas soliciten la eliminación de contenido generado por IA u otro contenido sintético o alterado que simule a un individuo identificable, como su rostro o su voz.
La preocupación por el uso de la IA
Si bien la IA promete revolucionar numerosos aspectos de nuestra vida cotidiana, desde la atención médica hasta la gestión del tráfico, también ha generado una serie de preocupaciones debido a su potencial para ser utilizada de manera maliciosa o perjudicial.
Uno de los puntos más críticos en este debate es la creación y propagación de deep fakes, una técnica de IA que permite la manipulación de imágenes y vídeos para crear representaciones falsas y convincentes de personas reales. Estos vídeos, que a menudo se distribuyen en línea, pueden suplantar la voz y la apariencia de figuras públicas para difundir información errónea, propaganda política o incluso perpetrar estafas y extorsiones.
El temor a los deep fakes ha suscitado preocupaciones sobre la confianza en los medios digitales y la capacidad de discernir entre la realidad y la ficción en un entorno cada vez más saturado de información manipulada. Además, la IA también ha sido empleada en la producción de contenido inapropiado, como imágenes y vídeos pornográficos generados artificialmente, lo que plantea serios riesgos de explotación y daño psicológico, especialmente para los menores de edad.
Fuente: Artículo original de Marketing4ecomerce | Editado por Digilópolis, mar 2024
