"
San Juan 8 > A un click > imágenes

TikTok empezará a etiquetar imágenes y videos generados por IA

Esta nueva medida busca profundizar las prácticas de seguridad al colocar una etiqueta también al contenido generado fuera del servicio de la app.

TikTok anunció que empezará a utilizar una tecnología destinada a ayudar a etiquetar imágenes y videos generados por inteligencia artificial y subidos al servicio.

Según informó la empresa, adoptarán "credenciales de contenido", una marca de agua digital que sirva para indicar cómo se crearon y editaron las imágenes. La tecnología de credenciales de contenido fue impulsada por Adobe, pero está abierta a otras empresas y ya ha sido adoptada por empresas como OpenAI, creadora de ChatGPT.

Ante la masividad de la IA, los investigadores han expresado su preocupación por la posibilidad de que los contenidos generados por esta tecnología contribuyan a la desinformación en un intento de interferir en las elecciones estadounidenses de este otoño boreal.

Te puede interesar...

La plataforma de contenidos verticales ya formaba parte de un grupo de 20 empresas tecnológicas que firmaron un acuerdo a principios de año comprometiéndose a combatir la desinformación en internet. En esta línea, YouTube -propiedad de Google, de Alphabet- y Meta Platforms, dueña de Instagram y Facebook, también manifestaron su intención de implementar las credenciales de contenido.

Para que el sistema funcione, tanto el fabricante de la herramienta de IA generativa utilizada para crear contenidos como la plataforma utilizada para distribuirlos deben estar de acuerdo en usar el estándar del sector.

De esta manera, si una persona utiliza la herramienta Dalle de OpenAI para generar una imagen, por ejemplo, OpenAI adjunta una marca de agua a la imagen resultante. Si esa imagen marcada se sube a TikTok, se etiquetará automáticamente como "generada por IA".

La aplicación ya etiqueta el contenido generado por IA con herramientas dentro de la aplicación. Esta nueva medida busca profundizar las prácticas de seguridad al colocar una etiqueta también al contenido generado fuera del servicio de la app.

"También tenemos políticas que prohíben la IA realista que no esté etiquetada, así que si aparecen en la plataforma, los eliminaremos por violar nuestras directrices comunitarias", señaló en una entrevista Adam Presser, jefe de operaciones y confianza y seguridad de TikTok.

FUENTE: Ámbito.com