Google ha endurecido sus políticas contra las apps y chatbots que permiten crear imágenes con desnudos falsos generados con IA y otros contenidos engañosos. Este tipo de manipulaciones podrán ser denunciadas por los usuarios. Así serán las nuevas condiciones.
Google Play Store deberá impedir la creación de contenidos no permitidos y facilitar herramientas de denuncia que ayuden a mejorar la herramienta. El compromiso lo hace Google mientras actualiza sus políticas para aplicaciones de IA generativa.
Los desarrolladores deberán también impedir estos contenidos manipulados y fines oscuros. Las nuevas políticas incluyen especificaciones para aplicaciones que usan IA generativa, mejorando la experiencia de usuario.
Te puede interesar: ¿Quieres entender lo que dice tu gato? Traduce maullido a español con IA
Google endurece las condiciones teniendo en cuenta que esta tecnología es cada vez más accesible y los desarrolladores pueden incluirla “para aumentar la interacción y mejorar la experiencia de usuario”.
La nueva política se enfoca en las ‘apps‘ que generan contenido, ‘chatbots’ y herramientas que crean imágenes a partir de una descripción. Ahora se les hace una exigencia; que “prohíban o impidan la generación de contenido no permitido“. Esto incluye las imágenes de desnudos falsos o con manipulaciones para engañar.
Te puede interesar: Telegram lanza su propia moneda virtual: esto es lo que puedes hacer con las ‘Telegram Stars’
Además, deben incluir funciones internas que permitan a los usuarios denunciar o notificar cuando detecten que determinada app se usa para generar contenido no permitido u ofensivo. Según Google, los desarrolladores deberán usarla para “mejorar el filtrado y la moderación del contenido de sus aplicaciones”.
Imagen: Archivo ENTER.CO
