Google exigirá a las apps de Android que moderen el contenido generado con IA: así pretende hacerlo
Google Play Store está llena de aplicaciones que utilizan IA generativa para ofrecer chatbots o generación de imágenes. Ahora Google quiere imponer una serie de requisitos a los desarrolladores de apps para que los usuarios puede denunciar contenido ofensivo generado con inteligencia artificialasí como una serie de pautas para hacerlo aceptable para cualquier usuario.
A explosión de nuevas aplicaciones que han ido apareciendo durante todo el año para ofrecer diferentes experiencias todas ellas ligadas a la IA generativa. Con mayor o menor acierto, estas apps carecen de algunas herramientas que permitan al usuario denunciar los contenidos ofensivos que puedan generarse. Google ya está trabajando para exigir la integración de una herramienta que ofrezca al usuario la posibilidad de denunciarlo.
Cualquier aplicación en Google Play Store que utilice contenido generado con inteligencia artificial. necesitarás agregar un botón para marcarlo o reportarlo como material ofensivo a partir del próximo año. La idea es que el usuario tenga la posibilidad de etiquetar el contenido para que ni siquiera tenga que salir de la aplicación para esta acción.
Limitar Google Play Store
Estas son las apps que empezarán a desarrollar este botón a partir del próximo año y así ofrecer la herramienta precisa para denunciar todo tipo de contenidos ofensivos. Hay dos excepcionesy son para aplicaciones que proporcionan contenido generado por IA, pero solo lo usan para resumir textos de libros, o aquellas aplicaciones de productividad que usan inteligencia artificial.
- Chatbots con IA tipo ChatGPT o Bard.
- Apps que generan imágenes con IA a partir de texto.
- Aplicaciones que crean contenido de voz o vídeo de personas reales con el uso de inteligencia artificial.
De hecho, Google ofrece algunos ejemplos de contenido problemático generado por IA, como el uso de material sexual falso, Grabaciones de personas reales diseñadas para proporcionar información errónea.Contenido basado en inteligencia artificial diseñado para ser sexualmente gratificante y código malicioso.
La empresa estadounidense también aclara que debido a la avalancha de aplicaciones basadas en IA generativa irá ajustando sus directrices a medida que la tecnología evoluciona. Hay otro punto que se ha destacado. desde tu anuncio y está relacionado con las pautas de permiso de fotos y videos para limitar cómo las aplicaciones acceden a los datos.
Usando el selector de imágenes en una aplicación de Android
Sostiene que las fotografías y vídeos contenidos en el dispositivo del usuario deben considerarse datos personales y sensibles tratados con las mejores prácticas de máxima privacidad. Aclara que este tipo de información sensible expone al usuario a una vulnerabilidad que puede ser utilizada con fines maliciosos, por lo que minimizar el acceso evitará que los desarrolladores tengan que gestionar el uso de tanta información confidencial.
Otro punto importante es que sólo las aplicaciones que necesitan acceso a fotos y vídeos Continuará usando permisos generales., mientras que aquellos con uso limitado de archivos multimedia requerirán el uso de un selector de imágenes. Una serie de medidas oportunas contra la invasión de este tipo de apps que actualmente se encuentran libres de restricciones debido a la llegada explosiva de la IA generativa a todos los niveles.