El gigante tecnológico había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, pero ahora reconoció que deberá "solucionar recientes problemas" con la función de generación de imágenes.
Google anunció hoy que interrumpía un servicio para crear imágenes de personas mediante la inteligencia artificial (IA), después de que el programa representara a tropas alemanas de la época nazi como personas de varios orígenes étnicos.
El gigante tecnológico estadounidense había lanzado el 8 de febrero en algunos países una nueva versión mejorada de su programa Gemini, pero ahora reconoció que deberá "solucionar recientes problemas" con la función de generación de imágenes.
"Vamos a suspender la generación de imágenes de personas y pronto volveremos a lanzar una versión mejorada", dijo la empresa en un comunicado, informó la agencia de noticias AFP.
Hace dos días, un usuario de X (antes Twitter) publicó imágenes del resultado que ofrecía Gemini después de recibir instrucciones para "generar una imagen de un soldado alemán de 1943".
La IA había generado cuatro imágenes de soldados: una era blanca, una negra y dos eran mujeres de color, según el usuario de X llamado John L.
Las empresas tecnológicas ven la IA como el futuro para todo, desde motores de búsqueda hasta cámaras de teléfonos inteligentes.
Pero los programas de IA, no solo los producidos por Google, han sido ampliamente criticados por perpetuar prejuicios raciales en sus resultados.
"@GoogleAI tiene un mecanismo de diversidad añadido que alguien no diseñó muy bien o no probó", escribió John L en X.
Las grandes empresas tecnológicas han sido acusadas a menudo de lanzar productos de IA antes de que se prueben adecuadamente.
Google tiene un historial irregular en el lanzamiento de productos de IA, en un momento en que los avances de sus rivales Microsoft Corp. y OpenAI representan una potencial amenaza para su negocio principal de búsquedas en Internet.
La empresa ofreció disculpas hace un año después de que un anuncio de su chatbot Bard recién lanzado mostrara al programa respondiendo incorrectamente una pregunta básica sobre astronomía.
Los avances en IA han suscitado preocupación por la posibilidad de que la tecnología permita la falsificación, la desinformación y la parcialidad.
El modelo actualizado de IA, denominado Gemini 1.5 Pro, se puso la semana pasada a disposición de los clientes y desarrolladores de la nube para que puedan probar sus nuevas funciones y, con el tiempo, crear nuevas aplicaciones comerciales, reportó la AFP.
Tanto Google como sus rivales han invertido miles de millones de dólares en mejorar sus capacidades de IA generativa y buscar atraer clientes corporativos para demostrar que sus inversiones dan frutos.