BANGKOK (AP) — El chatbot de IA de Elon Musk, Grok, no podrá editar fotos para mostrar a personas reales con poca ropa en lugares donde eso sea ilegal, según un comunicado publicado en X.

El anuncio, realizado tarde el miércoles 14 de enero, siguió a una reacción global por la generación de imágenes sexualizadas de mujeres y niños que incluyó prohibiciones y advertencias por parte de algunos gobiernos.

El estado de California, el más poblado de Estados Unidos, anunció una investigación, el mismo miércoles, sobre la proliferación de material sexualmente explícito no consensuado producido a través de Grok, que, según dijo, suponía acoso para mujeres y niñas.

Inicialmente, las consultas de los medios sobre el problema solo recibieron la respuesta: "los medios tradicionales mienten".

La empresa de Musk, xAI, ahora dice que bloqueará geográficamente el contenido si viola las leyes en un lugar particular.

"Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora como bikinis, ropa interior y otras prendas reveladoras", afirmó.

La regla se aplica a todos los usuarios, incluidos los suscriptores de pago, que tienen acceso a más funciones.

xAI también ha limitado la creación o edición de imágenes sólo a suscriptores de pago "para garantizar que las personas que intenten abusar de la cuenta de Grok para violar la ley o nuestras políticas puedan ser responsabilizadas".

El "modo picante" de Grok había permitido a los usuarios crear contenido explícito, lo que provocó una reacción de gobiernos de todo el mundo.

Malasia e Indonesia tomaron acciones legales y bloquearon el acceso a Grok, mientras que las autoridades en Filipinas dijeron que estaban trabajando para hacer lo mismo, posiblemente a lo largo de la semana. El Reino Unido y la Unión Europea estaban investigando posibles violaciones de las leyes de seguridad en línea.

Francia e India también han emitido advertencias, exigiendo controles más estrictos. Brasil pidió una investigación sobre el mal uso de Grok.

El gobierno británico, que ha sido uno de los críticos más vehementes de Grok en los últimos días, acogió con satisfacción el cambio, mientras que el regulador del país, Ofcom, dijo que continuaría con su investigación.

"No descansaré hasta que todas las plataformas de redes sociales cumplan con sus deberes legales y ofrezcan un servicio que sea seguro y apropiado para la edad de todos los usuarios", dijo la secretaria de Tecnología, Liz Kendall.

El fiscal general de California, Rob Bonta, instó a xAI a garantizar que no haya más acoso a mujeres y niñas debido a las funciones de edición de Grok.

"No tenemos tolerancia para la creación y difusión basada en IA de imágenes íntimas no consensuadas o de material de abuso sexual infantil", expresó.

California ha aprobado leyes para proteger a los menores de imágenes sexuales generadas por IA de niños y requiere que las plataformas de chatbots de IA recuerden a los usuarios que no están interactuando con un humano.

Pero el gobernador demócrata, Gavin Newsom, también vetó una ley el año pasado que habría restringido el acceso de los niños a los chatbots de IA.