(AP).- La madre de uno de los hijos de Elon Musk está demandando a su empresa de inteligencia artificial, alegando que su chatbot Grok permitió a los usuarios generar imágenes deepfake sexualmente explotadoras de ella que le han causado humillación y angustia emocional.

Ashley St. Clair, de 27 años, quien se describe como escritora y estratega política, alega en una demanda presentada el jueves en la ciudad de Nueva York contra xAI que las imágenes incluyen una foto de ella completamente vestida a los 14 años, alterada para mostrarla en bikini, y otras que la muestran de adulta en posturas sexualizadas y con un bikini con esvásticas. St. Clair es judía. Grok está en la plataforma de redes sociales de Musk, X.

Los abogados de xAI no respondieron de inmediato a los correos electrónicos que solicitaban comentarios el viernes. El miércoles, tras la reacción global por las imágenes sexualizadas de mujeres y niños, X anunció que Grok ya no podrá editar fotos para retratar a personas reales con ropa provocativa, en lugares donde esto es ilegal.

Cuando se le preguntó sobre la demanda y sus acusaciones, xAI solo respondió “Legacy Media Lies” en un correo electrónico a The Associated Press.

St. Clair afirmó haber reportado las deepfakes a X después de que comenzaran a aparecer el año pasado y haber solicitado su eliminación. Añadió que la plataforma primero respondió que las imágenes no infringían sus políticas. Luego, prometió no permitir que se usaran ni alteraran imágenes suyas sin su consentimiento.

St. Clair dijo que la plataforma social tomó represalias contra ella eliminando su suscripción premium X y la marca de verificación, no permitiéndole ganar dinero con su cuenta, que tiene 1 millón de seguidores, y continuando permitiendo imágenes falsas degradantes de ella.

“He sufrido y sigo sufriendo un dolor grave y angustia mental como resultado del papel de xAI en la creación y distribución de estas imágenes alteradas digitalmente de mí”, dijo en un documento adjunto a la demanda. “Me siento humillada y siento que esta pesadilla nunca se detendrá mientras Grok continúe generando estas imágenes mías”.

También dijo que vive con miedo de las personas que ven sus deepfakes.

St. Clair es la madre de Romulus, el hijo de 16 meses de Musk. Vive en la ciudad de Nueva York, donde presentó la demanda ante el Tribunal Supremo estatal. Solicita una indemnización por daños y perjuicios no revelada por presunta angustia emocional y otras reclamaciones, así como órdenes judiciales que prohíban de inmediato a xAI permitir más deepfakes de ella.

Más tarde el jueves, los abogados de xAI trasladaron la demanda a un tribunal federal de Manhattan, solicitando que un juez la atendiera. Ese mismo día, xAI también presentó una contrademanda contra St. Clair en un tribunal federal del Distrito Norte de Texas, alegando que incumplió los términos de su acuerdo de usuario de xAI, que exige que las demandas contra la empresa se presenten en un tribunal federal de Texas. Busca una sentencia monetaria no revelada en su contra.

X tiene su sede en Texas, donde Musk posee una casa y su fabricante de automóviles eléctricos Tesla tiene su sede en Austin.

Carrie Goldberg, abogada de St. Clair, calificó la contrademanda como una medida “sorprendente” que nunca antes había visto por parte de un acusado.

“La Sra. St. Clair defenderá enérgicamente su foro en Nueva York”, declaró Goldberg. “Pero, francamente, cualquier jurisdicción reconocerá la gravedad de las afirmaciones de la Sra. St. Clair: que, al crear imágenes sexualmente explícitas no consensuadas de niñas y mujeres, xAI constituye una molestia pública y un producto poco seguro”.

En su anuncio del miércoles, X afirmó que implementaría otras medidas de seguridad en Grok, como limitar la creación y edición de imágenes a cuentas de pago, lo que, según afirmó, mejoraría la rendición de cuentas. Afirmó tener tolerancia cero con la explotación sexual infantil, la desnudez no consentida y el contenido sexual no deseado, y que eliminaría inmediatamente dicho contenido y denunciaría a las autoridades las cuentas involucradas en material de abuso sexual infantil.