Meta
Meta retira su modelo de IA Galactica por difundir información falsa y racista
La compañÃa tecnológica presentó este proyecto el pasado 15 de noviembre, detallando que habÃa entrenado este producto con 48 millones de ejemplos de artÃculos, páginas web especializadas, libros de texto, enciclopedias y conferencias del ámbito cientÃfico.MADRID, (Portaltic/EP). - Meta ha retirado tan solo unos dÃas después del lanzamiento de su demostración su modelo de lenguaje de Inteligencia Artificial (IA) Galactica, destinado a la creación de documentos cientÃficos, tras promover información sesgada y falsa.
La compañÃa tecnológica presentó este proyecto el pasado 15 de noviembre, detallando que habÃa entrenado este producto con 48 millones de ejemplos de artÃculos, páginas web especializadas, libros de texto, enciclopedias y conferencias del ámbito cientÃfico.
Entonces, señaló que Galactica servirÃa como apoyo a investigadores y estudiantes, puesto que estaba capacitado para "resumir trabajos académicos, resolver problemas matemáticos, generar artÃculos de Wikipedia, escribir código cientÃfico y anotar fórmulas de moléculas y proteÃnas", entre otras funcionalidades.
Con tan solo unos dÃas de rodaje de su demostración, este modelo de lenguaje basado en IA se habrÃa convertido en un bot sin sentido capaz de crear y compartir resultados sesgados e información inverosÃmil, según Technology Review, que ha recogido el testimonio de algunos de los usuarios que han probado Galactica.
Uno de ellos es el cientÃfico y filósofo Grady Booch, que ha calificado este modelo de "peligroso" y "no ético", mientras que Michael Black, el director del Instituto Max Planck de Sistemas Inteligentes (Alemania) ha dicho que este producto es capaz de incluir referencias falsas e inexistentes en artÃculos cientÃficos.
"Aplaudo la ambición de este proyecto, pero advierto a todos de la publicidad que se le ha dado. Esto no es un gran acelerador para la ciencia o, incluso, una herramienta útil para la escritura cientÃfica. Es potencialmente distorsionador y peligroso para la ciencia", ha escrito Black en su perfil de Twitter.
Debido a estos fallos, la compañÃa ha optado por retirar la demostración de Galactica y ha anunciado por Twitter que agradece los comentarios que ha recibido hasta ahora por parte de la comunidad cientÃfica que lo ha probado.
"Nuestros modelos están disponibles para los investigadores que desean aprender más sobre su trabajo y reproducir los resultados en un papel", ha escrito en su cuenta de Papers with Code, donde presentó el proyecto inicialmente.