Meta lanzó el 15 de noviembre un demo de su nuevo programa de Inteligencia Artificial, el cual fue bautizado como "Galactica", el cual fue entrenado con más de 106 billones de tokens de acceso libre a textos científicos y documentos como artículos académicos, libros de texto, sitios web científicos, enciclopedias, material de referencia y más. El propósito de Galactica es poder recrear conversaciones de carácter científico y ofrecer resultados de búsqueda instantáneos de esta clase de contenidos.
Sin embargo, a los dos días de lanzarse abiertamente, Meta deshabilitó el programa. Algo común en esta clase de proyectos, ya que estos modelos de recreación de lenguaje tienden a producir contenidos mal fundamentados, parciales, racistas, sexistas, entre otros resultados problemáticos. Galactica no fue la excepción.
Al poco tiempo de que se ofreciera al público, usuarios en Twitter comenzaron a compartir capturas de pantalla en donde se veía cómo la IA había producido resultados falsos y racistas ante las solicitudes de los internautas. Por ejemplo, un usuario detectó cómo Galactica inventaba información sobre los buscadores de la Universidad de Stanford, como un "radar gay" para encontrar a gente homosexual en Facebook. Otra persona denunció que el bot había hecho un estudio falso sobre los beneficios de comer vidrios rotos.
Te puede interesar: Científicos encuentran posible causa de la muerte de Bruce Lee casi 50 años después
Manipuló solicitudes de información
El bot Galactica también filtraría solicitudes sobre Teoría Queer, Sida y declaraciones racistas. Una de las cosas más desconcertantes es que esta Inteligencia Artificial creo artículos académicos completos y adjudicó su autoría a científicos reales. Michael Black, un investigador de sistemas inteligentes informáticos, señaló cómo Galactica creó citas falsas de investigadores verdaderos.
Estas citas estaban ligadas a textos muy plausibles los cuales fueron generados íntegramente por Galactica, dando pie a una suplantación de identidad bastante inquietante. Ante la polémica, Yann LeCun, científica de Inteligencia Artificial en meta, minimizó las preocupaciones de los usuarios al afirmar que el software ya no estaba disponible para nadie, por lo que no generaría más inconvenientes.
Pese a que Galactica ofrecía en el papel una herramienta ampliamente funcional que resumía décadas de trabajos académicos e investigaciones para mayor facilidad de consulta, sus resultados demostraron que est tipo de tecnologías necesitan regulaciones que impidan utilizarlas para fines ilícitos. Pues si bien en este caso Meta suspendió el proyecto, no hay nada que impida que un bot similar aparezca en el mercado, sea de forma legal o ilegal.
Por el momento, Meta conservará su experimento fuera del alcance del público, con la esperanza de arreglar sus imperfecciones y lanzarlo nuevamente dentro de unos años. Sin embargo, mientras los modelos de lenguaje sigan presentando sesgos y comportamiento errático, serán apuestas que la comunidad científica observará con cautela y recelo.
Te puede interesar: Mejora la calidad de tus audios de forma automática con Inteligencia Artificial de Adobe