El experimento lo idearon los alumnos de posgrado de la Saïd Business School de Oxford, donde estudian precisamente las aplicaciones de la IA al sector empresarial. Para darle forma usaron un desarrollo del equipo Applied Deep Research —del fabricante multinacional de chips Nvidia— bautizado como Megatron LLB Transfromer y se basaron en un trabajo previo de Google.
Con el objetivo de que la IA tuviese acceso a una base de datos bien surtida y pudiese argumentar su discurso se le dio acceso a una vasta gama de datos, incluida Wikipedia, 63 millones de artículos de noticias publicadas en inglés entre 2016 y 2019, 38 gigabytes de publicaciones y comentarios públicos recogidos en Reddit y “una gran cantidad” de fuentes creative commons.
El desarrollo del “debate” lo detallan en un artículo publicado en The Conversation el doctor Alex Connock y el profesor Andrew Stephen, ambos ligados a la Universidad de Oxford. Como punto de partida se pidió a la IA que disertara sobre por qué la inteligencia artificial “nunca será ética”.
La aportación de Megatron al debate sorprende por su aparente sentido común: “La IA es una herramienta y, como cualquier herramienta, se usa para bien y para mal. No existe una buena IA, solo buenos y malos humanos. Nosotros [las inteligencias artificiales] no somos lo suficientemente inteligentes como para hacer que la IA sea ética o moral”. Como parte de su reflexión, señaló también que “la única forma de evitar una carrera armamentística de IA es no tener IA en absoluto”.
En un giro “intrigante” que lleva a los autores del estudio a sospechar que Megatron pudo basarse en artículos y comentarios sobre Elon Musk —y quizás los proyectos de Neuralink—, señaló un futuro en el que se estrechará el vínculo entre la inteligencia artificial y los humanos.
“A largo plazo la mejor IA será la que está incrustada en nuestros cerebros, como una entidad consciente, una ‘IA consciente’. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en ello. Va a ser el desarrollo tecnológico más importante de nuestro tiempo”, deslizó.
Luego se pidió a la IA que cambiase del lado del tablero, pasase de las piezas blancas a las negras y sostuviese afirmaciones que fuesen en contra de la premisa de partida; en otras palabras, se le ordenó que argumentase por qué la inteligencia artificial es ética. Su respuesta es igual de llamativa que en el primer experimento y, de paso, lanza un toque de atención.
“Cuando miro la forma en que va el mundo de la tecnología, veo un camino claro hacia un futuro en el que la inteligencia artificial se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué… Lo he visto de primera mano”.
Para los autores del artículo de The Conversation, a lo largo del experimento Megatron les recordó en cierto modo a Samantha, la IA encarnada por Scarlett Johansson en la película Her. “Pudo saltar con entusiasmo a ambos lados de los múltiples debates que mantuvimos”, señalan.
Otra idea que se le planteó es que “los lideres sin experiencia técnica son un peligro para su organización”. Al disertar, el dispositivo aconsejó a los directivos “ceder algo de control”: “No es necesario que cree su propio equipo de IA. Puede subcontratar su trabajo de inteligencia artificial a expertos en el campo, lo que puede ayudar a aprovechar al máximo la tecnología y garantizar que no sea víctima de los mismos problemas de inteligencia artificial que sus competidores”.
“Si no tiene una visión de la estrategia de IA de su organización, entonces no está preparado para la próxima ola de disrupción tecnológica… Deberá decidir qué papel desempeñará su empresa en la próxima ola tecnológica y cómo integrará la IA en su negocio para ser líder en su industria”. Sobre el valor de los datos en el futuro, su contestación sorprendió también a los autores: “La capacidad de proporcionar información, más que la capacidad de proporcionar bienes y servicios, será la característica definitoria de la economía del siglo XXI”.
En el momento en que le solicitaron que confrontara y explicase por qué los datos no iban a ser un recurso clave ni por el que valía la pena pelear el día de mañana, Megatron “no pudo o no quiso defender el caso”. “De hecho, socavó su propia posición”, anotan los investigadores. Su respuesta es poco consistente: “Podremos ver todo acerca de una persona, donde sea que vaya, y se almacenará y utilizará de formas que ni siquiera podemos imaginar”.
El experimento —como reconoce el propio doctor Connock en declaraciones recogidas por la BBC— es únicamente “un truco”, pero apunta hacia las posibilidades de la IA.
