El ritmo de cambio en la IA generativa en este momento es una locura . OpenAI lanzó ChatGPT al público hace solo cuatro meses. Solo tardó dos meses en llegar a los 100 millones de usuarios. (TikTok, la sensación instantánea anterior de Internet, tomó nueve). Google, luchando por mantenerse al día, lanzó Bard, su propio chatbot de IA, y ya hay varios clones de ChatGPT, así como nuevos complementos para hacer que el bot funcione. sitios web populares como Expedia y OpenTable. GPT-4, la nueva versión del modelo de OpenAI lanzada el mes pasado, es más precisa y "multimodal", y maneja texto, imágenes, video y audio, todo a la vez. La generación de imágenes avanza a un ritmo igualmente frenético: el último lanzamiento de MidJourney nos ha brindado las sensaciones virales de deepfake del "arresto" de Trump de Donald y el Papa mirando a la mosca con una chaqueta acolchada plateada, que dejan en claro que pronto tendrá que tratar cada imagen que ves en línea con sospecha.
¡Y los titulares! Ay, los titulares. ¡La IA llega a las escuelas! ¡Escritura de ciencia ficción! ¡La Ley! ¡Juego de azar! ¡Está haciendo un video! ¡Lucha contra las brechas de seguridad! ¡Alimentando las guerras culturales! ¡Creando mercados negros! ¡Desencadenando una fiebre del oro de inicio! ¡Tomando el control de la búsqueda! DJ'ing su música! ¡Vienes por tu trabajo!
En medio de este frenesí, he visto dos veces el nacimiento de la IA generativa en comparación con la creación de la bomba atómica. Lo sorprendente es que la comparación fue realizada por personas con puntos de vista diametralmente opuestos sobre lo que significa.
Uno de ellos es la persona más cercana a un arquitecto jefe que tiene la revolución de la IA generativa: Sam Altman, el CEO de OpenAI, quien en una entrevista reciente con The New York Times llamó al Proyecto Manhattan “el nivel de ambición al que aspiramos”. Los otros son Tristan Harris y Aza Raskin del Center for Humane Technology, quienes se hicieron famosos por advertir que las redes sociales estaban destruyendo la democracia. Ahora están dando vueltas advirtiendo que la IA generativa podría destruir nada menos que la civilización misma, al poner herramientas de un poder increíble e impredecible en manos de casi cualquier persona.
Altman, para ser claros, no está en desacuerdo con Harris y Raskin en que la IA podría destruir la civilización. Simplemente afirma que tiene mejores intenciones que otras personas, por lo que puede tratar de asegurarse de que las herramientas se desarrollen con barandillas y, además, no tiene más remedio que seguir adelante porque la tecnología es imparable de todos modos. Es una mezcla alucinante de fe y fatalismo.
Para que conste, estoy de acuerdo en que la tecnología es imparable. Pero creo que las barreras que se están implementando en este momento, como filtrar el discurso de odio o los consejos criminales de las respuestas de chatGPT, son ridículamente débiles. Sería un asunto bastante trivial, por ejemplo, que empresas como OpenAI o MidJourney incrustaran marcas de agua digitales difíciles de eliminar en todas sus imágenes generadas por IA para que las falsificaciones profundas, como las imágenes del Papa, fueran más fáciles de detectar. Una coalición llamada Iniciativa de Autenticidad de Contenido está haciendo una forma limitada de esto; su protocolo permite a los artistas adjuntar voluntariamente metadatos a imágenes generadas por IA. Pero no veo a ninguna de las principales empresas de IA generativa uniéndose a tales esfuerzos.
Sin embargo, independientemente de si lo ve como algo positivo o negativo, creo que el paralelismo entre la IA generativa y las armas nucleares es más engañoso que útil. Las armas nucleares literalmente podrían acabar con la mayor parte de la humanidad en minutos, pero relativamente pocas personas pueden tener una en sus manos. Con la IA generativa, por otro lado, casi todos podrán usarla, pero no puede acabar con la mayor parte de la humanidad de un plumazo.
Claro, tal vez podría pedirle a un GPT-4 (sin barandillas) o a sus sucesores que "diseñen una superbacteria que sea más contagiosa que el covid-19 y mate al 20 por ciento de las personas que infecta". Pero la humanidad todavía está aquí a pesar de que las fórmulas de las toxinas mortales y el código genético de las enfermedades virulentas han estado disponibles gratuitamente en línea durante años.
Más bien, lo que hace que la IA sea aterradora es que nadie puede predecir la mayoría de los usos que la gente imaginará para ella. Algunos de estos usos podrían ser el equivalente de una bomba nuclear para cosas muy específicas, como ensayos universitarios, que pueden volverse obsoletos rápidamente. En otros casos, los efectos perniciosos serán más lentos y más difíciles de prever. (Por ejemplo, si bien ChatGPT ha demostrado ser una herramienta increíblemente poderosa para escribir código, algunos temen que haga redundantes las comunidades donde los humanos comparten conocimientos de codificación y, por lo tanto, destruya la base misma sobre la cual se capacitan los futuros codificadores humanos y de IA).
Aún así, la analogía del Proyecto Manhattan me parece correcta en un aspecto: hay un mundo antes del acceso masivo a la IA generativa y un mundo después, y no son lo mismo.