¡Y los titulares! Ay, los titulares. ¡La IA llega a las escuelas! ¡Escritura de ciencia ficción! ¡La Ley! ¡Juego de azar! ¡Está haciendo un video! ¡Lucha contra las brechas de seguridad! ¡Alimentando las guerras culturales! ¡Creando mercados negros! ¡Desencadenando una fiebre del oro de inicio! ¡Tomando el control de la búsqueda! DJ'ing su música! ¡Vienes por tu trabajo! Para que conste, estoy de acuerdo en que la tecnología es imparable. Pero creo que las barreras que se están implementando en este momento, como filtrar el discurso de odio o los consejos criminales de las respuestas de chatGPT, son ridículamente débiles. Sería un asunto bastante trivial, por ejemplo, que empresas como OpenAI o MidJourney incrustaran marcas de agua digitales difíciles de eliminar en todas sus imágenes generadas por IA para que las falsificaciones profundas, como las imágenes del Papa, fueran más fáciles de detectar. Una coalición llamada Iniciativa de Autenticidad de Contenido está haciendo una forma limitada de esto; su protocolo permite a los artistas adjuntar voluntariamente metadatos a imágenes generadas por IA. Pero no veo a ninguna de las principales empresas de IA generativa uniéndose a tales esfuerzos.
Uno de ellos es la persona más cercana a un arquitecto jefe que tiene la revolución de la IA generativa: Sam Altman, el CEO de OpenAI, quien en una entrevista reciente con The New York Times llamó al Proyecto Manhattan “el nivel de ambición al que aspiramos”. Los otros son Tristan Harris y Aza Raskin del Center for Humane Technology, quienes se hicieron famosos por advertir que las redes sociales estaban destruyendo la democracia. Ahora están dando vueltas advirtiendo que la IA generativa podría destruir nada menos que la civilización misma, al poner herramientas de un poder increíble e impredecible en manos de casi cualquier persona.
Altman, para ser claros, no está en desacuerdo con Harris y Raskin en que la IA podría destruir la civilización. Simplemente afirma que tiene mejores intenciones que otras personas, por lo que puede tratar de asegurarse de que las herramientas se desarrollen con barandillas y, además, no tiene más remedio que seguir adelante porque la tecnología es imparable de todos modos. Es una mezcla alucinante de fe y fatalismo. Aún así, la analogía del Proyecto Manhattan me parece correcta en un aspecto: hay un mundo antes del acceso masivo a la IA generativa y un mundo después, y no son lo mismo. Sin embargo, independientemente de si lo ve como algo positivo o negativo, creo que el paralelismo entre la IA generativa y las armas nucleares es más engañoso que útil. Las armas nucleares literalmente podrían acabar con la mayor parte de la humanidad en minutos, pero relativamente pocas personas pueden tener una en sus manos. Con la IA generativa, por otro lado, casi todos podrán usarla, pero no puede acabar con la mayor parte de la humanidad de un plumazo.