Hay un nuevo eslogan que algunos usan cuando se trata de hablar sobre la IA generativa actual. Detesto repetir la frase, pero la angustia de hacerlo vale la pena para tratar de reducir el uso en el futuro.
¿Estás listo?
Inteligencia extraterrestre.
Verá, hay expertos, reporteros, cabezas parlantes y otros que parecen referirse a la IA generativa como algún tipo de inteligencia alienígena . Por ejemplo, cuando se habla de la aplicación de inteligencia artificial generativa ampliamente popular conocida como ChatGPT, los comentaristas a veces dirán que ChatGPT exhibe una inteligencia extraterrestre. Esto parece ser aceptado por aquellos que se encuentran a distancia de escucha. La redacción acuñada está comenzando a filtrarse insidiosamente en nuestras normas culturales.
Nadie parece cuestionar abierta o abiertamente si esa redacción es adecuada o no.
Con mucho gusto me haré cargo de esa tarea tan necesaria.
Al referirse a la IA generativa, ya sea ChatGPT o cualquier otra aplicación de IA como su sucesora GPT-4 o incluso Bard de Google, no afirme, sugiera ni emplee de otro modo la frase abismal de inteligencia alienígena.
Solo di no.
Por favor, por favor, no hagan uso de este lúgubre y ojalá pronto extinguido etiquetado.
En la columna de hoy, explicaré por qué la "inteligencia alienígena" es totalmente inadecuada como medio para referirse a cualquiera de las Inteligencias Artificiales (IA) actuales. Puede sentirse tentado a pensar que realmente no importa qué palabras se usan para describir la IA. Usa lo que parezca pegadizo o esté de moda.
El problema es que las palabras sí importan. Las implicaciones de usar etiquetas desacertadas y completamente engañosas para la IA serán peligrosas de varias maneras (he cubierto preocupaciones similares en mi cobertura actual de Ética y Ley de IA, vea el enlace aquí). La sociedad puede caer en la incomprensión de los límites y límites de lo que la IA contemporánea puede lograr. Al poner etiquetas elegantes a la IA, lamentablemente exacerba un problema ya existente de personas que tienden a antropomorfizar la IA.
En resumen, ya tenemos suficientes problemas en nuestras manos para aclarar lo que la IA puede y no puede hacer. Seguramente no necesitamos nuevas formas de inflar las cosas. Agregar palabrería que confunde y confunde estos asuntos no es solo una tontería, sino que también distrae de consideraciones serias y obliga a aquellos en IA Ética y Ley de IA a apagar otro fuego indebido.
Al igual que el juego de Whack-a-mole, siguen apareciendo nuevas etiquetas sobre la IA, y ahora es el momento de aplastarlas y derribarlas. Apuntemos a mantenerlos profundamente fuera de la vista y tal vez clavar un clavo en su corazón engañoso.
Antecedentes vitales sobre la IA generativa
Antes de entrar en la verborrea inquietante de la "inteligencia alienígena", me gustaría asegurarme de que todos estamos en la misma página en general sobre qué es la IA generativa y también de qué se tratan ChatGPT y GPT-4. Para ver mi cobertura continua de la IA generativa y los últimos giros y vueltas, vea el enlace aquí.
Estoy seguro de que ya sabe que ChatGPT es una aplicación de inteligencia artificial que acapara los titulares y que puede producir ensayos fluidos y mantener diálogos interactivos, casi como si lo hicieran manos humanas. Una persona ingresa un mensaje escrito, ChatGPT responde con unas pocas oraciones o un ensayo completo, y el encuentro resultante parece inquietantemente como si otra persona estuviera chateando contigo en lugar de una aplicación de IA. Este tipo de IA se clasifica como IA generativa debido a que genera o produce sus resultados. ChatGPT es una aplicación de inteligencia artificial generativa de texto a texto que toma texto como entrada y produce texto como salida. Prefiero referirme a esto como texto a ensayo, ya que los resultados suelen tener un estilo de ensayo.
Sin embargo, tenga en cuenta que esta IA y, de hecho, ninguna otra IA es consciente actualmente. La IA generativa se basa en un algoritmo computacional complejo que ha sido entrenado con datos en texto de Internet y, ciertamente, puede hacer una combinación de patrones bastante impresionante para poder realizar una imitación matemática de la redacción humana y el lenguaje natural. Para saber más sobre cómo funciona ChatGPT, vea mi explicación en el enlace aquí. Si está interesado en el sucesor de ChatGPT, acuñado GPT-4, vea la discusión en el enlace aquí.
Hay cuatro modos principales de poder acceder o utilizar ChatGPT:
- 1) Directamente. Uso directo de ChatGPT iniciando sesión y usando la aplicación AI en la web
- 2) Indirectamente. Uso indirecto de una especie de ChatGPT (en realidad, GPT-4) integrado en el motor de búsqueda de Microsoft Bing
- 3) Aplicación a ChatGPT. Uso de alguna otra aplicación que se conecta a ChatGPT a través de la API (interfaz de programación de aplicaciones)
- 4) ChatGPT a la aplicación. Ahora, el uso agregado más reciente o más nuevo implica acceder a otras aplicaciones desde ChatGPT a través de complementos
La capacidad de poder desarrollar su propia aplicación y conectarla a ChatGPT es bastante significativa. Además de esa capacidad, viene la posibilidad de crear complementos para ChatGPT. El uso de complementos significa que cuando las personas usan ChatGPT, potencialmente pueden invocar su aplicación de manera fácil y sin problemas.
Otros y yo estamos diciendo que esto dará lugar a ChatGPT como plataforma .
Todo tipo de aplicaciones nuevas y aplicaciones existentes se conectarán rápidamente con ChatGPT. Si lo hace, proporciona la funcionalidad de conversación interactiva de ChatGPT. Los usuarios de su aplicación quedarán impresionados con la función adicional. Es probable que obtenga una gran cantidad de nuevos usuarios para su aplicación. Además, si también proporciona un complemento aprobado, esto significa que cualquier persona que use ChatGPT ahora puede usar su aplicación. Esto podría expandir de manera demostrable su audiencia de usuarios potenciales.
Como mencioné anteriormente en mis columnas, en estas circunstancias se produce una especie de ciclo. A veces denominado efecto de red , vea mi análisis en el enlace aquí, las personas tienden a unirse a algo a lo que otros se están uniendo. Facebook era así. Snapchat fue así. Al principio, tal vez haya poca o ninguna tracción. Pero, luego, a menudo de la nada, la gente comienza a unirse. Sus amigos y colegas se unen. Todos quieren unirse.
Los grandes se hacen más grandes. Los pequeños se mueren de hambre o no consiguen oxígeno en la habitación. Esa es la esencia del efecto de red. Se convierte en una forma de adherencia al factor de crecimiento exponencial. La gente usará lo que todos los demás usan. Esto a su vez lo hace más atractivo y agrega valor. La bola de nieve es a veces imparable y cobra impulso de antaño.
La tentación de que su aplicación se conecte con ChatGPT está por las nubes. Incluso si no crea una aplicación, es posible que esté pensando en alentar a sus clientes a usar ChatGPT junto con sus servicios cotidianos. Sin embargo, el problema es que si invaden usos prohibidos, sus propias cuentas en ChatGPT también enfrentarán un escrutinio y OpenAI podría bloquearlas.
Como se señaló, la IA generativa está preentrenada y utiliza una formulación matemática y computacional compleja que se ha configurado al examinar patrones en palabras e historias escritas en la web. Como resultado de examinar miles y millones de pasajes escritos, la IA puede arrojar nuevos ensayos e historias que son una mezcla de lo que se encontró. Al agregar varias funciones probabilísticas, el texto resultante es bastante único en comparación con lo que se ha utilizado en el conjunto de entrenamiento.
Existen numerosas preocupaciones sobre la IA generativa.
Una desventaja crucial es que los ensayos producidos por una aplicación de IA basada en generativos pueden tener incrustadas varias falsedades, incluidos hechos manifiestamente falsos, hechos que se describen de manera engañosa y hechos aparentes que son completamente inventados. Esos aspectos inventados a menudo se denominan una forma de alucinaciones de IA , un eslogan que no me gusta pero que lamentablemente parece estar ganando popularidad de todos modos (para mi explicación detallada sobre por qué esta es una terminología pésima e inadecuada, vea mi cobertura en el enlace aquí) .
Otra preocupación es que los humanos pueden atribuirse fácilmente el mérito de un ensayo generado por IA generativa, a pesar de no haberlo escrito ellos mismos. Es posible que haya escuchado que los maestros y las escuelas están bastante preocupados por la aparición de aplicaciones de inteligencia artificial generativa. Los estudiantes pueden potencialmente usar IA generativa para escribir sus ensayos asignados. Si un estudiante afirma que un ensayo fue escrito por su propia mano, hay pocas posibilidades de que el maestro pueda discernir si fue falsificado por IA generativa. Para mi análisis de esta faceta de confusión de estudiante y maestro, vea mi cobertura en el enlace aquí y el enlace aquí.
Ha habido algunas afirmaciones descabelladas en las redes sociales sobre la IA generativa que afirman que esta última versión de la IA es, de hecho, una IA sensible (¡no, están equivocados!). Los de Ética y Derecho de IA están especialmente preocupados por esta tendencia creciente de reclamos extendidos. Se podría decir cortésmente que algunas personas están exagerando lo que la IA actual puede hacer. Asumen que la IA tiene capacidades que aún no hemos podido lograr. Eso es lamentable. Peor aún, pueden permitirse a sí mismos y a otros meterse en situaciones difíciles debido a la suposición de que la IA será sensible o parecida a un humano para poder tomar medidas.
No antropomorfizar la IA.
Si lo hace, quedará atrapado en una trampa de dependencia pegajosa y severa de esperar que la IA haga cosas que no puede realizar. Dicho esto, lo último en IA generativa es relativamente impresionante por lo que puede hacer. Sin embargo, tenga en cuenta que existen limitaciones significativas que debe tener en cuenta continuamente al usar cualquier aplicación de IA generativa.
Una advertencia final por ahora.
Independientemente de lo que vea o lea en una respuesta generativa de IA que parezca transmitirse como puramente factual (fechas, lugares, personas, etc.), asegúrese de permanecer escéptico y esté dispuesto a verificar dos veces lo que ve.
Sí, las fechas se pueden inventar, los lugares se pueden inventar y los elementos que normalmente esperamos que sean irreprochables están sujetos a sospechas. No crea lo que lee y mantenga una mirada escéptica cuando examine cualquier ensayo o resultado de IA generativa. Si una aplicación de IA generativa le dice que el presidente Abraham Lincoln voló alrededor del país en un jet privado, sin duda sabrá que esto es una tontería. Desafortunadamente, algunas personas pueden no darse cuenta de que los aviones a reacción no existían en su época, o pueden saber pero no darse cuenta de que el ensayo hace esta afirmación descarada y escandalosamente falsa.
Una fuerte dosis de escepticismo saludable y una mentalidad persistente de incredulidad serán su mejor activo cuando use IA generativa.
En todo esto viene una gran cantidad de consideraciones sobre la ética y la ley de la IA.
Hay esfuerzos en curso para imbuir los principios éticos de la IA en el desarrollo y la implementación de aplicaciones de IA. Un creciente contingente de éticos de IA preocupados y antiguos está tratando de garantizar que los esfuerzos para diseñar y adoptar IA tengan en cuenta una visión de hacer IA para el bien y evitar la IA para el mal . Del mismo modo, se han propuesto nuevas leyes de IA que se están promocionando como posibles soluciones para evitar que los esfuerzos de IA se vuelvan locos en materia de derechos humanos y similares. Para mi cobertura continua y extensa de la ética de la IA y la ley de la IA, vea el enlace aquí y el enlace aquí, solo por nombrar algunos.
Se persigue el desarrollo y la promulgación de preceptos éticos de IA para evitar que la sociedad caiga en una miríada de trampas que inducen a la IA. Para ver mi cobertura de los principios de ética de AI de la ONU, tal como fueron ideados y respaldados por casi 200 países a través de los esfuerzos de la UNESCO, consulte el enlace aquí. De manera similar, se están explorando nuevas leyes de IA para tratar de mantener la IA en equilibrio. Una de las últimas tomas consiste en un conjunto de propuestas de la Declaración de Derechos de la IA que la Casa Blanca de los EE. UU. publicó recientemente para identificar los derechos humanos en una era de IA, vea el enlace aquí. Se necesita un pueblo para mantener la IA y los desarrolladores de IA en el camino correcto y disuadir los esfuerzos encubiertos intencionales o accidentales que podrían socavar a la sociedad.
Entrelazaré consideraciones relacionadas con la ética de la IA y la ley de la IA en esta discusión.
Donde ningún extraterrestre ha ido antes
Estamos listos para desempacar este asunto espinoso.
¿Qué significa "inteligencia alienígena"?
Supongo que otra forma de expresar esa pregunta es ¿qué significa "inteligencia alienígena" para ti y qué significa para los demás? La preocupación es que significa diferentes cosas para diferentes personas. La ambigüedad hace que esta frase ya sea problemática.
Aquí hay tres formas de analizar la frase:
- 1) Extraterrestre. Inteligencia alienígena como alusión a una inteligencia alienígena extraterrestre o del espacio exterior
- 2) Extraordinario . Inteligencia alienígena como alusión a lo extraordinario o fuera de la norma de la inteligencia humana
- 3) Otras variaciones.
Permítanme elaborar.
Comenzaré con el significado que parece surgir casi inmediatamente.
Algunos han interpretado la frase como una alusión a la IA actual que exhibe inteligencia extraterrestre . Por lo tanto, la palabra "alienígena" se toma como un significado extraterrestre del espacio exterior. Lo único que sabemos sobre los extraterrestres de otros planetas es que no sabemos que existen y que hay una gran cantidad de teorías y conjeturas de conspiración en torno al concepto (para mis discusiones sobre estas facetas fuera de los límites y cómo se han relacionado previamente con avances en IA, consulte el enlace aquí y el enlace aquí , por ejemplo).
La IA ya se ha retratado en historias y películas de ciencia ficción, que generalmente se muestran como conducentes al fin de la humanidad. La IA generativa ha recibido mucha atención recientemente, posiblemente llevando a la humanidad a una pendiente resbaladiza hacia un riesgo existencial. He examinado varias citas y comentarios conocidos sobre la IA como un riesgo existencial que nos esclavizará o nos borrará de la tierra, vea el enlace aquí.
Combinar la noción de inteligencia extraterrestre con la IA generativa es un adorno de este pastel. Las personas son capaces de dejar volar su imaginación. ¿Esta inteligencia alienígena será favorable a los humanos o buscará destruir a los humanos? Si los extraterrestres son lo suficientemente inteligentes como para viajar por el espacio exterior y ponerse en contacto con nosotros, sin duda son más inteligentes y están más adelantados que la humanidad, quizás a pasos agigantados. Como tal, tome toda esa especulación y asígnela a la IA actual, al ser empujado o guiado en esa dirección por la redacción de la inteligencia alienígena.
Uf, qué despilfarro.
Para aclarar abundantemente, no hay una base sólida para hacer la conexión entre la IA de hoy y alguna inteligencia extraterrestre ficticia mal definida e inverosímil. Está mal hacerlo. Detener la práctica. Punto, punto final.
Ahora que he cubierto la interpretación extraterrestre, es posible que piense que nadie podría pensar razonablemente que la inteligencia alienígena se refiere a los planetas más allá de la Tierra. Lamento decirte que algunos lo hacen. Es la ambigüedad involucrada en la redacción.
En cualquier caso, supongamos que no todo el mundo caerá en esa trampa mental. Hay una interpretación alternativa que podría parecer un poco más aceptable, aunque no creo que sea un gusto que debamos estar dispuestos a aceptar en general.
Un punto de vista alternativo es que “alienígena” significa que la inteligencia es extraordinaria, fuera de lo normal y distintiva de la inteligencia humana. Se podría decir que la IA como inteligencia alienígena es como la inteligencia humana, pero también diferente a la inteligencia humana. O bien, podría decirse de otra manera, específicamente, que la IA como inteligencia extraterrestre es diferente a la inteligencia humana y, sin embargo, también es similar a la inteligencia humana.
La esencia es que, presumiblemente, parecemos incapaces de encontrar una forma adecuada de describir algo que tiene un aura de inteligencia humana y, mientras tanto, no está a la altura de la inteligencia humana o tal vez sea parcialmente ortogonal a la inteligencia humana. Para lidiar con esta área turbia y gris, la frase inteligencia alienígena intenta tomar ese término medio.
Entonces, se supone que debes dejar de lado por completo al "alienígena" como una criatura del espacio exterior y, en su lugar, centrarte en el "alienígena" como atravesando el espectro de la inteligencia humana. En cierto sentido, esto es útil porque podría ayudar a distinguir que la IA se parece a algunos elementos de la inteligencia humana pero con diferencias cruciales.
Un contraargumento es que cualquier comparación de la IA actual con la inteligencia humana será engañosa. Los modelos computacionales y el uso de datos de la IA generativa pueden exhibir resultados que parecen sugerir inteligencia humana, pero estamos dando un gran salto para decir que es inteligencia humana. Es mimetismo computacional y matemático.
Muchos insistirían en que esto no es lo mismo que la inteligencia humana.
Casi todos los debates sobre la IA y qué es la IA volverán inevitable e inexorablemente a cuál es la definición de inteligencia . Eso es un agujero de conejo. Hay millones de definiciones de inteligencia. Sería difícil obtener la coincidencia de que una de esas definiciones es ostensiblemente la versión verdadera y correcta.
Es cierto que esto hace que el término "Inteligencia artificial" resida en una base inestable. Si no podemos ponernos de acuerdo sobre qué es la inteligencia, ¿cómo podemos ponernos de acuerdo de algún modo sobre qué es una instanciación artificial de la cosa difusa subyacente? Surgen problemas.
Una perspectiva es evitar preocuparse por la falta de una definición y, en lugar de una definición, simplemente debemos evaluar si algo o alguien muestra una inteligencia que asociamos con los humanos.
El clásico Test de Turing ejemplifica esta elusión.
En la Prueba de Turing, debe comparar una máquina o IA con un humano, y hacerlo en función de su inteligencia exhibida. Podríamos tener un ser humano escondido detrás de una cortina y, mientras tanto, tener un sistema informático de inteligencia artificial detrás de otra cortina. Un interrogador humano procede a hacer preguntas a la IA y también al humano que está detrás de la cortina. La persona que hace las preguntas no sabe de antemano qué cortina esconde la IA y cuál esconde al humano.
Después de un rango y profundidad suficiente de preguntas, se supone que la persona que realiza el interrogatorio declara cuál es el humano y cuál es la IA. Si el interrogador no puede discernir cuál es cuál, se dice que la IA ha superado con éxito la Prueba de Turing. Básicamente, ha engañado al interrogador haciéndole creer que ambos son humanos.
Es probable que pueda observar cómo esto pasa por alto la definición de inteligencia. Todo lo que estamos haciendo es una comparación de un ser humano que presumiblemente incorpora inteligencia con una máquina o IA que contiene algunas capacidades computacionales que exhiben las mismas propiedades que la inteligencia humana mostrada. Tenga en cuenta que existen numerosas debilidades y escrúpulos sobre la prueba de Turing, vea mi cobertura detallada en el enlace aquí de la prueba de Turing.
Volviendo al "alienígena" como una forma de inteligencia que es a la vez similar y diferente a la inteligencia humana, puede sentir que este uso es aparentemente aceptable. Sin daño, sin falta. Todo lo que la expresión intenta hacer es resaltar que logra una apariencia de inteligencia humana, pero debe tener en cuenta que no es exactamente lo mismo que la inteligencia humana.
Una dificultad es que aquellos que escuchan o ven la eliminación gradual de la "inteligencia alienígena" no saben a qué variante o interpretación se refiere.
Podría ser que estés tomando la ruta de la ciencia ficción de lo extraterrestre, o que estés tomando la ruta un tanto realista de ser extraordinario o inusual. La gente, quiera o no, podrá tomar cualquiera de las dos opciones.
Una persona que sinceramente se refiere al tipo extraordinario de "inteligencia alienígena" podría sorprenderse al descubrir que otros tomaron la frase como algo del espacio exterior. Como tal, podrían tratar de continuar usando la frase encogiéndose de hombros y agitando los brazos porque solo porque los tontos no lo entienden, esto no debería impedir que la fase se use y se complete más.
Desafortunadamente, esta intención aparentemente genuina también está equivocada.
No vas a poner lápiz labial en este cerdo. Tiene demasiado equipaje asqueroso. Tampoco hay necesidad de la frase, para empezar. Debemos permanecer fieles a la frase "Inteligencia artificial", que al menos tiene una historia extensa y tiene la posibilidad de ser utilizada con sensatez (no siempre, por supuesto, y surgen nuevos incendios todo el tiempo).
Conclusión
Hay otros valores atípicos de cómo interpretar la frase "inteligencia alienígena", pero esos no son dignos de atención adicional. No hay necesidad de embellecer o ampliar algo que de todos modos no debería estar saliendo al aire.
Las palabras importan.
John Locke, el destacado filósofo, dijo esto acerca de las palabras: "Tan difícil es mostrar los diversos significados e imperfecciones de las palabras cuando no tenemos nada más que palabras para hacerlo".
Tratar de transmitir qué es la IA usando otras palabras es un esfuerzo lógico y sensato. Siendo ese el caso, no debemos usar palabras que empeoren las cosas. Tratar de compactar una mayor comprensión de la IA mediante el uso de "alienígena" como etiqueta es francamente atroz.
Aquellos que por casualidad usan la frase emergente tal vez reciban una excusa de vergüenza por su falta de conocimiento sobre el tema, aunque están contribuyendo a un problema y necesitan endurecer su lenguaje. Aquellos que buscan intencionalmente fomentar esta frase emergente, con suerte darán un paso atrás y pensarán cuidadosamente sobre lo que están diciendo.
Una famosa rima no atribuida que viene a la mente podría generarse y transmitirse a aquellos que están abrazando la frase indeseable:
- Ten cuidado con las palabras que dices,
- Manténgalos cortos y dulces.
- Nunca se sabe, de un día a otro,
- Cuáles tendrás que comer.
Esa es la última palabra sobre este tema, por ahora.