El Miedo a la IA

Más de mil personas, entre ellas Elon Musk y Steve Wozniak, cofundador de Apple, han firmado una carta abierta en la que se pide pausar el desarrollo de sistemas de inteligencia artificial, que empiezan a ser muy potentes, para garantizar la seguridad.

La carta es la consecuencia del lanzamiento de GPT-4 por parte de OpenAI y cuenta con el apoyo de Microsoft.

OpenAI ha declarado que su último modelo de inteligencia artificial es mucho más potente que la versión interior, empleada para ChatGPT, el bot que es capaz de generar fragmentos de texto a partir de muy pocas instrucciones.

La carta abierta lleva por título "Pausa a los experimentos gigantes de IA" y en ella pueden leerse frases como esta: "Los sistemas de IA con inteligencia humana competitiva pueden plantear profundos riesgos para la sociedad y la humanidad" y esta: "Los sistemas de IA potentes deberían desarrollarse sólo cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables".

El propio Elon Musk, que ha firmado la carta, fue uno de los primeros inversores de OpenAI y formó parte de su consejo de administración durante varios años. Una de las empresas del magnate multimillonario, Tesla, desarrolla sistemas de inteligencia artificial para avanzar en la tecnología de conducción autónoma.

El texto que recoge la petición está promovido por el Future of Life Institute, entidad financiada por Musk. En él han firmado personas que se muestran críticas con OpenAI, así como competidores de la compañía responsable de ChatGPT.

Yoshua Bengio, que es pionero de la inteligencia artificial en Canadá y que también ha firmado la carta dijo en una rueda de prensa virtual "que la sociedad no está preparada" para esta herramienta tan poderosa y sus posibles usos indebidos.

"Vayamos más despacio. Asegurémonos de que desarrollamos mejores guardarraíles", dijo, pidiendo un debate internacional exhaustivo sobre la IA y sus implicaciones, "como hemos hecho con la energía nuclear y las armas nucleares".

En la carta los autores citaban las palabras del fundador de OpenAI, Sam Altman, quien escribió en un blog que “en algún momento puede ser importante obtener una revisión independiente antes de empezar a entrenar futuros sistemas". Los firmantes le dan la razón y afirman que ese momento ha llegado.

"Hacemos un llamamiento a todos los laboratorios de IA para que pausen inmediatamente, durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que el GPT4", escriben.

Lo que defienden los firmantes de la carta es que durante seis meses se trabaje en garantizar la seguridad de los sistemas de IA, no en el desarrollo de IA más potentes con idea de que estos sean “fiables y leales”.

Los responsables de la redacción de la carta no detallan cuáles son los peligros de GPT-4 •

China en la competencia

La tecnológica china SenseTime, una de las principales compañías dedicadas a la inteligencia artificial (IA) en el país asiático, lanzó un 'chatbot' con el que pretende hacer competencia al popular ChatGPT, desarrollado por la estadounidense OpenAI y apoyado por Microsoft.

SenseTime se unió así este lunes a gigantes del sector digital chino como Baidu, el 'Google chino', que ya presentó su IA conversacional, ERNIE Bot, a mediados del mes pasado, y a otras como Alibaba, 360 o Tencent, que también preparan aplicaciones de este tipo.

La compañía, fundada en Hong Kong en 2014, presentó un conjunto de modelos de IA llamado SenseNova que incluye SenseChat, el cual, según el diario hongkonés South China Morning Post, "tiene la capacidad de entender múltiples rondas de conversación y textos muy largos" y ofrece "una experiencia similar a la de ChatGPT".

GPT-4 ya está aquí

Lo estábamos esperando. Ya está aquí GPT-4. Esta versión mejorada promete una mayor precisión y un conocimiento general más amplio y un razonamiento avanzado. OpenAI dice que su IA tiene un "rendimiento a nivel humano" en las pruebas. La revolución continúa.

La compañía detrás de esta inteligencia artificial dice que otras empresas ya lo están usando, incluida la aplicación de aprendizaje de idiomas Duolingo, el servicio de pago Stripe y el motor de búsqueda Bing de Microsoft.

Sus 'poderes'

GPT-4 es un modelo de lenguaje grande multimodal, lo que significa que puede responder tanto a texto como a imágenes, lo marca un gran paso adelante para el poder de la IA y otro cambio importante para las normas éticas. Si ChatGPT, su producto anterior, cautivó e inquietó al público con su asombrosa capacidad para generar una escritura efectiva, GPT-4, va mucho más allá.

Es un sistema de última generación capaz de crear no solo palabras, sino también describir imágenes en respuesta a los comandos escritos de una persona. Por ejemplo, si le das una foto del contenido de un frigorífico y le preguntas qué te podrías hacer de cena, la IA intentará encontrar recetas que usen los ingredientes de la foto. Hacer preguntas sobre las imágenes estamos seguros de que cautivará a todos los usuarios. Una persona puede cargar una imagen y GPT-4 podría subtitularla, describiendo los objetos y la escena sin ningún tipo de problema. ¿Le quieres preguntar por qué es ese meme que tanto te gusta tan gracioso? Disfrutarás con la respuesta.

Este entrenamiento "multimodal" de GPT-4 en texto e imágenes le permitiría escapar del simple cuadro de chat, superando a ChatGPT en sus "capacidades de razonamiento avanzadas". Sea como fuere, por el momento la función de descripción de imágenes estará deshabilitada debido a los potenciales problemas de privacidad que puede suponer. Alguien podría utilizar esta funcionalidad para coger una foto grupal y solicitar identidades privadas de las personas de la foto.

El cerebro

Más de más de 1.000 investigadores de IA ha creado un modelo de lenguaje grande multilingüe más grande que GPT-3. Según sus creadores, GPT-4 es más creativo, menos propenso a inventarse hechos y menos sesgado que su predecesor.

La nueva versión puede manejar entradas de texto masivas y puede recordar y actuar sobre más de 20.000 palabras a la vez, lo que le permite coger una novela corta completa como mensaje, por ejemplo.

¿Es perfecto?

Por supuesto que no. Aunque es más grande y mejor que su predecesor, GPT-4, también sigue cometiendo errores, por lo que seguirás viendo 'tonterías', prejuicios sociales o incluso malos consejos. Y tampoco podrás enseñarle nada nuevo. Está limitado a su base de datos de aprendizaje.

Como curiosidad, en las pruebas con humanos, donde ChatGPT obtuvo un percentil 31 en la Olimpiada de biología, GPT-4 consiguió un percentil 99.

GPT-3 superó a GPT-2 porque era más de 100 veces más grande, pero la compañía no ha revelado cuán grande es la diferencia entre GPT-3 y GPT-4.

¿Cómo accedo a GPT-4?

Por el momento, tendrás que apuntarte a la lista de espera, ya que los desarrolladores tendrán prioridad de acceso antes que el público general. Así, el acceso a GPT-4 estará disponible para los usuarios que se registren en la lista de espera y para los suscriptores de ChatGPT Plus de pago premium en una capacidad limitada de solo texto.