The Independent Sentinel #42
Interpretadores de código, prompts gigantescos y un punto de inflexión
¡Hola!
Soy Javier Fuentes, de Akoios, bienvenido una vez más a The Independent Sentinel, la newsletter dedicada a tratar de una manera diferente todo lo relativo a la Inteligencia Artificial.
Si todavía no estás suscrito, puedes hacerlo directamente aquí para recibir cada edición por correo electrónico:
En esta edición vamos a hablar de máquinas que piensan programando, de los prompts que vienen y del proyecto más célebre de la historia.
⚡️ ¡Comenzamos!
1. Tendencias 📈
🔌 El plugin definitivo
Hace ya algunas semanas que hemos empezado disfrutar de los plugins disponibles para ChatGPT. De manera muy simple, podemos pensar en los plugins como en pequeños programas que permiten a ChatGPT conectarse con todo tipo de aplicaciones externas para distintos fines como recabar información (e.g. buscar en Internet), realizar acciones (e.g. reservar un vuelo) o usar alguna herramienta (e.g. una calculadora).
Entre todos ellos, hay uno que me llama especialmente la atención por las posibilidades que abre. Me refiero al plugin Code Interpreter (Interpretación de Código) que, aunque aún se encuentra en fase Alpha, ya está empezando a ser puesto a disposición de algunos usuarios.
¿En qué consiste un interpretador de código? Cómo explican en la propia web de OpenAI, el Code Interpreter es un modelo experimental capaz de usar un lenguaje de programación -Python- y de manejar subidas y descargas de ficheros.
Este modelo dispone de un espacio seguro de ejecución en el que puede trabajar procesando la información que le proporcionamos a través de código Python que el mismo genera.
Veamos un ejemplo de uso:
Como se puede ver en la imagen superior, el plugin demuestra capacidad de programar para a) plantear problemas y b) resolverlos de manera similar a cómo lo haría un humano.
Imagina por un momento tener a un programador trabajando a tu lado capaz de resolver problemas matemáticos algorítmicamente, analizar y visualizar datos o manipular ficheros.
Nada mejor que ver al Code Interpreter en acción para entender cómo funciona:
Cómo se puede ver en este otro ejemplo, el interpretador de código es capaz de recibir un fichero y crear el código necesario para cumplir con la instrucción: “analizar la imagen, extraer los 5 colores principales y crear una paleta lista para descargar”.
Las posibilidades son infinitas.
Desafortunadamente, el acceso aún no está disponible ni existe la posibilidad de solicitarlo, así que nos tocará esperar a que OpenAU se decida a desplegarlo de manera masiva al igual que hizo con otros plugins.
🧠 La memoria de las máquinas
Hace justamente un mes, Anthropic, una empresa especializada en el desarrollo de sistemas de IA, presentaba la nueva versión de su Chatbot insignia Claude. Cómo estarás suponiendo, el nombre es un homenaje a Claude Shannon, el padre de la teoría de la información del que hablamos en una de las primerísimas ediciones de esta newsletter.
El anuncio del nuevo modelo giraba en torno a una característica muy específica: Una ventana de contexto de 100.000 tokens con respecto a los 9.000 de su versión anterior.
Como seguramente sepas, una de las limitaciones de los grandes modelos de lenguaje actuales es el tamaño del prompt que podemos facilitarles como entrada, ya que fijan la cantidad de información -contexto- que podemos ofrecer en un instrucción.
¿Qué implica esto? Con una ventana de contexto de 100k como la que ofrece Claude, es posible facilitar al modelo cantidades ingentes de información. A modo de ejemplo, se podría cargar en una sola vez (sin necesidad de trocear) un libro entero de Harry Potter para hacerle al modelo preguntas sobre la novela o para pedirle que la reescriba en un entorno futurista.
Si lo llevamos al terreno productividad, esta ventana resuelve el problema de la memoria de los chatbots, ya que estos podrían usar todo este espacio para almacenar el contexto de la conversación que mantengan con nosotros a lo largo del tiempo.
Podríamos pensar aún en más usos: resumen de textos, explicaciones de documentos muy densos, análisis de riesgos en informes corporativos o generación de documentación sobre un código que nosotros -u otra máquina- haya desarrollado.
Lo mejor de todo es que si tenemos la posibilidad de incluir más información en los prompts, se reducen los casos en los que es necesario realizar re-entrenamientos o fine-tunings para ajustar el modelo a nuestros requisitos.
Si te interesa, puedes pedir acceso al modelo aquí.
2. Historias 📔
🎼 Quieres banda sonora? ¡Dale al Play!
Hace apenas unos días, Tim Urban, uno de mis divulgadores favoritos, publicaba este tweet:
Pese a lo exagerado que parece inicialmente, sintetiza de manera muy gráfica la intuición cada vez más extendida -y que yo comparto- de que nos estamos acercando a un punto de inflexión en la evolución tecnológica humana y que, de un modo u otro, el mundo está a punto de empezar a cambiar muy rápidamente.
Esta misma idea de que estamos ante una disyuntiva que nos puede llevar a un futuro de infinita abundancia en el mejor escenario o a un desastre existencial en el peor, es la que el propio Sam Altman desarrolló al ser preguntado sobre el futuro de la IA:
Best case scenario
"I think the best case is so unbelievably good that it's hard for me to even imagine, I can sort of imagine what it's like when we have just, like, unbelievable abundance and systems that can help us resolve deadlocks and improve all aspects of reality and let us all live our best lives. But I can't quite. I think the good case is just so unbelievably good that you sound like a really crazy person to start talking about it."
Worst case scenario
"The bad case — and I think this is important to say — is, like, lights out for all of us"El mero hecho de que exista una pequeña posibilidad de que ya nos encontremos cerca del punto de inflexión, da pie a preguntas realmente complejas sobre cómo deberíamos actuar a nivel individual, a nivel estatal e incluso, a nivel especie.
Aunque esta situación sea algo a lo que nunca nos hemos enfrentado, tal vez sí que podamos aprender algo de la historia. Tal vez podamos aprender algo de la última vez que la aparición de una tecnología nos hizo, como humanos, replantearnos todo.
Hablemos del Proyecto Manhattan.
☠️ Una amenaza creíble
En Octubre de 1939, el presidente Franklin Roosevelt recibía una carta escrita por el físico Leo Szilard y firmada por el mismísimo Albert Einstein.
En la misiva, se le informaba al presidente de que las últimas investigaciones respecto a las fisiones nucleares en cadena usando uranio podrían hacer probable la producción de enormes cantidades de energía. Hecho que, eventualmente, podría dar lugar a la creación de bombas extremadamente poderosas.
La parte más relevante de la carta no era en sí que fuese factible construir una bomba de estas características, sino que, tal vez, los alemanes ya estaban trabajando en ello.
📖 Los orígenes del proyecto
La inquietud generada por la carta de Einstein hizo que, poco después, en 1940, se creara un proyecto de investigación financiado por la US Navy en la universidad de Columbia. El presupuesto era de apenas $6000 e iba a estar dirigido por el propio Szilard (autor de la carta) y nuestro querido Enrico Fermi del que ya hablamos en TIS#32.
El equipo trabajó en el proyecto durante dos años y llegó a generar la primera fisión nuclear en cadena controlada en América. Aún no contentos con eso, llegaron incluso a avanzar en prototipos de reactores nucleares, uno de los cuales, el Chicago Pile-1 fue probado debajo de las gradas de un estadio abandonado a 32km de Chicago.
Era imposible obviar los resultados conseguidos por este discreto equipo de investigadores, así que la Oficina de Investigación Científica y Desarrollo (OSRD) de los Estados Unidos comenzó a supervisar este proyecto -aún sin nombre- en 1941.
Casualmente, en este mismo año Estados Unidos entró en la guerra, así que todo el proyecto quedó inmerso dentro de un nuevo departamento: El Departamento de Defensa.
💪🏻 Un esfuerzo sin precedentes
En 1942, el proyecto recibió el nombre por el que todos lo conocemos: El Proyecto Manhattan. Esto es así porque, al comienzo, gran parte del trabajo se estaba llevando a cabo desde la oficina del Cuerpo de Ingenieros ubicada en Manhattan y por su cercanía a la Universidad de Columbia en la que todo había comenzado.
Es importante entender que este fue un proyecto masivo que acabó contando con decenas de miles de participantes y con delegaciones y oficinas repartidas por toda la geografía estadounidense.
Hablando de ubicaciones, había una que era necesario encontrar para poder un laboratorio de pruebas secreto. Viajemos a Los Alamos, Nuevo México.
🏜 Un lugar en el desierto
En 1942, J. Robert Oppenheimer era ya un reconocido físico teórico que llevaba tiempo involucrado en la exploración de las posibilidades de la bomba atómica. Por ello, Leslie Groves (el jefe militar del proyecto), le escogió para dirigir técnicamente la construcción de las primeras bombas atómicas. Sólo les faltaba encontrar el sitio idóneo para tamaña empresa.
Tanto Groves como Oppenheimer querían un sitio aislado pero accesible, con buen suministro de agua y con mano de obra disponible. Este sitio, resultó ser un desierto cerca de Los Álamos en el que, en tiempo record, empezaron a construirse multitud de edificios a modo de ciudad secreta para satisfacer las necesidades de un cada vez más grande y urgente Proyecto Manhattan.
Las crecientes necesidades de talento del proyecto dirigido por Oppenheimer hizo que miles de mentes brillantes de muy variadas disciplinas acabasen recalando en estas instalaciones secretas.
En el punto álgido del proyecto era común ver en Los Álamos a brillantes científicos reunidos: físicos, químicos, expertos en explosivos, etc. Tan en así que llegaron a darse reuniones en las se podía encontrar a varios premios Nobel discutiendo sobre aspectos técnicos de la bomba.
Es muy difícil destacar solo a algunos de los investigadores que participaron en el proyecto ya que en él se juntaron tanto científicos consagrados, como estudiantes de posgrado (Richard Feynman) o leyendas del mundo científico como John Von Neumann. Por haber, hubo hasta espías soviéticos como Klaus Fuchs que filtraron información durante años sobre los devenires del proyecto.
🔚 El fin de una guerra y el comienzo de otra
Aunque michos científicos, incluidos muchos de los participantes en el Proyecto, estaban en contra del uso de la bomba, el presidente Harry S. Truman creyó que el uso de la misma persuadiría a Japón para rendirse sin necesidad de invadir Japón.
El 6 de Agosto de 1945 se lanzó una bomba en Hiroshima, matando a 70000 personas de forma instantánea y a decenas de miles posteriormente por la contaminación radioactiva. Tres días después se lanzó otra bomba sobre Nagasaki con similares consecuencias.
El Proyecto Manhattan creó la bomba que, con sus terribles efectos, acabaría poniendo fin a la guerra. Asimismo, el fin de la II Guerra Mundial dio paso a otra guerra totalmente condicionada por la existencia de este nuevo tipo de armamento: la Guerra Fría.
El equilibrio de poder resultante del fin de la II Guerra Mundial dio forma a nuestro mundo actual y, si lo miramos con perspectiva, aquel fue un claro punto de inflexión.
Todo podría haber sido muy distinto si las cosas en ese preciso momento de la historia se hubiesen hecho de manera distinta.
💥 Un nuevo Proyecto Manhattan
Como comentaba al principio, del mismo modo que la aparición de la tecnología de fisión nuclear requirió posicionarse y actuar a los contendientes de la guerra, ahora nos encontramos en un escenario con ciertos paralelismos en el que afortunadamente no nos encontramos en una guerra global como hace casi un siglo.
Leía recientemente una publicación de Samuel Hammond (al que he mencionado en otras ocasiones) sobre la necesidad de prepararnos con velocidad y decisión ante los cambios que muchos intuimos que se avecinan.
En el artículo Hammond habla de la necesidad de un nuevo Proyecto Manhattan sobre IA para abordar los retos de seguridad que tenemos por delante y cuyos objetivos estima que serían los siguientes:
Servir como mecanismo de coordinación entre las compañías punteras trabajando en este ámbito (OpenAI, Google, Anthropic…) para fomentar la cooperación frente a esta figurada carrera armamentística en IA que estamos viviendo.
Fomentar la construcción de centros de datos gubernamentales que permitan realizar pruebas de manera aislada con respecto a redes externas. Estas instalaciones, serían supervisadas, al igual que en el Proyecto Manhattan, por algún organismo estatal.
Instar a las compañías a trabajar y probar sus modelos potencialmente peligrosos en este banco de pruebas aislado.
Dar acceso a toda esta infraestructura a universidades y centros de investigación para trabajar en el comprensión y explicabilidad de estos gigantescos modelos que estamos construyendo.
Facilitar infraestructura que permita entrenar modelos respetando la sensibilidad de ciertos datos gubernamentales que no podrían ser puestos en manos de la industria.
Lo que Hammond propone en definitiva, es abordar este reto de manera conjunta desde la industria con una supervisión de carácter público y con una inversión estatal que permita la investigación sin las limitaciones de la lógica empresarial en términos económicos.
Desde una perspectiva funcional, lo que plantea es un modo en que podamos mirar al abismo en condiciones controladas, esto es, que podamos ver hasta dónde podemos llegar manteniendo la posibilidad de “desenchufar los sistemas” en cualquier momento.
La parte más complicada de todo esto es conseguir que esta coordinación y control ocurra sin frenar el avance imparable de esta tecnología. Usando de nuevo como analogía el proyecto Manhattan, éste no pretendía decelerar la creación sino dominar la técnica sobre cómo manejar y controlar el átomo.
A título personal, me gusta el enfoque de “misión” que implicaría un proyecto así pero, a la vez, me preocupa la hipercentralización de poder que esto supondría aunque, como siempre ocurre, esta sea haga con las mejores intenciones en sus inicios.
No será una decisión fácil y, en general, veremos cómo a nivel global las posiciones sobre la Inteligencia Artificial podrán ser muy distintas. Sirva como ejemplo la reciente posición de Japón sobre la adopción a nivel estatal de la IA y el tratamiento del Copyright o la posición europea sobre la IA que previsiblemente será mucho más restrictiva.
Por si fuese poco, y como ocurría en la II Guerra Mundial, lo que cada país decida vendrá condicionado por lo que hagan (o por lo que se crea que pudieran hacer) el resto de países. Quién sabe si la IA se acabará convirtiendo en una nueva arma disuasoria que dé lugar a una nueva Guerra Fría. El tiempo dirá.
¡Gracias como siempre por leer hasta aquí
¿Te gusta The Independent Sentinel? ¡Comparte esta publicación para ayudarnos a llegar a más gente!
Si tienes comentarios o quieres iniciar una conversación, recuerda que puedes hacerlo aquí.
Si te has perdido alguna edición de la newsletter o quieres volver a leerlas, puedes acceder a todas aquí.
Si quieres escuchar todas las canciones de The Independent Sentinel, echa un vistazo a esta lista de Spotify.
👉 ¿Te gustaría trabajar en IA y Ciencia de Datos? Escríbenos a team@akoios.com