The Independent Sentinel #31
Asistentes robóticos, riesgos bioquímicos y la ilusión de la hiperrealidad
¡Hola!
Soy Javier Fuentes, de Akoios. Bienvenido una vez más a de The Independent Sentinel, la newsletter que te acerca novedades e historias sobre la Inteligencia Artificial y la Ciencia de Datos.
Si aún no estás suscrito y quieres hacerlo, basta con que indiques tu dirección de correo electrónico para recibir cada edición en tu bandeja de entrada.
En la edición de hoy hablamos de robots que aprenden, de armas bioquímicas y de el concepto de hiperrealidad.
¡Comenzamos! ⚡️
🎼 Quieres banda sonora? ¡Dale al Play!
1. Ciencia de Datos
🤖 Robots que salen del laboratorio
Seguramente hayas oído hablar alguna vez de X, el departamento de Alphabet (llamado antes Google X) en el que trabajan en proyectos de impacto masivo a los que llaman moonshots.
X es una factoría en las que proyectos radicalmente innovadores pasan sus primeras fases de validación. Entre sus iniciativas hay cosas como la recolección de agua en el aire (h2e), el acceso masivo a internet mediante haces de luz (taara) o la protección de los océanos (tidal).
Uno de los proyectos que tienen actualmente en ejecución y que está relacionado con la temática de esta newsletter es “Everyday robots” en el que tienen una misión a la altura de lo que se espera de X: Un robot físico de propósito general que pueda aprender por sí mismo.
La complejidad (y el potencial) de esta iniciativa radica en conseguir que un autómata pueda interactuar y aprender en los espacios que usamos los humanos en nuestro día a día (casa, oficina, etc.) y que por lo general, son desestructurados y no siempre están ordenados.
El objetivo último de estos robots es que nos puedan ayudar en tareas cotidianas que son costosas como ordenar la basura, limpiar mesas en casa o restaurantes, ordenar las sillas en una sala o ayudar en los cuidados a las personas mayores que necesiten asistencia.
A día de hoy, el equipo de X ha podido validar que los dispositivos son capaces de aprender usando Reinforcement Learning y ahora el reto que se plantea es que puedan usar lo aprendido en un ámbito en otros entornos distintos.
Ahora mismo, X cuenta con una flota de más de 100 robots haciendo tareas muy variadas en las propias oficinas de X y experimentando con este traslado de aprendizaje. Por ejemplo, robots que usan un agarre para limpiar mesas con una bayeta, han sido capaces de usar ese mismo agarre para girar el pomo de una puerta y abrirla.
El siguiente paso para el equipo ha sido liberar a los robots fuera de la oficina para que sigan pudiendo aprender dentro del campus de Google. Puedes encontrar más información sobre el proyecto aquí.
🧬 Usos duales
De forma recurrente hemos hablado en la newsletter sobre la neutralidad de la tecnología y de cómo el propósito del que la usa acaba definiendo el fin de la misma.
En la edición TIS#17 explicábamos cómo se estaba aplicando la Inteligencia Artificial a la biología para resolver el complejísimo problema del pliegue de las proteínas.
En marzo de este mismo año, dos investigadores de la empresa Collaborations Pharma -una pequeña empresa dedicada a la síntesis de fármacos usando Machine Learning- y dos investigadores del King’s College y del departamentos de Defensa de Suiza respectivamente, presentaron un paper llamado: “Dual use of artificial-intelligence-powered drug discovery”.
Collaboration Pharma es conocida por haber creado un programa de síntesis de fármacos llamado MegaSyn, un generador predictivo entrenado para encontrar inhibidores terapéuticos para humanos. En su entrenamiento inicial, el modelo generativo penalizaba la toxicidad y recompensaba, obviamente, los aspectos beneficios perseguidos.
En objeto del paper era analizar un caso hipotético: ¿Qué pasaría si en el entrenamiento se recompensasen los efectos nocivos de las moléculas a sintetizar?
Los autores cuentan cómo, tras reconfigurar el modelo con este nuevo entrenamiento, éste fue capaz de, en menos de 6 horas, generar más de 40.000 moléculas categorizables como letales para los humanos. No solo sintetizó agentes nerviosos tan conocidos como el VX o el Novichok ruso, sino que encontró miles más.
Cómo se ve en la figura, la gran parte de las moléculas encontradas resultaron ser más nocivas que el VX y otros agentes conocidos públicamente. Según los investigadores, estos resultados eran más que inesperados debido a que en la base de datos de entrenamiento no se incluía ninguno de estos agentes nerviosos.
2. Historias 📔
🗺 Del Rigor de la Ciencia
En aquel Imperio, el Arte de la Cartografía logró tal Perfección que el mapa de una sola Provincia ocupaba toda una Ciudad, y el mapa del Imperio, toda una Provincia. Con el tiempo, estos Mapas Desmesurados no satisficieron y los Colegios de Cartógrafos levantaron un Mapa del Imperio, que tenía el tamaño del Imperio y coincidía puntualmente con él.
Menos Adictas al Estudio de la Cartografía, las Generaciones Siguientes entendieron que ese dilatado Mapa era Inútil y no sin Impiedad lo entregaron a las Inclemencias del Sol y los Inviernos. En los desiertos del Oeste perduran despedazadas Ruinas del Mapa, habitadas por Animales y por Mendigos; en todo el País no hay otra reliquia de las Disciplinas Geográficas.
Suárez Miranda, Viajes de Varones Prudentes, Libro Cuarto, Cap. XLV, Lérida, 1658.
Del rigor de la ciencia, Jorge Luis Borges.
Es difícil concebir un ejercicio de concisión más preciso y precioso que este relato corto de Borges publicado por primera vez en 1946. En un párrafo de apenas unas lineas, el genio argentino no solo contaba una historia con inicio, nudo y desenlace, sino que planteaba de manera magistral el problema del conocimiento científico.
Este problema no es otro que la idea de que, al perseguir con exhaustividad la descripción más exacta posible de la realidad, la explicación puede acabar convirtiéndose una mera réplica de la misma.
En el cuento de Borges, el afán de los cartógrafos por la perfección les llevó a crear una imagen especular del mundo y, por ello, su trabajo se convirtió en algo totalmente inútil y carente de valor.
La reflexión a las que nos lleva Borges en última instancia es que la ciencia no tiene porqué ser más perfecta cuanto mejor represente la realidad ya que, en última instancia, todo modelo será una representación parcial e inexacta de la infinita complejidad de la realidad.
Como bien resumía George Edward Pelhan Box en su célebre frase:
Todos los modelos son incorrectos, pero algunos son útiles
🖼 La hiperrealidad de Baudrillard
En 1981, el controvertido filósofo y sociólogo francés Jean Baudrillard (1929-2007) publicó un ensayo llamado “Cultura y Simulación” en el que introducía un concepto novedoso: La hiperrealidad.
Fuertemente influenciado por el relato corto de Borges que hemos visto, su ensayo comenzaba de esta manera:
(…) la más bella alegoría de la simulación es aquella fábula de Borges en que los cartógrafos del Imperio trazan un mapa tan detallado que llega a recubrir con toda exactitud el territorio (…)
Hoy en día, la abstracción ya no es la del mapa, la del doble, la del espejo o la del concepto. La simulación no corresponde a un territorio, a una referencia, a una sustancia, sino que es la generación por los modelos de algo real sin origen ni realidad: lo hiperreal. El territorio ya no precede al mapa ni le sobrevive. En adelante será el mapa el que preceda al territorio.
La tesis de Baudrillard es que la realidad ha dejado de serlo y que realmente vivimos en una hiperrealidad artificial y construida. Según el autor, la realidad no se vive directamente sino que se vive a través de representaciones, representaciones que eventualmente pudieran llegar a ser más reales que la propia realidad.
En palabras de Baudrillard, el mundo moderno es una simulación en la que la realidad ha sido reemplazada por información falsa, donde la representación es más importante que lo representado.
Sirva como ejemplo de esta metarealidad los avatares en internet, los pseudónimos, las guerras retransmitidas por TV o la idea de hiperpersonalidades, personas que en redes sociales muestran vidas perfectas, ideales y, por supuesto, irreales.
Lo real ya no es lo real, su representación lo es.
Si todo esto te está sonando a chino, tal vez un ejemplo pueda ayudar a entender un poco mejor en qué consiste la idea de lo hiperreal. En la celebérrima película de 1999, “The Matrix”, que casi con toda seguridad has visto, se plantea un argumento interesantísimo:
⚠️ SPOILER ALERT ⚠️
En la película, la humanidad vive en una realidad artificial creada por máquinas que se han sublevado y que nos han subyugado a vivir como meras fuentes de energía mientras vivimos una vida simulada, pero aparentemente real (o hiperreal) que simula el mundo de los 90.
Los creadores de la película, los hermanos (ahora hermanas) Wachowski, no ocultaron la influencia del concepto de hiperrealidad de Baudrillard en su obra. Sirva como muestra el hecho de que, al comienzo de la película, se ve a Neo -el protagonista- guardando unos disquetes “prohibidos” dentro de un libro.
Como no podía ser de otra manera y por si no lo has visto en el vídeo, el libro era Cultura y Simulación (Simulacra and Simulation en inglés):
Matrix representó de manera fantástica la idea del simulacro. Tan es así que, sin haberlo previsto, popularizó este concepto para las masas.
🖼 La frontera de la realidad
El impacto de la hiperrealidad en nuestras vidas está íntimamente ligado con el avance tecnológico y, en particular, con la creación y evolución de Internet.
Trayendo esta idea al momento actual, no podemos sino pensar en el concepto de Metaverso del que hablamos en TIS#25. Según la teoría de Baudrillard, nos podríamos preguntar lo siguiente, ¿cuándo la hiperrealidad será equivalente a la realidad? o, como planteaba Borges, ¿cuándo el mapa y el territorio serán indistinguibles?
Desde un punto de vista tecnológico, representar el mundo real y crear realidades virtuales arbitrarias, parece a priori una tarea inaprehensible: La hiperrealidad necesita de un sistema de generación automática de elementos (personas, edificios, objetos…) con un altísimo nivel de detalle y con los que se pueda interactuar.
Aunque una simulación tipo Matrix sea todavía algo implanteable, hay ciertos avances que hacen vislumbrar que un concepto así tal vez sea realizable en algún momento.
Me refiero en particular al modelo con el que OpenAI ha vuelto a sorprender a todo el mundo: Dall-e 2. Si te soy sincero, hacía tiempo que algo no me impactaba tanto como lo que hemos visto en las últimas semanas con Dall-e.
Si recuerdas, ya hablamos de la versión inicial de este modelo en TIS#18, pero esta segunda versión ha superado todas las expectativas.
Al igual que su predecesor, Dall-e 2 es un modelo generativo capaz de crear imágenes y arte a partir de lenguaje natural. Es mejor ver algunos ejemplos de la brutal capacidad de creación de este modelo:
La verdad es que no queda más que maravillarse ante la capacidad expresiva y de síntesis de este modelo que, al menos en mi opinión, está retando nuestros supuestos sobre la creatividad como rasgo característico de los humanos.
En este vídeo puedes ver algunas capacidades más de Dall-e 2.
Pero, qué tiene que ver todo esto con la hiperrealidad?
El brillante Ben Thompson, un conocido analista tecnológico, ofrece una reflexión clave para entender el impacto de Dall-e y modelos similares (e.g. GPT-3) en su newsletter Stratechery.
En su artículo, Thompson introduce el concepto de zero marginal content como la capacidad de modelos generativos como Dall-e o GPT-3 de generar nuevos contenidos a partir de contenidos con un coste marginal cero.
Si lo piensas, no seremos los humanos (los cartógrafos) los que acabaremos creando la simulación (el mapa) de la realidad (el territorio) sino que serán las máquinas las que lo hagan por nosotros.
Sólo nos quedará por responder entonces una última pregunta, ¿qué hacemos con la realidad que había antes de la realidad?
¡Gracias como siempre por leer hasta aquí!
¿Te ha gustado esta edición de The Independent Sentinel? ¡Compártela con todos aquellos a los que creas que les puede interesar!
Si tienes comentarios o quieres iniciar una conversación, recuerda que puedes hacerlo aquí.
Si te has perdido alguna edición de la newsletter o quieres volver a leerlas, puedes acceder a todas aquí.
👉 ¿Quieres conocer nuestra tecnología Titan? No te pierdas nuestra serie de tutoriales publicados en Medium.
👉 ¿Te dedicas al mundo DevOps/MLOps y quieres trabajar con nosotros? Mándanos un mail a team@akoios.com.
👉 Si te interesa, puedes solicitar un acceso gratuito para probar Titan aquí https://lnkd.in/gPz-2mJ