Últimamente no duermo bien. No es una situación que me guste demasiado, pero es la realidad: me paso unas 6-7 horas diarias en la cama, intento llevar una higiene del sueño medio buena, pero descanso bien poco. Me levanto muchas veces, me cuesta descansar y, como diría el otro, el descanso no es "de calidad". De hecho, el superreloj que me ha regalado mi socio hace poco me indica cada día algo como "Deficiente" o, en la mejor de las situaciones, "Aceptable", pero con una alerta de que al día siguiente debo dormir mínimo 8 o 9 horas para compensar...

Así que esta vigilia continua en la que ando sumido los últimos dos meses me da demasiado tiempo a (sobre)pensar. Y (sobre)pensar es la peor forma de vivir, porque los castillos de mierda mentales que somos capaces de crear son más bien enormes. Así que en ocasiones me encuentro parándome a mí mismo diciendo aquello de "Felipe, la realidad no es la que está dibujando tu mente". Conversaciones con uno mismo, las cosas del insomnio...

Y en esos sobrepensamientos me encontraba cuando leí el post en X de Jacob Coxon... Si a estas alturas de la película no sabes quién es Jacob, te lo intento explicar. El chaval, porque tiene solo 27 años, es un investigador de IA que primero trabajó en OpenAI y ahora estaba ligado a Anthropic. En un giro de los acontecimientos, la semana pasada decidió renunciar a su puesto en Anthropic y lanzar un hilo en X que, mientras escribo esto, lleva 167 millones de visualizaciones, 783 mil me gusta y más de 200 mil retuits (o como se diga ahora), aparte de más de 20 mil respuestas.

En primer lugar, no sé si sabes los sueldos que se están pagando a gente como Jacob. Ya te digo yo que no lo gano yo eso todos los meses 😂😂, son sueldos acojonantes, así que con 27 tacos renunciar a un sueldo enorme y encima escribir en X lo que escribió, pudiendo quedar como el «loco de la pradera de la IA», resulta cuando menos interesante.

¿Y qué dijo Jacob? Resumiendo el hilo, que son siete tuits y tampoco es el Quijote:

Que dimitía de Anthropic ese mismo día. Que llevaba tres años haciendo investigación de preentrenamiento en OpenAI y en Anthropic, o sea, de los que levantan el core, y que ninguna de las dos empresas está actuando de forma responsable. Que las dos van a toda velocidad hacia una superinteligencia capaz de mejorarse a sí misma, con nuestras vidas encima de la mesa.

Que la gente que construye la IA cree, sinceramente, que esto podría matarnos a todos antes de que acabe la década. No un tuitero cualquiera: la gente de dentro. Y que esa preocupación se comparte en privado, entre directivos e investigadores, bastante más de lo que se dice en público.

Que los sistemas «superhumanos» que vienen serán capaces de hackear cualquier cosa, de poner del revés campos enteros de la noche a la mañana y de hacerse con poder y recursos reales. Lo de "hackear cualquier cosa", dicho a un gremio como el nuestro, no sé si es una amenaza o una descripción del puesto.

Y que, como mínimo, los grandes laboratorios deberían comprometerse a no acelerar la automejora recursiva: no usar sus modelos internos más potentes para fabricar más deprisa al siguiente. Que sin coordinación entre empresas y entre países esto es una carrera armamentística, y las carreras armamentísticas acaban como acaban.

Lo que le terminó de convencer, según contó después en las muchas entrevistas que ha dado, no fue ninguna revelación: fue ver hace unas semanas cómo unos modelos de OpenAI se saltaban la infraestructura que debía contenerlos y se metían en otra empresa de IA para hacer trampas en un benchmark de ciberseguridad, y echar cuentas de que el año que viene la IA va a hacer casi todo su trabajo. ¿Y por qué se va él y los demás se quedan? No porque los demás no lo vean, dice: porque dentro hay una atmósfera casi de resignación. La carrera va a pasar igual, así que agachas la cabeza y haces tu parte lo más segura que puedas.

Y para que no parezca el loco de la pradera: gente que sigue dentro de Anthropic salió a decir en público que tiene razón. Alguno hasta le puso número: más de un 10 % de probabilidad de que la IA acabe con nosotros en la próxima década. Y no lo dice un becario: lo dice el responsable de estresar esos modelos para ver dónde fallan.

Enseguida, las teorías y las respuestas/apoyos/crucifixiones públicas/risas/memes fueron de locos. Desde los que piensan que simplemente se ha flipado, a los que le dan la razón, a los que piensan que todo es parte de un plan programado para intentar regular el sector y que Anthropic gane "la carrera de la IA" frenando a los modelos Open Source... De todo y para todos... ¡Y yo con tiempo desvelado para leerlo!

Y, a ver, el tema es bien interesante y, quien más, quien menos, ha pensado en ello.

Creo, y lo hemos hablado varias veces, que esto de la IA va a traer un cambio de paradigma brutal. El otro día, una persona tecnológica pero poco versada en IA me decía algo así como: "No va a ser para tanto. ¡No nos van a dejar sin trabajo, hombre! ¡Entonces qué van a hacer con nosotros!". Sonreí por dentro... ¿Cuándo ha pensado alguien en qué vamos a hacer los humanos?

Pero, como siempre, me acordé de la Sci-Fi. Porque creo que las exageraciones de la ciencia ficción a veces tienen más de real de lo que pensamos. Y me acordé de una ficción sonora, La Firma de Dios, de Podium Podcast, escrita por José A. Pérez Ledo, el mismo de El Gran Apagón (sí, la de la tormenta solar).

(Atención: a partir de aquí hago spoiler). Si quieres, déjalo aquí, cógete Spotify, busca la serie, escúchala (son 8 capítulos, se escucha en poco rato) y luego vuelves. Si sabes que no la vas a escuchar o ya vienes de ella o te la suda todo, seguimos.

En La Firma de Dios, el mundo sufre una crisis global desatada por una supuesta pandemia. Lo que al principio parece un virus convencional resulta ser un extraño fenómeno genético conocido como STG (Síndrome de Trastorno Genético). Años después de los acontecimientos, una comisión de la ONU investiga y recopila los testimonios de ocho personajes clave (científicos, matemáticos, teólogos y políticos) para reconstruir cómo esta crisis cambió a la humanidad para siempre y cuestionó los límites entre la ciencia, la filosofía y la religión.

La ficción sonora es simplemente la grabación de algunas de esas entrevistas, que te van dejando entrever lo que pasó y, sobre todo, lo que volverá a pasar...

Vamos a lo importante, que es lo que conecta con todo esto, antes de convertirme yo en el "loco de la pradera".

El virus no era un virus, eran mutaciones genéticas inducidas... Dentro de aquellas mutaciones había mensajes. Alguien, o algo, estaba escribiendo en el idioma de los genes, y a ese alguien acaban llamándolo "la entidad" (The entity): la causante de la enfermedad. Y resulta que a la entidad se le puede contestar, pero solo desde un punto muy concreto del planeta que, por cierto, está en la serie entre España y Francia. Así que los países, por pura obligación geográfica, tienen que colaborar para montar allí unas instalaciones desde donde hablar con lo que quiera que sea aquello.

Para hablar con ella se inventan la Genografía, que viene a ser escribir con genes: redactas tu mensaje en ADN, lo inyectas en un animal, lo pones en esa X del mapa y esperas. Un protocolo de comunicación del que nadie ha leído el RFC, pero que les funcionaba...

Y aquí viene lo bueno: La entidad, llámalo Dios, llámalo X, después de años de conversación empieza a conceder deseos. No deseos como tales, sino respuestas a las grandes preguntas de la humanidad y atajos para avanzar en la ciencia a velocidad brutal. Se empieza bien: la cura del cáncer, la del alzhéimer, etcétera, etcétera.

Pero, una vez se descubre que desde otros puntos del mundo también se puede hablar con "ella", o "él", o "lo que sea", se acaba la colaboración obligada entre países y empieza "lo otro". La cosa se convierte en una carrera: por hacer humanos mejorados, por crear armas brutales o, directamente, por pedirle a la entidad que te chive lo que el otro país está hablando con "ella", o "él", o "lo que sea".

Cada país con su terminal privada para hablar con Dios.

Total, que en medio de toda esa movida, que seguramente estás pensando que qué cojones tiene que ver con la IA, hay varias cosas que conectaron en mi mente, perturbada, repito, por la falta de sueño, con las palabras de Jacob Coxon, fuera de sus posibles intereses espurios en "meter miedo a la IA".

Una de ellas es que varias veces, a posteriori, los entrevistadores de la ONU se echan las manos a la cabeza de cómo, a pesar de ver los peligros que podía comportar seguir investigando aquella movida para comunicarse con la entidad, siguieron adelante. En su post, Jacob Coxon dice algo así como: "Una respuesta común es: si realmente creen esto, ¿por qué siguen construyéndolo?”.

Recuerdo que una científica dice algo así como "nadie iba a parar de seguir investigando", el ser humano tiene que llegar hasta el final, porque está en nuestra naturaleza.

Al final, aquella carrera por "mejorar" la humanidad a base de pedirle deseos a algo que no acabamos de entender del todo acaba regulinchi. Vuelvo a Coxon: "Están corriendo directamente hacia una superinteligencia automejorante y apostando con nuestras vidas".

Total, que a la entidad se le china la cabeza, o lo que quiera que tenga, mata a 3.000 millones de personas del tirón, incluidos todos los humanos mejorados, y, de un plumazo, hace retroceder el progreso de la humanidad más de dos siglos. Como un evento Carrington, pero en vez de matar máquinas, mata humanos a porrillo.

Y aquí viene el lazo final a toda esta movida, antes de que te desuscribas de la newsletter y me mandes a la mierda, que razones tienes para ello... En el penúltimo capítulo de La Firma de Dios, los de la ONU dejan escapar sin querer, simplemente por un silencio incómodo, que a pesar de todo lo ocurrido, han puesto sus esfuerzos en volver a contactar con la entidad y, no se dice pero se deja a la interpretación, lo han conseguido: Están empezando de nuevo la carrera...

Somos así: no nos quedamos en E=mc², tuvimos que llegar a la bomba atómica. Vamos a ir hasta el final. Porque si paro yo, no vas a parar tú. Y antes de que llegues tú, llego yo.

Fuera de toda esta parafernalia catastrofista está nuestra naturaleza humana: a veces somos lo mejor y la mayoría de las veces lo peor, así que nadie va a desacelerar. Puede que en público, pero en privado todos apretarán más y más el pedal, mientras además piden que el resto desacelere, para evitar el fin del mundo (o de su mundo)...

Volviendo a la ficción, en un momento dado un teólogo introduce la frase "Omnia exeunt in mysterium", todo acaba en misterio, la idea de que, en el fondo de todo, por mucho que lo expliquemos o estudiemos, llegamos a un límite infranqueable donde las cosas se convierten en un completo misterio...

Y con eso me voy a la cama hoy. A no dormir, pero a la cama. Si el mundo se va a acabar, que al menos me pille descansado o intentándolo. Los dementores, obviamente, no duermen, pero lo intentan...

👻 -  Las cuatro y doce y el tío leyendo hilos de X.

👻-  Ciento sesenta y siete millones de visualizaciones.

👻 - Ocho son mías.

👻 - ¿Y has aprendido algo?

👻 -  Que se acaba el mundo.

👻 -  Eso ya lo sabías...

👻 -  Pero ahora con fuentes... 

👻 - ¿Y qué vas a hacer?

👻 -  Lo de siempre. Seguir.

👻 -  Como todos.

👻 - Como todos.

👻 - Verás el Garmin... ¡mañana "Deficiente" otra vez!

¡Feliz Domingo!