Contención-cómo domar la tecnología emergente

“The Coming Wave” de Mustafa Suleyman tiene un mensaje claro: empecemos a contener IA y biología sintética antes que sea tarde.

Mustafa Suleyman es un protagonista de la Inteligencia artificial.

No solamente porque ha sido nombrado a la cabeza de la Microsoft AI, una estructura creada aposta para darle la bienvenida a Seattle.

Tampoco sólo por haber sido el fundador de Inflection.ai y antes -ni más ni menos- de DeepMind, el laboratorio al centro de los primeros grandes avances de esta última década (que después fue adquirido por Google).

Lo es también porque con su libro “The coming wave” se propone como el abanderado de la contención, “la capacidad general de controlar, limitar y, si es necesario, apagar tecnologías en cualquier etapa de su desarrollo o implementación”.

Va a ser interesante ver cómo le dará cuerpo a sus ideas estando al frente de la empresa que hoy lidera en el sector (directamente y vía su inversión en OpenAI).

El libro me encantó; recomendadísimo. La invitación es a leer la obra completa; aquí les comparto un poco del pensamiento de Suleyman – empezando por cómo será esta “nueva ola”  que le da título a su obra.

Spoiler alert: es un tsunami.

La “ola que se viene” es más poderosa que las tres anteriores
Los habitantes de la ciudad costera no tenían idea que su vida iba a cambiar de repente.

La “coming wave” no es la primera revolución tecnológica – es la cuarta. Viene después de la agrícola, la industrial y la tecnológica, según la clasificación de Alvin Toffler (fue él -en su libro de 1980- que popularizó la metáfora de la ola).

Cuarenta años después Suleyman le rinde homenaje y en la primera parte del libro describe cómo va a ser nuestra sociedad bajo el influjo de dos grandes novedades: la inteligencia artificial y la biología sintética

Su descripción es fascinante y apasionada; al mismo tiempo preocupa y desestabiliza.

Sobre la IA, la invitación de Suleyman es dejar de pensar en qué haremos cuando llegue la Singularity. Mejor empezar por algo más cercano: el surgimiento de la ACI (Artificial Capable Intelligence; nuevo acrónimo de su autoría), cuando las máquinas puedan pasar el “nuevo test de Turing” y alcanzar objetivos complejos con mínima supervisión humana.

Es de esta etapa intermedia que deberíamos ocuparnos: el momento en que los asistentes se tornan agentes.

Cuanto a la biología sintética ¿qué pasará cuando la genética sea la nueva frontera de la inequidad? Se viene un mundo de “humanos mejorados” (con ADN intervenido artificialmente) y no simplemente más ricos y privilegiados…

¿Estamos preparados para que nuestra sociedad sea alterada por una tecnología que no entendemos? O peor: ¿que nadie entiende?

Ambas son de uso muy amplio, evolucionan rápidamente, con impacto asimétrico (un sólo hacker puede tumbar el sistema económico mundial) y siempre más autónomas – características que las tornan difíciles de manejar y que explican su potencial tanto positivo cómo negativo.

“El problema central para la humanidad en el siglo XXI” sostiene Suleyman “ es cómo podemos cultivar suficiente poder político, un dominio técnico adecuado y normas sólidas para limitar las tecnologías y garantizar que sigan haciendo mucho más bien que mal”.

En otras palabras, ser capaces de contenerlas.

Qué es la contención y por qué importa
No siempre la contención es exitosa.

“La contención es un conjunto de mecanismos técnicos, culturales, legales y políticos interrelacionados y que se refuerzan mutuamente para mantener el control social de la tecnología durante una época de cambios exponenciales”.

Ahí está… ¿sencillo, no?

En realidad es un rollo – especialmente porque estamos hablando de la fuente del poder en las próximas décadas.

La próxima guerra no será por el petróleo sino por los chips; ya estamos viendo las primeras salvas diplomáticas. “La tecnología avanzada es el arma más afilada del Estado moderno”, dijo Xi Jinping en 2013, abriendo una década dedicada por parte de China a alcanzar (y adelantar, si posible) a Occidente.

No podemos dejar que esas tecnologías tan importantes se desarrollen sólo bajo el estímulo del libre mercado: según Suleyman, hay que inyectar otras motivaciones y encontrar nuevos incentivos. Sigue indicando 10 sugerencias de cómo articular esa contención en la sociedad actual.

TL;DR: va a ser largo y complejo.

Un Ministerio de las tecnologías emergentes en cada país; nuevos impuestos; auditorías a las empresas y a sus modelos; un Estado activo en investigación y desarrollo; tratados internacionales; movimientos populares y más – todos coordinados para lograr el objetivo.

Nada fácil.

Si no tratamos, dice Suleyman, la cosa se nos va a salir de las manos: virus de laboratorio sueltos por ahí, ejércitos de drones desechables, desempleo masivo, fin del estado nacional cómo lo conocemos.

En cambio si lo logramos podríamos estar más cerca a una sociedad soñada, donde el objetivo final no es el pleno empleo sino la felicidad y el bienestar de las personas.

Vale la pena tratar.