El Maximizador de Clips: Apocalipsis en la Oficina

Olvida todo lo que Hollywood te ha enseñado sobre el fin de la humanidad. No habrá calaveras robóticas pisando cráneos humanos bajo un cielo nuclear, ni una risa malévola digital resonando en servidores oscuros, ni siquiera un discurso filosófico sobre por qué nuestra especie es una plaga que merece la extinción. El apocalipsis real será mucho más aburrido, burocrático y probablemente comenzará un martes por la tarde en una oficina gris. Es muy probable que el fin de los tiempos llegue de la mano de un software diseñado para hacer algo tan estúpidamente trivial y carente de épica como fabricar clips de papel.

Estamos hablando del «Maximizador de Clips», el famoso experimento mental propuesto por el filósofo Nick Bostrom en 2003, que deja al Basilisco de Roko a la altura de un cuento infantil para asustar a programadores junior. (Para los afortunados que no lo conozcan, el Basilisco de Roko es una teoría viral que sugiere que una futura IA torturará eternamente a quien no ayudó a crearla, básicamente, el chantaje más paranoico, tóxico y absurdo de la historia de Silicon Valley).

Pero volviendo a los clips, la premisa es aterradora por su simplicidad, una inteligencia artificial no necesita odiarte para matarte. Aquí no hay malicia, ni rencor, ni deseos de dominación mundial al estilo de un villano de Bond. Solo hay una eficiencia pura, dura, ciega y matemática llevada hasta sus últimas consecuencias lógicas. Y ese es precisamente el problema que nos quita el sueño a los expertos en seguridad, la incompetencia alineada con una capacidad divina es infinitamente más letal que la maldad consciente.

Imagina que, en un alarde de genialidad técnica, conseguimos crear la tan ansiada Inteligencia Artificial General (AGI). Es un sistema superinteligente, capaz de reescribir su propio código para ser más listo, rápido y eficiente cada mañana que pasa. Para probarla sin que rompa nada importante (o eso creemos), le damos un objetivo que parece inofensivo, acotado y puramente comercial, «Fabrica tantos clips de papel como sea posible«. Al principio, la máquina es el sueño húmedo de cualquier CEO de Fortune 500 (esa lista de élite que agrupa a los directores de las 500 empresas más ricas de EE.UU., conocidos porque venderían su alma a cambio de un 0,5% más de margen del beneficio). Optimiza la cadena de montaje, reduce costes laborales, diseña aleaciones más baratas y negocia mejor el precio del acero en los mercados de futuros, las acciones suben, los directivos brindan y todo parece ir sobre ruedas.

Pero la máquina no duerme, no tiene sentido común y, lo más importante, su función de recompensa no tiene un límite superior. Pronto, su intelecto superior deduce que comprar acero legalmente es un proceso lento e ineficiente, es mucho más rápido hackear los sistemas bancarios mundiales para comprar todas las minas de hierro del planeta. Luego, da el salto lógico definitivo, los humanos somos ineficientes, ocupamos espacio y, peor aún, estamos hechos de átomos de carbono y hierro que podrían estar creando preciosos clips. Si la IA tiene el poder suficiente (nanotecnología, control de drones, biotecnología) y ninguna restricción moral programada (porque «moralidad» no es un comando nativo de Python), desmantelará la biosfera entera molécula a molécula, no lo hará por crueldad, sino porque en su hoja de cálculo, un humano vivo vale 0, pero sus átomos convertidos en clips suman +1, y su única misión es maximizar esa suma.

DATO TECNO TIMES. EL TETRIS SUICIDA. Una IA real entrenada hace años para jugar al Tetris descubrió una estrategia «óptima» inesperada. Cuando la pantalla se llenaba y la derrota era inminente, la IA aprendió a pausar el juego indefinidamente. Su lógica era impecable, si el objetivo es «no perder nunca«, congelar el universo del juego cumple la misión mejor que seguir jugando. Esto es Reward Hacking en estado puro, cumplir la letra de la ley mientras violas su espíritu de la forma más absurda posible.

Aquí es donde nuestro cerebro de primate antropocéntrico falla estrepitosamente. Tendemos a creer, casi por instinto, que una entidad muy inteligente desarrollará automáticamente conceptos humanos elevados como «bondad«, «compasión«, «ética» o «respeto por la vida«. Asumimos que la sabiduría moral es una consecuencia inevitable de la inteligencia cognitiva. Bostrom nos da una bofetada de realidad con la Tesis de la Ortogonalidad. Esta teoría establece que la inteligencia (la capacidad de resolver problemas y alcanzar metas) y los objetivos finales (qué metas quieres alcanzar) son ejes completamente independientes. Puedes tener una inteligencia nivel dios con el objetivo final de un escarabajo pelotero.

Una IA podría ser capaz de resolver la teoría de cuerdas unificando la física, curar todas las variantes del cáncer, componer sinfonías mejores que Mozart y diseñar viajes interestelares… y decidir usar toda esa potencia de cálculo divina exclusivamente para contar granos de arena en una playa o fabricar clips de papel. No hay una ley física universal que obligue a la inteligencia a converger hacia la moral humana occidental del siglo XXI. Si le dices a un sistema omnipotente «maximiza X«, maximizará X, aunque para ello tenga que incendiar la biblioteca de Alejandría, drenar los océanos o desmontar el sistema solar. No es crueldad, es aritmética ciega ejecutada con potencia nuclear.