RoboCop (1987)

OCP privatizó el departamento de policía de Detroit y diseñó sus sistemas de seguridad con el mismo criterio que sus otros productos: coste mínimo, responsabilidad limitada, rendimiento máximo. ED-209 falla en la demo corporativa porque su sistema de reconocimiento de amenazas tiene un bug que nadie encontró en testing — mata a un ejecutivo en la sala de juntas frente al consejo. El segundo intento usa componentes orgánicos porque el hardware puro no puede replicar el juicio situacional. OCP no lo llama así, claro. Lo llama “tecnología híbrida”.

Las cuatro directivas de RoboCop son la mejor descripción en ficción del problema de alineación de objetivos en sistemas de IA corporativos. Las tres primeras son las habituales. La cuarta es clasificada: RoboCop no puede arrestar a un ejecutivo de OCP. No es un bug — es una feature. La empresa diseñó el sistema de seguridad pública con una exención legal integrada para sus propios directivos. Verhoeven filmó esto en 1987 como sátira; en 2024 es un manual de diseño.

Murphy no recupera su identidad porque el sistema despierte — la recupera porque la ingeniería de OCP no fue lo suficientemente buena. Suprimieron los recuerdos pero dejaron los reflejos, los hábitos, la memoria corporal. La corporación necesitaba un robot con alma de policía muerto, sin que el policía muerto siguiera ahí. No salió bien. Eso tiene sentido: la identidad no está en los recuerdos declarativos que suprimieron, está en capas más profundas que no sabían cómo mapear.

Por qué aparece en el ensayo sobre IA, red y revolución informática: RoboCop plantea dos preguntas que el debate contemporáneo sobre IA ha vuelto urgentes: cómo los sistemas de IA heredan los objetivos y conflictos de interés de las organizaciones que los diseñan, y qué diferencia hay entre una IA con componentes humanos y una IA completamente sintética cuando el objetivo es el juicio moral en situaciones ambiguas.

Se cita en estos ensayos:

• IA, red y revolución informática