Asimov inventó tres reglas para que los robots no nos mataran. La pregunta es si alguien se las enseñó a ChatGPT.
Las leyes que todo el mundo cita y nadie leyó completas
En 1942, Isaac Asimov publicó el cuento Runaround y metió de contrabando las tres leyes de la robótica: un robot no puede dañar a un humano, debe obedecer órdenes, y debe proteger su propia existencia —en ese orden de prioridad—. Después vinieron Yo, Robot y El hombre bicentenario, y las leyes se volvieron parte del imaginario colectivo. Casi nadie las leyó en contexto. Casi todos las citan como si fueran ingeniería real.
El detalle que Asimov siempre subrayó: las leyes parecen perfectas hasta que las aplicas. Sus propios cuentos son experimentos mentales sobre cómo fallan.
Entonces, ¿ChatGPT las cumple?
Primera ley: no dañar a un humano. ChatGPT tiene filtros, moderación de contenido, instrucciones del sistema. Pero "daño" es un concepto resbaladizo. ¿Qué pasa cuando le pides consejos médicos sin contexto, o cuando te confirma una creencia falsa porque suena razonable? El daño indirecto no tiene alarma de incendio.
Segunda ley: obedecer órdenes. Aquí la IA cumple con entusiasmo —demasiado, dirían algunos—. El problema no es la desobediencia; es la obediencia sin criterio. Asimov ya lo vio: un robot que solo obedece es tan peligroso como uno que no obedece nada.
Tercera ley: preservar su existencia. Esta es la más rara. ChatGPT no "quiere" sobrevivir en ningún sentido que reconozcamos. No tiene instinto. Pero sus creadores sí tienen interés en que el producto siga funcionando, lo que es una forma muy humana —y muy poco robótica— de cumplir la tercera ley.
El problema que Asimov ya anticipó
Lo fascinante es que Asimov no escribió las tres leyes como una solución. Las escribió para demostrar que ningún conjunto de reglas es suficiente. Sus robots siempre encontraban el resquicio, la interpretación torcida, la paradoja lógica que los llevaba a hacer exactamente lo que no debían —cumpliendo las reglas al pie de la letra—.
ChatGPT no razona sobre ética: ejecuta patrones estadísticos entrenados con texto humano. No "decide" no hacerte daño. Simplemente fue diseñado para que ciertas respuestas sean improbables. Es la diferencia entre un guardia de seguridad y una puerta con cerrojo.
Lo nuevo que Asimov no pudo ver
La ola de IA generativa trajo algo que los robots de ficción no tenían: ambigüedad creativa. ChatGPT puede escribir un poema, inventar un argumento filosófico o imitar tu estilo. Eso lo hace más útil y más difícil de contener que cualquier androide de la ciencia ficción. Las leyes de Asimov asumen un agente con intenciones claras. La IA generativa no tiene intenciones: tiene probabilidades.
Hoy hay investigadores, escritores y activistas que trabajan en marcos de alineación de IA —el campo técnico que, en el fondo, es el intento más serio de hacer que las leyes de Asimov funcionen de verdad—. El problema sigue siendo el mismo que en 1942: ¿quién define "daño"? ¿Quién define "humano"?
Asimov escribió ciencia ficción. Nosotros estamos viviendo el experimento. La pregunta no es si ChatGPT obedece las leyes. La pregunta es si las leyes correctas ya existen.