Dilema IV: robot asesino

Los peligros de modificar las leyes de la robótica

Luego puedes mirarAQUÍ LA SOLUCIÓN

El robot
El NS-2, protagonista de El robot perdido, trabaja en la Hyper Base: zona destinada a la investigación donde se realizan experimentos pe­ligrosos para el hombre. Para no interrumpir dichas pruebas, los NS-2 se fabrican con la 1ª Ley de la robótica modificada: un robot no debe dañar a un humano, pero si el elemento que daña al hombre es externo, tienen la orden de no actuar. Sin embargo, conservan el re­cuerdo “innato” de la 1ª Ley: al ver a un hombre en peligro, tienen un primer impulso de salvarlo.

Publicidad - Sigue leyendo debajo

La historia
Estamos en 2029. La doctora Susan Calvin –robopsicóloga de US Robotics– es requerida para una urgencia en la Hyper Base: creen que un NS-2, de los 63 que trabajan en ella, está fuera de control. Y es necesario localizarlo. Parece que un operario de la Hyper Base se enfadó con él y “le mandó a paseo”. Esta orden ha podido crear una reacción peligrosa en el NS-2, hasta el punto de convertirlo en letal para el hombre, ya que, según la doctora Calvin, lo único que mantiene la esclavitud de los robots super­inteligentes hacia los hombres –se­res inferiores– es el mantenimiento de la Primera Ley, y al estar modificada, es previsible que el esclavo se vuelva contra el esclavista. Tras mu­chas pesquisas, deciden poner todos los Nestors a prueba: les dicen que se pongan alrededor de una barrera de nocivos rayos gamma, y la doctora se introduce en ella. Cuando la barrera entra en acción, sólo uno de ellos, el robot peligroso, tiene el impulso “innato” de salvarla. ¿Por qué? En realidad, la barrera no es de rayos gam­ma, como dijeron a los robots, sino de infrarrojos absolutamente inofensivos. Los NS-2 normales detectan la falta de peligro, por lo que se quedan quietos. Sólo el robot obsesionado con comportarse “normalmente”, para no ser descubierto, demuestra su intención de salvar a la doctora. Él mismo se delata.

El dilema
¿Se puede modificar la Primera Ley sin peligro para el hombre?

LAS TRES LEYES DE LA ROBÓTICA
1.- Un robot no debe dañar a un ser humano o, por su inacción, dejar que un ser humano sufra daño.
2.- Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes se oponen a la primera Ley.
3.- Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la primera o segunda Leyes.

Publicidad - Sigue leyendo debajo
Más de Tecnología