Dilema IV: robot asesino

Los peligros de modificar las leyes de la robótica

Quo - 18/11/2011

Dilema IV: robot asesino

Luego puedes mirar AQU√ć LA SOLUCI√ďN

El robot 
El NS-2, protagonista de El robot perdido, trabaja en la Hyper Base: zona destinada a la investigaci√≥n donde se realizan experimentos pe­ligrosos para el hombre. Para no interrumpir dichas pruebas, los NS-2 se fabrican con la 1¬™ Ley de la rob√≥tica modificada: un robot no debe da√Īar a un humano, pero si el elemento que da√Īa al hombre es externo, tienen la orden de no actuar. Sin embargo, conservan el re­cuerdo ‚Äúinnato‚ÄĚ de la 1¬™ Ley: al ver a un hombre en peligro, tienen un primer impulso de salvarlo.

La historia
Estamos en 2029. La doctora Susan Calvin ‚Äďrobopsic√≥loga de US Robotics‚Äď es requerida para una urgencia en la Hyper Base: creen que un NS-2, de los 63 que trabajan en ella, est√° fuera de control. Y es necesario localizarlo. Parece que un operario de la Hyper Base se enfad√≥ con √©l y ‚Äúle mand√≥ a paseo‚ÄĚ. Esta orden ha podido crear una reacci√≥n peligrosa en el NS-2, hasta el punto de convertirlo en letal para el hombre, ya que, seg√ļn la doctora Calvin, lo √ļnico que mantiene la esclavitud de los robots super­inteligentes hacia los hombres ‚Äďse­res inferiores‚Äď es el mantenimiento de la Primera Ley, y al estar modificada, es previsible que el esclavo se vuelva contra el esclavista. Tras mu­chas pesquisas, deciden poner todos los Nestors a prueba: les dicen que se pongan alrededor de una barrera de nocivos rayos gamma, y la doctora se introduce en ella. Cuando la barrera entra en acci√≥n, s√≥lo uno de ellos, el robot peligroso, tiene el impulso ‚Äúinnato‚ÄĚ de salvarla. ¬ŅPor qu√©? En realidad, la barrera no es de rayos gam­ma, como dijeron a los robots, sino de infrarrojos absolutamente inofensivos. Los NS-2 normales detectan la falta de peligro, por lo que se quedan quietos. S√≥lo el robot obsesionado con comportarse ‚Äúnormalmente‚ÄĚ, para no ser descubierto, demuestra su intenci√≥n de salvar a la doctora. √Čl mismo se delata.

El dilema
¬ŅSe puede modificar la Primera Ley sin peligro para el hombre?

LAS TRES LEYES DE LA ROB√ďTICA
1.- Un robot no debe da√Īar a un ser humano o, por su inacci√≥n, dejar que un ser humano sufra da√Īo.
2.- Un robot debe obedecer las órdenes que le son dadas por un ser humano, excepto cuando estas órdenes se oponen a la primera Ley.
3.- Un robot debe proteger su propia existencia, hasta donde esta protección no entre en conflicto con la primera o segunda Leyes.



Ver m√°s