As leis da robótica de Asimov (I)

Os robots sempre nos xeraron fascinación e inquietude a partes iguais. A idea de mantelos baixo control inspirou as famosas Tres Leis da Robótica, formuladas por Isaac Asimov no seu relato Runaround (1942), que se popularizaron anos despois ao recompilalas no seu libro I, Robot (1950). Son as seguintes:

1. Un robot non fará dano a un ser humano, ou por inacción permitirá que un ser humano sufra dano.

2. Un robot debe obedecer as ordes dadas polos seres humanos, excepto cando tales ordes entren en conflito coa Primeira Lei.

3. Un robot debe protexer a súa propia existencia na medida en que esta protección non entre en conflito coa Primeira ou a Segunda Lei.

Décadas máis tarde introduciu unha nova lei, coñecida como «Lei Cero» ou «Lei Cuarta» (foi na súa novela Robots and Empire (1985)). Asimov deuse conta de que as tres leis anteriores poderían expoñer aos robots diante de dilemas morais cando se tratase de protexer á humanidade no seu conxunto e non só aos individuos. Por iso propuxo esta nova lei, de rango superior ás outras tres:

4. Un robot non pode danar á humanidade ou, por inacción, permitir que a humanidade sufra dano.

Aínda que as Leis de Asimov son moi atractivas sobre o papel, na práctica resultan pouco útiles ou mesmo imposibles de implantar tal cal.

Son ambiguas, e para mostra dous botóns: como resolveremos unha situación na que haxa que decidir se salvar a un individuo ou a varios?; se vostede e eu dámoslle á vez ordes contraditorias a un robot, a quen lle fará caso?

Son altamente imprecisas, o que dificultaría extraordinariamente a súa aplicación. Como traduciriamos a código informático «non causar dano»?

Son ineficientes ou mesmo inoperantes. Pensemos nun robot de vixilancia nun evento deportivo. Saltaría ao campo anticipándose a unha posible falta dun xogador a outro? Subiría ás bancadas se se producise o máis mínimo enfrontamento verbal entre dous seareiros rivais?

Se lles parecen rebuscados estes exemplos, pensen nos robots industriais. Aínda que se deseñan para minimizar os riscos para as persoas, engaiolándoos para que ninguén entre na súa zona de operación ou dotándoos de sensores que lles permiten detectar a presenza de persoas na súa contorna e actuar en consecuencia, o risco cero non existe. Por tanto, para asegurar que se cumprise a Primeira Lei, un robot deste tipo non debería facer nada en absoluto salvo permanecer inmóbil ata o final dos seus días —ou da carga das súas baterías—.

Máis aló da inxenua inutilidade das leis de Asimov para a robótica, o paradoxal e triste, moitas veces dramático, é que nos afanemos en poñer regras aos robots que a humanidade nin cumpre nin ten a menor intención de cumprir.

Suscríbete para seguir leyendo