Las 3 Leyes + 0 [Asimov] & Las premisas EPSRC – AHRC

Asimov

-Asimov-

Las tres leyes de la robótica que Isaac Asimov desarrollo en el relato Circulo Vicioso [Runaround, 1942] son útiles en una gran variedad de campos de estudios. Son útiles para estudiar la psique del ser humano, lo que Asimov denominaba el complejo de Frankenstein. Son útiles como “guía” de programación de pequeñas máquinas autónomas. Son imprescindibles si queremos trazar una línea en la historia entre un punto A y un punto B en la evolución del “robot” desde su concepto en 1921 y su posterior evolución hasta nuestros días.Y con el tiempo la misma concepción y conjeturas con estas leyes pueden archivarse casi como un vestigio evolutivo, un rabo de mono.

–Su punto fuerte es al tiempo su debilidad, y esta radica en su simpleza:

  1. Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la Primera Ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la Primera o la Segunda Ley.

Y por supuesto ¿que sería un robot sin una actualización?

     robot-pensante0. Un robot no puede realizar ninguna acción, ni por inacción permitir que nadie la realice, que resulte perjudicial para la humanidad, aun cuando ello entre en conflicto con las otras leyes. [Esto conduce a su vez a que la L1 no debe entrar en conflicto con la L0].

Su defecto está en su propia concepción, en la analogía de que esas tres leyes interfieran en el sujeto como una correa invisible a la que atásemos un esclavo. ¿Va usted a ponerse humanista? Nada mas lejos de mi intención, sigamos el siguiente razonamiento: El objetivo primario es la obtención de un autómata autosuficiente capaz de compartir la realidad tal y como nosotros la percibimos y de actuar en consecuencia bajo nuestros conceptos de ética social. Que realice el trabajo más peligroso sin miedo y que se encargue de nuestra seguridad aun a riesgo a su propia existencia. En definitiva queremos un esclavo color metal –para autoconvencernos de que no somos racistas–, tonto, de veinticinco años, metro ochenta y que hable idiomas. Y lo mejor de todo, que podamos llegar a considerarlo un amigo, pero en propiedad y que se deje matar por nosotros de vez en cuando.

¿Que queremos?: Un robot que alcance la conciencia humana y que se comporte como si no la tuviera. Dos conceptos que parten de concepciones antagónicas. Cualquier robot en que programes las tres leyes de la robótica se convertirá irremediablemente en una máquina no autoconsciente. Y la autoconciencia no viene determinada por el libre albedrío, el instinto de supervivencia o la necesidad biológica del deseo. Precisa de un conjunto que actúe como un todo de razonamiento independiente. Algo que no toma sus propias decisiones, no piensa, por lo que no puede determinar los parámetros adecuados para adaptarse y cumplir las leyes. Por contra algo que piensa no puede verse limitado en modo alguno en su sinapsis de razonamiento. Y vuelta a empezar.

C3PO_EP3

C3PO – relaciones cibernéticas-humanas-

En conclusión, las tres leyes son perfectamente válidas en un una psique mecánica y matemática, una máquina, un computador. Pero nunca un robot o androide, porque violarían la finalidad última de los mismos. En particular me gusta emplear a C-3PO de Star Wars como un buen ejemplo de un androide autoconciente que puede desear tu muerte todo lo que le plazca, ya que apenas puede mantener su propio equilibrio, no posee potencia hidráulica alguna y su fisonomía no le permite doblar una sola de las articulaciones.

Mención aparte, en 2011, el Consejo de Investigación de Ingeniería y Ciencias Físicas [EPSRC por sus siglas en inglés] y el Consejo de Investigación de Artes y Humanidades [AHRC] británicos publicaron conjuntamente una serie de principios éticos a seguir en el ámbito de la robótica que en la sombra venían no a sustituir las anticuadas leyes, sino a imponer una serie de “reglas éticas”, estas eran:

  1. Los robots no deben ser diseñados exclusivamente o principalmente para matar o dañar a los humanos.
  2. Los seres humanos, no los robots, son los agentes responsables. Los robots son herramientas diseñadas para lograr los objetivos humanos.
  3. Los robots deben ser diseñados de forma que aseguren su protección y seguridad.
  4. Los robots son objetos, no deben ser diseñados para aprovecharse de los usuarios vulnerables al evocar una respuesta emocional o dependencia. Siempre debe ser posible distinguir a un robot de un ser humano.
  5. Siempre debe ser posible averiguar quién es el responsable legal de un robot.

Las opiniones expresadas a continuación pertenecen al autor y como tal no expresan más que una opinión personal y apócrifa:

  • Las premisas nº1 y nº4 no se respetan en la actualidad.
  • La premisa nº2 carga con una serie de controversias que ya han sido tratadas con anterioridad en infinidad de novelas. Esto da siempre a lugar a fallos y trabas en la interpretación de las responsabilidad adjuntas que se atribuyen al creador y/o propietario.
  • La premisa nº5 no implica nada mas allá del ruego o el deseo.robots2

A continuación dichos Consejos de Investigación añadieron una serie de mensajes cívicos:

  1. Creemos que los robots tienen el potencial de proporcionar impacto positivo inmenso para la sociedad. Queremos animar a la investigación del robot responsable.
  2. La mala práctica nos perjudica a todos.
  3. Abordar las inquietudes obvias del público nos ayudará a todos avanzar.
  4. Es importante demostrar que nosotros, como especialistas en robótica, estamos comprometidos con los mejores estándares posibles de la práctica.
  5. Para entender el contexto y las consecuencias de nuestra investigación, debe trabajar con expertos de otras disciplinas tales como: ciencias sociales, derecho, filosofía y las artes.
  6. Debemos tener en cuenta la ética de la transparencia: hay límites que deben ser accesibles.
  7. Cuando vemos las cuentas erróneas en la prensa, nos comprometemos a tomar el tiempo para ponerse en contacto con los periodistas.

*Lejos de mi intención emitir juicios de valores personales, junto a lo anteriormente tratado, toda esta ética en la robótica se asemeja mucho el perro de hortelano, que ni come ni deja comer.

Mockumentary de 28 segundos en los que se visualiza lo que sucede cuando las tres leyes de la robótica localizan la autoconciencia.

Anuncios

El Cerebro Positrónico

THE-POSITRONIC-MAN

Un positrón es una partícula de antimateria predicha en 1928 por Paul Dirac. A pesar de lo rimbombante de su nombre el positrón no es más que la antipartícula del electrón. ¿Es un electrón puesto del revés con las tripas fueras? No, un electrón tiene carga negativa, si lo invertimos su carga se vuelve positiva de modo que es fácil averiguar de donde surge su nombre anglosajón:

Positive Electrón –> Posi-tron

Por tanto el cerebro positrónico es –aceptando la diferencias técnicas y materiales entre el cerebro de una persona y el de un robot– un cerebro normal y corriente, con la salvedad de que los electrones que circulan por el poseen carga positiva. ¿Quieres esto decir que funcionan de igual forma? No, eso es evidente, es una analogía. Cuando hablamos del cerebro positronico tenemos que acudir al creador literario del mismo, Isaac Asimov (1920-1992) quien acuñó el termino en sus propias palabras porque era un concepto nuevo, y los conceptos nuevos gustan al lector. ¿Tiene esto algo que ver con su funcionamiento? Por desgracia tiene que verlo todo, pues el cerebro positrónico –tal y como fue concebido en su día– no funciona.

¿Como es eso posible? ¿No es el pilar fundamental en el que se sustenta la I.A de toda novela de congetura cientifico-social? Sin duda la I.A. de cualquier tipo debe sustentarse sobre un cerebro, pero que este fuese positrónico no le sentaría nada bien, pues en su concepción original Asimov afirmó que esta extraña senda de circuitos descansaba sobre una delicada malla de platino e iridio donde los impulsos cerebrales, que son equivalente a las comunicaciones neuronales, se realizarían mediante un flujo de positrones. Esto en la teoría de hace cincuenta años son un conjunto de frases bien enlazadas y agradables al oido, y en la práctica, es una Bomba.

¿Por qué? No es culpa de los positrones, los pobres solo están hay y hacen lo que se les pide. La culpa proviene de su propia concepción, sus cualidades como no-materia. En teoría concebir un cerebro –cualquiera que sea el modelo a seguir– de materia o anti-materia es “factible”, y cabe la posibilidad de que un cerebro que aúne ambos conceptos sea “teóricamente posible”, pero no lo será este siglo. Esto se debe a la carga, si un elemento de anti-materia como el positrón descansa sobre una partícula de materia como es el caso de la supuesta malla de platino e iridio con carga negativa de inmediato ambas cargas se anulan (¡ah! ¡Y entonces no funciona!) No, entonces libera una cantidad de energía por kilo equivalente a 9×10 elevado a 16 Julios por kilogramo. Unas diez mil millones de veces mas que la generada por reacciones químicas y diez mil veces mayor que la energía nuclear de fisión.

cerebro-positronico¿No lo sabía Asimov? Si lo sabía, incluso indagando en su obra puedes hallar fragmentos en los que comenta la ”inestable y delicada estructura” sobre la que descansa su creación. Más aún, no es algo que escondiese o de lo que se sintiese avergonzado, el sentó unas bases en 1950, e incluso llegó a sopesar el llamar al cerebro positrónico simplemente computador. Pero el termino había calado de tal manera entre el público que decidió que era preferible no tocarlo, pues el mismo fue acuñado por diversos autores en diversas obras de ficción, y si se destapaba el entuerto podríamos acudir algún día a la habitación de Data a bordo de la Enterprise y descubrir que sus sesos positrónicos descansan fundidos por las paredes.

¿Y hoy en día? Estamos en el mismo sitio y el mismo lugar de hace 50 años. No es un problema de material, incluso de haber nacido en esta época es posible que Asimov hubiera echado mano del grafreno como conductor del flujo neuronal, pero el grafeno es de manera literal una estructura de electrones, por lo que no solo tendría el mismo problema sino que seguramente se le sumaría algún agravante. Los robots con cerebro positrónico siguen siendo una meta que la imaginación cree capaz de solventar con la antigravedad, pero hasta entonces y durante los próximos cientos de años tendremos que contentarnos con procesadores cuánticos que trabajen sobre una base de superconductores.