Google parece haber tomado nota del film que llevó al estrellato a Arnold Schwarzenegger, donde una supercomputadora (Skynet) decretaba el fin de la raza humana. Para evitar caer en una realidad como la de Terminator, Google se embarcó en la creación de un "botón rojo" de emergencia, capaz de apagar una inteligencia artificial que se torne peligrosa para el género humano.

La investigación que involucra a DeepMind -que se hizo célebre al vencer al campeón mundial de go- fue publicada en el sitio del Machine Intelligence Research Institute de la Universidad californiana de Berkeley. 

Los expertos afirman haber creado una suerte de "botón" rojo que no sólo puede detener las acciones de una inteligencia artificial -imaginando un escenario como el del film "Ex Machina"- sino también impedir que un sistema demasiado desarrollado pueda comprender y sortear la interrupción.

Sin embargo aún no está claro, según explicaron los científicos al sitio Business Insider, "si todos los tipos de algoritmo pueden ser 'interrumpidos' fácilmente y de modo seguro".

Los investigadores, de hecho, están estudiando la situación de que un agente de inteligencia artificial pueda evolucionar también de modo peligroso o contraproducente para el ser humano.




El estudio será ilustrado en la Conference on Uncertainty in Artificial Intelligence (UAI) programada para fines de junio en Nueva York.

El resumen de la investigación publicado por los expertos -Laurent Orseau de DeepMind, Stuart Armstrong de la Universidad de Oxford y otros- explica que es "improbable" que los agentes de inteligencia artificial" actúen óptimamente todo el tiempo".

"Si un agente así está operando en tiempo real bajo supervisión humana, podría ser necesario para el operador humano apretar el gran botón rojo para prevenir que el agente siga una secuencia dañina de acciones, para el agente o para el ambiente, llevándolo a una situación más segura", escribieron.

Por su parte, DeepMind sabe que la tecnología que está creando tiene el potencial de causar daño. Sus fundadores -Demis Hassabis, Mustafa Suleyman y Shane Legg- permitieron a su compañía ser comprada por Google bajo la condición que se creara un comité de ética sobre inteligencia artificial para monitorear sus avances en ese sector. Quién sesiona en ese comité, y qué hace exactamente, sigue siendo un misterio, comentó Business Insider.

(Fuente ANSA)
​