Una carta abierta llamando a tener precaución a la hora de asegurarnos que los dispositivos inteligentes no nos sobrepasen ha sido firmada por una gran cantidad de personas, incluyendo a algunas de las figuras más prominentes dentro del campo de la inteligencia artificial.
El miedo de que nuestras creaciones se vuelvan contra nosotros se remonta hasta tiempos en los que apareció la novela de Frankenstein, y existe en el presente con películas tales como Terminator, que nos dieron todo un nuevo lenguaje para discutir qué pasaría si los robots dejaban de seguir órdenes. Sin embargo, a medida que los computadores nos ganan (a la mayoría) en ciertos juegos y los autos que se manejan solos aparecen en las calles, puede que nos estemos acercando al punto en el cual nos veremos obligados a discutir este tema.
Stephen Hawking inició un nuevo debate sobre el tema. Siendo alguien cuya capacidad para comunicarse depende de la tecnología computacional, Hawking no puede ser visto como alguien que se encuentre en contra de los avances y usualmente sus opiniones causan interés.
La carta fue inicialmente escrita por el Instituto del Futuro de la Vida, una organización sin fines de lucro que describe sus acciones como “el trabajo para mitigar los riesgos existenciales a los que se enfrenta la humanidad.” La carta también hace énfasis en lo siguiente:
“A medida que ciertas habilidades en estas áreas y otras dejan de ser parte de investigaciones de laboratorio y pasan a ser tecnologías con valor económico, un círculo virtuoso hace su aparición, donde incluso pequeñas mejoras en el rendimiento valen mucho dinero, generando grandes inversiones en investigación. Existe un gran consenso con respecto al hecho que la investigación sobre la inteligencia artificial ha ido progresando a un buen ritmo y que su impacto en la sociedad incrementará. Los posibles beneficios son inmensos, ya que todo lo que la civilización puede ofrecer o crear es producto de la inteligencia humana. Sin embargo, no podemos predecir qué podríamos lograr cuando esta inteligencia sea magnificada por las herramientas que ofrece la inteligencia artificial. Aun así, la erradicación de las enfermedades y la pobreza podrían ser uno de estos beneficios. Debido al gran potencial de la Inteligencia Artificial, es importante investigar cómo aprovechar sus beneficios al mismo tiempo que se evitan posibles obstáculos”.
Los autores añaden que “nuestros sistemas de Inteligencia Artificial deben hacer lo que nosotros queramos que hagan,” y han propuesto prioridades a la hora de investigar que creen ayudarán a “maximizar los beneficios sociales de la IA.”
Cualquiera puede firmar, y hasta ahora, más de 1000 personas lo han hecho. Si bien muchas personas no indicaron a qué organizaciones pertencían, nombres como Elon Musk o Hawking son reconocidos con facilidad y saltan a la vista. Muchos de los otros nombres que componen la lista son investigadores claves en el área o profesionales de la filosofía, incluyendo también al grupo IBM responsable de la creación del supercomputador Watson.
El peso tanto intelectual como financiero puede que haga que sus prospectos sean buenas candidatas para realizar investigaciones en las áreas propuestas. Musk ha comentado que invierte en compañías que investiguen la IA para poder mantenerse al tanto de sus avances. Le preocupa que incluso si la mayoría de los investigadores se comportan con responsabilidad, ante la falta de regulaciones internacionales, una sola nación o corporación que no se ciña a las reglas podría producir máquinas auto-replicables cuyas prioridades podrían ser muy diferentes a las prioridades de la humanidad, y que una vez que este tipo de compañías se establezcan, se vuelvan resistentes a cualquier tipo de control.
