El renombrado y prestigiado profesor y físico Stephen Hawking nos advierte sobre los riesgos que pueden llevar al fin de la humanidad. Para el, la primera amenaza es toparnos con extraterrestres que consideren a los humanos irrelevantes y un obstáculo para apropiarse de nuestro planeta, por lo que recomienda suspender los proyectos para contactar a otras civilizaciones en el universo. La segunda amenaza es que desarrollemos máquinas con inteligencia artificial que eventualmente se rebelen y destruyan a los humanos, por lo que firmó con varios científicos y personalidades una carta recomendando la suspensión del uso de la inteligencia artificial en el desarrollo de nuevas armas. Ambas amenazas, si no se manejan prudentemente por los gobiernos del mundo y sus organismos internacionales, seguramente –advierte Hawking– llevarían a la desaparición de la civilización humana.
¿Qué tan reales son tales amenazas?
Desde que empecé a leer novelas de ficción tuve un gusto especial por la ciencia ficción. He viajado en naves espaciales con la imaginación de Arthur C. Clark. He combatido en mundos extraños y exóticos con J. G. Ballard. He acompañado a Jules Verne al centro de la tierra. Navegué en el cuerpo humano en una microscópica nave atómica con Isaac Asimov. Mucho de lo que leí en los años cincuenta y sesenta ahora son pan de cada día: los teléfonos inteligentes, las computadoras personales, la comunicación intercontinental instantánea, etc. y en la mayoría de los casos la realidad ha rebasado la imaginación de esos grandes escritores… En otras palabras, “se quedaron cortos”.
La historia nos dice que siempre ha habido escépticos y detractores que han dudado de los grandes cambios tecnológicos que han transformado nuestra sociedad. Actualmente, algunos grupos de formadores de opinión, personalidades, científicos e intelectuales consideran alarmistas, irreales y lejanas las preocupaciones de Hawking. Sin embargo, echando la vista atrás vemos cuántas veces se equivocaron los escépticos que dudaron de las nuevas tecnologías en el transporte como el ferrocarril, los automóviles y los aviones; en las comunicaciones con el telégrafo, el teléfono, la televisión y el Internet; con las computadoras personales y el desarrollo de programas que superan en eficiencia a las decisiones del ser humano.
A mi juicio, Hawking esta en lo cierto, tales riesgos son reales y no dudo que puedan presentarse dentro de una a tres generaciones. Sólo hay que recordar la ley de Moore, que dice que cada dos años el número de transistores en un circuito se duplica. En 26 años el número de transistores en un microprocesador se ha incrementado 3,200 veces. Algo parecido sucederá con la inteligencia artificial. No es remoto pensar que en una década desarrollemos una inteligencia artificial capaz de crear otra inteligencia artificial aún más avanzada.
Primer riesgo: extraterrestres.
Dado lo infinito del universo es muy factible que haya vida en otros planetas. Seguramente la mayoría de dichas formas de vida sea de organismos simples como microbios y plantas, pero seguramente habrá otras formas de vida equivalentes o superiores a la nuestra. La amenaza consiste en que nuestros esfuerzos por contactar a extraterrestres logren contactar a inteligencias alienígenas superiores a la nuestra que nos consideren inferiores e irrelevantes, merecedores de poca consideración y respeto. Tales extraterrestres pueden venir a la Tierra a explotar sus recursos naturales o a repoblarla, y en el proceso considerándonos como un obstáculo para sus propósitos y decidan eliminarnos.
Por lo tanto, Stephen Hawking recomienda evitar buscar el contacto con civilizaciones extraterrestres, pues de llegarnos a visitar las consecuencias podrían ser tan funestas como lo fueron para las poblaciones indígenas cuando Colón llegó a América. Sin embargo, es probable que tales consecuencias sean peores, dado que los alienígenas seguramente serán muy diferentes física e intelectualmente a nosotros. El ser humano podría ser tan insignificante para ellos como un grano de arena en medio del desierto.
Segundo riesgo: inteligencia artificial
El desarrollo de armas inteligentes o soldados robots con inteligencia artificial reducirán el costo de las guerras por lo que los combatientes tendrán el incentivo de usar tales armas conduciendo a una carrera armamentista. Una vez establecidas dichas armas inteligentes en poco tiempo aparecerán en el mercado negro y en las manos de terroristas, dictadores y señores de la guerra en busca de una limpieza étnica.
Tales armas inteligentes o soldados robots estarían diseñados para matar a combatientes enemigos incluyendo a soldados humanos, con el riesgo de que tales máquinas no distingan entre combatientes y civiles. Aparte, siempre existirá el peligro inminente de que las máquinas se rebelen y ataquen a sus amos. Tan sólo se requiere de un simple error para que se produzcan tales catástrofes.
Las armas inteligentes son más peligrosas que las nucleares porque son más baratas para desarrollar y su uso se extendería. Dichas armas constituyen la tercera revolución en la guerra tras la pólvora y la bomba atómica.
Sin embargo, la preocupación con la inteligencia artificial tiene una mayor dimensión que el de las armas inteligentes. ¿Qué pasaría con el ser humano en el momento en que criemos una computadora (ordenador mas programa) capaz de diseñar otra computadora? La simple y sencilla respuesta es que en ese momento perderemos la carrera de la evolución. Los ciclos evolutivos en las máquinas son mucho más cortos que en los humanos. Llegará el momento en que alguna inteligencia artificial nos consideren irrelevantes y se abra la puerta para nuestra extinción como especie. En tal momento a la mejor seremos las mascotas de nuestros robots o simplemente un virus que se requiere exterminar.
Desarrollar computadoras que superen las capacidades de los humanos sería el peor error de la historia y el último error de los humanos.
¿Qué podemos hacer?
En cuanto al primer riesgo, los esfuerzos por contactar a civilizaciones extraterrestres, creo que tales proyectos no deberían financiarse con recursos públicos. Sin embargo, soy pesimista y creo que aun cuando se lograra convencer a los gobiernos de no apoyar a semejantes proyectos, recursos e iniciativas privadas van a continuar con tales esfuerzos.
En cuanto a la amenaza inherente al desarrollo de inteligencias artificiales, ya sea para propósitos bélicos o en otras áreas, considero que la comunidad internacional eventualmente propondrá algunas medidas para regular tales proyectos. Sin embargo, creo que de poco van a servir, porque los humanos llevan dentro de sí mismos el gen de su propia destrucción.
El homo sapiens puede racionalizar lo que sea, hasta la guerra. Aun cuando se prohibiera el desarrollo de la inteligencia artificial, la curiosidad humana eventualmente desafiaría tales prohibiciones y poco a poco nos acercaría más a los momentos críticos de nuestra propia extinción.
Me gustaría estar equivocado, pero soy realista. Los humanos somos los lobos de nosotros mismos: vamos en busca del conocimiento sin importar las consecuencias. Es como la crónica de una muerte anunciada. Desde el momento en que empezamos a utilizar y diseñar herramientas y armas escribimos la sinfonía de nuestro propio final: nacimos para crear nuestra propia némesis.
¿Qué tan reales son tales amenazas?
Desde que empecé a leer novelas de ficción tuve un gusto especial por la ciencia ficción. He viajado en naves espaciales con la imaginación de Arthur C. Clark. He combatido en mundos extraños y exóticos con J. G. Ballard. He acompañado a Jules Verne al centro de la tierra. Navegué en el cuerpo humano en una microscópica nave atómica con Isaac Asimov. Mucho de lo que leí en los años cincuenta y sesenta ahora son pan de cada día: los teléfonos inteligentes, las computadoras personales, la comunicación intercontinental instantánea, etc. y en la mayoría de los casos la realidad ha rebasado la imaginación de esos grandes escritores… En otras palabras, “se quedaron cortos”.
La historia nos dice que siempre ha habido escépticos y detractores que han dudado de los grandes cambios tecnológicos que han transformado nuestra sociedad. Actualmente, algunos grupos de formadores de opinión, personalidades, científicos e intelectuales consideran alarmistas, irreales y lejanas las preocupaciones de Hawking. Sin embargo, echando la vista atrás vemos cuántas veces se equivocaron los escépticos que dudaron de las nuevas tecnologías en el transporte como el ferrocarril, los automóviles y los aviones; en las comunicaciones con el telégrafo, el teléfono, la televisión y el Internet; con las computadoras personales y el desarrollo de programas que superan en eficiencia a las decisiones del ser humano.
A mi juicio, Hawking esta en lo cierto, tales riesgos son reales y no dudo que puedan presentarse dentro de una a tres generaciones. Sólo hay que recordar la ley de Moore, que dice que cada dos años el número de transistores en un circuito se duplica. En 26 años el número de transistores en un microprocesador se ha incrementado 3,200 veces. Algo parecido sucederá con la inteligencia artificial. No es remoto pensar que en una década desarrollemos una inteligencia artificial capaz de crear otra inteligencia artificial aún más avanzada.
Primer riesgo: extraterrestres.
Dado lo infinito del universo es muy factible que haya vida en otros planetas. Seguramente la mayoría de dichas formas de vida sea de organismos simples como microbios y plantas, pero seguramente habrá otras formas de vida equivalentes o superiores a la nuestra. La amenaza consiste en que nuestros esfuerzos por contactar a extraterrestres logren contactar a inteligencias alienígenas superiores a la nuestra que nos consideren inferiores e irrelevantes, merecedores de poca consideración y respeto. Tales extraterrestres pueden venir a la Tierra a explotar sus recursos naturales o a repoblarla, y en el proceso considerándonos como un obstáculo para sus propósitos y decidan eliminarnos.
Por lo tanto, Stephen Hawking recomienda evitar buscar el contacto con civilizaciones extraterrestres, pues de llegarnos a visitar las consecuencias podrían ser tan funestas como lo fueron para las poblaciones indígenas cuando Colón llegó a América. Sin embargo, es probable que tales consecuencias sean peores, dado que los alienígenas seguramente serán muy diferentes física e intelectualmente a nosotros. El ser humano podría ser tan insignificante para ellos como un grano de arena en medio del desierto.
Segundo riesgo: inteligencia artificial
El desarrollo de armas inteligentes o soldados robots con inteligencia artificial reducirán el costo de las guerras por lo que los combatientes tendrán el incentivo de usar tales armas conduciendo a una carrera armamentista. Una vez establecidas dichas armas inteligentes en poco tiempo aparecerán en el mercado negro y en las manos de terroristas, dictadores y señores de la guerra en busca de una limpieza étnica.
Tales armas inteligentes o soldados robots estarían diseñados para matar a combatientes enemigos incluyendo a soldados humanos, con el riesgo de que tales máquinas no distingan entre combatientes y civiles. Aparte, siempre existirá el peligro inminente de que las máquinas se rebelen y ataquen a sus amos. Tan sólo se requiere de un simple error para que se produzcan tales catástrofes.
Las armas inteligentes son más peligrosas que las nucleares porque son más baratas para desarrollar y su uso se extendería. Dichas armas constituyen la tercera revolución en la guerra tras la pólvora y la bomba atómica.
Sin embargo, la preocupación con la inteligencia artificial tiene una mayor dimensión que el de las armas inteligentes. ¿Qué pasaría con el ser humano en el momento en que criemos una computadora (ordenador mas programa) capaz de diseñar otra computadora? La simple y sencilla respuesta es que en ese momento perderemos la carrera de la evolución. Los ciclos evolutivos en las máquinas son mucho más cortos que en los humanos. Llegará el momento en que alguna inteligencia artificial nos consideren irrelevantes y se abra la puerta para nuestra extinción como especie. En tal momento a la mejor seremos las mascotas de nuestros robots o simplemente un virus que se requiere exterminar.
Desarrollar computadoras que superen las capacidades de los humanos sería el peor error de la historia y el último error de los humanos.
¿Qué podemos hacer?
En cuanto al primer riesgo, los esfuerzos por contactar a civilizaciones extraterrestres, creo que tales proyectos no deberían financiarse con recursos públicos. Sin embargo, soy pesimista y creo que aun cuando se lograra convencer a los gobiernos de no apoyar a semejantes proyectos, recursos e iniciativas privadas van a continuar con tales esfuerzos.
En cuanto a la amenaza inherente al desarrollo de inteligencias artificiales, ya sea para propósitos bélicos o en otras áreas, considero que la comunidad internacional eventualmente propondrá algunas medidas para regular tales proyectos. Sin embargo, creo que de poco van a servir, porque los humanos llevan dentro de sí mismos el gen de su propia destrucción.
El homo sapiens puede racionalizar lo que sea, hasta la guerra. Aun cuando se prohibiera el desarrollo de la inteligencia artificial, la curiosidad humana eventualmente desafiaría tales prohibiciones y poco a poco nos acercaría más a los momentos críticos de nuestra propia extinción.
Me gustaría estar equivocado, pero soy realista. Los humanos somos los lobos de nosotros mismos: vamos en busca del conocimiento sin importar las consecuencias. Es como la crónica de una muerte anunciada. Desde el momento en que empezamos a utilizar y diseñar herramientas y armas escribimos la sinfonía de nuestro propio final: nacimos para crear nuestra propia némesis.