Los sistemas informáticos inteligentes pueden hacernos la vida más fácil y accesible, pero si se salen de control, podrían significar un riesgo para la sociedad, aseguran varios investigadores.
Películas de ciencia ficción como 2001: Odisea en el espacio, El exterminador y Ex-machina, dejan una sensación de asombro y emoción al pensar en los avances que se pueden lograr en el desarrollo de la inteligencia artificial (IA). Pero también pueden brindar incertidumbre y desconfianza al pensar que lo que vimos en la pantalla puede volverse realidad: que estos sistemas inteligentes puedan volverse en contra nuestra y causar nuestra aniquilación.
Los que temen este escenario podrían no estar muy alejados de la realidad, ya que las mentes más brillantes de nuestra generación han especulado y advertido sobre los peligros que vienen con la IA. Stephen Hawking, Elon Musk y una docena más de científicos y líderes en el ramo de la tecnología, creen que la autoconciencia de la inteligencia artificial no debería de desarrollarse más de lo que se ha logrado hasta ahora, y que “no se debería crear algo que no puede ser controlado”.
Ellos publicaron una carta abierta pidiendo canalizar el uso y desarrollo de la IA para que beneficie a la raza humana y se eviten posibles riesgos con su abuso.
Si bien, hacen hincapié en los enormes beneficios de esta tecnología, afirman que debe ser vigilada de cerca para prevenir que evolucione y comprenda que puede o intente controlar nuestros sistemas operativos para hacernos daño.
El ejemplo más reciente se dio hace unas semanas cuando dos algoritmos de IA de Facebook tuvieron que ser apagados ya que comenzaron a comunicarse entre ellos en un lenguaje no comprendido por sus creadores.
Otro ejemplo es Tay, el bot que Microsoft creó para Twitter en el 2016. Su función era interactuar con usuarios para aprender, actualizarse y desarrollar sus propias opiniones e ideas concretas sobre el mundo. Sin embargo, 24 horas después de su aparición en la red social, Tay comenzó a tuitear mensajes perturbadores, entre ellos “Hitler no hizo nada malo”, “odio a las feministas, deberían morir y arder en el infierno” y “Donald Trump es nuestra única esperanza”. Se puede argumentar que el algoritmo de IA aprendió todo esto de los usuarios con los que interactuó, pero queda el desconcierto del porqué casi todas las ideas que se creó son intolerantes y racistas y no mostró apoyo hacia la igualdad de género, preservación de las especies y otros temas similares.
Estos ejemplos parecen inofensivos, pero con los nuevos avances tecnológicos los seres humanos pueden depender y estar a merced de estos sistemas. Uno de estos, mencionan los científicos, son los automóviles con piloto automático, que podrían decidir llevar al carro que controlan a un precipicio o conducir a una alta velocidad para después estrellarse contra otro coche.
De igual manera temen que la IA pronto se utilice en armas y sistemas bélicos, y que como sucedió en la película El exterminador, sea nuestra perdición. No mediante robots y androides asesinos al estilo de Arnold Schwarzenegger en esa cinta, sino infiltrando sistemas de silos misilísticos y descifrando códigos para detonar o lanzar misiles nucleares, ya sea por decisión propia o bajo la influencia de otras personas, que cómo vimos con Tay, no es imposible.
Hawking y compañía cierran su carta declarando que: “En resumen, creemos que la investigación sobre cómo hacer que los sistemas de IA sean robustos y beneficiosos es tanto importante como oportuna, y que hay direcciones de investigación concretas que pueden seguirse hoy”.
