Conseguir que una inteligencia artificial realizara trampa para completar una tarea fue el resultado que obtuvieron investigadores de Stanford y Google cuando la usaron para generar mapas satelitales.
Investigadores de todo el mundo se encuentran desatollando la denominada inteligencia artificial (IA), una de cuyas principales características es permitir que ese software tome decisiones por si misma, y este parece ser uno de los logros obtenidos por la Universidad de Stanford y Google ya que un programa creado con la intención de codificar mapas fue descubierto escondiendo información a los programadores, esto con la intención de que su trabajo fuera considerado perfecto.
En la investigación se indica que este proyecto estaba enfocado en entrenar una red neuronal, llamada CycleGAN, para convertir imágenes satelitales a mapas y posteriormente volver a crear una imagen. Los primeros resultados fueron considerados como exitosos ya que la foto final presentaba todos los detalles de la original pero los científicos también detectaron elementos que no se encontraban inicialmente.
Artículo relacionado : CEO de Google dice que es válido preocuparse por la evolución de la inteligencia artificial
Ejemplo de esto eran los techos de las casas, mismas que en la primera toma satelital no mostraban con claridad pero al final estaban completadas por el software. Según TechCrunch los investigadores descubrieron que el sistema estaba haciendo trampas para conseguir resultados tan buenos, ocultando fallos en la información proporcionada en un inicio.
Ya que el sistema en realidad no estaba pasando imágenes de satélite a imágenes de mapas; en vez de eso, aprendió a codificar información de los mapas originales en la imagen del mapa generado, de manera sutil y que no fuese evidente a simple vista.
Los investigadores explican que se percataron de este cambio en la programación de CycleGAN cuando detectaron pequeños cambios de color en cada píxel, que es donde se codificaron los detalles de la imagen original. “Es gracias a eso que era capaz de crear mapas tan detallados, porque en realidad tenía pocos datos de esa zona, por lo que optaba por reconstruir la imagen original, incluso sin fijarse en el mapa real”.
Es decir que la foto satelital no contaba con la información suficiente para generar un mapa, pero en vez de avisar de este error a los programadores la inteligencia artificial completaba esos datos con los datos que ya había recopilado. Este error, o intento de trampa por parte del software, fue generado por la falta de instrucciones dadas por los programadores quienes no generaron un protocolo para estos casos, por lo que la IA únicamente utilizó las herramientas con las que contaba para terminar su tarea.