“Nuestro software es tan poderoso que separa familias” expresaba una manta puesta por estudiantes de la Universidad de Stanford en el verano de 2019 en la entrada de la empresa Palantir Technologies, dedicada al diseño de software para el análisis de big data (Palo Alto, California). Ese lema aludía al trabajo que ha hecho Palantir para proveer tecnología al Servicio de Inmigración y Control de Aduanas de Estados Unidos (ICE) que facilita la ubicación de familiares o tutores de los niños que llegan solos a Estados Unidos. Una vez que localizan a estos adultos, el ICE puede arrestarlos y deportarlos, teniendo como resultado la separación de padres e hijos. También se ha usado la tecnología de Palantir para hacer allanamientos y detenciones masivas, como las ocurridas en el Distrito del Mississipi en agosto de 2019, durante las cuales arrestaron aproximadamente a 680 personas, que en muchos casos tenían hijos en la escuela que no pudieron ir a recoger, por lo que se generó una situación crítica para varias de estas personas. Los contratos entre Palantir e ICE alcanzaban más de US$90 millones en contratos activos en 2019, según Recode (sept/2019).
Estudiantes de las universidades de Berkeley, de Brown y de Yale hicieron sendas manifestaciones durante los últimos meses del 2019 para protestar contra este papel de la mencionada empresa, obligándolos a cancelar numerosos eventos, o su presencia en algunos de ellos debido al malestar causado por su actividad, considerada éticamente inaceptable. En la práctica, por el motivo descrito y muchos otros, hay un desencanto creciente entre los jóvenes respecto a trabajar en algunos de estos gigantes tecnológicos (NYT, 11/01/2020). Por esta razón, Palantir no ha podido recientemente reclutar estudiantes en algunas de las universidades aledañas para trabajar con ellos, lo que puede dificultarle contar con titulados en ciencias de computación.
De hecho, hay organizaciones de estudiantes que expresamente promueven que los estudiantes no se involucren en ésta y otras empresas tecnológicas. Estudiantes de al menos 25 universidades a nivel nacional se han unido a la campaña “#NoTechforICE” de Mijente, haciendo peticiones para que Palantir y otras compañías que apoyan a ICE, dejen de hacerlo. Entre éstas se encuentra Amazon, que alberga información de Palantir en sus servidores.
Pero el descontento con lo que Palantir hace no sólo proviene de los estudiantes sino de los propios trabajadores de la empresa, 200 de los cuales mandaron una carta a los ejecutivos de la compañía expresando su inconformidad con el lamentable papel que está jugando la firma en la que trabajan.
La situación que se presenta entre las empresas como Palantir y sus empleados no es la primera de este tipo. Ello también ocurrió con Google, que a raíz de una inconformidad similar, tomó la decisión en 2019 de terminar un contrato con el Pentágono, causándole problemas con el gobierno de Estados Unidos. Anteriormente, los trabajadores de Microsoft también presentaron una petición firmada por 300,000 personas (incluyendo 500 empleados de la empresa) para que cancelara su contrato con el ICE en 2018. En septiembre de 2019 1,550 empleados de Amazon planearon hacer una huelga por la huella de carbono de la empresa, en el momento en que hubo una huelga mundial para reclamar sobre el cambio climático, a lo que Jeff Bezos, su Director Ejecutivo, respondió con un compromiso de eliminar la huella de carbono de la empresa para 2030.
Las respuestas por parte de estas grandes empresas son variadas: Palantir no canceló sus propios contratos con ICE, pero Google sí con el Pentágono, a la vez que varias de ellas como Amazon, Google, Microsoft y Salesforce, han ofrecido algunas soluciones a los reclamos y han dado la opción a sus empleados de no trabajar en proyectos con los cuales no están de acuerdo, por ejemplo, en los militares, aunque normalmente no cancelan sus contratos con el gobierno de Estados Unidos. En todo caso, hay una tensión entre la sociedad y estas empresas, en la que la primera está desafiando a las segundas, mostrando el desencanto bastante generalizado respecto al papel de las grandes compañías tecnológicas en términos sociales y políticos, como vemos a continuación.
En realidad, es Facebook la compañía tecnológica que posiblemente aglutine el mayor número de críticas respecto de su rol en las redes sociales por permitir la publicación de noticias e informaciones falsas que expresamente ayudaron a influir sobre la opinión pública de manera sesgada en momentos cruciales. Los escándalos de Cambridge Analytica y su rol en manipular la opinión pública favoreciendo la elección de Donald Trump y el Brexit, entre otros, son ampliamente conocidos. Este tema resurge con mucha fuerza en estos días (NYT), pues las distintas empresas tecnológicas que manejan redes sociales se están pronunciando acerca de la política que seguirán ante las próximas campañas electorales en Estados Unidos en 2020. La pregunta es cómo manejarán las plataformas sociales ante estas delicadas circunstancias. Algunas de ellas, como Google y Twitter, muestran un cambio de reglas respecto de la publicidad política.
Google (que, a su vez, es dueña de YouTube, empresa que también ha sido responsable de influir en elecciones como la de Bolsonaro en Brasil), anunció en noviembre de 2019 que restringiría la posibilidad de que los anuncios publicitarios se dirijan específicamente a sus clientes de acuerdo a su afiliación política o a sus antecedentes como votantes, aunque aún podrán enfocarse diferenciadamente a las personas según su edad, su género o su código de área.
Twitter va mucho más allá, al haber decidido no admitir ningún anuncio de propaganda política. En un tweet (CEO, Jack Dorsey) @jack expresó “Hemos tomado la decisión de parar toda publicidad política en Twitter a nivel global. Creemos que el alcance del mensaje político debería ganarse, no comprarse…”. Pero también Twitter hace sus importantes excepciones. Tiene una cláusula de valor informativo (newsworthiness) que justifica el transmitir los tweets del presidente Trump y otros líderes mundiales que, en principio, violaría esa norma de la empresa. El Director Ejecutivo de Snapchat, Evan Spiegel, también ha dicho que su compañía hará un análisis factual de la publicidad política en su plataforma.
Facebook ha tomado una postura bastante indiferente ante las presiones que ha recibido después del caso Cambridge Analytica. De hecho, a fines de 2019 la empresa rescindió una política, adoptada anteriormente, prohibiendo declaraciones falsas en su anuncios. Con ello creó una excepción para la propaganda política, cuya veracidad no tendrá que ser verificada. Así, “el resultado último es que cualquier declaración de un candidato o campaña que promueve un candidato no puede ser analizada factualmente y por tanto está automáticamente exenta de las políticas que tratan de evitar la desinformación” (The Guardian, traducción propia). En esta línea, Mark Zuckerberg ha dicho “no pensamos que las decisiones sobre publicidad política debieran ser hechas por compañías privadas, razón por la cual estamos a favor de una regulación que se aplique en todo el país” (CNBC).
La compañía ha tomado algunas medidas para evitar sólo la manipulación extrema (“deepfakes” o falsedades profundas). Se enfoca especialmente en los videos editados o sintetizados sin que el público sea capaz de percibirlo (a menos que sea sólo para mejorar su claridad y calidad), y aquellos producidos por la Inteligencia Artificial que pueden fusionar, reemplazar o superponer contenido sobre un video, aparentando ser auténtico. Por lo demás, Mark Zuckerberg ha decidido no intervenir en la publicidad político-electoral, aun cuando pueda contener información no apegada a la verdad, pues de hacerlo considera que podría incurrir en la censura (The Guardian).
Pero esta postura de Facebook y los escándalos de la desinformación que transmite están teniendo, al igual que en el caso de Palantir y otros mencionados anteriormente, una reacción de la sociedad civil. Por ejemplo, 250 empleados de Facebook escribieron una carta a Zuckerberg pidiéndole que reconsidere su política pues “el libre discurso y el discurso pagado no son lo mismo.”
La imagen de la compañía también ha sido afectada. Hace 10 años para los jóvenes era un sueño trabajar en Facebook, al igual que trabajar en varias de estas compañías tecnológicas, que ofrecían buenos sueldos, un ambiente apto para la creatividad y mucho prestigio. Pero últimamente, ha habido una caída notable en la aceptación de empleos por parte de potenciales talentos tecnológicos recién egresados de las universidades de prestigio. La aceptación por parte de esos recién graduados ha caído de un promedio de 85% para el año escolar 2017-2018, a entre 35% y 55% en diciembre de 2019 (CNBC). Los reclutadores de Facebook han dicho que ahora los candidatos hacen preguntas mucho más agudas sobre la política de privacidad de la compañía. La opinión de muchos jóvenes es que el trabajar en Facebook ya no es admirado socialmente ni tan bueno tenerlo en el curriculum vitae. Más bien necesitan justificar por qué trabajan allí y no en otra parte, lo que hubiera sido impensable hace años.
Es alentador ver que, aunque en forma incipiente, la sociedad civil está contribuyendo a poner algunos límites a la falta de ética de las grandes compañías en muy diversos ámbitos: políticos, ambientales, laborales, y otros. Sin embargo, a pesar de que las presiones aumentan hacia las compañías, aún es un campo ignoto el hecho de que muchas de las labores que hoy desempeñan seres humanos están siendo crecientemente asumidas por robots/algoritmos sin capacidad para evaluar las acciones que adoptan las compañías para las que trabajan. ¿Cuál será entonces el límite que se podría anteponer a la acción de estas empresas tecnológicas?
