Esta información, revelada el viernes 14 de agosto por Tech Inquiry, una ONG que denuncia los abusos en el campo de la tecnología, parece haber salido directamente de un libro sobre un futuro distópico: la aplicación de reconocimiento facial más liberticida jamás concebida, ideada por miembros de la derecha estadounidense más radical que han elaborado en secreto la más importante base de fotos del mundo, acaba de ser adoptada oficialmente por los servicios de inmigración de Estados Unidos.
Según los documentos obtenidos por Tech Inquiry a través del Freedom of Information Act (FOIA), un procedimiento que permite a los ciudadanos reclamar documentos oficiales, el 12 de agosto ha sido firmado un contrato entre el departamento de Seguridad Interior, en nombre del Immigration and Customs Enforcement (ICE) y la sociedad Clearview AI, por una duración de un año y un coste de 224.000 dólares.
Despite all of the public criticism, two days ago ICE paid Clearview AI $224k for "clearview licenses".https://t.co/8XYzh9tlnJ pic.twitter.com/MiKDcVJeZ2
— Tech Inquiry (@tech_inquiry) August 14, 2020
Desde que The New York Times reveló el pasado 18 de enero sus actividades, Clearview AI parecía encontrarse en una mala situación, acusada de haber violado las reglas de la mayor parte de las plataformas y redes sociales al recuperar todas las fotos de sus usuarios. La sociedad se está viniendo abajo ahora por los procesos emprendidos por Estados, asociaciones y particulares de todo el mundo.
El dispositivo es de una simplicidad aterradora. Basta con tomar una foto a una persona con su smartphone y la aplicación busca las correspondencias en su gigantesca base de datos. Las imágenes encontradas por el algoritmo aparecen en el teléfono junto a los enlaces de las páginas donde han sido halladas. De esta forma, es posible saber en pocos segundos el nombre de una persona con la que nos cruzamos por la calle y toda la información disponible online sobre ella.
El código informático de la aplicación, analizado por The New York Times, incluye también partes escritas de un lenguaje de programación destinado a las gafas de realidad aumentada, similares al Google Glass. Hoan Ton-That, el fundador de Cleaview AI, ha confirmado que está interesado en este campo, pero que sólo se trata, por el momento, de un proyecto en estado de prototipo.
La eficacia de Clearview AI, descrita por los usuarios como temible, reside en un algoritmo de rendimiento extremo y un banco de imágenes que podría ser el más importante del mundo. Para constituir ese banco de imágenes, la sociedad ha violado claramente las reglas de utilización de casi todas las redes sociales, Facebook, Twitter, YouTube, LinkedIn...indexando la totalidad de fotos públicas colgadas por los usuarios.
La aplicación probada por un periodista de la CBS. Con alrededor de 3.000 millones de imágenes, esta base de datos podría ser ya siete veces más importante que la del FBI, y la cifra crece proporcionalmente al número de usuarios. Cuando uno de ellos toma una foto para verificar una identidad, la foto sube a los servidores de Clearview AI y pasa a engrosar su base de datos. La sociedad podría también haber comprado algunos bancos de imágenes. El 5 de marzo, la web OneZero reveló que Clearview AI se había jactado ante un cliente de querer adquirir la base de datos de mug shots del país, esas fotos que se toman durante una detención.
El primer cliente oficial de Clearview AI ha sido la policía de Indiana, que probó la aplicación en febrero de 2019. En su primer uso, permitió resolver en veinte minutos el caso de una pelea entre dos hombres en un aparcamiento en la que uno de los dos resultó herido de bala. Un transeúnte grabó el altercado y la imagen del sospechoso se cargó en la aplicación, encontrándose inmediatamente una correspondencia: un vídeo colgado en una red social en el que aparecía, junto a su nombre en los comentarios.
« No tenía carnet de conducir ni nunca había sido detenido, por lo que no estaba en ninguna base de datos del Estado », ha explicado a The New York Times Chuck Cohen, capitán de la policía de Indiana en el momento del experimento. Hoan Ton-That ha asegurado en un principio, durante una entrevista con la cadena Fox, que su aplicación estaba reservada « estrictamente a las fuerzas del orden » estadounidenses y canadienses. Pero en el mes de febrero, unos hackers consiguieron introducirse en sus servidores y copiar su lista de clientes. La lista ha sido consultada por la web BuzzFeed y demuestra que, aunque Clearview AI trabaja efectivamente con muchos servicios de policía, también ha ofrecido sus servicios a empresas y a particulares, a veces gratis, de todas partes del mundo.
« En realidad –afirma BuzzFeed– Clearview AI ha buscado clientes de manera agresiva en empresas relacionadas con el derecho, la venta al por menor, bancos y juegos de vídeo, y ha penetrado en mercados de Europa, América del Sur, Asia, Pacífico y Oriente Medio ». En total, la lista de clientes contiene el nombre de « 2.200 servicios de policía, agencias gubernamentales y sociedades privadas repartidas por 27 países ».
Entre ellas figuraban ya la Immigration and Customs Enforcement, así como las aduanas estadounidenses, la Customs and Border Protection (CBP), fuerza de policía encargada de la vigilancia de fronteras, la oficina del procurador del distrito sur de New York, más de 200 empresas entre las que se encuentran la cadena de almacenes Macy's y Walmart, casinos, salas de espectáculos, bancos, centros escolares, miembros del FBI, la Interpol y « cientos de departamentos de policía local ».
Además, Clearview AI ha hecho numerosas ofertas de pruebas gratuitas, generalmente de treinta días, no sólo a organizaciones sino a miembros de éstas que nunca han informado sobre su cargo. Así, mientras la policía de New York negaba en un primer momento haber recurrido a Clearview AI, la lista que BuzzFeed consiguió mostrar que unos treinta oficiales disponían de cuentas y habían realizado 11.000 búsquedas, la cantidad más importante de toda la lista.
Estas revelaciones le han costado a Clearview AI una avalancha de denuncias presentadas en Illinois, California, Virginia, Vermont y New York. En Chicago, una clienta de los almacenes Macy's también ha presentado una denuncia contra la dirección por haber usado la aplicación. En Reino Unido y en Australia las autoridades de protección de datos personales han abierto una investigación conjunta.
Preguntado sobre el asunto por diputados europeos, el Comité Europeo de Protección de Datos Personales (CEPD) ha anunciado que tiene « dudas sobre el hecho de que una ley de la Unión o de un Estado miembro proporcione una base legal para la utilización de un servicio como el que propone Clearview AI. Por consiguiente, en el estado actual de las cosas y con independencia de lo que determine una investigación actual o futura, no puede establecerse la legalidad de un uso tal por las fuerzas del orden de la UE ».
En Francia, la representante de una start-up estadounidense recurrió a la Comisión Nacional de Informática y de Libertades (CNIL). A mediados de julio fue presentada una denuncia por Zoé Vilain, abogada y presidenta en Europa de Jumbo Privacy, una sociedad que desarrolla una aplicación de seguridad de datos. « Nosotros queríamos poder representar a nuestros usuarios en sus peticiones de hacer respetar el RGPD », el reglamento europeo de protección de datos personales, explica Zoé Vilain a Mediapart.
Para ello, la abogada simplemente ha seguido el procedimiento de derecho de acceso que permite a todo ciudadano ser informado de cualquier dato que una empresa o un organismo tenga sobre él. La solicitud de acceso fue presentada en enero pero, durante varios meses, Clearview AI tardó en responder y, además, ha exigido a Zoé Vilain una foto suya o un extracto de su tarjeta de identidad. La abogada, ante el temor a alimentar la base de datos de la compañía con nuevas fotos, se negó en un principio pero finalmente aceptó entregarles una foto suya que encontró en Google.
Leer más
Tras un requerimiento enviado a finales de mayo, Zoé Vilain recibió finalmente una simple página con cuatro fotos y su origen. La primera era la que ella misma había enviado. La segunda estaba sacada de la web de su despacho. La tercera, más preocupante, había sido obtenida de una página de información británica que contenía un artículo sobre un curso que Zoé Vilain había hecho, pero que ya no está online. Además, la imagen original era una foto de grupo y Clearview AI había encuadrado la cara de la abogada. La cuarta foto era un error de algoritmo y había sido sacada de la cuenta de Instagram de otra persona.
Clearview AI preocupa también por su origen y por la opacidad que la sociedad ha mantenido sobre sus actividades. Su fundador sigue evasivo sobre sus orígenes y se contenta con decir que ha desarrollado este proyecto con otras dos personas, sin precisar su identidad.
La periodista de The New York Times que ha puesto el foco en este asunto, Kashmir Hill, cuenta en su artículo que, cuando empezó a investigar en noviembre de 2019, la sociedad solo disponía de una web con una sola página y la dirección de un lugar en Manhattan que ha resultado falso. En la red social LinkedIn aparecía un solo trabajador de Clearview, un tal John Good, responsable de ventas. En realidad era una identidad falsa tras la que se escondía Hoan Ton-That.
Durante varios meses, Kashmir Hill trató en vano de contactar con empleados de Clearview AI. La empresa, por su parte, parecía estar al corriente de su investigación. La periodista cuenta que, tras haber pedido a policías que probaran con ella la aplicación, tomándole una foto, éstos recibieron una llamada de la compañía preguntándoles si habían hablado con la prensa. Un tiempo más tarde, al hacer una nueva prueba, la periodista se dio cuenta de que habían desaparecido las fotos que el algoritmo había encontrado.