Aunque es casi seguro que la idea de Corsight AI no funcionará, es una señal reveladora de hacia dónde se dirige este campo. El producto se enfoca a clientes gubernamentales y policiales, con los riesgos éticos que eso comporta.
La filial de
reconocimiento facial de la empresa israelí de inteligencia artificial (IA)
Cortica, Corsight AI, pretende idear una solución para ese tipo de situación,
usando el ADN para crear un modelo de rostro que luego se podría pasar por un
sistema de reconocimiento facial. Pero se trata de una tarea que los expertos
en la materia consideran científicamente insostenible.
Corsight dio a
conocer su producto "DNA to Face" en una presentación del director
ejecutivo Robert Watts y el vicepresidente ejecutivo Ofer Ronen con la
intención de impresionar a los financieros en la Conferencia de Inversores de
Imperial Capital, en la ciudad de Nueva York (EE. UU.) el pasado 15 de
diciembre. Era parte del producto general de la hoja de ruta de la empresa, que
también incluía reconocimiento del movimiento y de la voz. La herramienta
"construye un perfil físico mediante el análisis del material genético
recogido en una muestra de ADN", según la presentación de la compañía para
el grupo de investigación de vigilancia IPVM, compartida con MIT Technology
Review.
Corsight rechazó
nuestra solicitud para responder a las preguntas sobre la presentación y la
hoja de ruta de su producto. Watts escribió en un correo electrónico: "No
nos estamos comunicando con la prensa en estos momentos, ya que los detalles de
lo que estamos llevando a cabo son confidenciales para la empresa".
Pero los materiales
de marketing muestran que la empresa se centra en las aplicaciones
gubernamentales y policiales de su tecnología. Su consejo asesor está formado
únicamente por el exdirector de la CIA James Woolsey y el exsubdirector del FBI
Oliver Revell.
Sin embargo, aún no
existe la ciencia necesaria para respaldar dicho sistema, y los expertos creen
que el producto intensificaría los problemas éticos, de privacidad y del sesgo
que ya causa la tecnología de reconocimiento facial. Lo que resulta más
preocupante aún es que esta idea representa una señal de las ambiciones de la
industria para el futuro, donde la detección de rostros se convierte en un
aspecto de un esfuerzo más amplio para identificar a las personas por cualquier
medio disponible, incluso los erróneos.
Este reportaje se ha
realizado junto al jefe de operaciones de IPVM, Don Maye, que asegura que "esta
presentación fue la primera vez que IPVM se enteró de que una empresa intentaba
comercializar un producto de reconocimiento facial asociado con una muestra de
ADN".
Corsight también ha
sido criticada en el pasado por exagerar en cuanto las capacidades y la precisión
de su sistema de reconocimiento facial, al que describe como el "sistema
de reconocimiento facial más ético para las condiciones más desafiantes",
según la presentación disponible online. En la demostración de tecnología para
IPVM que tuvo lugar en noviembre pasado, el CEO de Corsight, Watts, aseguró que
el sistema de reconocimiento facial de Corsight podía "identificar a
alguien con una mascarilla facial, y no con una mascarilla cualquiera, sino con
una máscara de esquí". IPVM informó que el uso de la IA de Corsight en un
rostro con mascarilla generó una puntuación de confianza del 65 %, que es la
medida de Corsight de la probabilidad de que el rostro capturado coincida en su
base de datos, y señaló que la máscara se describía con mayor precisión como un
pasamontañas o polaina de cuello, a diferencia de una máscara de esquí, que
tiene aperturas solo para la boca y los ojos.
Los problemas más
amplios con la precisión de la tecnología de reconocimiento facial han sido
bien documentados (incluso por MIT Technology Review). Resultan más fuertes
cuando las fotografías están mal iluminadas o tomadas en ángulos extremos, y
cuando los sujetos tienen la piel más oscura, son mujeres o son muy mayores o
muy jóvenes. Los defensores de la privacidad y la sociedad también han
criticado la tecnología de reconocimiento facial, en particular los sistemas
como Clearview AI que rastrean las redes sociales como parte de su motor de
encontrar las coincidencias.
El uso de la
tecnología por parte de las fuerzas del orden es particularmente tenso: Boston,
Minneapolis y San Francisco (todas en EE. UU.) son algunas de las muchas
ciudades que la han prohibido. Amazon y Microsoft han dejado de vender los
productos de reconocimiento facial a los grupos policiales, e IBM ha retirado
del mercado su software de reconocimiento facial.
"Pseudociencia"
El abogado de
derechos civiles y director ejecutivo del Proyecto de Supervisión de la
Tecnología de Vigilancia, Albert Fox Cahn, que trabaja mucho en los temas
relacionados con los sistemas de reconocimiento facial, opina: "A mí me
parece absurda la idea de que se podrá crear algo con el nivel de granularidad
y fidelidad necesario para realizar una búsqueda de coincidencias faciales. Eso
es pseudociencia".
La investigadora del
Grupo de Imágenes Computacionales del instituto nacional de investigación de
matemática e informática en los Países Bajos Centrum Wiskunde &
Informatica, Dzemila Sero, resalta que la ciencia para respaldar dicho sistema
aún no está lo suficientemente desarrollada, al menos no públicamente, y que el
catálogo de genes necesarios para generar representaciones precisas de rostros
a partir de las muestras de ADN está incompleto actualmente, según el estudio
de Human Longevity de 2017.
Además, distintos
factores como el medioambiente y el envejecimiento tienen efectos sustanciales
en los rostros que no se pueden capturar a través del fenotipo del ADN, y la
investigación ha demostrado que los genes individuales no afectan la apariencia
del rostro de una persona tanto como su género y la ascendencia. "Los
intentos prematuros de implementar esta técnica probablemente socavarían la
confianza y el apoyo a la investigación genómica y no generarían ningún
beneficio social", escribió Sero en un correo electrónico a MIT Technology
Review.
Sero ha estudiado el concepto
inverso del sistema de Corsight, 'rostro a ADN' en lugar de 'ADN a rostro',
comparando un conjunto de fotografías en 3D con una muestra de ADN. En un
artículo publicado en la revista Nature, Sero y su equipo informaron de tasas
de precisión entre el 80 % y el 83 %. Sin embargo, Sero considera que los
fiscales no deberían utilizar ese trabajo de su equipo como prueba
incriminatoria y que "estos métodos también plantean riesgos innegables de
mayores desigualdades raciales en la justicia penal, que justifican la
precaución contra la aplicación prematura de estas técnicas hasta que se
establezcan las garantías adecuadas".
Las fuerzas
policiales dependen de los conjuntos de datos de ADN, predominantemente del
sitio web gratuito de ascendencia GEDmatch, que fue fundamental en la búsqueda
del notorio asesino de Golden State. Pero incluso el muestreo de ADN, antes
considerado la única forma de evidencia forense científicamente rigurosa por el
Consejo Nacional de Investigación de EE. UU., ha sido criticado recientemente
por problemas de precisión.
Fox Cahn, que
actualmente ha demandado al Departamento de Policía de Nueva York para obtener
registros relacionados con el sesgo en el uso de la tecnología de
reconocimiento facial, cree que el impacto del hipotético sistema de Corsight
sería desastroso. "Analizando el impacto que esto va a tener, se amplía
cada caso de fracaso del reconocimiento facial", afirma Fox Cahn. "Es
fácil imaginar cómo esto se podría usar de formas realmente aterradoras y
orwellianas".
Fuente: newtechnologyreview.es
