La red
social creará sus propias ultrafalsificaciones y las usará para desarrollar sistemas
capaces de detectarlas automáticamente. Cada vez más empresas, políticos y
expertos alertan del enorme problema que supondrán cuando se masifiquen, ya que
incluso podrían usarse para el acoso escolar
Facebook
teme que los vídeos "deepfake", o ultrafalsificaciones, generados con
inteligencia artificial (IA) se conviertan en la próxima gran fuente de
desinformación viral, propagándose entre sus usuarios con consecuencias
potencialmente catastróficas para las próximas elecciones presidenciales de
Estados Unidos.
¿Su
solución? Crear muchos deepfakes propios para ayudar a los investigadores a
elaborar y perfeccionar herramientas de detección.
La red
social ha pedido a su equipo de investigadores de IA que produzca una serie de
vídeos ultrafalsos muy realistas con actores haciendo y diciendo cosas
rutinarias. Estos contenidos servirán como conjunto de datos para probar y
comparar distintas herramientas de detección de deepfakes. Facebook presentará
sus deepfakes en una gran conferencia de inteligencia artificial a finales de
este año.
El aumento
de los deepfakes ha estado impulsado por algunos recientes avances del
aprendizaje automático. Los estudios de cine llevan mucho tiempo manipulando
imágenes y vídeos con software y ordenadores, y ya utilizaban algoritmos
capaces de capturar y recrear la imagen de una persona para elaborar
herramientas para colocar la cara de una persona sobre el cuerpo de otra.
Existen
métodos para detectar estas falsificaciones, pero suelen requerir un minucioso
análisis de expertos. Sin embargo, las herramientas para detectar
ultrafalsificaciones de forma automática todavía están en desarrollo.
El CTO de
Facebook, Mike Schroepfer, afirma que los deepfakes están evolucionando muy
deprisa, así que resulta vital idear mejores formas de descubrirlas o
bloquearlas. El experto detalla: "Todavía no figura como un gran problema
en nuestras plataformas, pero supongo que si vuelven más baratos, más fáciles y
más rápidos de crear, el riesgo de que se use de manera maliciosa aumentará
claramente. No me gustaría que se convierta en un problema masivo porque no
hayamos invertido suficiente en I+D".
Al comparar
esta iniciativa con la pasada lucha contra los correos basura (spam),
Schroepfer destaca que Facebook quizás no sea capaz de identificar los
deepfakes más sofisticados. El responsable señala encontrarán "las
obvias", pero subraya que Facebook aún no está usando ninguna estrategia
concreta porque las ultrafalsificaciones están mejorando muy rápido.
Fuente: MIT Technology Review