13 de septiembre de 2019

FACEBOOK. Se toma en serio la plaga de 'deepfakes' y toma medidas para combatirlos

La red social creará sus propias ultrafalsificaciones y las usará para desarrollar sistemas capaces de detectarlas automáticamente. Cada vez más empresas, políticos y expertos alertan del enorme problema que supondrán cuando se masifiquen, ya que incluso podrían usarse para el acoso escolar
Facebook teme que los vídeos "deepfake", o ultrafalsificaciones, generados con inteligencia artificial (IA) se conviertan en la próxima gran fuente de desinformación viral, propagándose entre sus usuarios con consecuencias potencialmente catastróficas para las próximas elecciones presidenciales de Estados Unidos.
¿Su solución? Crear muchos deepfakes propios para ayudar a los investigadores a elaborar y perfeccionar herramientas de detección.
La red social ha pedido a su equipo de investigadores de IA que produzca una serie de vídeos ultrafalsos muy realistas con actores haciendo y diciendo cosas rutinarias. Estos contenidos servirán como conjunto de datos para probar y comparar distintas herramientas de detección de deepfakes. Facebook presentará sus deepfakes en una gran conferencia de inteligencia artificial a finales de este año.
El aumento de los deepfakes ha estado impulsado por algunos recientes avances del aprendizaje automático. Los estudios de cine llevan mucho tiempo manipulando imágenes y vídeos con software y ordenadores, y ya utilizaban algoritmos capaces de capturar y recrear la imagen de una persona para elaborar herramientas para colocar la cara de una persona sobre el cuerpo de otra.
Existen métodos para detectar estas falsificaciones, pero suelen requerir un minucioso análisis de expertos. Sin embargo, las herramientas para detectar ultrafalsificaciones de forma automática todavía están en desarrollo.
El CTO de Facebook, Mike Schroepfer, afirma que los deepfakes están evolucionando muy deprisa, así que resulta vital idear mejores formas de descubrirlas o bloquearlas. El experto detalla: "Todavía no figura como un gran problema en nuestras plataformas, pero supongo que si vuelven más baratos, más fáciles y más rápidos de crear, el riesgo de que se use de manera maliciosa aumentará claramente. No me gustaría que se convierta en un problema masivo porque no hayamos invertido suficiente en I+D".
Al comparar esta iniciativa con la pasada lucha contra los correos basura (spam), Schroepfer destaca que Facebook quizás no sea capaz de identificar los deepfakes más sofisticados. El responsable señala encontrarán "las obvias", pero subraya que Facebook aún no está usando ninguna estrategia concreta porque las ultrafalsificaciones están mejorando muy rápido.
Fuente: MIT Technology Review