El gigante de las redes sociales se compromete a invertir 10 millones de dólares en combatir los deepfakes.
Los deepfakes se han convertido en tema de debate. Estos vídeos falsos, manipulados mediante Inteligencia Artificial para generar la ilusión de que una persona dice o hace algo que en realidad no fue así, tienen una clara utilidad para el entretenimiento y el humor. Pero también pueden ser potencialmente peligrosos para la esfera pública, al permitir que las noticias falsas (fake news) tomen una apariencia todavía más real.
Estos deepfakes se distribuyen como la pólvora en redes sociales; por ello, Facebook se ha asociado con Microsoft para combatir este problema. La mayor red social mundial invierte 10 millones de dólares en lo que ha denominado «Deepfake Detection Challenge«, o Reto de Detección de Deepfakes, investigando para detectar más fácilmente estas falsificaciones.
El proceso, sin embargo, consistirá precisamente en crear deepfakes. Un grupo de investigadores producirá vídeos falsos muy realistas para generar un buen volumen de datos sobre el que probar las herramientas de detección que tienen actualmente.
Facebook ha señalado en un comunicado que contratará actores que den su consentimiento para el uso de su imagen con este fin. Después, un grupo de desarrolladores trabajará en mejorar las plataformas de detección de vídeos manipulados.
Una amenaza para la información global
Esta decisión coincide con la proximidad de las elecciones presidenciales de Estados Unidos, que se celebrarán en noviembre de 2020, ya que se considera que este tipo de vídeos puede influir negativamente en la capacidad de los ciudadanos para informarse correctamente.
El peligro de los deepfakes en un contexto político se puso sobre la mesa con un vídeo viral en el que «Obama» explica precisamente la amenaza que suponen este tipo de vídeos. Utilizando esta tecnología, Buzzfeed y Monkeypaw Productions explican lo sencillo que es hacer que el expresidente de los Estados Unidos insulte al presidente actual, Donald Trump, o diga palabras malsonantes.
Este Reto de Detección de Deepfakes no es la única apuesta de Facebook por luchar contra la amenaza de la desinformación. El pasado verano se exigió a varias compañías, entre las que se incluían Facebook, Twitter y Google, transparencia con respecto a sus acciones contra las noticias falsas, y Facebook ya declaró que tenía un presupuesto de 7,5 millones de dólares destinados a ese fin.
