Facebook prohíbe los deepfakes, pero no los cheapfakes o shallowfakes

Facebook ha prohibido algunos vídeos manipulados, pero solo los que están hechos con tecnologías sofisticadas, como la inteligencia artificial (IA), de una manera que una persona normal no detectaría fácilmente.

Lo que no prohíben son vídeos hechos con un simple software de edición de vídeo, o lo que los investigadores de la desinformación llaman “cheapfakes” o “shallowfakes”.

La nueva política

Facebook presentó su nueva política en una entrada de su blog oficial el lunes. Monika Bickert, vicepresidenta de gestión de políticas globales de la empresa, dijo que si bien estos vídeos aún son raros, presentan “un desafío importante para nuestra industria y sociedad a medida que aumenta su uso”.

Mencionó que en el futuro, Facebook eliminará los “medios manipulados engañosos” que han sido “editados o sintetizados” más allá de pequeños ajustes de claridad / calidad, de manera que una persona normal no puede detectar y que representaría a los sujetos diciendo palabras convincentes que en realidad no pronunciaron.

Otro criterio para la eliminación son las técnicas de edición sofisticadas, cuando un vídeo es “el producto de la inteligencia artificial o el aprendizaje automático que combina, reemplaza o superpone contenido en un vídeo, haciéndolo parecer auténtico”.

Los deepfakes de pornografía no consensuada representaban el 96% del número total de vídeos deepfake en línea en el primer semestre de 2019, según Deeptrace, una empresa que utiliza el deeplearning y la visión artificial para detectar y monitorearlos.

En lo que respecta a la política de Facebook, son redundantes. La plataforma ya prohíbe la desnudez adulta y la actividad sexual.

Facebook utilizará su propio personal, así como verificadores de hechos independientes, para juzgar la autenticidad de un vídeo.

Facebook dice que no eliminará el cheapfake de Pelosi

Dada la libertad que la nueva política otorga a la sátira, la parodia o los vídeos alterados con tecnologías simples / baratas, podría significar que algunas falsificaciones baratas bastante infames y ampliamente compartidas no serán prohibidas y se permanecerán en la plataforma.

Lo cual, como señala el Washington Post, podría significar que un vídeo que, por ejemplo, se ralentizó en un 75%, como fue el que hizo que la presidenta de la Cámara de Representantes, Nancy Pelosi, pareciera borracha o enferma, no sea eliminado.

De hecho, Facebook confirmó a Reuters que el shallowfake de Pelosi no irá a ninguna parte. A pesar de las críticas a Facebook por negarse a eliminar el vídeo, que se volvió viral después de ser publicado en mayo de 2019, Facebook dijo en un comunicado que no cumplía con los estándares de la nueva política, ya que no fue creado con AI:

El vídeo manipulado de Pelosi no cumple con los estándares de esta política y no se eliminará. Solo se eliminarán los vídeos generados por la inteligencia artificial para representar a las personas que dicen cosas ficticias.

Drew Hammill, subdirector de personal de Pelosi, criticó la nueva política de Facebook y dijo que no acierta a la hora de abordar las noticias falsas.

[TUIT: https://twitter.com/Drew_Hammill/status/1214569144844201984%5D

Facebook tampoco parece estar listo para censurar cheapfakes que son el resultado de imágenes mal etiquetadas, diálogos entrecortados o citas sacadas de contexto. La semana pasada, vimos un ejemplo: un vídeo muy editado que hizo que el candidato presidencial Joe Biden saliera como un nacionalista blanco. El vídeo se volvió viral el jueves, y se informó que al menos un tuit fue retuiteado más de 1 millón de veces.

El martes, Bill Russo, ex portavoz de Joe Biden en 2020, calificó la nueva política como una “ilusión de progreso”. El Post lo citó:

La política de Facebook no llega al tema central de cómo se utiliza su plataforma para difundir la desinformación, sino más bien si esa desinformación se crea de una manera suficientemente profesional.