Un 'deepfake' de un adolescente vapeador está en el centro de un caso de acoso, pero ¿y si no es falso?

Un 'deepfake' de un adolescente vapeador está en el centro de un caso de acoso, pero ¿y si no es falso?

Los expertos plantean dudas de que se haya utilizado inteligencia artificial para crear un video que la policía llama 'deepfake' y que está en el centro de una batalla legal en curso que se desarrolla en Pensilvania.

El incidente fue noticia internacional el mes pasado después de que la madre de una animadora de la escuela secundaria fuera acusada de manipular imágenes y videos en un esfuerzo por hacer que pareciera que los rivales de su hija bebían, fumaban y posaban desnudos.

Según los informes, la madre, Raffaela Spone, de 50 años, envió el contenido manipulado desde un número anónimo a tres porristas y sus entrenadores.

La Oficina del Fiscal de Distrito del Condado de Bucks, que acusó a Spone de tres cargos de acoso cibernético a un niño y tres cargos de acoso, hizo referencia al término deepfake al discutir las imágenes, así como un video que mostraba el vapeo de una de las presuntas víctimas.

Pero la acusación plantea serias dudas sobre la comprensión de las fuerzas del orden sobre la tecnología deepfake y la disposición de los medios de comunicación a repetir sus afirmaciones sin verificación.

Si bien los fiscales no han proporcionado detalles, herramientas diseñadas para hacer que las mujeres aparezcan desnudas en imágenes con la ayuda de inteligencia artificial (IA). existe . En cambio, es el supuesto video de vapeo lo que ha provocado un rechazo significativo de los expertos en deepfake.

Aunque el supuesto deepfake inicialmente no estaba disponible para el público, el mes pasado se proporcionó a NBC News una grabación de teléfono celular de otro dispositivo que reproducía las imágenes de vapeo después de que una de las presuntas víctimas se presentara.

Madi Hame, una animadora de 17 años del equipo Victory Vipers, negó a NBC News que las imágenes mostraran su vapeo. Hame dice que se enteró del video después de que fue enviado, supuestamente por Spone, a sus entrenadoras de porristas.

'Pensé que si lo decía, nadie me creería porque obviamente, hay pruebas, hay un video, pero obviamente ese video fue manipulado', dijo Hame a NBC News.

The Daily Dot se acercó a la madre de Hame, Jennifer, quien apareció junto a Hame en la entrevista de NBC News, para preguntar sobre el video de vapeo, pero no recibió una respuesta al cierre de esta edición.

Henry Ajder, un experto en medios sintéticos y deepfake con sede en el Reino Unido, fue uno de los primeros en plantear preguntas sobre el video de vapeo después de que ABC News emitiera un informe similar.

'Tenía mis reservas acerca de la historia de una madre que hace deepfakes a las porristas rivales de su hija', tuiteó Ajder el mes pasado. 'Uno de los videos publicados por ABC no parece ser un deepfake, pero aún así lo etiquetan como uno sin pruebas o análisis sustanciales'.

Otros expertos en deepfake parecen tener las mismas preocupaciones. El popular creador de deepfake conocido en línea por el apodo Dr. Fakenstein —Quien actualmente trabaja como artista de inteligencia artificial para el programa de comedia Justicia descarada desarrollado por los creadores de South Park, Trey Parker y Matt Stone, le dijo al Daily Dot que el video de vapeo no parecía haber sido generado artificialmente.

Específicamente, el Dr. Fakenstein señaló que el video carecía de ciertos fallos que casi siempre aparecen en deepfakes cuando un rostro es obstruido por otro objeto.

'Es difícil de ver, ya que es un video de un video, pero no me parece un deepfake', dijeron. 'La luz está cambiando como es natural, sin fallas donde la mano cubre la cara, sin fallas cuando la nube de vaporizador pasa frente a la cara, lo cual es muy difícil, si no imposible, de hacer sin fallas'.

The Daily Dot se acercó al Departamento de policía del municipio de Hilltown , que investigó y luego llevó a cabo el arresto contra Spone, para indagar sobre el video de vapeo.

El jefe de policía Christopher Engelhart declaró que creía que los documentos de acusación contra Spone no etiquetaban definitivamente el video como deepfake.

'Tengo entendido que fue catalogado como una tecnología deepfake o similar', dijo Engelhart.

En el Denuncia criminal contra Spone, el oficial de policía del municipio de Hilltown, Matthew Reiss, se refiere al video de vapeo como 'el trabajo de un programa que es o es similar a 'Deep Fakes''.

Cuando se le preguntó si el departamento había considerado la posibilidad de que el video de vapeo podría no ser un deepfake en absoluto, Engelhart declaró que no estaba seguro de si la terminología utilizada para describir el video había sido introducida por la presunta víctima o la policía.

Engelhart continuó afirmando que los investigadores habían realizado un análisis forense del video para determinar que había sido manipulado.

'La afirmación es que esa víctima no estaba vapeando', agregó Engelhart. 'La afirmación es que ella [Spone] fue capaz de manipular eso para que pareciera que estaba vapeando'.

Pero los expertos se muestran escépticos de que incluso los mejores creadores de deepfake puedan producir un video tan convincente, y mucho menos Spone. Cuando se le preguntó si la madre de 50 años había obtenido la ayuda de un creador de deepfake, Engelhart afirmó que, si bien es una posibilidad, no hay evidencia en este momento que indique que Spone tuviera un cómplice.

Derpfakes, otro conocido artista deepfake cuyas creaciones han cosechado millones de visitas en línea, también vieron el video de vapeo presentado por NBC News y le dijeron al Daily Dot que no podían decir con certeza que había sido manipulado.

'Me inclinaría por decir que es auténtico', dijo Derpfakes. 'Si se trata de un deepfake, entonces ciertamente se necesita un cierto nivel de habilidad en efectos visuales en lugar de un software deepfake listo para usar'.

Durante un conferencia de prensa El mes pasado, el fiscal de distrito del condado de Bucks, Matt Weintraub, pareció sugerir que el video de vapeo se basó en imágenes existentes de las cuentas de redes sociales de la víctima.

“Los videos o las imágenes ya existían de alguna forma y luego nuestra acusación, esto por supuesto está sujeto a prueba en el juicio, ella es inocente hasta que se demuestre su culpabilidad, pero nuestra acusación es que la Sra. Spone tomó imágenes existentes de las redes sociales existentes de estos tres las cuentas de redes sociales existentes de las víctimas y las manipuló ”, dijo Weintraub.

La declaración es similar a las afirmaciones hechas por Engelhart al Daily Dot de que Spone supuestamente usó videos legítimos como base para el deepfake. La policía no sabía si el rostro de la presunta víctima se agregó a un video de otra mujer joven vapeando o si se agregó digitalmente un bolígrafo vapeador y humo a un video legítimo de la presunta víctima.

Independientemente, los expertos se muestran escépticos de que cualquiera de los escenarios sea una representación precisa del metraje.

El destacado creador de deepfake conocido como Shamook , cuyos videos se han visto más de 21 millones de veces solo en YouTube, argumentó que aunque la resolución del video de vapeo es 'muy baja, es demasiado limpio para ser un deepfake'.

'Desde mi perspectiva, no es un deepfake', dijo Shamook al Daily Dot. 'El humo del vaporizador sería demasiado difícil de crear ... simplemente no puedo ver ninguna evidencia plausible de que sea un deepfake'.

Weintraub también declaró durante la conferencia de prensa que los investigadores determinaron que el video de vapeo había sido manipulado después de analizar sus 'metadatos', un término que se refiere a información incrustada en medios digitales que puede revelar cómo y cuándo se editó por última vez.

Pero después de contactar a Reiss, el oficial que investigó a Spone, el Daily Dot se enteró de que la policía nunca obtuvo el video original de vapeo. En cambio, como se vio en NBC News, la policía solo tuvo acceso a una grabación de teléfono celular tomada por Spone del video de vapeo que se estaba reproduciendo en un dispositivo separado. Por lo tanto, cualquier análisis de metadatos no incluiría información sobre el video fuente.

En respuesta a preguntas sobre cómo se pudo haber determinado que las imágenes de vapeo fueron manipuladas sin acceso al video original, Reiss argumentó que podía ver a 'simple vista' elementos que 'no tienen sentido'.

“La fuente de donde se le ocurrió a la Sra. Spone ese video sigue siendo una pregunta”, dijo Reiss. 'Y esperamos que la Sra. Spone durante el transcurso de la audiencia preliminar o el juicio nos ilumine en cuanto a cuál fue su fuente e intención'.

Reiss afirmó definitivamente que “se utilizó inteligencia artificial” en las fotos que hicieron que varias porristas aparecieran desnudas, lo que se alinearía con la tecnología actual diseñada para hacer precisamente eso. Pero la existencia de esas fotos alteradas, además de la negación de la presunta víctima con respecto a su aparente inclusión en el video de vapeo, parece ser la base completa para la creencia de que las imágenes fueron manipuladas, a pesar de que hasta ahora no hay evidencia técnica que respalde la afirmación. afirmar.

La palabra 'deepfake', como se menciona en los documentos de acusación, parece haberse convertido en un término general entre la policía, la oficina del fiscal de distrito y los medios de comunicación cuando se habla de cualquier contenido digital relacionado con el incidente.

La próxima audiencia judicial de Spone está programada para el 14 de mayo, donde Reiss dice que se hará pública más información sobre la investigación.

Si bien la nueva evidencia podría alterar el caso, la idea de que la policía pueda estar refiriéndose incorrectamente a un video auténtico como manipulado no está fuera de lo posible.

Aún más problemático, parece que ningún medio de comunicación intentó verificar que las imágenes de vapeo fueran en realidad una falsificación antes de transmitir el reclamo a millones de estadounidenses.

El posible paso en falso de los medios de comunicación y la posibilidad de que el sistema de justicia penal aplique incorrectamente las leyes contra los videos caracterizados erróneamente como deepfakes es lo que más preocupa a los expertos.

'Sin embargo, da miedo si no es un deepfake', agregó Shamook. 'Este podría ser el comienzo para que las personas puedan desacreditar la evidencia real simplemente diciendo 'deepfake''.

Dejando a un lado el video de vapeo, las otras acusaciones contra Spone, si son ciertas, siguen siendo tensas y aterradoras. Pero las secuelas del caso en su contra, si dependen incluso en parte de información inexacta, podrían tener ramificaciones peligrosas en el mundo de los medios manipulados (y no manipulados).


Las principales historias de tecnología de esta semana

'Cansado de ver a los criminales glorificados': policías de todo el país donan para recaudar fondos para el oficial que mató a Breonna Taylor
La FCC está bloqueada. ¿Cuándo finalmente arreglará Biden eso?
Los ladrones de memes F * ck Jerry se llevaron casi $ 1 millón en alivio del coronavirus
Bienvenido al mundo en constante expansión de las teorías de conspiración de pasaportes de vacunas
Un 'deepfake' de un adolescente vapeador está en el centro de un caso de acoso, pero ¿y si no es falso?
Inscribirse para recibir el Daily Dot Insider de Internet boletín de noticias urgentes de primera línea en línea.