Deepfakes 2.0: el aterrador futuro de la inteligencia artificial y las noticias falsas

Deepfakes 2.0: el aterrador futuro de la inteligencia artificial y las noticias falsas

Imagina verte en un video porno. Desnudo. Violado. Excepto que no recuerdas el acto, la habitación en la que te encuentras, la pareja con la que estás o la cámara filmando. Eso es porque realmente no sucedió, al menos no a ti.

O imagina verte en un video diciendo cosas que nunca antes habías dicho, cosas controvertidas, el tipo de cosas que podrían costarte tu trabajo o alejarte de tu familia y amigos. La voz que escuchas es definitivamente tuya, y también lo son los giros de frase, pero no recuerdas lo que se dice y estás horrorizado por lo que escuchas.

Tales son las posibilidades desatadas por programas notorios como FakeApp, que han permitido a los malos actores superponer el rostro de víctimas desprevenidas al cuerpo de otra persona, invitando a una ráfaga predecible de pornografía de celebridades falsas. Los videos se llaman deepfakes, y aunque se ha dicho mucho sobre los peligros que imponen, los problemas reales son mucho más amplios de lo que te imaginas.

Los deepfakes son solo el primer paso en una cadena de desarrollos tecnológicos que tendrán un fin distinto: la creación de clones de IA que se ven, hablan y actúan como sus plantillas. Usando redes neuronales y programas de aprendizaje profundo, estos clones existirán primero en video y en mundos virtuales. Ya sea que esté involucrado a sabiendas o no, proporcionarán reproducciones precisas de sus expresiones faciales, acento, gestos del habla, lenguaje corporal, gestos y movimientos, yendo más allá del simple trasplante de rostros para ofrecer imitaciones completas y multidimensionales.

En un futuro más lejano, estos avances en el aprendizaje automático se combinarán con los avances en robótica, lo que permitirá que los robots físicos asuman por completo la forma y el comportamiento de seres humanos particulares, tanto vivos como muertos. En el proceso, la naturaleza de la individualidad y la personalidad se verá alterada, a medida que nos encontremos viviendo junto a nuestros propios clones y apoderados, que actuarán en nuestro nombre como versiones alternativas de nosotros mismos.

Esto no esWestworldciencia ficción. Ya está empezando a suceder.

emma watson deepfake falso video porno
Un video deepfake de Emma Watson

Un solo paquete

En términos de imitar a personas específicas a un nivel no cognitivo, la tecnología de IA está cerca de poder producir clones virtuales convincentes. 'La expresión facial, la voz y los movimientos corporales son tres ejemplos de lo que la IA podría hacer hoy, suponiendo que tengamos el tipo y la cantidad de datos correctos', explica Hussein Abbass, profesor de la Universidad de Nueva Gales del Sur, cuya investigación cubre tales áreas como la inteligencia artificial y el procesamiento de imágenes, la robótica inteligente y la interacción persona-computadora. 'La tecnología necesita algunas mejoras, pero ya se ha demostrado la viabilidad de los principios'.

Como ejemplo de cómo las redes neuronales y el aprendizaje profundo ya pueden hacer más que simplemente copiar la cara de alguien, investigadores de la Universidad de California en Berkeley recientemente desarrollado un programa que puede aprender los movimientos de baile de una persona y copiarlos a otra. Si bien los investigadores tuvieron que modelar los cuerpos de ambos individuos como figuras de palo en los videos que produjeron, su trabajo ilustra cómo la IA ya puede aprender y reproducir movimientos humanos complicados.

Como señala Abbass, dicha reproducción 'es diferente de imitar la cognición, que representa los procesos mentales que generaron la conducta'. Aún así, Abbass cree que la capacidad de imitar el comportamiento interno y externo producido por una persona en particular podría estar tan cerca como en una década. “Tenemos algunas historias de éxito en contextos limitados en esta dirección hoy, pero predigo que pueden pasar de 10 a 20 años más antes de que alcancemos el punto de inflexión necesario para que las tecnologías de IA converjan a un estado en el que una IA distribuida masivamente parece ser indistinguible de un ser humano en la forma en que actúa y se comporta '.

La IA también puede imitar voces humanas individuales con un alto nivel de precisión. En febrero, la empresa de tecnología china Baidu Anunciado que había desarrollado un programa de aprendizaje profundo que puede reproducir la voz de cualquier persona después de escucharla durante solo un minuto, mientras que una startup con sede en Montreal llamada Lyrebird se hizo publico con una hazaña similar en abril de 2017. E igualmente impresionante, Luka, con sede en San Francisco, lanzó un chatbot llamado Réplicas el año pasado que aprende de los patrones de habla del usuario (o más bien, del texto) para producir un doble conversacional de ellos.

La pregunta es, ¿se pueden combinar todos estos avances en el aprendizaje automático en un solo programa de inteligencia artificial que, ya sea en videos o en un mundo virtual, actúe como un clon increíblemente realista de un usuario o un sujeto involuntario?

'Es difícil de predecir', dice Bryan Fendley, experto en inteligencia artificial educativa y director de tecnología educativa y servicios web en la Universidad de Arkansas en Monticello. “La IA puede ser muy adecuada para imitar comportamientos humanos como el habla, la escritura a mano y la voz. Algún día incluso podemos ponerlo todo junto en un solo paquete que puede pasar como un tipo de clon. ...

“Veo a muchos expertos arrojando números para predicciones de IA que están dentro de 20 años. Creo que se está moviendo más rápido que eso '.

Copias al carbón

En las próximas dos décadas, la tecnología de inteligencia artificial avanzará hasta el punto en que serán posibles varias cosas. Por un lado, las personas probablemente tendrán acceso a productos y servicios que les permitirán crear clones de ellos mismos y sus amigos y familiares para su propia diversión (o terapia ). Dichos clones serán accesibles a través de interfaces digitales o mundos de juegos virtuales para que se pueda interactuar con ellos como si fueran reales.

“Sí, dentro de 10 años aproximadamente, la combinación de tecnología tipo chatbot y tecnología de estilo deepfake podrá generar una interacción audiovisual plausible a través de una tecnología estilo Skype que uno podría creer que es una persona real, al menos para un período corto ”, dice Nell Watson, experta en inteligencia artificial y miembro del cuerpo docente del departamento de inteligencia artificial y robótica de la Singularity University.

Watson reconoce que todavía se necesitan avances considerables antes de que los clones de personas con IA realmente convincentes se conviertan en una característica habitual del panorama tecnológico. No obstante, cree que será más sencillo producir reproducciones de celebridades basadas en inteligencia artificial.

“Un aspecto importante es la necesidad de contar con buenos datos de entrenamiento para trabajar”, ​​dice. “Para una celebridad, esto es bastante fácil, dada la variedad de apariciones en películas y televisión, entrevistas, etc.… En el videojuegoDeus Ex Invisible War, hay un personaje, NG Resonance, con el que el jugador puede interactuar en varios quioscos en clubes nocturnos, etc. Este personaje está impulsado por IA pero está basado en una estrella humana real ... Es probable que veamos interacciones similares con IA pseudo-real -personajes con poder, versiones virtuales de héroes y villanos históricos que pueden poblar lugares temáticos (por ejemplo, Hard Rock Café o un restaurante con temática americana, tal vez) '.

Por el contrario, Watson advierte que la clonación de individuos no famosos será considerablemente más difícil, pero no imposible. “Reproducir a un individuo privado será un desafío en comparación, excepto con su cooperación deliberada. En la actualidad, existen tecnologías que pueden capturar modelos 3D fácilmente a partir de imágenes fijas o videos en 2D y replicar el acento y la prosodia, por lo que replicar la personalidad y una 'chispa de vida' plausible será el mayor desafío '.

Aun así, es evidente que esos videos y simulaciones son posibles con suficientes datos, y en una era de big data y omnipresentes redes sociales, sería ingenuo descartarlos por completo. Y suponiendo que se puedan recopilar subrepticiamente suficientes datos personales, los clones podrían usarse de la misma manera que los videos porno deepfake se usan para humillar a varias personas ahora, aunque con una gama más convincente y extensa de habilidades imitadas.

Deepfakes: porno personalizado de celebridades falsas con Emma Watson.
Otro video deepfake de Emma Watson

Envía los clones

El Dr. David Levy no solo cree que los clones de IA llegarán en las próximas dos décadas, sino que también habrá un mercado de consumidores considerable para ellos.

“Dentro de 20 años habrá una colección de tecnologías disponibles que permitirán a las empresas producir robots a semejanza de cualquier ser humano”, dice Levy, un maestro de ajedrez internacional que combinó su amor por el ajedrez con su interés por las computadoras para forjar un último. -Día de carrera como autor y experto en IA.

En un clima definido por videos pornográficos deepfake, tal predicción podría ser motivo de preocupación para muchos, dado el enorme potencial de abuso. Pero, Levy, el autor de Amor y sexo con robots , cree que los clones de robots tendrán varios usos legítimos.

“Una idea es que será posible crear un robot a semejanza de un ser querido que falleció. Entonces, si estás casado con alguien durante 50 años y muere, puedes tener una réplica de ellos ', dice. (Esto puede ser en parte una referencia a Biná48 , un robot construido por David Hanson de Hanson Robotics y la fama de Sophia en 2010 y basado en el 'clon de la mente', es decir, grabaciones de audio, de Bina Rothblatt, cofundadora fallecida del movimiento transhumanista Terasem.)

Otra función de los clones robóticos basados ​​en IA es la de proxy o sustituto (principalmente) de las celebridades. A modo de ejemplo, Levy citó a Hiroshi Ishiguro, quien programado una versión androide de sí mismo para dar conferencias en su nombre. 'Ya existe un acuerdo comercial en virtud del cual Stormy Daniels está haciendo que una empresa de ese negocio haga su semejanza en un robot sexual', dice, refiriéndose a un acuerdo de licencia firmado en junio entre la actriz pornográfica y el fabricante de robots sexuales Realdoll, con sede en California.

Levy admite que tales acuerdos de licencia ciertamente no serán la taza de té de todas las celebridades. “Pero igualmente en el mundo real de los negocios y las personas que intentan ganar dinero, creo que algunas personas famosas pensarán: 'Es una buena idea'. Es un poco como una versión en 3D de enviar una fotografía de alguien. Creo que ese será otro uso importante de estas tecnologías ”.

La necesidad de pautas éticas claras

Por supuesto, algunos expertos creen que tendremos que esperar mucho más para obtener doppelgangers realmente convincentes.

'La imitación simple llevará unos pocos años más', dice Toby Walsh, profesor de ciencias e ingeniería de la computación en la Universidad de Nueva Gales del Sur. “Pero para pasar como humano, esta es la Prueba de Turing. Pasarán 50, 100 o incluso más años antes de que las computadoras puedan igualar todas nuestras capacidades '.

Hussein Abbass es aún más conservador en su estimación de cuándo surgirá una IA indistinguible, incluso si está de acuerdo en que los clones de IA virtual comparativamente realistas están a solo una o dos décadas de distancia. “[L] os desafíos no son solo los de la IA. A veces, los desafíos son restricciones mecánicas en el cuerpo del robot y, a veces, son los materiales utilizados para producir, por ejemplo, la cara del robot, donde estos materiales no tienen una textura natural o la elasticidad para hacer una imitación adecuada ', dice. 'Pueden pasar siglos antes de que podamos tener esta misma IA en un robot de tamaño humano sin depender de ninguna conexión externa a través de Internet'.

Los investigadores no saben cuándo podrá caminar por la calle con su clon, pero ha llegado el momento de decidir cómo manejarnos y protegernos contra esos medios.

“A menos que la comunidad continúe presionando para establecer pautas éticas claras y límites para el uso de la inteligencia artificial, será inevitable ver un escenario futuro en el que las personas aparezcan en videos haciendo cosas que no hicieron en la realidad”, advierte Abbass. 'Es probable que esto comience como aplicaciones divertidas, pero luego la situación puede cambiar muy rápidamente'.

Otros expertos coinciden en que las consecuencias de los imitadores de la IA completamente realizados serán mixtas, con algunos resultados novedosos y entretenidos, y otros más perturbadores. 'Tendremos actores fallecidos en las películas de Hollywood', dice Toby Walsh. 'Y la política se verá muy preocupada por videos falsos de políticos diciendo cosas que nunca dijeron'.

Dado el exceso de noticias falsas que ya circulan, es posible que la existencia de deepfakes convincentes, clones virtuales e incluso clones de robots solo empeore la situación. De hecho, si no va acompañado de un cambio radical en la forma en que evaluamos críticamente los medios, solo podría reforzar la tendencia actual hacia la polarización política, en la que habitamos cada vez más las burbujas de filtro que confirman nuestros sesgos y prejuicios.

“La línea entre lo que es real y lo que no es real está cambiando”, concluye Fendley. “Nuestra fortaleza mental para resistir a colocar rasgos humanos en robots y no caer bajo la influencia de cosas que sabemos que no son reales, finalmente fracasará. Nos sentiremos más cómodos viviendo en una realidad alterada junto a robots y poderosas IA '.