"Deepfake", la tecnología de IA y su aplicación en diversas industrias
En medio del desarrollo de los chatbots de inteligencia artificial (IA) que han mejorado a pasos agigantados después de que el mundo entra en la era de Internet llena de información. Otro potencial de la IA a tener en cuenta es el desarrollo del vídeo y el audio, que ha evolucionado hasta el punto de que ahora puede crear vídeos que imitan las acciones de personas que se oponen a la realidad, o "deepfakes" (también conocidos como Humanos Digitales, Avatares de IA y Clones de IA).
La definición de dicha tecnología es bastante sencilla, cuando la IA simula un video de una persona para actuar o decir algo de acuerdo con un mensaje que el usuario desea, cuando en realidad la persona no tiene que hacer tal acción.
Por ejemplo "Abeja el ska" publicó un video de sí misma mezclada con la cara de "Pimry Pie" para vender cosas en vivo a través de la tecnología Deepfake de Wilson. El software ha generado una sorprendente cantidad de comentarios positivos sobre el desarrollo de la IA.
O en el sector empresarial. SCBX Sociedad Pública Limitada Uso de IA generativa para preparar contenido y videos para ser presentados a los accionistas por la Compañía. Utiliza un modelo de lenguaje grande (LLM) para entrenar secuencias de reuniones históricas y, a continuación, instruye a la IA para que escriba el guión de la última reunión.
Además, el sistema utiliza video generativo para enseñar a la IA a comprender el formato de presentación de video de la junta de accionistas anterior, y luego el sistema crea un video de la última declaración de resultados comerciales.
Pasos para crear un Deepfake
Sin embargo Hay muchas formas de crear un deepfake, pero la más común es utilizar redes neuronales profundas que utilizan la técnica de intercambio de rostros, o en pocas palabras, el usuario debe tener un "video objetivo" como base para el deepfake, y luego compilar un videoclip de la persona que desea insertar en el video objetivo.
Mientras que el video objetivo puede ser un clip de una película de Hollywood o un video de la persona a la que desea insertar su rostro en la película, o puede ser un clip aleatorio descargado de cualquier plataforma de video.
Más tarde, la IA de cada programa predecirá el aspecto de una persona desde muchos ángulos y condiciones disponibles. Luego, el sistema emparejará a la persona con otra persona en el video de destino encontrando las mismas características y creando el video deepfake que el usuario desea.
Además, los desarrolladores han intentado añadir otro tipo de aprendizaje automático*, las Redes Generativas Adversarias (GAN)*, que detecta y mejora cuidadosamente los fallos que se producen en los vídeos deepfake, lo que dificulta el desciframiento de los detectores de suplantación de vídeo.
Aunque todo el proceso de creación suena complicado, el software actual es bastante fácil de usar y muchas aplicaciones actuales pueden crear deepfakes con solo unos pocos clics, como las aplicaciones de China, Zao, DeepFace Lab, FakeApp, Face Swap, Heygen, D-ID, StableDiffusion, etc. Deepfake-as-a-Service ของ Tencent Se puede encontrar mucho más software deepfake en GitHub, una comunidad de desarrolladores de código abierto.
Beneficios de la tecnología Deepfake
1. Doblaje y traducción
La tecnología Deepfake también se puede utilizar para beneficiar a muchas otras industrias, por ejemplo, los usuarios utilizan la tecnología Deepfake para crear videos de David Beckham. Alza la voz a favor de una campaña para poner fin a la malaria en โครงการ "La malaria debe morir En el video, Beckham habla el guión de la campaña en nueve idiomas con una forma de boca que se mueve perfectamente en armonía con cada idioma hablado.
El vídeo de Beckham demuestra el potencial del uso de la tecnología Deepfake para el doblaje de películas. La manipulación del movimiento facial de un actor puede hacer que parezca que está diciendo una frase que no dijo en la vida real.
Más importante aún, este concepto se puede ampliar mediante el uso de IA para controlar la voz de un actor en varios idiomas en lugar de la voz en off habitual, lo que lo hará más interesante porque la voz de la persona es original.
Es importante destacar que ahora existe tecnología para gestionar la voz, por ejemplo, Lyrebird AI que utiliza la IA para clonar el habla humana. Junto con la tecnología de Deepfake, el resultado es una "herramienta de voz en off" con un enorme potencial dependiendo del idioma preferido del usuario.
2. Industria cinematográfica
La producción de video tradicional a menudo implica el trabajo pesado de crear escenas reales, lo que cuesta dinero en materiales. Pero al usar la tecnología Deepfake para efectos visuales, los cineastas pueden crear fácilmente escenas y fondos virtuales. La tecnología ayudará a los cineastas a cambiar de fondo y adaptarse a diferentes guiones sin problemas de transporte. Mano de obra o costos adicionales
Además, la tecnología Deepfake permite a los cineastas imaginar nuevas situaciones con actores que ya no pueden volver al cine. Por ejemplo, una aparición sorprendente. de Luke Skywalker En el final de la segunda temporada de The Mandalorian, lo que provocó que la base de fans inundara uno tras otro.
Es importante destacar que la tecnología de inteligencia artificial ahora puede crear Un clon de un famoso actor de Hollywood. O incluso esbozar un clon digital de una persona de forma ordenada a través del almacenamiento original de la persona en cuatro pasos: grabación de audio, grabación de audio y clonación digital. Con una herramienta de escaneo digital como "Dorothy", los originales se pueden combinar con el video de destino y crear en varios caracteres.
Más importante aún, esta cámara de 360 grados captura imágenes de los rostros de las personas en casi todas las posturas, ya sea sonriendo, abriendo la boca, metiendo la lengua o girando los ojos de un lado a otro para que el video deepfake sea lo más virtual posible, y cada palabra que dice el clon se mueve con la forma de boca correcta.
3. Líderes de opinión (KOL)
Los líderes de opinión de la tecnología Deepfake son muy útiles, especialmente en términos de comunicación directa según los scripts diseñados por los desarrolladores, así como de reducción de costos de personal, y pueden trabajar las 24 horas del día.
Un ejemplo interesante es la tecnología de Deepfake. Xiaoice Todos estos KOL deepfake han contribuido a hacer que el sector empresarial sea más eficiente al reducir los costos de la empresa y crear reconocimiento de marca a través de líderes de opinión que no tienen la oportunidad de cambiar de trabajo o ser comprados como personas reales.
4. Educación
En 1963, el presidente John F. Kennedy se dirigía a dar un discurso en Dallas, Estados Unidos. Después de todo, Kennedy no pronunció el discurso que había preparado. Sin embargo, con la tecnología moderna y el desarrollo de la IA, hoy podemos escuchar la declaración de Kennedy. El equipo de CereProc analizó 831 grabaciones de sus discursos para "crear una voz de Kennedy".
El sonido se divide en 116.177 unidades de sonido, lo cual es bastante desafiante porque los sonidos grabados se crean en diferentes tipos de dispositivos en diferentes momentos. Pero al final, CereProc pudo usar la IA para crear completamente la voz realista de Kennedy.
Por ejemplo, los desarrolladores pueden crear nuevos videos de figuras históricas para contar sus propias historias, por ejemplo, el año pasado, el Museo Estatal de Illinois y el Centro para el Estudio del Holocausto exhibieron un holograma giratorio de 15 sobrevivientes del Holocausto. Los visitantes tienen la oportunidad de hacer preguntas a los hologramas de los supervivientes. Del video original de una cámara esférica que grabó entrevistas con los sobrevivientes, cada una de las cuales tardó 5 días en filmarse.
5. Negocios
El sector empresarial es uno de los mayores beneficiarios de la tecnología Deepfake, un ejemplo notable de ello es la introducción de la IA generativa en la última junta de accionistas de SCBX.
Sin embargo, todavía hay muchos ejemplos del uso de la tecnología Deepfake en el sector empresarial. Heygen, una plataforma de creación de avatares de IA Por ejemplo, el uso de avatares de IA para informar sobre los resultados empresariales, el uso de la tecnología de avatares para formar a nuevos empleados o la creación de vídeos para vender trabajos a los clientes, etc. La ventaja de dicha tecnología es que se crean cientos o miles de videos para los clientes a la vez con solo unos pocos clics.
Un ejemplo del uso de la IA en el sector empresarial hoy en día se encuentra en medio de una sociedad cada vez más aislada. Por lo tanto, en los últimos años, las aplicaciones de citas se han vuelto cada vez más populares. Cuando se combinó el concepto de una aplicación de citas con la tecnología Deepfake, nació. Candy.ai Una plataforma que simula un avatar para que los usuarios hablen con la IA como si fueran amigos o amantes. Si la tecnología se desarrolla más en el futuro, los usuarios podrán realizar llamadas por voz o a través de videollamadas con avatares de IA que los usuarios quieran y que sean más virtuales.
Además, las empresas que ganan dinero a través de la enseñanza o la capacitación pueden tomar videos deepfake e ingresar comandos y crear videos instructivos sin la necesidad de grabar los videos ellos mismos en el estudio. "Chance el rapero" que vinieron a enseñar a la audiencia sobre el trabajo de la inteligencia artificial profunda.
El lado oscuro de los deepfakes
Sin embargo, aunque esta tecnología ha creado beneficios para muchas industrias y empresas, por otro lado, la tecnología deepfake se ha utilizado para crear muchos problemas. Por ejemplo, los estafadores utilizan esta tecnología para crear vídeos o clones de audio de expertos en stock en Tailandia. Uno de ellos es el "Dr.
Niwet Mewachirawarakorn" y luego engañó al público en general para que invirtiera.
Además, en los últimos años, muchos estafadores han utilizado la tecnología deepfake con fines ilegales, incluso para crear pornografía sin su consentimiento, hasta que la Oficina Federal de Investigaciones de EE. UU. tuvo que emitir un aviso público en junio de 2023 para advertir al público sobre los peligros de la IA generativa y su uso de esas herramientas para crear contenido de desnudos. Extorsión y acoso sexual cibernético
En 2017, un usuario de Reddit llamado "Deepfakes" creó una cuenta para difundir pornografía que utiliza los rostros de celebridades. Según Deeptrace, la pornografía representó el 96% de los videos deepfake encontrados en línea en 2019.
Además, los deepfakes se están utilizando para actividades delictivas no sexuales, como en 2023 que implican el uso de la tecnología deepfake para: Imitar la voz del hijo de una señora para intimidarla y extorsionarla.
La tecnología también se utiliza en la política. Por ejemplo, en 2018, un partido político belga publicó un video del expresidente estadounidense Donald Trump. En un discurso en el que pide a Bélgica que se retire del acuerdo climático de París. Sin embargo, Trump nunca dio ese discurso, y todo fue falso.
Un incidente similar ocurrió en el Los usuarios crean videos de líderes nacionales. Como Barack Obama, Donald Trump, Joe Biden o Vladimir Putin. Los puntos anteriores han llevado a muchos analistas a creer que la tecnología deepfake cambiará el panorama de la política mundial porque la gente tendrá que preguntarse cada vez más sobre cómo marcar la diferencia. ¿Son reales las imágenes y los vídeos que ven o escuchan?
Cómo detectar Deepfakes
1. ¿Los detalles del video se ven borrosos o vagos? Una de las técnicas para detectar deepfakes es buscar piel, cabello o rostro que puedan verse más borrosos que el entorno del video, o considerar la piel que se ve anormalmente suave.
2. La luz no parece natural, ¿verdad? Desde el principio se explicó que un vídeo deepfake está compuesto por dos o más vídeos, por lo que la iluminación en cada vídeo no será la misma. Por lo tanto, esta forma de verificar un video es buscar una anomalía en la dirección de la luz.
3. ¿Las palabras o los sonidos coinciden con la imagen? Es posible que el audio no coincida con la forma de la boca de la persona en el video, especialmente si el video es falso y la pronunciación a menudo no coincide.
4. ¿La fuente parece creíble? Una técnica que los periodistas e investigadores utilizan a menudo para determinar la verdadera fuente de una imagen Esto se puede hacer instantáneamente buscando la imagen al revés en la web como Google Lenses, así como verificando quién publicó la imagen. ¿Dónde publicarlo y tiene sentido publicar el video?
Sin embargo, el tema de la detección de videos deepfake sigue siendo un tema de debate entre las personas de la industria tecnológica porque el desarrollo de la IA está en constante movimiento en la medida en que Reportero del Wall Street Journal Crea tu propio avatar y pruébalo con el sistema de biometría de voz del banco diciendo tu nombre y apellido, seguido del correo electrónico del periodista con tu avatar. Después de todo, la voz, que es generada por la tecnología Deepfake, también puede pasar a través del sistema de autenticación de voz.
Este problema ha llevado a muchos analistas a preocuparse de que si en el futuro los sistemas de inteligencia artificial pueden crear clones de personas y pueden verificar sus identidades a través del reconocimiento facial y el reconocimiento de voz, puede ser una herramienta que los estafadores utilicen para cometer actividades ilegales en el futuro. Por ejemplo, engañar o hacerse pasar por celebridades a través de la clonación de video o audio y luego engañar dinero a personas inocentes.
Medidas regulatorias de los deepfakes
Con el fin de prevenir el daño potencial causado por el avance de la tecnología de inteligencia artificial el año pasado, el gobierno chino promulgó leyes que regulan el uso de deepfakes, que incluyen: Se debe obtener el consentimiento del modelo, el video no debe usarse para difundir noticias falsas, el sistema debe verificarse estrictamente antes de crear un video simulado, el productor debe marcar claramente el video como un video simulado y está prohibido crear contenido de video que viole las leyes de seguridad nacional.
en El caso de Tailandia Los juristas opinan que se puede utilizar la Ley de Delitos Informáticos. En las secciones 14 y 16, se estipula que el uso de una fotografía de otra persona, independientemente de si la imagen es creada, editada o agregada, o por cualquier medio. Si se vuelve a publicar y causa vergüenza, se castigará con una pena de prisión de hasta 3 años y una multa de no más de 200.000 baht.
Mientras tanto, la Unión Europea (UE) fue el primer país en promulgar una legislación para regular el uso de la IA en general, que ha llegado a controlar las preocupaciones sobre el uso de la tecnología deepfake para verificar identidades y realizar transacciones en nombre de personas reales.
La Ley AI ACT de la UE prohíbe seis prohibiciones principales: los sistemas de categorización biométrica, el raspado no dirigido de imágenes faciales, el reconocimiento de emociones, la puntuación social, la IA diseñada para guiar las acciones humanas y restringir la libertad, y la IA con el fin de explotar las imperfecciones y vulnerabilidades de una persona.
Terminología
- Redes neuronales profundas = Características de aprendizaje de la inteligencia artificial que imita el aprendizaje humano a través del reconocimiento de datos. El sistema repite el patrón de un conjunto de datos entrenado para predecir tendencias futuras.
- Aprendizaje automático = Hacer máquinas, que son ordenadores o dispositivos electrónicos, capaces de aprender información por sí mismas a través del entrenamiento con big data.
- Redes generativas adversarias (GAN) es el aprendizaje y la creación de medios de inteligencia artificial a través de la combinación de imágenes originales y el aprendizaje profundo del cerebro de la máquina y luego creado en Un nuevo conjunto de fotos, vídeos o canciones.
