Microsoft ha dado un paso adelante en la tecnología de inteligencia artificial al presentar una nueva herramienta capaz de crear deepfakes altamente convincentes a partir de una sola imagen. Esta innovación plantea preocupaciones importantes en cuanto a la seguridad y la integridad de la información, ya que la compañía ha admitido no saber cómo evitar el potencial mal uso de esta tecnología. La capacidad de generar vídeos falsos con una calidad casi indistinguible de la realidad a partir de una única imagen plantea desafíos éticos y legales, y refuerza la necesidad de establecer protocolos de seguridad y normativas claras en torno a la utilización de deepfakes. Es fundamental abordar estas cuestiones de manera proactiva para proteger la veracidad y la autenticidad en un entorno digital cada vez más complejo.
Microsoft revoluciona con IA que genera deepfakes impresionantes a partir de una imagen
La inteligencia artificial se ha convertido en uno de los campos más prolíficos de la tecnología. Desde la irrupción de ChatGPT, multitud de compañías se han centrado en exprimir las virtudes de estas herramientas, si bien esto se ha traducido en alguna que otra noticia de lo más trágica como el adiós a una secuela muy esperada solo por la predicción de un algoritmo. Y, por desgracia, esta situación solo podría ir a más si la nueva herramienta de Microsoft termina cayendo en malas manos.
Nueva herramienta de Microsoft desata preocupación por el uso indebido de deepfakes
Como recoge TechSpot en una reciente publicación, Microsoft Research Asia está desarrollando una aplicación de IA generativa. El programa en cuestión se llama VASA-1 y su principal particularidad es que es capaz de crear vídeos muy realistas. ¿Cómo? A través de una única imagen de un rostro y una pista vocal. De esta forma, la herramienta consigue cambiar los rostros en tiempo real y, a través del aprendizaje automático, analiza una foto facial para animar la voz y sincronizar los labios y el movimiento de la boca con el audio.
Así, según la información de TechSpot, esta herramienta de Microsoft también es capaz de simular expresiones faciales y llevar a cabo otros aspectos como movimientos de la cabeza o corporales. No obstante, como suele suceder con la inteligencia artificial, tiene fallos relacionados con las manos o los dientes, las dos grandes asignaturas pendientes de esta tecnología. Pero, por desgracia, este avance tan gigantesco abre la puerta a una posibilidad trágica: la suplantación de identidad.
Tal y como se indica en la noticia original, esta tecnología podría servir para difundir propaganda falsa o, en el peor de los casos, intentar estafar a millones de potenciales víctimas con vídeos suplantando la identidad de familiares, amigos o seres queridos. De hecho, la propia Microsoft reconoce el potencial delictivo de esta herramienta, pero asegura que la única forma de combatirlo es llevar a cabo un “análisis cuidadoso de los vídeos” cuando estos se reciban. Sea como fuere, las posibilidades de esta herramienta son tan ambiciosas como espeluznantes.
Deja una respuesta