La inteligencia artificial está demostrando ser un recurso excepcional en muchos campos pero tiene su punto débil y el talón de Aquiles de la inteligencia artificial son los fakes
A medida que la nueva tecnología se infiltra en la sociedad, se han difundido por internet fotos y videos falsamente representados de personas, conocidos como «deepfakes».
La IA está haciendo que su creación, difusión y credibilidad sean más fáciles.
Este contenido falso puede utilizarse para presentar información falsa como un hecho. Se utiliza desde la política hasta celebridades, e incluso contra una persona cualquiera.
Thiago Serra, profesor asistente de análisis y gestión de operaciones en la Universidad de Bucknell, con una pequeña cantidad de datos se puede generar un contenido convincente.
“Con poca información sobre una persona, se puede generar un contenido realista utilizando la AI, ya sea una foto, un video o audio”, dijo.
«Debido a la cantidad de datos que hay hoy en día, se puede crear modelos generativos», dijo Serra. «No se necesita mucho para crear una imagen de ti haciendo cosas que nunca hiciste».
Shomir Wilson, profesor asistente en el College of Information Sciences and Technology de la Universidad Estatal de Pensilvania, también dio su opinión.
Dijo que la tecnología permite a los usuarios crear nuevo contenido basado en contenido existente.
“Esto puede ser beneficioso para cosas como el entretenimiento y la producción cinematográfica «, dijo.
Sin embargo, en términos de deepfakes, esta tecnología aparentemente muy accesible puede volverse problemática.
Deepfakes más convincentes
Serra dijo que los deepfakes probablemente se volverán aún más convincentes con el tiempo, la práctica y la incorporación de voces generadas por IA.
«Vi algo aterrador sobre alguien tratando de replicar una voz para hacer una llamada telefónica», dijo.
Quizás los ejemplos más conocidos de este tipo de contenido son las imágenes generadas por IA del ex presidente Donald Trump siendo arrestado a principios de este año.
Trump no fue arrestado en ese momento, pero las imágenes fabricadas inundaron las plataformas de redes sociales.
En cuanto a la audiencia, Wilson dijo que los deepfakes se utilizan más comúnmente en un esfuerzo por influir en la política y las agendas.
Hay innumerables ejemplos de deepfakes que representan a políticos, celebridades e incluso ciudadanos comunes.
El problema para los usuarios cotidianos de las redes sociales se ha convertido en: ¿cómo los detectamos?
Según Serra, identificar los deepfakes es una tarea difícil y puede volverse cada vez más difícil. «Será complicado en el futuro», dijo.
«Es importante considerar la fuente. ¿Proviene de una fuente de noticias confiable o tal vez de una fuente que nunca has oído antes?», dijo Wilson.
Google DeepMind dice que entrenó un sistema de inteligencia artificial que puede predecir qué variaciones de ADN.
