Las plataformas que crean voz y texto son las que más preocupación generan
El desarrollo de la inteligencia artificial ha traído varios desafíos y uno de ellos es el crecimiento de las noticias falsas. Utilizando esta tecnología se está divulgando información equivocada, pero copiando las voces de los protagonistas o su imagen.
Jeremy Kahn, escritor de la revista Fortune, hizo un análisis sobre el problema que puede representar el crecimiento de las fake news basadas en IA, en medio de la cercanía de las elecciones presidenciales en Estados Unidos y futuros eventos.
Aunque, al mismo tiempo, la inteligencia artificial se postula como la solución a este problema, contrarrestando sus alcances y siendo una herramienta para la detección de contenido falso.
Fake News con IA
Ya son varios los ejemplos en los que esta tecnología ha sido usada para engañar a las personas. En medio de las elecciones a alcaldía de Chicago, Estados Unidos, un medio que se hizo llamar Chicago Lakefront News publicó una imagen del candidato Paul Vallas, acompañado de un audio en él supuestamente hacía referencia a un tema de refinanciación de la policía, aunque realmente nunca lo hizo.
El contenido divulgado había sido creado con inteligencia artificial, copiando la voz de Vallas y llegando a miles de personas, que seguramente creyeron que la situación era real.
Por ese motivo, Gary Marcus, profesor emérito de Ciencias Cognitivas de la Universidad de Nueva York y experto en IA, aseguró, en el artículo escrito por Kahn, que hay muchas probabilidades de que esta tecnología genere noticias falsas y sea “una fuerza importante en las próximas elecciones”.
Otro ejemplo se dio hace un par de meses, cuando en Francia se divulgaron dos fotografías de un policía abrazando a una mujer durante unas protestas. Pero gracias a un error en la generación de la imagen, se logró detectar la falsedad de la información, que tenía un alto nivel detalle.
El desarrollo de la inteligencia artificial ha traído varios desafíos y uno de ellos es el crecimiento de las noticias falsas. Utilizando esta tecnología se está divulgando información equivocada, pero copiando las voces de los protagonistas o su imagen.
Jeremy Kahn, escritor de la revista Fortune, hizo un análisis sobre el problema que puede representar el crecimiento de las fake news basadas en IA, en medio de la cercanía de las elecciones presidenciales en Estados Unidos y futuros eventos.
Aunque, al mismo tiempo, la inteligencia artificial se postula como la solución a este problema, contrarrestando sus alcances y siendo una herramienta para la detección de contenido falso.
Fake News con IA
Ya son varios los ejemplos en los que esta tecnología ha sido usada para engañar a las personas. En medio de las elecciones a alcaldía de Chicago, Estados Unidos, un medio que se hizo llamar Chicago Lakefront News publicó una imagen del candidato Paul Vallas, acompañado de un audio en él supuestamente hacía referencia a un tema de refinanciación de la policía, aunque realmente nunca lo hizo.
El contenido divulgado había sido creado con inteligencia artificial, copiando la voz de Vallas y llegando a miles de personas, que seguramente creyeron que la situación era real.
Por ese motivo, Gary Marcus, profesor emérito de Ciencias Cognitivas de la Universidad de Nueva York y experto en IA, aseguró, en el artículo escrito por Kahn, que hay muchas probabilidades de que esta tecnología genere noticias falsas y sea “una fuerza importante en las próximas elecciones”.
Otro ejemplo se dio hace un par de meses, cuando en Francia se divulgaron dos fotografías de un policía abrazando a una mujer durante unas protestas. Pero gracias a un error en la generación de la imagen, se logró detectar la falsedad de la información, que tenía un alto nivel detalle.
Estas situaciones generan una alerta sobre el futuro de las noticias falsas y su rápida propagación. Por eso, Marcus asegura que ya es necesaria una regulación y que las plataformas encargadas de la IA deberían incluir una marca de agua que distinga su contenido.
De un lado menos catastrófico, Chris Meserole, investigador de la Brookings Institution especializado en el impacto de la inteligencia artificial, cree que esta tecnología cambiará poco el panorama de las noticias falsas, respecto a lo que sucedió en las anteriores elecciones en Estados Unidos.
“No creo que esto cambie completamente las reglas del juego y que 2024 sea significativamente diferente de 2020 o 2016″, dijo el experto.
Además, asegura que en este momento las herramientas de creación de video no son lo suficiente precisas como para considerarse un problema y que el enfoque debe estar en las de audio y texto.
La IA es una solución
En su investigación, Khan encontró que en España hay una empresa llamada Newtral, que se especializa en la comprobación de las afirmaciones de los políticos y está experimentando con grandes modelos lingüísticos similares a los de ChatGPT para hacer este proceso.
Si bien el objetivo no es desmentir hechos, sí se pueden dar mejores herramientas a las personas que se dedican a esta labor.
Esta tecnología tiene la capacidad de sellar cuándo un contenido realiza una afirmación que necesita de una comprobación y detectar otros contenidos que la aprueben. Además, al combinar otros modelos de lenguaje con software de aprendizaje automático será posible evaluar la probabilidad de que algo sea falso basándose en los sentimientos expresados.
Con la implementación de este sistema, la compañía ha reducido entre un 70 y 80% el tiempo que se necesita para detectar la veracidad de la información.
Fuente: infobae.com