Los temas de hoy en IA: Transformación de la realidad; Meta: una década de Inteligencia Artificial
Edgarketing - 01 diciembre 2023 - Resumen diario de noticias sobre Inteligencia Artificial
Pensamiento del día
“There's something spectacularly freeing about acknowledging that one has both resources and limitations, and that both of these give shape to one's life”
- Colette Dowling
Noticias de Inteligencia Artificial
Transformación de la realidad
En esta ocasión quiero abordar una problemática crucial que afecta la percepción en torno al conflicto entre Israel y Hamas: la proliferación de imágenes falsas generadas por Inteligencia Artificial (IA).
Si, frecuentemente hablo de los avances y puntos positivos que nos ofrece la Inteligencia Artificial, pero me siento con la responsabilidad de también compartir los puntos negativos y las afectaciones que puede traer el uso y democratización de esta tecnología. Y hago la aclaración que mi punto no es en contra de la misma, sino el uso que algunas personas pueden darle.
A menos que hayas estado encerrado en una cueva en los últimos meses, todos conocemos la guerra que en este momento se lleva a cabo entre Israel y Gaza. Pues en esta situación, expertos han revelado que un número impactante de fotos virales, tanto en el lado israelí como en el de Hamas, son creaciones de IA. Según los investigadores, estas imágenes manipuladas, algunas representando a niños brutalmente afectados, se utilizan para culpar a cada bando en este sangriento conflicto.
En entrevistas con Associated Press, expertos de diversas empresas y organizaciones encargadas de verificar la veracidad de afirmaciones en línea advierten sobre una aterradora proliferación de imágenes falsas creadas por IA. Imran Ahmed, CEO del Center for Countering Digital Hate, destaca que, ya sea compartiendo imágenes fuera de contexto de conflictos anteriores en Israel/Palestina o nuevas manipulaciones digitales, el efecto de conmoción es el mismo.
"Actualmente, se le está diciendo a la gente: Mira esta foto de un bebé", mencionó Ahmed. "La desinformación está diseñada para que te involucres con ella".
Esta no es primer ocasión en la que se utiliza propaganda manipulada por IA. Sin embargo, las fotos falsas de niños muertos o heridos no solo son un ejemplo especialmente cruel del poder de esta tecnología, sino también un presagio de cosas peores.
"Va a empeorar, mucho peor, antes de mejorar", advierte Jean-Claude Goldenstein, CEO de CREOpoint, una firma de verificación digital que ha creado una base de datos de deepfakes virales de Gaza.
La generación de IA no se limitará a imágenes; escalaremos a niveles sin precedentes en fotos, videos y audio. Esto plantea desafíos significativos, distorsionando la realidad y proporcionando también excusas para desestimarla la guerra y plantearla como una fabricación de IA.
La detección de imágenes reales o manipuladas por IA puede ser complicada, y las herramientas destinadas a este fin pueden equivocarse. Para abordar estos desafíos, expertos sugieren la necesidad de esfuerzos conjuntos entre gobiernos y sectores público y privado, no solo para mejorar la tecnología, sino también para aplicar regulaciones y estándares más estrictos.
Meta: una década de Inteligencia Artificial
Meta celebra el décimo aniversario del equipo Fundamental AI Research (FAIR). Durante esta década, FAIR indica haber sido la fuente de numerosos avances en inteligencia artificial y un faro para realizar investigaciones de manera abierta y responsable.
En estos últimos 10 años, dicen haber alcanzado logros impresionantes. Desde Segment Anything, que revoluciona la detección de objetos en imágenes, hasta No Language Left Behind, que amplía las capacidades de texto a voz y de voz a texto a más de 1,000 idiomas. Además, también lanzaron Llama y Llama 2, modelos de lenguaje de código abierto, y han presentado nuevos productos y experiencias de IA en Connect, ahora en manos de millones.
Con el objetivo de enseñar a la IA a percibir el mundo a través de nuestros ojos, crearon y actualizaron Ego-Exo4D. que captura simultáneamente vistas en primera persona (egocéntricas) desde una cámara vestible, así como vistas externas (exocéntricas) desde cámaras que rodean a la persona. Estas perspectivas combinadas brindan a los modelos de IA una ventana a lo que las personas ven y escuchan, junto con más contexto sobre el entorno.
Este año Meta presentó Voicebox, un modelo generativo de IA para edición, muestreo y estilo de audio. Ahora, con Audiobox, su sucesor, muestra un avance en la generación de audio con IA. Se pueden usar descripciones de voz o texto para generar sonidos o tipos de discurso. Por ejemplo, podrías crear una banda sonora con la descripción "un río corriendo y pájaros cantando". Audiobox facilita la creación de audio personalizado para todos tus proyectos.
Meta está en una posición única para abordar los desafíos más grandes de la IA. FAIR es una pieza crítica para el éxito de Meta, con algunas de las mentes más brillantes de la industria, una cultura de apertura y la libertad para llevar a cabo investigaciones exploratorias.