Hoy en Inteligencia Artificial: Sam Altman revela secretos sobre GPT-5, AGI y más; La NSA ofrece claves para blindar sistemas
3 mayo 2024 - Resumen de noticias sobre Inteligencia Artificial y Marketing Digital
Pensamiento del día
“There are tow ways of spreading light: to be the candle or the mirror that reflects it”
- Edith Wharton
Imagen del día creada con IA
Noticias de Inteligencia Artificial
Sam Altman revela secretos sobre GPT-5, AGI y más
Sam Altman, CEO de OpenAI, participó recientemente en una sesión de preguntas y respuestas en la Universidad de Stanford, donde ofreció nuevas ideas sobre temas como GPT-5, la Inteligencia General Artificial (AGI), la importancia de la potencia de cómputo y mucho más.
Algunas declaraciones importantes que dijo Altman:
GPT-4: "Lo mejor sería un poco embarazoso". Altman calificó a GPT-4 como "el peor modelo que jamás usaremos", ya que cada nueva versión se vuelve más inteligente.
OpenAI: "No importa si quemamos 500M o 50B al año". El CEO afirmó que no le importa si la empresa gasta 500 millones o 50 mil millones de dólares al año, siempre y cuando se mantenga en el camino de crear AGI.
Acceso global a la tecnología: una misión fundamental. Altman también habló sobre la importancia del acceso global a la tecnología, declarando la misión de hacer ChatGPT gratuito para "tantas personas como quieran usarlo".
GPT 2.5: El misterio se resuelve. Altman reveló que el misterioso modelo gpt2-chatbot que apareció en Lmsys a principios de esta semana no era GPT 4.5.
Los comentarios reveladores de Altman sobre las capacidades "embarazosas" de GPT-4 solo avivan el entusiasmo por el próximo modelo de OpenAI. Como alguien que tiene una visión interna del progreso de la IA, el optimismo de Altman sugiere que el próximo gran avance será sin duda importante.
Algunas otras afirmaciones que dio a conocer Altman:
Mencionó que OpenAI está trabajando en un nuevo modelo de lenguaje con 100 veces más parámetros que GPT-3.
Habló sobre la importancia de la seguridad y la alineación en el desarrollo de AGI.
Concluyó afirmando que cree que la AGI tendrá un impacto positivo en el mundo.
La clave está en la ambición y la visión de futuro de OpenAI. Las declaraciones de Altman dejan claro que la empresa no se está conteniendo en su búsqueda de crear una IA verdaderamente transformadora.
Me siento entusiasmado y hasta ansioso por ver lo que tiene OpenAI bajo la manga con GPT-5 y AGI, aunque también guardo mis reservas.
La NSA ofrece claves para blindar sistemas
Sabemos que la Inteligencia Artificial (IA) está en su apogeo, pero hay que saber cuidarla de los malos vecinos. La Agencia de Seguridad Nacional de Estados Unidos (NSA) acaba de lanzar una guía para que las empresas protejan sus sistemas de IA de intrusos y ataques.
La NSA no te pide reinventar la rueda. Su guía recomienda aplicar principios de seguridad informática ya conocidos, pero adaptados a la realidad de la IA. ¿De qué hablamos?
Gobernanza robusta: Define quién manda en tu IA y cómo se maneja.
Arquitectura bien diseñada: Construye una base sólida para tu sistema de IA.
Configuraciones seguras: Cierra las puertas traseras y blinda las ventanas.
La guía también recomienda encriptar toda la información delicada de tu IA. Piensa en los "pesos del modelo" (lo que la IA aprende), los resultados y los registros. Las claves de encriptación, guárdalas bajo siete llaves en un módulo de seguridad de hardware (HSM).
Dana Simberkoff, experta en seguridad de la información, lo explica así: "La IA no inventa desafíos nuevos, los amplifica. Si ya tienes buenas prácticas de manejo de datos, puedes mitigar esos riesgos".
Además de la encriptación, la guía de la NSA te recomienda:
Crear barreras de seguridad entre tu sistema informático y la IA.
Fortalecer las configuraciones del entorno de implementación.
Proteger las redes de implementación contra amenazas.
Asegurar las "APIs expuestas" (interfaces de programación de aplicaciones).
Monitorear continuamente el comportamiento del modelo.
Capacitar a los usuarios sobre seguridad en IA.
Actualizar y aplicar parches de seguridad regularmente.
Un vocero de la NSA lo dijo claro: "La IA es una oportunidad, pero también un blanco para la actividad maliciosa".
La NSA quiere que Estados Unidos lidere el camino en la IA segura. Su guía es un paso clave para lograrlo, y ahora las empresas tienen las herramientas para proteger sus sistemas y aprovechar todo el potencial de la Inteligencia Artificial.