Hoy en Inteligencia Artificial: El nuevo proyecto de IA segura que ya recaudó $1,000 millones; AI washing: Cuando exagerar tus habilidades de IA te puede salir más caro de lo que crees
05 septiembre 2024 - Resumen de noticias sobre Inteligencia Artificial y Marketing Digital
Pensamiento del día
“Don’t give up trying to do what you really want to do. Where there is love and inspiration, you can’t go wrong”
- Ella Fitzgerald
Imagen del día creada con IA
Noticias de Inteligencia Artificial
El nuevo proyecto de IA segura que ya recaudó $1,000 millones
Parece que las grandes apuestas en inteligencia artificial no se detienen. Safe Superintelligence (SSI), la nueva startup cofundada por Ilya Sutskever (sí, el mismo que ayudó a fundar OpenAI) acaba de levantar $1,000 millones para llevar la IA a otro nivel. Y cuando decimos "otro nivel", nos referimos a IA que no solo será más poderosa que la mente humana, sino también segura (porque, seamos sinceros, a nadie le viene mal un poco de tranquilidad en este mundo dominado por máquinas).
SSI no está jugando a lo pequeño. Con apenas 10 empleados, ya tienen oficinas entre Palo Alto y Tel Aviv y un plan claro: fichar a los mejores cerebros de la industria y asegurarse de que la IA del futuro esté diseñada para protegernos de esos posibles escenarios apocalípticos que vemos en las películas.
Y sí, $5,000 millones de valoración es la cifra que ronda en el aire. Este tipo de números nos recuerdan que, aunque el entusiasmo por invertir en startups de IA ha disminuido un poco, siempre habrá inversionistas dispuestos a poner su dinero donde está el talento.
Detrás de esta ronda encontramos pesos pesados como Andreessen Horowitz, Sequoia Capital, DST Global y SV Angel. También se sumaron NFDG (una firma liderada por Nat Friedman) y el CEO de SSI, Daniel Gross. ¿El mensaje? Están rodeados de inversores que no solo entienden la misión, sino que también están dispuestos a esperar pacientemente mientras SSI se toma un par de años en investigar y desarrollar, antes de lanzar su primer producto.
No podemos hablar de IA sin mencionar el miedo que genera en algunos sectores. La preocupación es que una IA fuera de control podría tomar decisiones que no estén alineadas con los intereses humanos, o incluso, llevarnos a un escenario catastrófico. Por eso, la seguridad en IA es el tema de moda.
Empresas como OpenAI y Google no ven con buenos ojos las regulaciones de seguridad que algunos legisladores quieren imponer en California. Por otro lado, startups como Anthropic y xAI (de Elon Musk) las apoyan con entusiasmo.
Sutskever decidió emprender este nuevo viaje tras una serie de eventos dramáticos en OpenAI, donde fue uno de los responsables de destituir a Sam Altman (que luego volvió tras una rebelión interna). Tras su salida, Sutskever dejó de ser el chico estrella de OpenAI, y decidió crear su propia empresa con un enfoque renovado.
En SSI, no solo se enfocan en desarrollar IA más poderosa, sino que también están muy atentos al "factor humano". Gross explicó que dedican horas a evaluar si los candidatos que quieren contratar son personas de “buen carácter”, y buscan más la actitud correcta que los títulos impresionantes.
Lo próximo para SSI es asociarse con empresas de computación en la nube y chips para satisfacer sus necesidades tecnológicas. Y aunque no han revelado detalles sobre a quiénes van a elegir, lo más seguro es que gigantes como Microsoft o Nvidia estén en la lista.
Para Sutskever, todo esto es parte de un nuevo enfoque sobre la famosa "hipótesis de escalado": la idea de que más poder computacional iguala mejores modelos de IA. Pero según él, SSI va a escalar de una manera "diferente" a OpenAI.
AI washing: Cuando exagerar tus habilidades de IA te puede salir más caro de lo que crees
En estos días, parece que si tu empresa no menciona "IA" en algún lugar de su página web, te estás quedando atrás. Pero hay una delgada línea entre subirse a la ola tecnológica y caer en el "AI washing", ese pequeño truquito de exagerar cuánto te estás apoyando en la inteligencia artificial. Y créeme, hacerlo puede salirte muy caro.
En la era de la IA generativa, parece que todos quieren su pedazo del pastel. Y claro, ¿quién no? Las startups que se enfocan en inteligencia artificial suelen llevarse más rondas de inversión, y las grandes corporaciones que mencionan "IA" en sus conferencias de resultados ven sus acciones subir. Así que la tentación de exagerar está ahí, pero ojo, que ya no es tan fácil salirse con la tuya.
La Comisión de Bolsa y Valores de Estados Unidos (SEC) ya está tomando cartas en el asunto. En junio, le cayó con todo al CEO de una plataforma de reclutamiento llamada Joonko por lo que llamaron un "fraude de la vieja escuela con palabras de moda de nueva escuela", refiriéndose a que el CEO infló exageradamente las capacidades de IA de la compañía para atraer inversionistas.
Gurbir Grewal, el jefe de la división de ejecución de la SEC, dejó claro que seguirán vigilando de cerca a las empresas que quieran aprovechar el hype de la IA para levantar fondos, y no de la forma más honesta. Básicamente, si estás usando la IA como cebo, mejor asegúrate de que realmente puedes entregar lo que prometes.
El 'AI washing' no es algo nuevo, aunque con el auge de ChatGPT y compañía, parece estar más presente que nunca. Básicamente, es el arte de decir que tu empresa usa IA de formas súper avanzadas, cuando en realidad solo has coqueteado con algunas herramientas que todos pueden usar.
Lo malo es que, como explica Kjell Carlsson, jefe de estrategia de IA en Domino Data Lab, "todo el mundo está en una situación de 'hazlo o muere'. Si no dices que tienes capacidades de IA, la gente te va a mirar raro. Pero si dices que las tienes y no es cierto... bueno, ya sabes lo que pasa".
El problema se agrava cuando los departamentos de marketing y tecnología no están en la misma página. El equipo de marketing quiere contarle al mundo que la IA ya lo resuelve todo, mientras que los ingenieros aún están ajustando tornillos y puliendo detalles.
Laura Lin, socia en Simpson, Thacher & Bartlett, lo resume bastante bien: Si vas a hablar de IA, sé preciso y no infles lo que tu tecnología puede hacer. Si estás usando una solución de código abierto, no la llames "propietaria". Y si hablas de lo que la IA podría hacer en el futuro, no lo confundas con lo que puede hacer hoy.
No caigas en la trampa de vender una “salsa secreta de IA” cuando lo que tienes es salsa catsup genérica.
La fiebre por la inteligencia artificial podría estar perdiendo algo de intensidad. Según Gartner, la tendencia de la IA generativa ha llegado oficialmente a la fase de "desilusión". Este es el momento en que todos esos enormes sueños tecnológicos empiezan a enfrentarse a la realidad de lo que la IA puede o no puede hacer hoy en día.
Entonces, ¿se está calmando un poco la exageración? Nicole Greene, de Gartner, espera que sí. "Las expectativas infladas solo llevan a la desilusión", comenta. En muchos casos, no es la tecnología la que no cumple con lo prometido, sino las afirmaciones exageradas de marketing.