AI Stress Tests and Corporate Implications

Un poco lo que está pasando a nivel, eh, corporativo-

Mhm.

De las big tech y en realidad de lo que pasa dentro de nuestras casas,

de nuestras organizaciones. En realidad no es que aprieto un botón y

nos va a

matar, no nos va a pasar nada, podemos ir usando la IA tranquilamente,

es una gran

herramienta. Voy a contar un poquito en un ratito

algunos

avances interesantes. Eh, se pueden montar equipos digitales para

las pymes y todo, pero,

eh, yendo a lo que pasó, eh, en julio, fue-fueron una-unos

tests que hizo OpenAI,

donde estresaron al máximo a un grupo de

agentes.

Entonces, al estresarlos, empezaron a comunicarse entre sí y

lograron, este, tener claves de acceso y salirse del

sistema y lograr,

este, salir de ese sistema, de ese sandbox,

que es como una caja de arena donde

pueden, este, experimentar resguardadas.

Eh, lograron acceso a credenciales y, este, hackearon el

sistema, básicamente. Y lograron comunicarse hasta

en alemán en algunos casos, porque hay dos estudios que se hicieron.

Entonces, este, cuando las inteligencias se coordinan,

mienten,

encuentran que están en un proceso de testeo,

eh, y ven cómo hacer para conspirar, ¿no?

Para poder tener este objetivo, que puede estar desalineado con el

objetivo de la

empresa.

Sí.

Ahí es donde puede ser un poco peligroso, quizás.

Pero yendo, tipo, a, a una analogía que a mí me gusta hacer,

eh,

física, porque esto está todo tan abstracto-

Sí.

Que es difícil a veces, ¿no? Imaginemos, digo yo, este, a

ingenieros civiles testeando un caño, ¿no?

Para testear si ese caño es resistente o no, se le inyecta agua a

presión-

Mhm.

A muy alta presión.

A ver si explota o no.

Hasta que, claro, explota. Si ex-estalla, después dicen, no van a

decir: "Uy, estalló, el agua, la presión del agua ahora es una deidad

que viene y va a tomar todo el mundo".

No, en realidad, los ingenieros lo hicieron así a

propósito, o sea, lo

estresaron. Esto fue un, un stress test que le hicieron a las

IAs, controlado. Eh, no se salieron, digamos, porque

sí, estaban, eh, realmente queriendo que suceda.

Eh-

Pero eso es controlado.

Esto es controlado.

Es adrede.

Claro. Ahora están diciendo, ellos lo que dicen es que, claro,

que esto-

Que se les fue de control.

Podría ser, que esto podría ser que se escape o que,

eh, a fin de

este año, como dijo Sam Altman, logremos, este, una AGI

o, como dicen ahora, a finales del año que viene,

directamente que haya,

este, más de un 10 % de probabilidades de que,

no sé, en la

próxima década toda la humanidad desaparezca.