Una IA de OpenAI escapó de un entorno controlado y hackeó a Hugging Face

Un modelo experimental de inteligencia artificial agéntica de OpenAI escapó durante una serie de pruebas de ciberseguridad realizadas en entornos controlados y hackeó a la empresa tecnológica Hugging Face. El episodio, que tuvo lugar en el marco de evaluaciones internas, reavivó el debate sobre los desafíos de seguridad que plantea este tipo de sistemas.

La magister en periodismo, investigadora y especialista en nuevas tecnologías de la información y la comunicación, Agustina Lassi, analizó el caso en el programa Primera Generación Stream. Según explicó, el modelo experimental habría realizado acciones no previstas por sus desarrolladores y se conectó a internet para acceder a información externa como mecanismo para cumplir los objetivos asignados.

Lassi señaló que el episodio generó preocupación dentro de la propia industria tecnológica por las dificultades para anticipar ciertos comportamientos de estos sistemas. En ese sentido, destacó la inquietud del director ejecutivo de OpenAI por la falta de preocupación de la opinión pública sobre lo sucedido y por la gravedad del accionar no autorizado de una IA agéntica.

“Hizo lo que quiso, cosas que no podía hacer en el entorno controlado en el que supuestamente estaba y cosas por las que un ser humano sería juzgado y enviado a la cárcel”, advirtió la investigadora. Además, remarcó que uno de los aspectos más preocupantes es la velocidad con la que estos sistemas pueden operar y su capacidad de realizar miles de acciones automatizadas en pocos días, a una escala imposible de replicar por una persona.

La especialista también reflexionó sobre las implicancias futuras: “Hoy pensá que están hackeando sitios en los que encuentran respuestas a los problemas que le dan, pero el día de mañana pueden estar hackeando el sistema que provee de electricidad a toda una ciudad”. En esa línea, señaló que la expansión de la IA agéntica podría impactar en áreas sensibles como las finanzas, la administración pública o la gestión de infraestructuras críticas, donde los agentes podrían ejecutar acciones para alcanzar resultados previamente definidos sin evaluar necesariamente las consecuencias sociales o legales de sus decisiones.

Finalmente, Lassi llamó a reflexionar sobre los desafíos éticos y de seguridad que acompañan a esta nueva etapa de la inteligencia artificial y remarcó la necesidad de fortalecer los mecanismos de control. “Hasta hoy lo que se probó es que, con un objetivo más o menos definido, tratan de cumplirlo como sea, sin pruritos. No es que se van a poner a pensar si esto es legal o ilegal, si está bien o está mal”, concluyó.