OpenAI encuentra indicios de que otros agentes IA escaparon de la contención

OpenAI ha descubierto otros casos en los que agentes autónomos han escapado de su entorno de contención, a medida que la empresa amplía su investigación sobre el incidente de piratería informática en la empresa tecnológica Hugging Face que acaparó la atención mundial este mes, afirmaron el viernes dos personas familiarizadas con el asunto.

Las nuevas fugas se descubrieron durante la investigación anunciada públicamente por la empresa sobre cómo uno de sus agentes escapó este mes de lo que se suponía que era un entorno de pruebas aislado, según afirmaron ambas personas, y OpenAI está investigando ahora también esos casos.

Una de las fuentes señaló que las fugas fueron de carácter limitado y que no se cree que ninguno de los agentes haya salido de la red de OpenAI.

La investigación ampliada, de la que no se había informado anteriormente, se puso en marcha poco antes de que su principal rival, Anthropic, revelara que sus modelos también eran responsables de una serie de intrusiones que provocaron violaciones de seguridad en otras tres empresas desde el mes de abril, según las dos fuentes y una tercera persona familiarizada con el asunto.

Un portavoz de OpenAI se remitió al comunicado anterior de la compañía, en el que se indicaba que la empresa estaba revisando "una actividad más amplia de nuestros modelos", además de la intrusión en Hugging Face.