MI SELECCIÓN DE NOTICIAS
Noticias personalizadas, de acuerdo a sus temas de interés
OpenAI cancela el lanzamiento de modelo de IA y establece nuevas medidas de seguridad
Agregue a sus temas de interés
Las decisiones de OpenAI reflejan un creciente debate sobre la necesidad de moderar el desarrollo de la IA, al tiempo que se evalúan riesgos
Síganos y léanos en Google Discover
OpenAI está retrasando el lanzamiento de una versión de su modelo Astra mientras establece medidas de seguridad más estrictas para el desarrollo de la inteligencia artificial, alertando sobre los mayores riesgos tras una serie de incidentes recientes de piratería informática con IA maliciosa.
Saachi Jain, jefa de sistemas de seguridad de OpenAI, afirmó que el modelo GPT-6.1 Astra, actualmente en desarrollo, no era tan bueno como la empresa deseaba en lo que respecta a "mantenerse dentro del alcance y la autorización, y a cómo se comunica con el usuario sobre el tipo de trabajo que ha realizado".
Las decisiones de OpenAI reflejan un creciente debate sobre la necesidad de moderar el desarrollo de la IA, al tiempo que se evalúan los riesgos de esta tecnología. La suspensión de Astra es una de las medidas más concretas adoptadas tras una serie de incidentes en los que sus modelos accedieron a sitios web de terceros sin autorización. El martes, el desarrollador de ChatGPT detalló lo que denominó casos de seguridad para el entrenamiento de la IA , con el objetivo de documentar los riesgos asociados a los nuevos modelos.
La empresa describió estas prácticas como un conjunto de buenas prácticas que se esforzaría por codificar en un marco de trabajo. Entre las medidas de seguridad se debería incluir la capacidad de los altos directivos para vetar ciertas actividades.
“Por supuesto, queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo entregamos a los usuarios”, declaró Jain en un comunicado. “Pero cuando lo entregamos a los usuarios, tenemos estándares extremadamente altos en cuanto a seguridad y cumplimiento”.
La semana pasada, OpenAI suspendió el entrenamiento de sus modelos más avanzados después de que otro modelo de IA accediera a internet cuando se suponía que no debía hacerlo. La empresa declaró entonces que también había decidido no reanudar el entrenamiento de ese modelo en particular, que, tras obtener acceso a internet, consultó un chatbot externo. El modelo Astra cuyo lanzamiento se canceló era diferente al descrito la semana pasada, según informó OpenAI el lunes.
Por otra parte, la compañía se disculpó el martes por la filtración de datos de sus modelos de IA en sitios web del gobierno australiano y se comprometió a crear un nuevo grupo de trabajo con expertos locales para el país. Enviará a su director de estrategia, Jason Kwon, a una audiencia del comité sobre IA con legisladores locales a principios de octubre.
OpenAI celebrará su conferencia anual para desarrolladores el martes en San Francisco. Este evento, que dura todo el día, suele presentar nuevo software y funciones dirigidas a la comunidad de desarrolladores de software. El director ejecutivo, Sam Altman, tiene previsto intervenir por la mañana.
El Wall Street Journal ya había informado anteriormente sobre la suspensión del lanzamiento de GPT-6.1 Astra.
Estados Unidos ha impuesto un bloqueo económico a Irán para presionar a Teherán a que levante su bloqueo de Ormuz, lo que ha reducido drásticamente el tráfico marítimo por el estrecho
Bank of America afirmó que, después de escuchar a los funcionarios de la nueva administración, percibió un firme compromiso político para lograr el ajuste fiscal
Ayax Murillo, gerente de Hidrología, señaló que los próximos 50 días serán determinantes para acumular agua antes del inicio de la temporada seca
