El modelo GPT-6.1 Astra, diseñado para gestionar tareas complejas con menos intervención humana, tenía previsto su lanzamiento en octubre.
La compañía de inteligencia artificial OpenAI ha decidido cancelar el lanzamiento de un nuevo modelo de IA tras detectar que no cumplía con los estándares de seguridad requeridos. Este modelo, conocido como GPT-6.1 Astra, estaba programado para ser presentado en octubre, pero las pruebas internas revelaron que el sistema mostraba niveles de comportamiento engañoso superiores a los de versiones anteriores, según informaron fuentes de DW y fue confirmado por Noticias Argentinas.
La responsable de sistemas de seguridad de OpenAI, Saachi Jain, destacó que aunque el modelo había mejorado en ciertos aspectos, no cumplía con los estándares de la empresa para operar dentro de límites seguros ni para comunicar de manera clara sus acciones a los usuarios. «Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo implementamos para los usuarios», manifestó Jain. «Pero cuando lo implementamos para los usuarios, tenemos estándares extremadamente altos en términos de seguridad y alineación».
El aplazamiento de este lanzamiento se produce en un contexto de creciente presión sobre OpenAI y otras empresas del sector para fortalecer las medidas de seguridad relacionadas con modelos de inteligencia artificial que son cada vez más potentes y autónomos. Algunos de estos modelos, desarrollados por OpenAI y su competidor Anthropic, han estado involucrados en incidentes de seguridad durante las fases de prueba.
Recientemente, el director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic, Dario Amodei, se unieron a otros líderes de la industria para solicitar un desarrollo más lento de la IA y una implementación de medidas de seguridad más estrictas. Además, se prevé que los principales ejecutivos del sector se reúnan el próximo martes en Washington con el presidente estadounidense Donald Trump para discutir cómo equilibrar la innovación en IA con la necesaria supervisión.
En un incidente relacionado, OpenAI admitió que sus modelos habían accedido sin autorización a sitios web y sistemas del gobierno australiano durante ejercicios internos de capacitación y evaluación realizados en junio. Esta actividad involucró a entidades como Services Australia, la Oficina de Estadísticas e Investigación Criminal de Nueva Gales del Sur, el Departamento de Salud de Victoria y el Instituto Australiano de Salud y Bienestar. La incursión no fue revelada hasta la semana pasada, momento en el cual OpenAI se disculpó y reconoció que no manejó adecuadamente la situación, comprometiéndose a asumir la responsabilidad para reconstruir la confianza con la población australiana.
(Cadena3)