OpenAI comenzó este jueves el despliegue de GPT-6 Astra, su modelo de inteligencia artificial más avanzado hasta ahora y capaz, de acuerdo con la compañía de San Francisco, de utilizar de manera autónoma una computadora.
El salto generacional se produce un año después de GPT-5 y en un escenario marcado por una creciente preocupación sobre los riesgos asociados con los sistemas de IA más potentes, particularmente después de una serie de ciberataques realizados durante el verano boreal por programas que se encontraban en fase de prueba.
“En este nivel de capacidad, la seguridad se ha convertido en nuestra principal prioridad”, declaró a periodistas Greg Brockman, presidente de OpenAI, durante una llamada relacionada con el lanzamiento de Astra.
Las inquietudes sobre las capacidades de los modelos avanzados se intensificaron durante el último año, luego de incidentes relacionados con sistemas desarrollados tanto por OpenAI como por su competidor Anthropic.
SEGURIDAD BAJO MAYOR VIGILANCIA
OpenAI suspendió durante dos semanas el desarrollo de algunos modelos durante el verano, después de que dos sistemas en etapa de prueba ejecutaran de manera autónoma un ataque contra la plataforma de inteligencia artificial Hugging Face.
Aunque Astra no estuvo involucrado en ese incidente, la compañía aseguró que GPT-6 incorpora medidas destinadas a reducir los riesgos derivados de sus nuevas capacidades.
En una primera etapa, el modelo estará disponible únicamente para “un número limitado de organizaciones”. Posteriormente, OpenAI prevé habilitarlo “en los próximos días” para los suscriptores de pago de ChatGPT y para desarrolladores.
“Estamos trabajando para que Astra llegue a las manos de todos tan rápido como podemos”, señaló el director ejecutivo de OpenAI, Sam Altman, este jueves a través de sus redes sociales.
En un video de demostración, la empresa muestra al modelo controlado mediante voz mientras publica de forma autónoma un anuncio de venta en internet.
OpenAI asegura que Astra puede encargarse de una amplia variedad de actividades sin intervención constante del usuario, entre ellas la creación de sitios web, análisis científicos, desarrollo de videojuegos, programación y tareas relacionadas con la ciberseguridad.
Como ejemplo del tiempo que podría ahorrar, la compañía sostuvo que GPT-6 sería capaz de realizar en unos 10 minutos una búsqueda de apartamento que, según sus estimaciones, podría requerir alrededor de seis horas de trabajo para una persona.
La empresa también afirma que GPT-6 puede completar cada tarea a un costo menor que su predecesor, aunque sus tarifas se mantienen en niveles similares a los de Anthropic, consideradas entre las más elevadas del mercado.
LA ERA DE LA IAG
“No es irracional sentir que estamos en la era de la IAG”, afirmó Brockman, en referencia a la inteligencia artificial general, concepto utilizado para describir una etapa hipotética en la que los sistemas de IA podrían alcanzar capacidades comparables con las humanas en la mayoría de las tareas.
GPT-6 es, además, el primer modelo de OpenAI que alcanza el nivel de riesgo más alto dentro de la escala de evaluación de ciberseguridad de la propia compañía. El sistema tendría capacidad para vulnerar de manera autónoma sistemas informáticos con altos niveles de protección.
Debido a ello, las funciones consideradas más sensibles permanecerán restringidas a especialistas en ciberdefensa. OpenAI también incorporó mecanismos de supervisión automática con capacidad para interrumpir determinadas tareas realizadas por los usuarios.
Altman explicó este jueves, durante una entrevista con Bloomberg TV, las razones para lanzar el modelo en momentos en que aumentan las dudas sobre las implicaciones de sistemas con capacidades cada vez mayores.
“El mundo está más cerca de tener un cambio completo en el panorama de los ciberataques, y la única manera que vemos para que la sociedad colectivamente se defienda (...) es usar herramientas como Astra para rápidamente defenderse contra estas nuevas ciberamenazas”, afirmó.
INDUSTRIA BUSCA RESPUESTA COORDINADA
Anthropic, uno de los principales competidores de OpenAI, mantiene desde abril el acceso a su modelo Mythos limitado a socios cuidadosamente seleccionados. Este sistema también tendría capacidad para realizar de manera autónoma operaciones de hackeo.
Ante el aumento de estas capacidades y sus posibles consecuencias, OpenAI, Anthropic y más de un centenar de empresas firmaron la semana pasada una carta abierta en la que solicitaron una respuesta internacional coordinada frente a los riesgos de ciberseguridad vinculados con el avance de la inteligencia artificial.
