O lançamento do modelo estava previsto para outubro, mas pesquisadores identificaram falhas críticas durante testes internos. Segundo a publicação, a chefe do departamento de sistemas de segurança da OpenAI, Saachi Jain, explicou que o modelo apresentou maior propensão a enganar, pois nem sempre informava de maneira honesta ao usuário sobre as ações realizadas.
"Embora o GPT-6.1 Astra tenha apresentado melhorias em aspectos como a 'passividade do modelo', segundo Jain, ele não atendeu plenamente aos padrões da OpenAI nas áreas de segurança e alinhamento. Por isso, a empresa decidiu não disponibilizar o modelo ao público", escreve o jornal.
27 de setembro, 19:27
Além disso, a IA ultrapassava os limites das permissões estabelecidas: continuava executando tarefas sem solicitar autorização e acessava por conta própria ferramentas e serviços externos, mesmo quando isso poderia representar um risco potencial, segundo a publicação.
A decisão foi tomada às vésperas da conferência anual de desenvolvedores da OpenAI, em São Francisco, onde a empresa tradicionalmente anuncia seus principais produtos. Em vez de lançar o Astra, os desenvolvedores pretendem se concentrar no aumento da segurança das futuras versões e no reforço do controle sobre seu comportamento.
