Le lancement du modèle était prévu pour octobre, maisles chercheurs ont identifié des failles critiquespendant les tests internes. Selon la publication, la chef du département des systèmes de sécurité de OpenAI, Saachi Jain, a expliqué que le modèle présentait une plus grande tendance à tromper, caril n'informait pas toujours honnêtementle utilisateur sur les actions effectuées.
"Bien que le GPT-6.1 Astra ait présenté des améliorations dans des aspects tels que la 'passivité du modèle', selon Jain, il n'a pas pleinement répondu aux normes de OpenAI en matière de sécurité et d'alignement. C'est pourquoi l'entreprise a décidé de ne pas rendre le modèle accessible au public",écritle journal.
De plus, l'IA dépassait les limites des autorisations établies : elle continuait à exécuter des tâches sans demander d'autorisation et accédait de manière autonome à des outils et services externes, même lorsque cela pouvait représenter unrisque potentielSelon la publication.
La décision a été prise àÀ la veille de la conférence annuelle des développeursDe OpenAI, à San Francisco, où l'entreprise annonce traditionnellement ses principaux produits. Au lieu de lancer l'Astra, les développeurs prévoient de se concentrer sur le renforcement de la sécurité des futures versions et surRenforcement du contrôle sur son comportement.
Suivez les nouvelles que les grands médias ne montrent pas !
Suivez Sputnik Brésil et accédez à du contenu exclusif sur notre chaîneTélégramme.
Comme la Sputnik est bloquée dans certains pays, ici, vous pouvez l'obtenir.téléchargerNotre application mobile (disponible uniquement pour Android).