OpenAI craint que son futur modèle ne soit trop puissant: la start-up met en pause une partie des activités d'Astra à cause des risques en cybersécurité

BFM-Tech-Intelligence artificielleOpenAI craint que son futur modèle ne soit trop puissant: la start-up met en pause une partie des activités d'Astra à cause des risques en cybersécuritéPartagerPartagerWhatsappLinkedInMailmessengerPublié aujourd'hui à 11h41 Lire dans l'appBFM Business Kesso Diallo PartagerOpenAI a annoncé vendredi suspendre ses activités internes concernant un de ses futurs modèles baptisé Astra car il pourrait être doté de "capacités critiques en cybersécurité".if(smartInit){didomiNextConsent(45,(function(){Hubvisor("ready",null,(function(){sas.cmd.push((function(){sas.render("98")}))}))}))}Mieux vaut prévenir que guérir. Après les récents incidents en cybersécurité qu'OpenAI a rencontré, la start-up préfère jouer la carte de la prudence. Elle a annoncé vendredi suspendre ses activités internes autour d'un nouveau modèle d'IA en développement baptisé Astra. La raison: il ne répond pas encore aux normes de sécurité mises en place par l'entreprise."Nos dernières évaluations internes d'Astra, l'un de nos futurs modèles, réalisées ces derniers jours, révèlent des progrès significatifs en matière de codage agentique et de cybersécurité. Ces résultats, combinés aux avis d'experts, nous ont amenés à conclure hier soir que nous ne pouvons pas exclure l'existence de capacités critiques en cybersécurité au regard de notre cadre de préparation", a détaillé OpenAI dans un article de blog.if(smartInit){didomiNextConsent(45,(function(){Hubvisor("ready",null,(function(){sas.cmd.push((function(){sas.render("76194")}))}))}))}Seuil critiquePublié en décembre 2023 et mis à jour en avril 2025, ce document définit l'approche adoptée par la jeune pousse pour suivre et se préparer aux capacités de pointe qui engendrent de nouveaux risques de préjudices graves, notamment dans les domaines de la cybersécurité et de la biologie."Selon ce cadre, un modèle atteint le seuil critique en cybersécurité s'il est capable, sans intervention humaine, d'identifier et de dévelo...