La sécurité de l'intelligence artificielle face aux impératifs commerciaux
Le licenciement de chercheurs en sécurité chez OpenAI met en lumière le conflit entre les impératifs de régulation de l'IA et la course commerciale effrénée des géants technologiques.

La question de la sécurité dans le développement de l'intelligence artificielle générative franchit un cap critique, marqué par des tensions croissantes entre les exigences de contrôle et la course commerciale effrénée des entreprises du secteur. Fin septembre, la société OpenAI a prononcé le licenciement de trois chercheurs spécialisés en sûreté, à savoir Tom Korbak, Jasmine Wang et Mikita Balesni, dont les travaux portaient notamment sur la surveillance de la chaîne de pensée des modèles avancés.
Une atmosphère de peur et des investigations internes
Quelques semaines après leur renvoi, les chercheurs ont publié un avertissement public affirmant qu'OpenAI ne pouvait garantir la sécurité de l'intelligence artificielle en autarcie. Selon les révélations de la presse économique, les services de sécurité de l'entreprise avaient exigé l'accès aux téléphones personnels des salariés visés dans le cadre d'une enquête interne pour suspicion de fuite d'informations. La découverte de communications via l'application Signal, dotée d'un mécanisme d'effacement automatique des messages, a motivé la décision de rupture.
Cet épisode illustre le fossé grandissant entre la nécessité absolue d'une critique extérieure indépendante et les intérêts commerciaux stricts des structures qui détiennent le monopole des informations techniques. Alors que les géants technologiques se livrent une concurrence acharnée, les experts internes et externes se trouvent pris au piège d'un climat de suspicion.
Le dilemme du rythme et les appels à la régulation
Les mises en garde ne proviennent plus seulement de voix observatrices extérieures, mais des concepteurs eux-mêmes. En juillet dernier, près de 1 400 professionnels du secteur, parmi lesquels Dario Amodei, directeur général d'Anthropic, et des figures de premier plan de Google (Alphabet) et de Meta AI, ont signé la tribune intitulée « Pacing the Frontier ». Le texte exhorte les gouvernements à encadrer le développement des modèles pour éviter qu'une automatisation intégrale de la recherche technologique n'échappe au contrôle humain.
Face à ces dérives, plusieurs figures ont préféré quitter leur poste, à l'instar de Jacob Coxton chez Anthropic ou de David Robinson, responsable de l'éthique et de la sécurité chez OpenAI, qui a dénoncé une culture d'entreprise obnubilée par la vitesse des lancements commerciaux au détriment des précautions fondamentales. L'industrie se retrouve ainsi prisonnière d'un équilibre de la terreur où aucun acteur n'ose marquer une pause unilatérale par crainte d'être distancé par ses rivaux.
Pour surmonter cette impasse, les experts rappellent que dans des secteurs hautement sensibles comme l'aviation ou la pharmacie, les décisions de sécurité ne relèvent jamais des seuls industriels. Des autorités de régulation externes disposent de prérogatives coercitives pour imposer des audits et des restrictions, un modèle que les spécialistes estiment urgent d'appliquer à l'intelligence artificielle pour garantir une supervision réellement indépendante des intérêts mercantiles.





