Un nouveau front judiciaire s’ouvre pour OpenAI, l’entreprise à l’origine de ChatGPT. Des lanceurs d’alerte ont déposé plainte contre la société de Sam Altman aux États-Unis : ils estiment que les accords de confidentialité, imposés aux salariés de la start-up, empêcheraient en pratique tout employé d’alerter les autorités compétentes. Dans une lettre au président du gendarme américain de la Bourse le 1ᵉʳ juillet dernier, ces derniers expliquent qu’il leur est impossible d’avertir les régulateurs des risques graves que la technologie d’IA pourrait faire courir à l’humanité. Il s’agit d’une nouvelle étape, rapportée par le Washington Post samedi 13 juillet, dans le conflit qui oppose certains salariés ou ex-employés et lanceurs d’alerte à OpenAI.
Pour rappel, en juin dernier, des anciens employés et diverses figures du secteur de l’IA dénonçaient déjà, dans une lettre ouverte, ces clauses de confidentialité. Ses signataires demandaient à pouvoir bénéficier d’un « droit d’alerte », déplorant le fait de ne pas pouvoir dénoncer leur ex-employeur, OpenAI, sur les risques que leur entreprise ferait courir à l’humanité. Deux semaines plus tôt, les salariés en charge de contrôle de l’IA avaient quitté l’entreprise. En réponse, OpenAI avait créé un nouveau comité de sécurité, présidé par Sam Altman en personne : une mesure qui est loin d’avoir rassuré.
Une plainte a en effet été déposée auprès de la « Securities and Exchange Commission » ou SEC, le régulateur des marchés financiers des États-Unis, en juin dernier. Et selon la lettre adressée le 1ᵉʳ juillet à son président — un texte qui développe les points reprochés à OpenAI — ce sont à nouveau les clauses de confidentialité imposées par l’entreprise américaine qui sont critiquées. Les auteurs de la plainte demandent que la SEC prenne des mesures pour lutter contre ces accords considérés comme illégaux. Ces clauses violeraient, selon eux, le décret d’octobre de la Maison-Blanche, qui impose aux entreprises de l’IA que cette technologie soit développée en toute sécurité.
Or, selon les auteurs de la lettre, « les employés sont les mieux placés pour détecter et mettre en garde contre les types de dangers mentionnés dans ce décret et sont également les mieux placés pour veiller à ce que l’IA profite à l’humanité, au lieu d’avoir l’effet inverse ».
À lire aussi : ChatGPT : OpenAI a dissimulé une fuite de données
Les accords de confidentialité utilisés pour empêcher toute dénonciation
Le problème est que cette « détection » et cette « mise en garde » seraient, en pratique, impossibles, expliquent les auteurs de la lettre. Les salariés craignent de faire l’objet de poursuites judiciaires, s’ils effectuent un tel signalement, notamment en raison de ces accords de confidentialité, ajoutent-ils. S’il est tout à fait courant pour une entreprise de faire signer à ses salariés des accords de confidentialité à l’embauche, ou lorsqu’ils travaillent sur des projets particulièrement sensibles, OpenAI serait allé au-delà des obligations habituelles de non-communication et de non-divulgation. Tous les employés doivent généralement s’engager à ne pas partager avec tout tiers des informations acquises pendant leur travail, que cela soit des données stratégiques, financières ou relatives au personnel.
Mais dans certains cas prévus par la législation américaine, notamment mis en place pour protéger les lanceurs d’alerte, les salariés ont le droit (et parfois l’obligation) de dénoncer certaines pratiques, en saisissant les autorités compétentes. Une possibilité que les entreprises de la Silicon Valley tenterait d’entraver, en utilisant des accords de confidentialité, explique Chris Baker, un avocat américain interrogé par nos confrères. Aujourd’hui, les entreprises des nouvelles technologiques chercheraient à dissuader les employés de s’exprimer via ces contrats. « Les employeurs ont appris que le coût des fuites est parfois bien plus élevé que celui d’un procès, et ils sont donc prêts à prendre le risque », a-t-il ajouté.
D’autres clauses problématiques imposées par OpenAI, selon les auteurs de la lettre
Les accords de confidentialité imposés par OpenAI ne respecteraient pas la législation américaine pour plusieurs raisons, listées dans la lettre. Ils contraindraient d’abord les salariés à demander la permission en interne, avant de contacter les autorités. Ils pourraient aussi conduire tous ceux qui ont saisi les autorités pour une raison ou une autre à être sanctionnés. Ils prévoiraient enfin que les salariés renoncent à leur droit d’être indemnisés au titre de lanceurs d’alerte, en cas de signalement. En d’autres termes, les salariés d’OpenAI ne pourraient pas bénéficier de la législation américaine qui protège les lanceurs d’alerte, et qui leur permettrait de révéler des informations confidentielles de manière anonyme, sans crainte de représailles.
Toutes ces clauses n’ont qu’une signification, résume l’un d’entre eux, qui témoigne anonymement dans les colonnes de nos confrères : OpenAI ne souhaite pas que ses employés parlent aux autorités américaines. Or, « je ne pense pas que les entreprises d’IA puissent construire des technologies sûres et dans l’intérêt du public si elles se protègent de l’examen et de la critique », estime-t-il.
Même son de cloche chez le sénateur républicain de l’Iowa Chuck Grassley, qui a partagé la lettre des lanceurs d’alerte avec le Washington Post. Ce dernier estime, dans un communiqué, que « les politiques et les pratiques d’OpenAI semblent avoir un effet dissuasif sur le droit des lanceurs d’alerte à s’exprimer et à recevoir une indemnisation appropriée pour leurs divulgations protégées ».
Dans la lettre, les lanceurs d’alerte demandent à ce que la SEC ait accès à tous les accords de confidentialité qu’OpenAI aurait imposés à ses salariés. Ils exigent aussi que l’autorité américaine inflige une amende pour chaque accord qui serait non conforme à la législation américaine. Ils souhaiteraient enfin qu’on rappelle aux employés actuels et aux ex-salariés d’OpenAI que ces derniers ont bien le droit de dénoncer des abus.
Pour OpenAI, les droits à la dénonciation respectés
Mais pour OpenAI, ses règles internes protègent au contraire ses salariés et respectent bien la loi. Dans un communiqué, Hannah Wong, la porte-parole de la société, estime que « notre politique (…) protège les droits des employés à effectuer des divulgations protégées. En outre, nous pensons qu’un débat rigoureux sur cette technologie est essentiel(…) ».
Cette plainte et cette lettre interviennent dans un contexte de craintes liées à la sécurité des technologies développées par OpenAI et d’autres entreprises du secteur. Certains estiment que la start-up de Sam Altman fait passer son profit avant la sécurité, notamment depuis que cette dernière a changé de forme juridique. Selon nos confrères, OpenAI aurait précipité le lancement du dernier modèle d’IA de ChatGPT, afin de respecter la date de sortie fixée par les dirigeants de l’entreprise au mois de mai. Ce malgré les inquiétudes des employés selon lesquelles l’entreprise « n’aurait pas respecté » son propre protocole de test de sécurité. OpenAI a reconnu que ce lancement avait été stressant pour les équipes, mais selon cette dernière, l’entreprise n’aurait absolument pas lésiné sur la sécurité. Le gendarme américain, contacté par nos confrères, n’a pas souhaité commenter cette affaire.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Washington Post
