Des renseignements fondés sur l’IA et des lectures rapides

Cette série de lectures rapides sur l’IA examine un risque croissant pour les entreprises axées sur l’innovation : la façon dont l’utilisation courante de l’IA générative peut affaiblir la confidentialité, compromettre l’examen juridique et réduire la valeur de la propriété intellectuelle. Dans quatre courts articles, nous examinons la question à la lumière de l’affaire US c. Heppner, puis nous nous intéressons à l’IA cachée, à la dilution de l’innovation par le contenu généré par l’IA et aux implications pour les organisations canadiennes.

Intelligence artificielle obscure

L’IA clandestine désigne l’utilisation non autorisée et discrète d’outils génératifs dans l’entreprise.

Dans de nombreuses organisations, l’utilisation de l’IA générative la plus risquée n’est pas l’outil qui a été approuvé par les TI, les achats ou le service juridique, mais plutôt l’outil que personne ne voit. Les ingénieurs peuvent utiliser des comptes personnels pour affiner les divulgations d’invention, les équipes de produits peuvent coller les commentaires des clients dans des modèles publics pour obtenir des résumés, les conseillers juridiques peuvent tester des arguments dans des systèmes non autorisés et les responsables commerciaux peuvent télécharger des ébauches de présentations pour des modifications de « ton ». Cette utilisation non gérée est souvent désignée sous le terme d’« IA fantôme ».

L’IA clandestine reflète généralement la commodité, et non une mauvaise intention. (consultez notre blogue détaillé sur l’IA fantôme sur le lieu de travail : Se cacher dans l’ombre : les dangers de l’IA obscure pour votre organisation) Le problème est que des divulgations répétées et mineures peuvent constituer une perte de contrôle importante sur les renseignements confidentiels. Des amorces, des ébauches, des révisions et des fragments copiés peuvent créer un dossier cumulatif, souvent auprès de plusieurs fournisseurs et comptes, de ce qui a été partagé, quand et selon quelles conditions.

Sur fond de l’affaire Heppner, l’utilisation non gérée de l’IA n’est pas simplement une question de TI ou de politique ; c’est une question de protection des droits. Lorsque les employés soumettent des théories juridiques, des récits d’invention, des détails de prototypes, des analyses concurrentielles ou des documents sources à des outils dont les engagements de confidentialité ne sont pas clairs, l’entreprise pourrait affaiblir la protection des secrets commerciaux, créer un risque de confidentialité et compliquer les futures actions en justice. Si un litige survient ultérieurement, le dossier pourrait révéler que des renseignements sensibles ont transité par des systèmes tiers aux conditions que l’entreprise n’a pas examinées ou approuvées.

L’IA discrète transfère également les décisions sensibles concernant la divulgation aux utilisateurs individuels. Les personnes les mieux placées pour évaluer la sensibilité juridique, notamment les responsables de la R et D, les conseillers en brevets et les équipes de sécurité, sont contournées et les appels de confidentialité sont effectués « au fur et à mesure ». Le résultat est une prise de décision fragmentée et, souvent, une prolifération incontrôlée des données.

Cela est particulièrement corrosif dans les entreprises fortement axées sur l’innovation, car les informations les plus précieuses semblent souvent ordinaires aux non-spécialistes. Une invite contenant « juste quelques notes sur les caractéristiques » peut en réalité décrire l’étape inventive essentielle ou une demande de « rendre ceci plus facile à expliquer » peut supprimer les distinctions techniques mêmes qui justifient la brevetabilité.

Pour la plupart des organisations, la solution ne consiste pas en une interdiction générale. Il s’agit de contrôles ciblés pour les sujets juridiques sensibles. Si l’organisation ne peut pas répondre à la question de savoir où l’IA est utilisée, par qui et selon quelles conditions, elle ne peut pas prétendre de manière crédible qu’elle a contrôlé le flux de ses renseignements confidentiels.

La divulgation, cependant, ne représente qu’une partie du risque. L’IA peut également réduire la valeur de la propriété intellectuelle en atténuant ce qui rend l’innovation techniquement et légalement distincte. Cette forme plus discrète d’érosion est au cœur du prochain article.

Explorez la série de lectures rapides sur l’IA complète

Pour une analyse plus approfondie de l’incidence de l’IA générative sur la confidentialité, le secret professionnel et la valeur de la propriété intellectuelle, explorez la série complète :

• Partie 1: US c. Heppner : La fin de « juste une invite » et le risque émergent de PI
• Partie 3: Génération par IA de « déchets » et dépendance excessive aux résumés : comment la valeur de la propriété intellectuelle est diluée
• Partie 4: US c. Heppner : leçons pour le Canada : utilisation de l’IA, confidentialité et exposition de la propriété intellectuelle

Si vous souhaitez en savoir plus sur les possibilités et les risques liés à l’intelligence artificielle, nous vous invitons à communiquer avec les auteurs de cette série ou avec n’importe quel membre de notre Groupe d’intelligence artificielle.