Depuis que le robot ChatGPT d’OpenAI s’est propagé à la fin de 2022 en raison de sa capacité sans précédent à engager des conversations semblables à celles des humains et à offrir des réponses structurées dans des champs de connaissances variés, plusieurs concurrents ont proposé leurs propres modèles. Cette technologie, l’intelligence artificielle (IA) générative, s’appuie sur de vastes modèles de langage qui réunissent d’énormes quantités de données : textes, images ou autres médias. Les modèles détectent des tendances et des structures dans les données d’apprentissage, puis s’en inspirent pour générer un contenu similaire adapté à l’utilisateur.

L’intégration de l’IA générative comporte divers avantages pour une entreprise, qu’il s’agisse d’améliorer les processus, de réduire les coûts ou de créer de la valeur. Dans différents secteurs, les entreprises ont déjà commencé à tester et à déployer des outils d’IA générative. Par exemple, des institutions financières font appel à des robots conversationnels entraînés à l’aide de bases de données internes pour fournir des conseils financiers aux clients, ou des établissements de soins de santé automatisent la production de documents médicaux à partir de conversations entre patients et médecins. Tous les secteurs d’activité intègrent également des outils d’IA générative au marketing, au service à la clientèle et au développement de produits.

Par conséquent, les investisseurs doivent porter attention non seulement aux géants technologiques qui construisent les modèles fondamentaux, mais aussi aux entreprises qui incorporent des outils d’IA générative dans leurs activités. Comme pour la plupart des nouvelles technologies, il faut bien peser les risques et s’en protéger avant le déploiement à grande échelle. La réglementation sera importante pour les réduire. Toutefois, comme la réglementation évolue beaucoup plus lentement que l’IA et ses applications, les investisseurs doivent tenir compte des risques et être à l’affût des entreprises associées à l’IA générative qui sont mieux à même de gérer ces risques.

Défis et risques liés à l’IA générative

Les problèmes des modèles d’IA générative sont connus. Ces modèles ont tendance à « halluciner », à présenter des résultats comme des faits, même s’ils s’écartent des données d’apprentissage. Divers facteurs peuvent être à l’origine de ces erreurs, comme une architecture mal adaptée au modèle ou du bruit et des divergences dans les données d’apprentissage. L’opacité dans la façon de générer les résultats du modèle pose aussi un problème. Des milliards, voire des billions de paramètres déterminent la probabilité de chaque partie de la réponse du modèle. Il est donc très difficile d’en associer les résultats aux données source, y compris dans les cas d’hallucination.

De plus, si les données d’apprentissage contiennent des préjugés sociétaux ou si des biais humains influencent l’algorithme, le modèle risque de les intégrer dans les résultats. Les applications des entreprises sont aussi exposées aux problèmes de confidentialité des données et aux cybermenaces. On pense à la fuite de renseignements sensibles issus des données d’apprentissage si le modèle est destiné au client/public, à l’utilisation sans consentement explicite de données personnelles ou sensibles pour entraîner le modèle et aux attaques informatiques pour en manipuler les résultats.

Ces problèmes présentent des risques juridiques et d’atteinte à la réputation dont l’ampleur dépend de la valeur stratégique de l’utilisation et du secteur d’activité. Par exemple, vu leur caractère névralgique, les services financiers et les soins de santé peuvent subir de graves conséquences en cas de problèmes.

Exemples d’utilisations dans les services financiers

Dans les cas des services-conseils financiers, les hallucinations peuvent amener le modèle à se tromper dans les conseils ou les produits proposés à des clients vulnérables, ce qui risque de miner la confiance du public envers les systèmes d’IA et les institutions financières qui les utilisent. L’opacité dans la façon de générer les résultats du modèle est également un enjeu majeur pour les institutions financières, qui doivent justifier leurs décisions à l’interne et auprès des intervenants externes. Dans ce contexte, il vaut mieux établir une certaine séparation entre les résultats directs du modèle et le client. Le personnel interne pourrait être formé à reconnaître les erreurs et les incohérences du modèle et assumer la responsabilité ultime du processus de prise de décisions.

L’IA générative pourrait aussi offrir aux institutions financières un moyen rapide et économique de définir le profil des clients pour les campagnes de marketing, la gestion des risques et la détection des opérations douteuses. Toutefois, le recours excessif au profilage par l’IA générative pourrait contrevenir aux lois contre la discrimination en raison du biais potentiel inhérent aux modèles. Le jugement humain doit s’inscrire en complément des modèles d’IA générative qui effectuent le profilage des clients. Les institutions financières devront aussi faire preuve de rigueur dans leurs politiques de confidentialité des données et leurs mesures de cybersécurité afin de gérer les risques posés par l’IA générative pour les renseignements sensibles des clients et les données exclusives.

Questions à considérer pour les investisseurs

Vu les enjeux et les risques, voici les questions que les investisseurs devraient considérer dans leur évaluation des entreprises qui utilisent des outils d’IA générative.

• Quels mécanismes ou circonstances peuvent atténuer les risques? Parmi les solutions, le personnel interne peut être formé au rôle d’intermédiaire entre les résultats directs du modèle et le client. On peut chercher à comprendre les biais potentiels des données d’apprentissage et les corriger dès la conception du modèle. On peut exercer une surveillance régulière et proactive des résultats du modèle afin de repérer et corriger rapidement tout signe d’hallucination. On peut mettre en œuvre des mesures de cybersécurité rigoureuses, etc.
• Que fait-on pour améliorer le modèle? Parmi les solutions, on veille à ce que les données d’apprentissage soient de grande qualité, exactes et à jour. On met en œuvre des boucles de rétroaction pour affiner le modèle, etc.
• Y a-t-il une transparence et une surveillance à l’égard des principes éthiques en matière d’IA? Voilà qui pose la question de la transparence en ce qui a trait à la source des données et à la protection des renseignements personnels. Il faut clarifier les politiques et procédures afin de respecter les normes d’éthique et la réglementation émergente, en plus de définir les rôles et responsabilités de ceux qui développent, exploitent et surveillent le modèle d’IA générative, etc.

_{Les renseignements contenus dans le présent document ne servent qu’à des fins d’information. Ils proviennent de sources jugées fiables. Ces renseignements n’ont pas pour but de fournir des conseils financiers, juridiques, fiscaux ou de placement. Les stratégies fiscales, de placement ou de négociation devraient être étudiées en fonction des objectifs et de la tolérance au risque de chacun.}

_{Ce document ne constitue pas une offre destinée à une personne résidant dans un territoire où une telle offre est illégale ou n’est pas autorisée. Ces documents n’ont été examinés par aucune autorité en valeurs mobilières ni aucun autre organisme de réglementation dans les territoires où nous exerçons nos activités et ne sont pas enregistrés auprès de ceux-ci.}

_{Toute discussion ou opinion générale contenue dans ces documents concernant les titres ou les conditions du marché représente notre point de vue ou celui de la source citée. Sauf indication contraire, il s’agit de points de vue exprimés à la date indiquée et sous réserve de changement. Les données sur les placements, la répartition de l’actif ou la diversification du portefeuille sont historiques et peuvent changer.}

_{Ce document peut contenir des énoncés prospectifs. Les énoncés prospectifs reflètent les attentes et les projections actuelles à l’égard d’événements ou de résultats futurs en fonction des données actuellement disponibles. Ces prévisions et projections pourraient s’avérer inexactes à l’avenir, car des événements qui n’ont pas été prévus ou pris en compte dans leur formulation pourraient se produire et entraîner des résultats sensiblement différents de ceux exprimés ou implicites. Les énoncés prospectifs ne garantissent pas le rendement futur et il faut éviter de s’y fier.}

_{Solutions de placement mondiales TD représente Gestion de Placements TD Inc. (« GPTD ») et Epoch Investment Partners, Inc. (« TD Epoch »). GPTD et TD Epoch sont des sociétés affiliées et des filiales en propriété exclusive de La Banque Toronto-Dominion.}

_{^MD Le logo TD et les autres marques de commerce TD sont la propriété de La Banque Toronto-Dominion ou de ses filiales.}