Notre approche en matière d’ia responsable

À Manuvie, les modèles d’IA et d’apprentissage automatique sont régis par notre cadre de gestion des modèles de risque d’entreprise. La gestion des modèles de risque établit des normes cohérentes concernant la conception, les tests, la validation et le suivi des modèles dans le temps.

Avant leur approbation, les modèles doivent faire l’objet d’examens de validation et de fiabilité proportionnés au risque qu’ils présentent, la portée, la profondeur et la fréquence des évaluations étant adaptées à l’importance relative, à la complexité et à l’effet potentiel du modèle, et un suivi fondé sur le risque devant être assuré une fois le modèle mis en œuvre.

La gestion des modèles de risque contribue également à intégrer les considérations éthiques dès les premières étapes du développement de l’IA. Les équipes font des contrôles structurés afin de repérer les risques éthiques et les risques liés à la clientèle

Ces mesures visent à garantir que les solutions d’IA soient évaluées non seulement en fonction de leur rendement, mais aussi au regard de leur conformité avec les exigences légales et les normes éthiques de Manuvie, ainsi qu’avec son engagement à préserver la confiance des clients et des parties prenantes.

La gestion des modèles de risque suit une approche de trois lignes de défense, avec des responsabilités clairement définies entre les responsables de modèles, les équipes de gestion des risques indépendantes et l’audit interne. L’objectif est de garantir que la fiabilité et l’explicabilité constituent des obligations permanentes, et non des évaluations ponctuelles.

Formation à l’IA responsable

Afin de garantir une responsabilité claire et efficace, Manuvie rend obligatoire une formation destinée aux responsables de modèles, qui vise à les aider à comprendre leurs responsabilités en matière d’utilisation éthique, de contrôles appropriés et de surveillance continue tout au long du cycle de vie d’un modèle.

De plus, tous les collègues ont accès à une formation sur l’utilisation responsable et sécuritaire de l’IA, qui porte sur l’utilisation appropriée, la gestion des données et les situations où le jugement humain est nécessaire.

Surveillance de la dérive et de la dégradation

Une fois le modèle déployé, la surveillance se poursuit selon un calendrier établi en fonction des risques afin de détecter toute dérive, tout rendement inférieur, toute modification des données sous-jacentes ou tout autre problème susceptible d’avoir une incidence sur la fiabilité, l’équité, la sécurité ou la conformité aux exigences du modèle. Lorsqu’un problème est détecté lors de la surveillance, le modèle est examiné et revalidé, modifié ou retiré de l’usage.

Le résultat

Les modèles d’IA sont mis en œuvre avec une documentation claire, un contrôle approprié et un contrôle continu. Cela favorise l’obtention de résultats fiables, la prise de décisions compréhensibles et une responsabilité clairement définie, conformément au Code de déontologie et d’éthique de Manuvie et aux attentes de l’entreprise en matière de gestion des risques.

Transparence quant à la manière dont l’IA se présente aux utilisateurs

Nous appliquons les normes de l’entreprise en matière de marque et de conception lorsque l’IA est mise en avant dans le cadre de nos interactions avec des parties prenantes. Ces normes établissent des lignes directrices visant à identifier les contenus pertinents générés par l’IA, ainsi que la manière dont les fonctionnalités de l’IA doivent être étiquetées et représentées visuellement, afin que les collègues et les clients puissent reconnaître lorsqu’ils interagissent avec l’IA.

En optimisant la conception des solutions d’IA, en recourant à des modèles plus petits lorsque cela s’avère pertinent et en s’associant à des fournisseurs partageant les mêmes valeurs, Manuvie cherche à intégrer les considérations de durabilité et d’efficacité énergétique directement dans le cycle de développement de l’IA.

Les partenariats de Manuvie avec des fournisseurs de premier plan viennent appuyer notre engagement en faveur d’un avenir durable. Grâce à ces partenariats, nous :

• Choisissons des solutions d’IA optimisées en termes de coûts, de rapidité et d’utilisation efficace des ressources
• Optimisons l’utilisation des ressources informatiques pendant l’entraînement, le réglage et l’inférence des modèles
• Surveillons de manière proactive l’utilisation de notre infrastructure afin de contribuer à réduire la consommation d’énergie globale

Manuvie dispose d’une équipe dédiée à la gouvernance de l’IA, chargée de définir les normes, les politiques et les exigences de contrôle applicables à l’IA à l’échelle de l’entreprise. Cette équipe travaille en étroite collaboration avec les équipes Services juridiques, Protection des renseignements personnels, Conformité et Gestion des risques, ainsi qu’avec les responsables de modèles. Les responsables de modèles font partie des équipes opérationnelles et fonctionnelles; ils ont pour mission de veiller à ce que les modèles soient conformes aux objectifs opérationnels et aux exigences de gouvernance, en définissant des limites de tolérance et des seuils de surveillance du rendement.

Le contrôle stratégique est assuré par le Conseil de gouvernance de l’IA, qui agit à titre de comité directeur au niveau mondial. Ce conseil rassemble les hauts dirigeants afin de :

- définir la stratégie de l’entreprise en matière d’adoption de l’IA;

- prioriser les cas d’utilisation de l’IA présentant un risque élevé ou une incidence importante;

- garantir la responsabilité et la cohérence entre les unités administratives et fonctionnelles.

Cette structure de gouvernance à plusieurs niveaux vise à garantir que les aspects liés à la sécurité, à la conformité et à l’éthique soient intégrés tout au long du processus, de la conception à la mise en œuvre, en passant par le contrôle continu.

Ce modèle de supervision à plusieurs niveaux permet de garantir que les solutions d’IA fonctionnent dans les limites définies de la tolérance au risque, tout en restant adaptables à l’évolution des technologies, de la réglementation et des attentes.

Manuvie dispose d’une équipe dédiée à la gouvernance de l’IA, chargée de définir les normes, les politiques et les exigences de contrôle applicables à l’IA à l’échelle de l’entreprise. Cette équipe travaille en étroite collaboration avec les équipes Services juridiques, Protection des renseignements personnels, Conformité et Gestion des risques, ainsi qu’avec les responsables de modèles. Nos principes en matière d’IA responsable sont approuvés par la haute direction, notamment par la cheffe de l’IA et le chef de la gestion des risques, et font l’objet d’une surveillance continue par l’intermédiaire d’un conseil de gouvernance de l’IA.

Le contrôle stratégique est assuré par le Conseil de gouvernance de l’IA, qui agit à titre de comité directeur au niveau mondial. Ce Conseil rassemble des hauts dirigeants dans le but de :

• Définir la stratégie de l’entreprise en matière d’adoption de l’IA
• Donner la priorité aux cas d’utilisation de l’IA à fort impact
• Assurer la responsabilisation et la cohérence dans l’ensemble de l’entreprise et de ses fonctions

Les responsables de modèles font partie des équipes opérationnelles et fonctionnelles; ils ont pour mission de veiller à ce que les modèles soient conformes aux objectifs opérationnels et aux exigences de gouvernance, en définissant des limites de tolérance et des seuils de surveillance du rendement.

Cette structure de gouvernance à plusieurs échelons contribue à garantir que la sécurité, la conformité et les considérations éthiques soient intégrées tout au long du cycle de vie de l’IA, tout en permettant aux solutions d’IA de fonctionner dans les limites de tolérance au risque définies et de s’adapter à l’évolution des technologies, des réglementations et des attentes des parties prenantes.

Sécurité et confidentialité

La protection des renseignements personnels et la sécurité de nos systèmes et de nos données sont des éléments fondamentaux de notre utilisation de l’IA. Nous nous engageons à traiter les renseignements personnels de manière responsable et conformément à notre avis de confidentialité mondial. Les considérations relatives à la protection de la vie privée sont intégrées tout au long du cycle de vie des solutions d’IA, le cas échéant, afin de garantir que les renseignements personnels soient traités et protégés de manière appropriée.

Nous appliquons des mesures de protection visant à sécuriser les systèmes, les renseignements et les accès qui sous-tendent l’IA, à gérer les risques liés à la sécurité et à favoriser une utilisation sûre, sécurisée et responsable de l’IA. Les solutions d’IA sont mises au point et gérées conformément aux normes de Manuvie en matière de sécurité de l’information et des cyberrisques. L’accès aux systèmes d’IA et aux renseignements y afférents est réservé aux personnes autorisées assumant des responsabilités appropriées et à des fins commerciales légitimes. Pour en savoir plus, consultez notre Politique mondiale de sécurité informatique.