Si l'IA parle au client, qui porte la responsabilité du conseil?

Commentaire d'expert — 7 min de lecture

L'IA orientée client change la question de gouvernance.

L'utilisation interne de l'IA peut souvent être gouvernée par des inventaires de modèles, des contrôles d'accès, la mesure de valeur, la Human Oversight et l'operational risk. L'IA orientée client ajoute une autre couche: la perception du client.

C'est pourquoi ce sujet compte.

Un message peut commencer comme un draft. Il peut ensuite être personnalisé. Il peut être revu par un conseiller. Il peut être envoyé par un canal privé. Il peut expliquer pourquoi un produit ou une stratégie pourrait convenir à la situation d'un client.

À ce stade, l'histoire interne — "the model only generated text" — ne suffit plus.

La question externe devient: qu'est-ce que le client a raisonnablement compris?

Le supervisory briefing d'ESMA est important parce qu'il se concentre sur la présentation. Il indique qu'une recommandation présentée comme adaptée ou fondée sur les circonstances du client peut constituer un investment advice si les autres tests sont remplis. Il précise également que les emails, sites web, apps, messages privés et systèmes logiciels interactifs peuvent être des canaux par lesquels un conseil est fourni.

C'est l'insight pratique pour le board.

La communication client IA n'est pas une catégorie unique.

C'est une ladder.

En bas, l'IA rédige du wording pour une utilisation contrôlée par l'humain. Au milieu, l'IA explique des produits, risques ou étapes de processus. Plus haut, l'IA personnalise des recommandations. Au sommet, l'IA participe au conseil client-facing.

L'exigence de gouvernance augmente à chaque étape.

Une explication produit générique peut exiger exactitude, clarté et disclosure. Une recommandation personnalisée exige suitability. Une interaction de conseil client-facing exige que l'institution démontre que la communication était appropriée, fair, revue et reconstructible.

C'est pourquoi la classification compte.

Le board ne devrait pas seulement demander: "Utilisons-nous l'IA dans la communication client?"

La meilleure question est:

Où se situe chaque use case sur la communication ladder?

Ce n'est pas de l'hygiène sémantique. C'est l'operating model.

Si un message est Draft, le contrôle clé est la review avant release.

Si un message est Explain, le contrôle clé est une communication fair, clear and not misleading.

Si un message est Recommend, le contrôle clé est la suitability.

Si un message est Advise, le contrôle clé est une full advice governance et reconstruction.

Le même modèle peut produire des outputs à plusieurs niveaux. Un language model peut rédiger une explication neutre dans un contexte et créer une recommandation personnalisée dans un autre. Par conséquent, la classification du modèle seule est insuffisante. La communication doit être classifiée par usage, canal, personnalisation, wording et contexte client.

C'est aussi pourquoi un owner nommé compte.

Technology peut fournir l'outil. Compliance peut définir la frontière. Legal peut conseiller sur la classification. Le conseiller peut revoir le message. Mais le business doit own le client outcome.

Un client ne fait pas l'expérience d'un modèle, d'une policy ou d'un comité.

Un client fait l'expérience d'un message.

L'institution doit donc pouvoir répondre à quatre questions pour chaque communication client matérielle touchée par l'IA:

• Qui l'a owned?
• Comment a-t-elle été classifiée?
• Pourquoi était-elle suitable, fair and not misleading?
• Pouvons-nous reconstruire exactement ce que le client a vu?

Si ces réponses sont visibles, l'IA peut soutenir le service client de manière sûre et professionnelle.

Si elles ne le sont pas, l'institution peut avoir un canal de communication sans chaîne d'accountability fiable.

L'objectif n'est pas d'empêcher l'IA d'assister les fonctions client-facing.

L'objectif est de garantir que la communication assistée par IA reste une communication gouvernée.

L'IA peut générer les mots.

Elle ne peut pas own le conseil.