Claude aide Prosper Global à traiter plus rapidement les retours des communautés à travers le monde

Quand un signalement grave reste en attente de traitement

Les mécanismes de recueil des retours des communautés font partie des pratiques fondamentales du secteur humanitaire. Ils permettent aux organisations de rendre des comptes aux populations qu’elles accompagnent. Chez Prosper Global, c’est le rôle du CARM. Ce dispositif permet aux bénéficiaires des programmes de l’organisation, ainsi qu’aux populations vivant à proximité des zones d’intervention, de lui faire savoir ce qui fonctionne, ce qui ne fonctionne pas et de signaler d’éventuels problèmes. Les retours peuvent porter aussi bien sur des demandes d’information concernant l’aide apportée que des préoccupations relatives à la protection des personnes ou des plaintes concernant le comportement du personnel. Les signalements arrivent par téléphone, au moyen de formulaires, auprès des bureaux d’accueil ou lors d’échanges en personne. Ils sont très souvent formulés dans l’une des dizaines de langues parlées localement, du birman à l’ukrainien, en passant par l’espagnol et le français. Avant l’arrivée de Claude, chaque signalement devait être retranscrit, traduit et examiné par un membre du personnel, qui devait ensuite déterminer à quelle catégorie il appartenait, évaluer sa gravité selon les critères de l’organisation et le transmettre au service compétent pour qu’il soit traité.

La plupart des signalements concernent le fonctionnement courant des programmes. Mais certains sont beaucoup plus graves. « Le principe même de la redevabilité repose sur la confiance de la personne qui nous fait part d’une préoccupation : elle doit savoir que nous l’écoutons, que nous agissons et que nous lui rendons compte des suites données dans des délais raisonnables », explique M. Orozco, responsable des solutions d’IA et de leur déploiement chez Prosper Global. « Lorsqu’un signalement grave reste en attente sans être lu, ou qu’il est enregistré comme une demande ordinaire alors qu’il aurait dû être transmis en urgence, ce n’est pas simplement une information qui nous échappe. Nous trahissons la confiance d’une personne qui a pris le risque de s’exprimer, et nous risquons de laisser une situation mettant des personnes en danger sans réponse. »

Les difficultés se concentraient sur trois aspects : le volume des signalements, la diversité des langues et la cohérence des évaluations. Les équipes recevaient davantage de retours qu’elles ne pouvaient en traiter rapidement, la diversité des langues et dialectes locaux compliquaient la traduction et les réponses apportées, et deux personnes pouvaient attribuer des niveaux de gravité différents à un même signalement. Résultat : une charge de travail importante et des retards de traitement. « La rapidité de traitement et la justesse de l’évaluation de la gravité des signalements font toute la différence entre un dispositif qui protège réellement les personnes et un autre qui se contente de recueillir des formulaires », souligne M. Orozco.

Critères susceptibles de disqualifier un modèle

Pour le tri des signalements susceptibles de concerner la protection des personnes, les premières questions « ne portaient pas sur la rapidité », se souvient Orozco. « Elles concernaient les données, les responsabilités et le contrôle. » Prosper Global avait besoin d’un fournisseur qui s’engage à ne pas utiliser ses données pour entraîner ses modèles, qui conserve les données d’entrée le moins longtemps possible et qui puisse présenter de véritables certifications plutôt que de simples promesses. Les conditions commerciales d’Anthropic répondaient à ces deux premières exigences et, associées aux certifications ISO 27001, ISO 42001 et SOC 2, elles « étaient indispensables pour que nous puissions seulement envisager cette solution », explique M. Orozco.

« Nous aurions écarté tout modèle présentant la moindre ambiguïté quant à l’utilisation des données, ou ayant tendance à inventer des informations avec assurance alors qu’il traite des contenus sensibles », précise-t-il. « Nous avons effectué des tests sur des cas réels et vérifié les résultats, sans nous fier uniquement aux affirmations du fournisseur. »

Un membre de l’équipe CARM a soumis à Claude 20 signalements réels, en lui demandant d’évaluer leur gravité selon les critères habituels de l’équipe, puis a comparé les résultats aux évaluations initiales réalisées par des humains. Les niveaux de gravité attribués concordaient dans environ 75 % des cas. « Ce sont les désaccords qui nous ont été les plus utiles », souligne Orozco. Certains révélaient de véritables ambiguïtés dans la grille d’évaluation, d’autres ont même amené l’équipe à réexaminer la pertinence de l’évaluation humaine initiale. « Cela nous a donné une première base de référence pour l’évaluation automatisée de la gravité des signalements, tout en nous permettant de vérifier la cohérence de nos propres pratiques », explique-t-il. « Ce qui nous a donné confiance, c’est que les écarts étaient explicables et riches d’enseignements, pas aléatoires ». Au départ, l’équipe a constaté que Claude attribuait parfois un niveau de gravité différent lorsqu’un même signalement lui était soumis une deuxième fois. Mais après avoir affiné les définitions de niveaux de gravité et les consignes fournies à Claude, le système a produit des classifications plus cohérentes et plus précises.

La fiabilité des réponses du modèle ne suffisait pas : Anthropic a également dû faire ses preuves lors de l’évaluation du fournisseur. Prosper Global utilise Claude Enterprise pour ses activités quotidiennes et l’API Claude pour les traitements en production, notamment l’évaluation automatisée de la gravité des signalements. Ces deux solutions sont couvertes par les mêmes conditions commerciales et un seul accord de traitement des données. La documentation publiée par Anthropic a permis à l’équipe de remplir ses formulaires d’évaluation du fournisseur et de réaliser une analyse d’impact formelle relative à la protection des données. « Pour une organisation à but non lucratif qui ne dispose pas d’un service complet dédié aux achats ou à la sécurité, cette centralisation a réellement permis d’accélérer le processus d’évaluation », ajoute-t-il.

Comment ça fonctionne : la décision reste entre les mains d’une personne

Dans le cadre de l’expérimentation actuelle, les signalements arrivent souvent dans une langue locale. Les informations permettant d’identifier directement les personnes et les contenus les plus sensibles sont d’abord repérées et supprimées. Claude traduit ensuite le signalement dans un anglais clair, le classe par thème et propose un niveau de gravité selon la grille d’évaluation à six niveaux de l’équipe, en justifiant brièvement son choix. Un membre de l’équipe CARM compare alors le résultat au signalement original, puis confirme ou ajuste le niveau de gravité proposé. Ces opérations sont réalisées dans l’interface Claude Enterprise, à partir des consignes d’évaluation intégrées aux connaissances partagées du projet.

« Claude ne prend jamais la décision finale », explique M. Orozco. « Il accélère la traduction, la catégorisation et la première évaluation de la gravité, mais un membre du personnel formé à cette tâche vérifie systématiquement les résultats et assume la responsabilité de la décision. Les communautés peuvent faire confiance à ce dispositif, car la responsabilité reste entre les mains d’une personne, et non d’un modèle d’IA. »

« Nous sommes encore en phase de test, et non au stade d’un système de production entièrement intégré », insiste M. Orozco. « Nous expérimentons délibérément Claude dans le cadre du CARM et vérifions ses résultats au cas par cas avant de lui confier le traitement de signalements réels en conditions opérationnelles ». L’objectif est de créer un projet Claude partagé, regroupant les consignes d’évaluation du CARM et des prompts standardisés. Ainsi, dans chaque pays, les collaborateurs chargés de recueillir et de traiter les signalements, les « points focaux » dans le jargon de Prosper Global, pourront obtenir des traductions, une catégorisation thématique et une proposition de niveau de gravité cohérentes, sans avoir à configurer eux-mêmes l’outil. Dans les prochains mois, Prosper Global prévoit de connecter ce dispositif à Zendesk, son système de gestion des retours dans le cadre du CARM.

« La réussite du déploiement dépend moins de la technologie que des personnes », note-t-il. « Il faut former les points focaux à la rédaction des requêtes, mais aussi, et c’est tout aussi important, leur apprendre à exercer leur esprit critique face aux résultats obtenus. » L’utilisation de Claude sera étendue uniquement lorsque les tests apporteront les garanties nécessaires à l’équipe.