May, la plateforme des avantages salariésMagazine
3 pièges à éviter en utilisant les outils clés en main de GenAI

3 pièges à éviter en utilisant les outils clés en main de GenAI

Les nouveaux outils de GenAI, tels que ChatGPT ou MidJourney, offrent désormais à un public plus large la possibilité d'accomplir des tâches à l'aide de méthodes d'IA qui étaient autrefois réservées à un petit nombre de data scientists. Cependant, ces nouvelles utilisations engendrent certains risques qui sont parfois négligés lorsqu'on reste émerveillé devant les photos surréalistes produites par Midjourney. Cet article a pour but de les mettre en lumière.

Guide complet : Mieux gérer sa rémunération

Télécharger gratuitement

Erreur 1 - Partager des informations confidentielles

Les outils clés en main disponibles sur Internet sont souvent proposés par des entreprises privées offrant des options freemium ou à un coût très bas. Cependant, il est important de garder à l'esprit l'adage selon lequel "quand c'est gratuit, c'est vous le produit". Il convient de noter que les données que vous partagez avec ces interfaces peuvent être conservées, utilisées à des fins d'entraînement, et parfois réapparaître de manière inattendue dans les environnements d'autres utilisateurs gratuits.

En tant que professionnel des ressources humaines, vous êtes constamment en contact avec des informations confidentielles telles que les noms, prénoms,les CVs et les détails des entretiens. Le partage non autorisé de ces données ne devrait pas être envisagé sans le consentement explicite des personnes qui vous les ont confiées.

Solution : N'hésitez pas à anonymiser les éléments que vous intégrez dans ces outils et prenez le temps de comprendre la nature des données personnelles. Il est de votre responsabilité de les traiter avec le soin nécessaire et de veiller à respecter les principes éthiques associés à la gestion des informations confidentielles.

Erreur 2 - Ne pas vérifier le résultat des générations

Les outils de génération de texte, sont entraînés pour exceller dans la rédaction et même pour être de talentueux arnaqueurs. Leur capacité à convaincre est bien connue, même lorsqu'ils hallucinent et insèrent des informations erronées. Il est alors facile, si on ne lit pas attentivement, de diffuser des informations incorrectes ou complètement absurdes. Un exemple concret a eu lieu aux Etats Unis, où une plaidoirie entière a été construite sur des jurisprudences inventées par ChatGPT. Si tel est le cas, l’image de votre entreprise peut en pâtir et faire perdre bien plus que les quelques minutes économisées à ne pas relire le texte généré.

En parallèle, les algorithmes utilisés présentent des biais inhérents à leurs méthodes d'entraînement, et il est essentiel d'adopter un regard critique envers les résultats générés par ce type d'outil :

  • Ces modèles sont entrainés en se basant sur des textes, notamment littéraires, qui peuvent être anciens. ce qui signifie que s'il y avait des biais sexistes ou racistes dans ces textes ces modèles risquent également les reproduire. Si vous demandez à une IA d’écrire une scénette de théâtre ayant lieu dans un contexte médical, il y a de fortes chances pour qu'elle imagine les médecins comme étant des hommes et les infirmier.es comme étant des femmes.
  • Lorsqu'on utilise l'algorithme pour prendre une décision, il réagit en fonction de la fréquence des données qu'il a rencontrées. En d'autres termes, s'il a peu d'exemples d'un cas particulier, il hésitera à prendre le risque de le traiter. Par conséquent, l'utilisation de ces outils pour le tri de candidatures peut présenter un risque significatif pour les candidats atypiques.

Solution :

  • Relire attentivement le contenu généré et reformuler les tournures inexactes.
  • Si vos documents sont des documents juridiques, faites les vérifier avec vos départements légaux avant de les publier
  • Avoir un regard critique, lorsqu’on demande à une IA de nous aider prendre une décision

Erreur 3 - Automatiser des tâches qui ne devraient pas l’être

Ces intelligences artificielles représentent d'incroyables outils pour se décharger des tâches à faible valeur ajoutée et répétitives, comme la rédaction de comptes rendus, la vérification orthographique. Cependant, il convient de bien réfléchir à ce que nous automatisons et pourquoi nous le faisons.

Automatiser l'onboarding d'un collaborateur avec un chatbot peut sembler pratique, mais nous devons nous interroger sur l'objectif réel. Ne voulons-nous pas plutôt faciliter l'intégration d'un nouveau membre dans une équipe et lui permettre de se sentir à l'aise ?

Est-il éthique de laisser une IA rédiger entièrement des messages de refus sans accorder le temps nécessaire à un candidat qui a investi du temps dans le processus de recrutement avec votre entreprise ?

Solution : L'automatisation doit être guidée par une réflexion approfondie sur les valeurs et les objectifs de l'entreprise, en veillant à maintenir une approche humaine là où elle est nécessaire. En fin de compte, l'automatisation doit être un moyen d'améliorer l'efficacité afin d’avoir plus de temps à consacrer aux taches qui nécessitent des compétences humaines et une certaine éthique de travail

Conclusion

On peut conclure de tout cela que ces outils sont là pour rester, ils ne disparaitront pas. Aussi, il apparaît plus judicieux d'apprendre à “collaborer avec eux plutôt que de s'y opposer”. En effet, ils améliorent indéniablement nos performances en termes de rapidité et de qualité. Une étude menée auprès des employés du BCG par des chercheurs de Harvard et du MIT a révélé que l'utilisation de ChatGPT dans les tâches quotidiennes des consultants augmente leur productivité temporelle de plus de 22% et la qualité de leur travail de plus de 43%.

En conclusion, pour caricaturer un peu, il existe deux approches efficaces pour tirer parti des outils d'intelligence artificielle générative :

  • Le cyborg : délègue l'exécution de toutes ses tâches aux IA génératives, mais reste impliqué en échangeant avec elles, prenant le temps de vérifier et de tout relire.
  • Le centaure : répartit ses tâches entre celles à faible valeur ajoutée qui peuvent être automatisées, et celles nécessitant un investissement intellectuel ou éthique important qu’il accomplit sans l'aide de ces outils.

Et vous, quelle sera votre approche ?

3 pièges à éviter en utilisant les outils clés en main de GenAI
3 pièges à éviter en utilisant les outils clés en main de GenAI
Picto Information

Le saviez-vous ?

Le Guide complet : Offrir des avantages salariaux

Télécharger gratuitement
photo de l'auteur de l'articleIcone Linkedin

Christelle Marfaing

Avec 8 ans d'expérience, dont 5 ans en tant que Head of Data chez Lydia, Christelle est en charge de toute la Data chez May. Elle intervient régulièrement dans des médias et des conférences data comme DataGen, Women in Data Science (WiDS) et HymaDay. Elle fait aussi partie de l'équipe fondatrice du"Modern Data Network", une communauté francophone pour parler de Modern Data Stack.
Audit gratuit de vos avantages May

Découvrez comment améliorer vos avantage salariaux en place.

Audit Gratuit

Articles associés