3 pièges à éviter en utilisant les outils clés en main de GenAI

Erreur 1 - Partager des informations confidentielles

‍

Les outils clés en main disponibles sur Internet sont souvent proposés par des entreprises privées offrant des options freemium ou à un coût très bas. Cependant, il est important de garder à l'esprit l'adage selon lequel "quand c'est gratuit, c'est vous le produit". Il convient de noter que les données que vous partagez avec ces interfaces peuvent être conservées, utilisées à des fins d'entraînement, et parfois réapparaître de manière inattendue dans les environnements d'autres utilisateurs gratuits.

En tant que professionnel des ressources humaines, vous êtes constamment en contact avec des informations confidentielles telles que les noms, prénoms,les CVs et les détails des entretiens. Le partage non autorisé de ces données ne devrait pas être envisagé sans le consentement explicite des personnes qui vous les ont confiées.

Solution : N'hésitez pas à anonymiser les éléments que vous intégrez dans ces outils et prenez le temps de comprendre la nature des données personnelles. Il est de votre responsabilité de les traiter avec le soin nécessaire et de veiller à respecter les principes éthiques associés à la gestion des informations confidentielles.

‍

Erreur 2 - Ne pas vérifier le résultat des générations

‍

Les outils de génération de texte, sont entraînés pour exceller dans la rédaction et même pour être de talentueux arnaqueurs. Leur capacité à convaincre est bien connue, même lorsqu'ils hallucinent et insèrent des informations erronées. Il est alors facile, si on ne lit pas attentivement, de diffuser des informations incorrectes ou complètement absurdes. Un exemple concret a eu lieu aux Etats Unis, où une plaidoirie entière a été construite sur des jurisprudences inventées par ChatGPT. Si tel est le cas, l’image de votre entreprise peut en pâtir et faire perdre bien plus que les quelques minutes économisées à ne pas relire le texte généré.

En parallèle, les algorithmes utilisés présentent des biais inhérents à leurs méthodes d'entraînement, et il est essentiel d'adopter un regard critique envers les résultats générés par ce type d'outil :

• Ces modèles sont entrainés en se basant sur des textes, notamment littéraires, qui peuvent être anciens. ce qui signifie que s'il y avait des biais sexistes ou racistes dans ces textes ces modèles risquent également les reproduire. Si vous demandez à une IA d’écrire une scénette de théâtre ayant lieu dans un contexte médical, il y a de fortes chances pour qu'elle imagine les médecins comme étant des hommes et les infirmier.es comme étant des femmes.
• Lorsqu'on utilise l'algorithme pour prendre une décision, il réagit en fonction de la fréquence des données qu'il a rencontrées. En d'autres termes, s'il a peu d'exemples d'un cas particulier, il hésitera à prendre le risque de le traiter. Par conséquent, l'utilisation de ces outils pour le tri de candidatures peut présenter un risque significatif pour les candidats atypiques.

Solution :

• Relire attentivement le contenu généré et reformuler les tournures inexactes.
• Si vos documents sont des documents juridiques, faites les vérifier avec vos départements légaux avant de les publier
• Avoir un regard critique, lorsqu’on demande à une IA de nous aider prendre une décision

‍

Erreur 3 - Automatiser des tâches qui ne devraient pas l’être

‍

Ces intelligences artificielles représentent d'incroyables outils pour se décharger des tâches à faible valeur ajoutée et répétitives, comme la rédaction de comptes rendus, la vérification orthographique. Cependant, il convient de bien réfléchir à ce que nous automatisons et pourquoi nous le faisons.

Automatiser l'onboarding d'un collaborateur avec un chatbot peut sembler pratique, mais nous devons nous interroger sur l'objectif réel. Ne voulons-nous pas plutôt faciliter l'intégration d'un nouveau membre dans une équipe et lui permettre de se sentir à l'aise ?

Est-il éthique de laisser une IA rédiger entièrement des messages de refus sans accorder le temps nécessaire à un candidat qui a investi du temps dans le processus de recrutement avec votre entreprise ?

Solution : L'automatisation doit être guidée par une réflexion approfondie sur les valeurs et les objectifs de l'entreprise, en veillant à maintenir une approche humaine là où elle est nécessaire. En fin de compte, l'automatisation doit être un moyen d'améliorer l'efficacité afin d’avoir plus de temps à consacrer aux taches qui nécessitent des compétences humaines et une certaine éthique de travail

‍

Conclusion

‍

On peut conclure de tout cela que ces outils sont là pour rester, ils ne disparaitront pas. Aussi, il apparaît plus judicieux d'apprendre à “collaborer avec eux plutôt que de s'y opposer”. En effet, ils améliorent indéniablement nos performances en termes de rapidité et de qualité. Une étude menée auprès des employés du BCG par des chercheurs de Harvard et du MIT a révélé que l'utilisation de ChatGPT dans les tâches quotidiennes des consultants augmente leur productivité temporelle de plus de 22% et la qualité de leur travail de plus de 43%.

En conclusion, pour caricaturer un peu, il existe deux approches efficaces pour tirer parti des outils d'intelligence artificielle générative :

• Le cyborg : délègue l'exécution de toutes ses tâches aux IA génératives, mais reste impliqué en échangeant avec elles, prenant le temps de vérifier et de tout relire.
• Le centaure : répartit ses tâches entre celles à faible valeur ajoutée qui peuvent être automatisées, et celles nécessitant un investissement intellectuel ou éthique important qu’il accomplit sans l'aide de ces outils.

Et vous, quelle sera votre approche ?

‍