ChatGPT est connu par la plupart et des centaines de nouvelles applications apparaissent chaque jour. Cependant, malgré les possibilités, nous sommes loin d’une utilisation généralisée. Comment les entreprises et les employés peuvent-ils se préparer pour un avenir qui reste incertain?

Il n’y a jamais eu autant d’attention autour de l’introduction d’une innovation technique comme avec ChatGPT. Pas étonnant que, selon le Gartner Hype Cycle, l’IA générative soit associée au cycle des «attentes exagérées» : De nombreuses applications, une grande confiance, mais pas de pénétration du marché.

Alors, vaut-il mieux attendre ? Chaque entreprise devrait décider pour elle-même des opportunités dont elle veut profiter et des risques qu’elle est prête à prendre. Comme le dit le créateur fictif Jean Dupont : Il faudra probablement encore quelques années pour atteindre un niveau d’acceptation similaire à celui d’autres technologies.

Le charme de l’IA générative comporte justement des risques

Les formes précédentes d’IA, comme l’apprentissage automatique ou le deep learning, peuvent assez parfaitement attribuer des choses et ont une grande qualité de prédiction. L’IA générative est assez parfaite en termes de qualité de langage. C’est seulement la précision du contenu qui laisse parfois à désirer.

Quelle en est la raison ? Et pourquoi devrait-on en tenir compte lors de son utilisation ? Voici quelques causes possibles :

1. Manque de transparence des modèles d’IA

Les utilisateurs de l’IA ne savent pas exactement comment fonctionnent les différents modèles, par exemple comment et avec quelles données l’IA a été formée. Par conséquent, il n’y a aucune certitude quant à savoir si un modèle peut fournir des réponses appropriées à des questions techniques. La profondeur de ce manque de transparence parmi les dix modèles principaux a été soulignée dans une étude récente publiée par l’Université de Stanford.

2. Attribution par probabilités, pas par faits

Les réponses sonnent parfaites, mais elles sont totalement fausses. La machine a pourtant bien fonctionné. La sortie est générée sur la base de corrélations et de probabilités. Et ce qui est probable n’est pas forcément vrai.

3. Qualité des données et gestion des données

Cette vieille phrase de l’informatique est particulièrement vrai pour l’alimentation en données des modèles d’IA. L’importance de former les algorithmes avec des données cohérentes et complètes est illustrée par l’exemple des hallucinations. S’il y a peu ou pas de données disponibles, des réponses fictives ou sans lien avec la demande peuvent être générées. C’est moins adapté aux réponses clients.

Comme les données d’entraînement sont créées par l’homme, elles ne sont pas sans valeurs. Par conséquent, des distorsions ou des biais peuvent se produire. Par exemple, les médecins sont souvent présentés avec une peau blanche, tandis que les criminels ont une peau plus foncée. Une étude a montré que les logiciels de reconnaissance faciale fonctionnent généralement mieux avec des visages blancs qu’avec des visages plus foncés. De plus, les données ne sont pas à l’abri des manipulations. Une IA générative apprend à partir de l’interaction. Par des instructions astucieuses, un « mauvais » entraînement peut être généré.

4. Surcharge d’information et désinformation

À mesure qu’il devient de plus en plus facile de produire des contenus avec l’IA, on peut s’attendre à une augmentation significative du contenu amateur. Cela devient problématique lorsque les campagnes de désinformation, notamment pour des raisons politiques ou criminelles, deviennent prédominantes, ce qui pourrait entraîner une perte de confiance globale dans la société.

La formation continue est plus qu’un cours sur le Prompting

Le simple aperçu montre qu’une coopération future entre l’homme et la machine nécessite plus que de taper quelques instructions dans un champ de saisie. Différentes compétences sont requises :

• Saisie -> Compétence sociale : À l’avenir, chaque employé responsable de l’IA assurera les tâches d’un manager. Il devra décider ce qu’il délègue, dans quelle mesure, avec des exigences précises et si possible de façon itérative.
• Traitement -> Compétence technique. Les résultats dépendent de nombreux facteurs. Il est donc nécessaire de comprendre la gestion des données, les causes courantes d’erreurs et les stratégies d’évitement associées.
• Sortie -> Compétence technique : L’IA ne remplace pas le savoir-faire ! L’évaluation de la qualité de l’IA ne peut se faire que si les résultats ne sont pas simplement repris « aveuglément », mais sont vérifiés en termes de plausibilité et d’exigence. Par conséquent, l’apprentissage continu est toujours à l’ordre du jour.

L’IA nécessite donc un leadership, même s’il n’est pas nécessaire qu’il vienne d’en haut. Cela soulève également la question de la façon dont les structures organisationnelles devraient être conçues à l’avenir.

Le chatbot est-il le couronnement de l’IA générative?

Aujourd’hui, tout le monde peut créer ses propres bots GPT sans connaissances en programmation et même les mettre en ligne dans sa propre boutique GPT à l’avenir. Cela offre de nombreuses possibilités pour déplacer des activités vers la machine. La question est de savoir si c’est vraiment la solution de processus la plus intelligente dans tous les cas. L’objectif devrait être d’éviter – c’est-à-dire le problème du client ou de l’employé – afin de ne pas avoir à le résoudre. L’IA crée la solution en arrière-plan, sans que les clients ou les employés aient à la demander ou à la rechercher. Comme le dit Marc Lepelletier : « Les technologies les plus profondes sont celles qui disparaissent. Elles s’intègrent dans la vie quotidienne, jusqu’à ce qu’elles ne puissent plus être distinguées de celle-ci. »

L’introduction de l’IA générative dans l’entreprise doit être bien pensée

De nombreuses études mentionnent des gains de productivité impressionnants qui peuvent être obtenus grâce à l’introduction de l’IA. Plus les chiffres sont grands, plus les questions sur la façon d’y parvenir sont difficiles. La technologie élimine-t-elle le travail ou déplace-t-elle plutôt certaines activités d’un domaine à un autre ? L’automatisation est-elle au premier plan ou l’innovation?

Par exemple, l’ordinateur a rendu le bureau d’écriture obsolète. Cependant, les tâches n’ont pas disparu, elles ont simplement été déplacées. Par conséquent, l’utilisation de l’IA doit être intégrée dans une planification stratégique globale avec des mesures opérationnelles dérivées. Sinon, des effets comme ceux d’une étude avec environ 750 consultants BCG seront produits. D’une part, les performances ont été nettement améliorées, mais d’autre part, elles ont diminué parce qu’une trop grande confiance a été placée dans les résultats de l’IA.

IA va changer le travail et la vie future

L’IA est l’une des technologies qui changeront encore plus le futur du travail et de la vie que l’Internet. Le chemin vers cela comportera des hauts et des bas. Justement parce que l’avenir est encore incertain, la planification stratégique et la promotion de la volonté d’apprendre des employés sont essentiels pour l’utilisation de l’IA dans l’entreprise.

La base de ce blog était une conférence au Handelsblatt. Les documents et références sont disponibles ici pour téléchargement.