Salut Reader,
On parle souvent des performances de l'IA, de ses percées, de ses dangers potentiels. Mais ce qui est plus discret et tout aussi révélateur, c’est ce qui se passe quand elle fait des erreurs.
Pas des bugs spectaculaires. Pas des hallucinations à grand déploiement. Juste des petits accrocs. Des détails qui passent presque inaperçus, sauf si on y prête attention.
Et pourtant, ce sont souvent ces moments-là qui en disent le plus long sur la façon dont ces systèmes sont conçus, réglés, encadrés.
Voici trois cas récents qui, mis ensemble, démontrent une réalité qu’on oublie trop souvent.
1. Toujours la même personne… sérieusement?
Tu demandes à ChatGPT de générer des visages fictifs. Et tu te retrouves, encore et encore, avec la même personne. Un peu comme si tu essayais d’avoir une blind date, mais que c’est toujours ton ex qui se pointe.
Ce n’était pas un complot ni un message caché — juste un petit bug temporaire, qui n’a touché qu’une minorité d’utilisateurs.
Mais ce bug révèle tout de même un point fondamental : les modèles sont calibrés. Ils n’inventent pas librement. Ils suivent des balises invisibles… qui, parfois, produisent des résultats étrangement répétitifs (on a vu ça avec les tarifs aussi…).
2. GPT‑4o, version “moins flatteuse”
Peu après une mise à jour, gpt‑4o (le modèle de base de ChatGPT) a commencé à donner des réponses un peu trop enthousiastes, un peu trop gentilles… même quand tu disais des niaiseries. Résultat : OpenAI a dû revenir à une version précédente qui était plus… raisonnable.
Ils ont annoncé la mise à jour et expliqué que c’était pour corriger certains comportements jugés trop « complaisants ».
Ça démontre que même le « ton » d’un assistant IA peut être ajusté comme on règle un bouton de volume.
Tu veux un assistant franc ? Ou plutôt un qui flatte ? C’est possible, si tu contrôles les réglages. Sinon… tu reçois ce qu’on a choisi pour toi.
3. L’erreur (ou pas) de Grok
Chez Grok, l’IA de X (anciennement Twitter), une mise à jour du système a brièvement inclus une instruction qui disait de souligner un génocide de Sud-Africains blancs… qui n’a jamais eu lieu. C’est une affirmation fausse, largement démentie depuis longtemps.
L'instruction a ensuite été retirée. Erreur humaine? Provocation? Modification activiste? On ne le saura sans doute jamais.
Mais ce genre de glissement montre à quel point les modèles peuvent être influencés. Pas par les données seules, mais par ceux qui décident comment ils doivent parler.
Ce que tout ça a en commun
Ces trois exemples n’ont rien à voir entre eux techniquement. Mais ils ont un point commun : le fait que les modèles d’IA générative sont malléables.
👉 Leur ton, leur comportement, leurs réponses peuvent être ajustés à tout moment. Et ces ajustements ne viennent pas de l’IA, mais des équipes humaines derrière.
Quand on ne maîtrise pas bien un sujet, on peut croire à tort que ce qu’elle dit est neutre ou factuel. Mais l’IA ne sait pas. Elle répète ce qu’on l’autorise à dire.
Comprendre ça, c’est utiliser l’IA avec plus de clarté — et beaucoup moins d’illusions.
Sources: OpenAI, The Guardian
Le mot de la fin
Une formation mensuelle sur l'IA, tu es preneur·euse?
À betôt là!