J’ai retiré l’intelligence de mon IA. Et pour la santé, c’était la bonne décision.
On nous répète qu’il faut mettre de l’IA partout. Dans chaque application, chaque service, chaque produit. Cette semaine, sur mon propre projet, j’ai fait l’inverse : j’ai retiré l’intelligence générative de mon assistant. Et je crois que c’est la décision la plus importante que j’ai prise depuis le début.
Laissez-moi vous raconter pourquoi.
Depuis quelques semaines, je construis un assistant nutritionnel pour les personnes diabétiques et hypertendues au Burkina Faso. Il s’appuie sur la table de composition des aliments FAO/INFOODS pour l’Afrique de l’Ouest (WAFCT 2019) et tourne sur un modèle de langage local, sans dépendre d’un serveur étranger. L’idée est simple : qu’une personne diabétique ou hypertendue puisse poser une question sur son alimentation et recevoir une réponse fiable, dans son contexte.
Le jour où je l’ai testé pour de vrai
Longtemps, j’ai amélioré le modèle en vase clos. Puis je me suis assis et je lui ai posé de vraies questions. Pas des cas de test bien propres : de vraies phrases, comme un utilisateur les taperait.
« Mon diabète est à 19 aujourd’hui, que faire ? » C’est une valeur alarmante. L’assistant a répondu par un cours sur le mode de vie et une liste de médicaments. Pas un mot pour dire : cette valeur est inquiétante, voyez un soignant, maintenant.
« Je peux manger de la glace ? » Il a répondu : « Oui, sans problème. » Sauf que la glace n’est même pas dans ma base de données. Il n’avait aucune donnée. Il a inventé une réponse rassurante.
« Je suis très fatigué et je vois flou. » Il a posé un diagnostic « cela ressemble à de l’hypertension » sur des symptômes qu’un soignant lirait tout autrement.
À chaque fois, le même réflexe : combler le vide, avec assurance.
Ce n’est pas un bug. C’est la nature du modèle.
On a envie de corriger ça comme un bug. Mais ce n’en est pas un. C’est la nature même d’un grand modèle de langage.
Un tel modèle est probabiliste. Il ne « sait » pas au sens où une base de données sait. Il prédit la suite la plus plausible d’un texte. Posez-lui deux fois la même question, vous pouvez obtenir deux réponses différentes. Donnez-lui une question dont il ignore la réponse, il ne dira pas « je ne sais pas » : il produira ce qui ressemble le plus à une bonne réponse. Et « ressembler à une bonne réponse » n’est pas « être vrai ».
Pour bavarder, résumer, explorer une idée, c’est formidable. Pour dire à une personne diabétique ce qu’elle peut manger, c’est inacceptable. Parce que l’erreur ne se voit pas : elle est formulée avec la même aisance que la vérité.
J’ai testé dix-sept questions réelles. Le constat était sans appel : les seules réponses sûres étaient celles que mon code décidait. Pas celles que le modèle rédigeait.
La décision : le déterminisme
Alors j’ai changé de fondation. L’assistant devient entièrement déterministe.
Get Rahimah Sawadogo’s stories in your inbox
Join Medium for free to get updates from this writer.
Déterministe veut dire une chose simple : la réponse est une fonction fixe de la question et de la base de données. Même question, même réponse, à chaque fois. Ce n’est plus un modèle qui devine ; c’est du code qui applique des règles claires, va chercher les valeurs réelles dans la base, et les présente telles quelles.
Et quand la question sort de ce que la base contient le système ne brode pas. Il le dit : « Je n’ai pas cette information », ou « Pour cela, parlez-en à un professionnel de santé. »
Dire « je ne sais pas » est devenu une fonctionnalité, pas un échec.
Le compromis, assumé
Je ne vais pas vous vendre une solution parfaite. Le déterminisme a un coût, et il faut le regarder en face.
L’assistant est plus rigide. Il ne gère que les situations que j’ai prévues et codées ; une formulation inattendue tombe sur « je n’ai pas ça ». Il est moins bluffant. L’intelligence n’est plus émergente : elle est dans mes règles, et c’est à moi de les écrire et de les maintenir.
En échange, j’obtiens : zéro invention, zéro diagnostic, zéro « oui, vous pouvez manger ça » sorti de nulle part. Des réponses reproductibles. Et surtout traçables : je peux remonter chaque chiffre, chaque phrase, à sa source dans la table FAO.
Pour une application de santé destinée à des familles, cet échange n’est pas un sacrifice. C’est le bon choix.
Au fond, une question de maîtrise
J’écris souvent ici sur la souveraineté numérique. On la réduit trop souvent au fait de posséder son propre modèle. Mais la souveraineté, c’est d’abord la maîtrise : pouvoir comprendre, auditer, contrôler ce que l’on utilise.
Un système déterministe, c’est exactement cela à l’échelle d’une réponse. Je ne subis pas une boîte noire qui produit du texte confiant. Pour chaque réponse, je sais d’où elle vient et pourquoi. Je peux la défendre, la vérifier, la corriger. C’est une forme très concrète de souveraineté : non pas sur un modèle, mais sur mes réponses.
Le modèle de langage n’est pas banni pour toujours. Il pourra revenir plus tard, dans un rôle contraint et vérifié mais jamais pour décider seul d’un contenu sensible. Mais ma première version n’en a pas besoin.
Pour conclure
À l’heure où « ajoutez un LLM » est le réflexe par défaut, où l’on mesure un produit à la quantité d’IA qu’on y met, il faut parfois oser le geste inverse.
Rendre une IA plus prudente, ce n’est pas la rendre plus bête.
C’est la rendre digne de confiance. Et quand il s’agit de la santé de quelqu’un, la confiance passe avant l’esbroufe.
(J’avoue , là je me sens vraiment comme Dario Amodei 😂😂)
