Que peuvent faire les LLM à faible intelligence ?
Categories:
Après un an à rivaliser d’intelligence avec les grands modèles, j’ai enfin compris un fait : la sortie du modèle est probabiliste. C’était une évidence, mais il m’a fallu du temps pour l’accepter. Seule une compréhension réelle de la nature probabiliste des grands modèles permet de réfléchir à ce qu’ils sont capables de faire.
Comme les sorties des grands modèles ont tendance à produire des contenus plus probablement corrects, leurs réponses sont également très trompeuses et difficiles à identifier. Certains articles s’adressent à un public de haut niveau, très sensible au gaspillage de temps et d’efforts intellectuels causé par les articles de mauvaise qualité, et rejettent donc le contenu généré par l’IA. D’autres lecteurs, ayant une capacité de discernement moindre pour différents types d’articles, sont plus susceptibles d’accepter le contenu généré par l’IA.
Par conséquent, lorsqu’on fait générer du contenu par un grand modèle, il faut prendre en compte le public cible. Il n’est pas adapté pour générer des contenus nécessitant une grande rigueur, tels que documents techniques, articles académiques, tutoriels, longs textes, etc. Il convient mieux pour produire des nouvelles courtes, des articles en sciences sociales, des commentaires, etc. Le problème des hallucinations des grands modèles limite encore davantage son application dans des scénarios nécessitant une exactitude factuelle.
Il ne faut pas laisser l’IA prendre des décisions à la place des humains, mais plutôt l’utiliser pour les aider à décider. Il ne faut pas confier la réflexion à l’IA, mais plutôt laisser l’IA assister la réflexion humaine. Il ne faut pas interroger l’IA, mais plutôt laisser l’IA interroger les humains. Essayez de faire en sorte que l’IA pose des questions plutôt que de résoudre des problèmes.
Une IA à faible intelligence peut être utilisée pour analyser du contenu et poser des questions, mais elle n’est pas adaptée pour résoudre des problèmes. On peut l’utiliser comme outil d’analyse de contenu, outil de rappel, outil de questionnement, ou pour proposer des choix multiples. Dans ces scénarios, le rôle de l’IA est d’aider les humains à identifier les angles morts, et non de produire directement des conclusions.
Dans le domaine de l’écriture par IA, des discussions similaires existent également, et le contrôle de qualité reste un défi clé. Positionner les LLM à faible intelligence comme des outils d’assistance plutôt que comme des producteurs de contenu permet d’en tirer pleinement valeur.