低知能型LLMに何が適しているか
Categories:
大規模モデルと1年ほど付き合ってきて、ようやく一つの事実を理解した。モデルの出力は確率的であるということだ。これは本来明白なことだが、私が受け入れるまでにかなりの時間がかかった。大規模モデルの確率的性質を真に理解することで、初めてそれが何に適しているかを考えることができる。
大規模モデルはより高い確率で正しい内容を出力する傾向があるため、その回答は非常に紛らわしく、識別が難しい。ある記事は読者層が高く、低品質な記事に費やす脳力と時間に敏感であるため、AI生成コンテンツを拒絶する。一方、読者が各種記事の分辨能力が低い場合、AI生成コンテンツを受け入れやすくなる。
したがって、大規模モデルにコンテンツを生成させる際は、読者層を考慮する必要がある。技術文書、論文、チュートリアル、長文など、厳密な扱いを要するコンテンツの生成には不向きであり、短いニュース、社会科学系の記事、コメントなどに適している。大規模モデルの幻覚問題は、事実の正確性が求められる場面での適用をさらに制限している。
AIに人間の代わりに決定を下させるべきではなく、AIに人間の決定を補助させるべきである。思考をAIに委ねるべきではなく、AIに人間の思考を補助させるべきである。AIに質問するべきではなく、AIに人間に質問させるべきである。AIに問題を解決させるのではなく、問題を提起させることを試みる。
低知能型AIにコンテンツを分析させ、質問を提起させることは適しているが、問題を解決させることは適していない。コンテンツ分析ツール、提醒ツール、質問ツール、選択肢を提示するツールとして活用できる。これらの場面においてAIの役割は、人間が盲点を発見することを補助するものであり、直接結論を产出することではない。
AI執筆の分野でも同様の議論があり、品質管理は依然として重要な課題である。低知能型LLMをコンテンツ生産者ではなく補助ツールと位置付けることで、その価値を最大限に発揮できる。