AIエージェントには制御フローが必要、プロンプト改良では不十分
原題: Agents need control flow, not more prompts
なぜ重要か
AIエージェントの実用化において、プロンプト工学の限界を指摘し、より堅牢なシステム設計の必要性を示している
ソフトウェア開発者のBrian Suhが、複雑なタスクを処理する信頼性の高いAIエージェントには、elaborate promptingではなく、ソフトウェアに組み込まれた決定論的制御フローが必要だと主張。プロンプトチェーンの限界を指摘し、プログラム的検証の重要性を強調した。
開発者のBrian Suhは、AIエージェントの信頼性向上には根本的なアプローチの変更が必要だと論じている。彼は「MANDATORY」や「DO NOT SKIP」といった強制的な文言をプロンプトに追加することは、プロンプト技術の限界に達したことを示すサインだと指摘。プロンプトチェーンを「提案に過ぎない文が存在し、関数が幻覚を起こしながら成功を返すプログラミング言語」に例え、その問題点を明確にした。
Suhによると、ソフトウェアは再帰的組み合わせ可能性によってスケールし、ライブラリ、モジュール、関数から構築されたシステムを通じて予測可能な動作を実現する。一方、プロンプトチェーンは非決定論的で、弱い仕様であり、検証が困難という特性を持つため、複雑性が増すにつれて信頼性が低下する。
解決策として、LLMをシステム全体ではなくコンポーネントとして扱う決定論的スキャフォールド、明示的な状態遷移、検証チェックポイントの実装を提案。また、静的故障が起こりやすいシステムでは、積極的なエラー検出なしにエージェントが動作すると、間違った結論に素早く到達するだけだと警告している。