自作のAIグルーコードが抱える脆弱性
6ヶ月前、私たちのチームは運用上の大きな壁に直面していました。請求関連の問い合わせ、トリアージリクエスト、14の本番データベースにまたがるクリティカルアラートなど、日々約650件ものチケットが押し寄せていたのです。最初の応急処置として、AWS Lambda上に一連のPythonスクリプトを展開しました。これらはWebhookのペイロードを受け取り、OpenAIのchat/completionsエンドポイントを呼び出し、Slackにアラートの要約を投稿するというものでした。
しかし、そのアーキテクチャはすぐに破綻しました。上流での予期せぬスキーマ変更によってJSONパースがクラッシュしたのです。
トラフィックの急増時にはプロバイダーのレート制限に引っかかり、Webhookのコールバックがサイレントにデッドレターキューへと消えていきました。何より深刻だったのは、プロダクトチームからプロンプトの微調整を依頼されるたびに、コードの修正、ローカルでのユニットテスト、コードレビュー、そしてCI/CDによる再デプロイが必要だった点です。ZapierやMakeの導入も検討しましたが、動的なメモリバッファ、再帰的なツール呼び出し、パラメータ化されたPostgreSQLクエリなどが必要になった途端、それらの硬直的な分岐機能では対応できなくなりました。
そこで私たちはLambdaを破棄し、セルフホストのn8nクラスタへと移行しました。個別のスクリプトをつなぎ合わせるのではなく、n8nは言語モデルをワークフローのネイティブな基本要素(プリミティブ)として扱います。ツール呼び出し機能、短期的な会話コンテキスト、実行時のセーフガードが標準で備わっているのです。移行から6ヶ月、11万件以上のワークフローを処理した今、本番環境でAIパイプラインを運用して得られた知見を共有します。
基本概念:n8nがAIエージェントをオーケストレーションする仕組み
キャンバスの裏側では、n8nがLangChainを活用して状態と実行ループを管理しています。静的なIF/ELSEパイプラインとは異なり、n8nのAIワークフローは以下の4つのモジュール型構成要素による自律的なフィードバックサイクルで動作します。
- AI Agent Node: ワークフローのコーディネーター。トリガーデータを受け取り、システムプロンプト(指示)を参照し、呼び出すツールを選択し、中間出力を監視して、実行のリトライを管理します。
- Language Model Connector: 推論エンジン。OpenAI、Anthropic、またはLlama 3を実行するローカルのOllamaエンドポイントなどのプロバイダーに直接接続します。temperature、top_p、最大トークン数などのハイパーパラメータは、ビジネスロジックから綺麗に分離されます。
- Memory Layer: コンテキストのキャッシュ。
Window Buffer Memoryなどのノードが複数のやり取りにわたって状態を追跡し、別のRedisやPostgresテーブルを手動でクエリすることなく会話履歴を取得します。 - Tools and Sub-workflows: 実行レイヤー。LLMは単体ではレプリカラグのメトリクスを読み取ったり、Jiraチケットを更新したりできません。ツールはHTTP呼び出し、カスタムJavaScriptロジック、あるいはn8nサブワークフロー全体を呼び出し可能な関数として公開し、そのギャップを埋めます。
データ取得ツールとプロンプトロジックを分離しておくことで、障害対応の手間を大幅に削減できます。仮にgpt-4oからclaude-3-5-sonnetに切り替える必要が生じても、下流の連携処理には一切手を加える必要がありません。
実践:インシデントトリアージエージェントのデプロイ
私たちの本番環境におけるアラートトリアージフローを順を追って見ていきましょう。アラートのWebhookが発火すると、AIエージェントがスタックトレースを解析し、社内マイクロサービスにシステムメトリクスを問い合わせ、オンコールエンジニアを呼び出すべきかどうかを判断します。
ステップ1:セルフホストn8nのデプロイ
セルフホストにすることで、実行ごとのSaaS従量課金を排除し、顧客の機密ペイロードデータをプライベートVPC内に安全に保持できます。以下は、AWS EC2のt3.mediumインスタンス上で稼働させているdocker-compose.ymlの抜粋です。
version: '3.8'
services:
n8n:
image: n8nio/n8n:latest
restart: unless-stopped
ports:
- "5678:5678"
environment:
- N8N_HOST=n8n.internal.yourdomain.com
- N8N_PORT=5678
- N8N_PROTOCOL=https
- NODE_ENV=production
- WEBHOOK_URL=https://n8n.internal.yourdomain.com/
- EXECUTIONS_DATA_PRUNE=true
- EXECUTIONS_DATA_MAX_AGE=168
volumes:
- ./n8n_data:/home/node/.n8n
コンテナを起動し、データベースマイグレーションが正常に完了したことを確認します。
docker compose up -d
docker compose logs -f n8n
ステップ2:AI AgentとModel Connectorの設定
n8nのダッシュボードにログインし、空のワークフローキャンバスを作成します。
/incident-alert宛てのPOSTリクエストを受け取るWebhookトリガーノードを配置します。- AI Agentノードを追加し、AgentモードをTools Agentに設定します。
- モデルコネクタの入力にOpenAI Chat Modelノードを接続します。
gpt-4oを選択し、temperatureを0.1に設定します。分類結果の決定性を保つために、ここでは低いtemperatureの設定が不可欠です。 - メモリ入力にWindow Buffer Memoryノードを接続します。Session Keyを
{{ $json.body.incident_id }}に設定し、同一インシデントのスレッドに対する更新がコンテキストを共有できるようにします。
ステップ3:エージェントへのカスタムツールの組み込み
エージェントがトリアージを判断するには、リアルタイムのテレメトリデータが必要です。AI AgentのツールポートにCustom n8n Toolノードを接続します。名称をcheck_system_healthとし、社内のステータスマイクロサービスへのHTTP GETリクエストを設定します。
# ツールによってクエリされる内部エンドポイント
curl -X GET https://api.internal.local/v1/health \
-H "Authorization: Bearer srv_token_production" \
-H "Content-Type: application/json"
ツールの説明(Description)には、次のように設定します:「現在のデータベース接続プールの使用率、CPUの平均負荷、アクティブなジョブのバックログを取得します。エラーペイロードを分類する際にこれを呼び出してください。」モデルはこの説明を基に、いつ・なぜエンドポイントを呼び出すべきかを判断します。明確かつ具体的に記述してください。
ステップ4:出力の構造化と下流アクション
LLMの生の出力は乱れがちです。「分析結果は以下の通りです」といった不要な会話文によって下流のAPIがクラッシュするのを防ぐため、明示的なスキーマを定義したAuto-fixing Output Parserノードを接続します。
{
"type": "object",
"properties": {
"severity": {
"type": "string",
"enum": ["CRITICAL", "WARNING", "INFO"]
},
"assigned_team": {
"type": "string",
"enum": ["database-infra", "frontend-core", "billing"]
},
"executive_summary": {
"type": "string"
},
"recommended_immediate_action": {
"type": "string"
}
},
"required": ["severity", "assigned_team", "executive_summary"]
}
出力をSwitchノードにパイプします。severity == 'CRITICAL'の場合、パイプラインはPagerDutyのオンコールローテーションをトリガーし、Slackの緊急インシデントチャンネルに通知を投稿します。それ以外はすべて、バックログチケットとしてJira Service Deskへ直接ルーティングされます。
本番運用から得られた知見とベストプラクティス
半年間の本番運用を通じて、ローカルのチュートリアルでは滅多に遭遇しない落とし穴が浮き彫りになりました。
- ツールの暴走ループを防ぐ: 運用開始から3週目、曖昧なエラーログが原因で、エージェントがタイムアウトするまでテレメトリAPIを連続24回もクエリし続ける事態が発生しました。再帰的なループを早期に遮断するため、Max Iterationsフィールドは
3または4に設定してください。 - セマンティックキャッシングでコストを劇的に削減: 繰り返しのサーバーステータス確認はトークンの浪費につながります。エージェントの前段にRedisキャッシュノードを配置したことで、トリアージの精度を落とすことなく、月々のOpenAI利用料を1,840ドルから1,065ドルへと42%削減できました。
- パースされていないMarkdownの排除: 言語モデルはJSONブロックをトリプルバッククォートで囲む傾向があります。出力パーサーを省略すると、生のMarkdown文字列の混入によって下流のWebhookが失敗してしまいます。
- 実行ログの積極的なプルーニング: 運用開始から3週間足らずで、ワークフローの実行データが38GBのディスク容量を消費しました。
EXECUTIONS_DATA_PRUNE=trueを設定し、保存期間を168時間(7日間)に制限したことで、Dockerボリュームのinode枯渇を防ぐことができました。
手書きスクリプトからの脱却
カスタムスクリプトの保守をやめ、視覚的なノードベースのオーケストレーションへと移行したことで、平均インシデント初動対応時間は18分から90秒未満へと短縮されました。ルーティングのしきい値を調整する必要がある際も、オンコールのリードエンジニアがキャンバス上で直接プロンプトを調整し、ペイロードをテストできます。プラットフォームエンジニアは、定型的なAPIラッパーの作成に追われることなく、稼働率の維持、IAMロールの管理、シークレットのローテーションといった本来の業務に集中できるようになりました。
低temperature設定のモデル、制限されたツール反復回数、そして構造化された出力スキーマを組み合わせることで、本番パイプラインの予測可能性と回復力を保ちながら、LLMの持つ高度な分析推論能力を最大限に引き出すことができます。
