AI統合 · カスタム開発

大規模な音楽情報サイトに、安全で低コストな AI を

大規模な音楽サイトでは、膨大な公演・会場情報を処理する必要があり、すべてを AI に任せるとコストが見合いませんでした。現在は90%以上を通常のコードで処理し、本当に必要な部分だけを、隔離され利用量を管理された AI エージェントが担当しています。

課題

このサイトは、公演と会場の情報を非常に大きな規模で収集しています。すべてを AI で処理するのが一番手軽ですが、この量ではコストが見合いませんでした。

しかも扱うのは公開データで、誰が書いたものでも、どこから取得したものでもあり得ます。そのためプロンプトインジェクションの危険が現実的でした。ページに仕込まれた文章が AI に独自の指示を与えようとし、システムにアクセスできる AI なら、それに従ってシステムを壊してしまうおそれがあります。

まずは通常のコードで。 正規表現やページ（DOM）パーサーなど、実績のある技術で従来型の処理を書きました。データの90%以上を、速く、ほとんどコストをかけずに処理します。
AI は必要な部分だけに。 残るのは、決まった形式のない自由な書き方の公演・時間情報です。これを AI エージェントが読み取り、主要な項目を抜き出します。AI の役割はそれだけです。
入力をきれいに。 エージェントに渡すものはすべて、事前にフィルタリングと整形を行い、プロンプトインジェクションのリスクを下げています。
隔離されたエージェント。 エージェントは隔離された環境で動作し、渡された入力以外のシステム資源には一切アクセスできません。
出力も確認。 エージェントが返すものはすべて再度フィルタリングし、その結果がシステムを傷つけることがないようにしています。
利用量にメーターを。 エージェントの利用量を計測しているため、不具合や攻撃によって想定外の課金が膨らむことはありません。

すべてを AI で処理する場合に比べ、わずかなコストで、公演・会場データの全量を処理できるようになりました。AI は通常のコードではできない一つの仕事だけを担い、たとえ悪意のある文章を読まされても、ほかの何かに触れたり壊したりする手段を持ちません。