BNYがOpenAIで全社AIを実現するEliza実務解説

BNY（バンク・オブ・ニューヨーク）はOpenAIの技術を活用し、社内向けプラットフォーム「Eliza」を通じて20,000人以上の従業員がAIエージェントを作成できる体制を整えました。本記事では、エンジニア目線でEliza的プラットフォームを実務で導入・運用する際の設計方針、実装パターン、セキュリティとガバナンスの留意点を整理します。

ニュースの核心

BNYはOpenAIのモデルとインフラを採用して、社員が業務用AIエージェントを簡単に構築・配備できる仕組みを提供しています。目的は「AI for everyone, everywhere」――業務効率化、顧客対応の高度化、知識共有の促進です。重要なポイントは次の通りです。

• Elizaプラットフォームにより20,000+の従業員がエージェント開発に参加
• OpenAIのモデルをエンタープライズ用途で統合（会話、要約、生成等）
• セキュリティ、データガバナンス、監査の仕組みを組み合わせて業務適用

技術的な詳細

エンジニアが参考にすべき実装上のポイントは「抽象化されたエージェントプラットフォーム」「データ境界とガバナンス」「オブザーバビリティ」です。以下にアーキテクチャと実装パターンを示します。

アーキテクチャの構成要素

1. フロントエンド：従業員がエージェントを定義・テストするUI
2. ワークフロー層：ステート管理、ツール呼び出し（DB検索、内部API、外部APIs）
3. モデル層：OpenAIのモデルAPIへの抽象ラッパー（リトライ、ロギング、トークン管理）
4. ガバナンス層：アクセス制御、プロンプト・テンプレート管理、監査ログ
5. インフラ：KubernetesやFaaSでのスケール、コスト管理とモニタリング

データガバナンスとセキュリティ

金融機関での適用では以下が必須です。技術実装のポイントは具体的に:

• データマスキングと伝送暗号化：敏感情報は送信前にマスクまたはオンプレで処理
• モデル呼び出しの権限分離：サービスアカウントごとに最小権限のAPIキーを発行
• インライン監査ログ：プロンプト、メタデータ、応答のハッシュを保存（全文は保存ポリシーに依存）
• 入力検閲・安全フィルタ：PIIや内部機密の検出ルールをプロンプトパイプラインに追加

スケーリングとコスト管理

大規模導入ではモデル選定（高精度モデル vs. 軽量モデルの使い分け）、キャッシュ戦略、非同期実行やバッチ処理を組み合わせてコストを抑えます。モデルコールは重要なコスト要因なので、要約やベクトル検索で事前に情報を絞る設計が効果的です。

エンジニアへの影響

エンジニアリングチームが直面する実務的課題と対策を以下に示します。Elizaのような社内プラットフォームを構築・運用する際のチェックリストです。

• プロンプト管理の標準化：テンプレート体系とバージョニングを設計する
• テストの自動化：ユニットテスト（応答のスナップショット）、統合テスト（ツール呼び出し含む）を整備
• 監査と可観測性：PrometheusやELKでAPI呼び出し、レイテンシ、エラーを監視する
• 内部ツール連携：内部DBやCRMへの安全な接続パターン（プロキシ、マスキング）を提供
• エンドユーザー教育：エージェントの使い方やリスクを平易に説明するドキュメントを用意

機能比較表

実践的なコード例

以下はエージェント（質問受け→内部検索→モデル回答）の単純な処理フローの例（Node.js風の擬似コード）です。

/* 擬似コード: シンプルなエージェントフロー */
const express = require('express');
const fetch = require('node-fetch');

// 簡易なプロンプトテンプレート
function buildPrompt(question, contextText) {
  return `You are a helpful assistant for bank employees. Use the context below to answer.

CONTEXT:\n${contextText}\n\nQUESTION: ${question}`;
}

// 内部知識ベース（例: ベクトル検索で取得した文書の結合）
async function retrieveContext(question) {
  // ここでベクトル検索やDBクエリを行う
  return "顧客の一般的な取引ルールとQ&Aの抜粋";
}

async function callOpenAI(prompt) {
  const res = await fetch('https://api.openai.com/v1/chat/completions', {
    method: 'POST',
    headers: {
      'Content-Type': 'application/json',
      'Authorization': `Bearer ${process.env.OPENAI_API_KEY}`
    },
    body: JSON.stringify({
      model: 'gpt-4o-mini',
      messages: [{ role: 'system', content: 'You are a secure enterprise assistant.' }, { role: 'user', content: prompt }],
      max_tokens: 800
    })
  });
  return await res.json();
}

const app = express();
app.use(express.json());

app.post('/agent/query', async (req, res) => {
  const question = req.body.question;
  // 1) コンテキスト取得
  const context = await retrieveContext(question);
  // 2) プロンプト生成
  const prompt = buildPrompt(question, context);
  // 3) モデル呼び出し
  const reply = await callOpenAI(prompt);
  // 4) 監査ログ（ハッシュ化したプロンプトメタ情報など）を保存
  // saveAuditLog({ user: req.user.id, promptHash: hash(prompt), timestamp: Date.now() })
  res.json({ answer: reply.choices?.[0]?.message?.content || '' });
});

app.listen(3000);

まとめ

BNYの事例は、OpenAIのモデルをエンタープライズの運用規模で安全に組み込む一つの参照モデルです。エンジニアは「プロンプトとツールの分離」「データ境界の明示」「可観測性の確保」を優先し、ユーザビリティとガバナンスのバランスを取りながらプラットフォームを設計する必要があります。実装では、小さく始めて段階的に拡張するアプローチ（MVP→ガバナンス強化→横展開）が現実的です。

参考リンク

• 元記事