※本記事には広告(楽天アフィリエイト)リンクが含まれる場合があります。

「OpenAI API を呼ぶだけで毎月費用がかさむ」「GPU サーバーを自前で立てるのは管理が重すぎる」「Cloudflare Workers で完結したい」——こんな悩みを持つ個人開発者に刺さるのが Cloudflare Workers AI です。

Workers AI は Cloudflare のグローバルネットワーク上で AI モデルの推論を実行できるサービスです。Cloudflare Workers の環境変数として AI バインディングを追加するだけで、LLM によるテキスト生成・テキスト埋め込み・画像生成・音声認識が使えるようになります。自前の GPU サーバーもコンテナも不要で、Workers のコードに数行追加するだけで動かせます。

本記事では、Workers AI のセットアップから、テキスト生成・ストリーミング・埋め込み生成・Vectorize を使ったシンプルな RAG まで、実践コードを交えて解説します。

Cloudflare Workers AI とは

Workers AI は Cloudflare が提供するサーバーレスの AI 推論サービスです。公式ドキュメントによると、Cloudflare のエッジネットワーク上で GPU を利用した推論を行い、ユーザーに地理的に近い拠点でリクエストを処理します。

主な特徴を整理すると次の通りです。

  • Workers バインディングで即使える:wrangler.toml に数行追加するだけで、既存の Workers プロジェクトに AI 機能を組み込める
  • オープンソースモデルを無料で試せる:Llama・Mistral・Whisper・Stable Diffusion など多数のモデルが Free プランでも利用可能
  • サーバーレスで従量課金:自前 GPU サーバーの常時起動コストが不要。使った分だけの Neuron 課金
  • Cloudflare エコシステムと統合:D1・R2・Vectorize・KV など他サービスとの組み合わせがシームレス

対応モデル一覧

モデルカタログでは、カテゴリ別に利用可能なモデルが確認できます。2026年時点の主要モデルをカテゴリ別に紹介します。

テキスト生成(LLM)

テキスト生成モデルは最も多く揃っています。個人開発でよく使われる選択肢は次の通りです。

モデル ID特徴
@cf/meta/llama-3-8b-instructMeta の Llama 3 8B。バランスの良い性能で汎用的に使いやすい
@cf/meta/llama-3.1-8b-instructLlama 3.1 の最新版。ツール呼び出し対応
@cf/mistral/mistral-7b-instruct-v0.1Mistral 7B。高速で指示追従性が高い
@cf/google/gemma-7b-itGoogle Gemma 7B Instruct
@cf/qwen/qwen1.5-14b-chat-awq量子化済み 14B モデル。品質と速度のバランスが良い

テキスト埋め込み

モデル ID次元数用途
@cf/baai/bge-small-en-v1.5384軽量・高速。Neuron 消費が少ない
@cf/baai/bge-base-en-v1.5768精度と速度のバランス
@cf/baai/bge-large-en-v1.51024精度重視。Vectorize との組み合わせに最適

その他のカテゴリ

  • 画像生成:@cf/stabilityai/stable-diffusion-xl-base-1.0(SDXL)
  • 音声認識:@cf/openai/whisper(多言語対応)
  • 翻訳:@cf/meta/m2m100-1.2b(100言語対応)
  • テキスト分類:@cf/huggingface/distilbert-sst-2-int8
  • 画像分類:@cf/microsoft/resnet-50

セットアップ

公式のクイックスタートに沿って進めます。既存の Workers プロジェクトに追加する場合は wrangler.toml の変更だけで完結します。

新規プロジェクトの作成

npm create cloudflare@latest my-ai-worker -- --type hello-world-typescript
cd my-ai-worker

wrangler.toml に AI バインディングを追加

バインディングの設定は wrangler.toml に次のセクションを追加するだけです。

name = "my-ai-worker"
main = "src/index.ts"
compatibility_date = "2024-01-01"

[ai]
binding = "AI"

型定義の追加

TypeScript 環境では Env インターフェースに AI バインディングを追加します。

// src/index.ts
export interface Env {
  AI: Ai;
}

export default {
  async fetch(request: Request, env: Env): Promise<Response> {
    // ここで env.AI を使って推論を実行する
    return new Response("Hello Workers AI!");
  }
};

テキスト生成の実装

最も基本的な使い方はチャット形式のテキスト生成です。OpenAI の messages 形式と互換性があるため、既存コードからの移行もしやすい作りになっています。

export default {
  async fetch(request: Request, env: Env): Promise<Response> {
    const response = await env.AI.run(
      '@cf/meta/llama-3-8b-instruct',
      {
        messages: [
          {
            role: 'system',
            content: 'あなたは親切な日本語アシスタントです。'
          },
          {
            role: 'user',
            content: 'Cloudflare Workers AIについて100字で説明してください。'
          }
        ]
      }
    );

    return Response.json(response);
  }
};

レスポンスの形式は次の通りです。

{
  "response": "Cloudflare Workers AIはCloudflareのエッジネットワーク上で..."
}

システムプロンプトのカスタマイズ

チャットボットや特定ドメインのアシスタントを作る際は、system ロールのメッセージで振る舞いを制御します。

const messages = [
  {
    role: 'system',
    content: `あなたはECサイトのカスタマーサポートです。
返答は必ず200文字以内にしてください。
分からない場合は「担当者に確認します」と答えてください。`
  },
  { role: 'user', content: request_body.message }
];

ストリーミングレスポンス

LLM の応答を逐次表示するストリーミングは、UX を大きく改善します。Workers AI では stream: true を渡すと SSE(Server-Sent Events)形式のストリームが返ってきます。

export default {
  async fetch(request: Request, env: Env): Promise<Response> {
    const { question } = await request.json() as { question: string };

    const stream = await env.AI.run(
      '@cf/meta/llama-3-8b-instruct',
      {
        messages: [{ role: 'user', content: question }],
        stream: true
      }
    );

    return new Response(stream as ReadableStream, {
      headers: {
        'Content-Type': 'text/event-stream',
        'Cache-Control': 'no-cache',
        'Connection': 'keep-alive'
      }
    });
  }
};

フロントエンド側では EventSource または Fetch の ReadableStream で受け取ります。

// フロントエンド側(TypeScript)
const response = await fetch('/api/chat', {
  method: 'POST',
  headers: { 'Content-Type': 'application/json' },
  body: JSON.stringify({ question: '量子コンピュータとは?' })
});

const reader = response.body!.getReader();
const decoder = new TextDecoder();
let output = '';

while (true) {
  const { done, value } = await reader.read();
  if (done) break;

  const chunk = decoder.decode(value);
  // SSEの "data: " プレフィックスを除去してJSONをパース
  for (const line of chunk.split('\n')) {
    if (line.startsWith('data: ') && line !== 'data: [DONE]') {
      const data = JSON.parse(line.slice(6));
      output += data.response;
      document.getElementById('output')!.textContent = output;
    }
  }
}

テキスト埋め込み(Embeddings)

テキスト埋め込みは RAG(検索拡張生成)や類似検索の基盤になります。入力テキストを固定長のベクトルに変換し、意味的な距離を計算できるようにします。

const result = await env.AI.run(
  '@cf/baai/bge-base-en-v1.5',
  {
    text: [
      'Cloudflare Workers は V8 エンジンで動くサーバーレスプラットフォームです',
      'Next.js は React ベースのフルスタックフレームワークです',
      'PostgreSQL はオープンソースのリレーショナルデータベースです'
    ]
  }
);

// result.data は Float32Array[] の配列
console.log(result.data.length);       // 3
console.log(result.data[0].length);    // 768(bge-base の次元数)

Vectorize と組み合わせた RAG の実装

Cloudflare Vectorize はベクトルデータベースサービスで、Workers AI と同じ wrangler.toml バインディングで連携できます。この 2 つを組み合わせることで、Workers だけで完結する RAG システムを構築できます。

wrangler.toml に Vectorize バインディングを追加

[ai]
binding = "AI"

[[vectorize]]
binding = "VECTORIZE"
index_name = "my-knowledge-base"

インデックス作成とドキュメント登録

// ドキュメントを埋め込んでインデックスに登録するスクリプト
const documents = [
  { id: '1', text: 'Workers AI は Cloudflare のエッジで動く AI 推論サービスです。' },
  { id: '2', text: 'D1 は Cloudflare のサーバーレス SQLite データベースです。' },
  { id: '3', text: 'R2 は S3 互換のオブジェクトストレージです。' }
];

for (const doc of documents) {
  const embedding = await env.AI.run('@cf/baai/bge-base-en-v1.5', {
    text: [doc.text]
  });

  await env.VECTORIZE.upsert([{
    id: doc.id,
    values: Array.from(embedding.data[0]),
    metadata: { text: doc.text }
  }]);
}

クエリの埋め込みと類似検索

async function ragSearch(env: Env, userQuery: string): Promise<string> {
  // 1. ユーザーの質問を埋め込みに変換
  const queryEmbedding = await env.AI.run('@cf/baai/bge-base-en-v1.5', {
    text: [userQuery]
  });

  // 2. Vectorize で類似ドキュメントを検索
  const matches = await env.VECTORIZE.query(
    Array.from(queryEmbedding.data[0]),
    { topK: 3, returnMetadata: 'all' }
  );

  // 3. 検索結果をコンテキストとして LLM に渡す
  const context = matches.matches
    .map(m => m.metadata?.text)
    .join('\n\n');

  const response = await env.AI.run('@cf/meta/llama-3-8b-instruct', {
    messages: [
      {
        role: 'system',
        content: `以下のコンテキストを参考にして質問に答えてください:\n\n${context}`
      },
      { role: 'user', content: userQuery }
    ]
  });

  return response.response;
}

画像生成

Stable Diffusion XL を使った画像生成も Workers AI から直接呼び出せます。バイナリレスポンスを R2 に保存する構成が個人開発では定番です。

const imageResponse = await env.AI.run(
  '@cf/stabilityai/stable-diffusion-xl-base-1.0',
  {
    prompt: 'a futuristic city skyline at sunset, digital art style',
    num_steps: 20
  }
);

// imageResponse は Uint8Array(PNG バイナリ)
return new Response(imageResponse, {
  headers: {
    'Content-Type': 'image/png',
    'Cache-Control': 'public, max-age=3600'
  }
});

音声認識(Whisper)

Whisper モデルを使うと音声ファイルを文字起こしできます。multipart/form-data で送られた音声を受け取る実装例を示します。

export default {
  async fetch(request: Request, env: Env): Promise<Response> {
    const formData = await request.formData();
    const audioFile = formData.get('audio') as File;
    const audioBuffer = await audioFile.arrayBuffer();

    const result = await env.AI.run(
      '@cf/openai/whisper',
      {
        audio: [...new Uint8Array(audioBuffer)]
      }
    );

    return Response.json({
      text: result.text,
      language: result.language
    });
  }
};

料金と制限(Neuron)

Workers AI の課金単位は Neuron(ニューロン) と呼ばれ、モデルの実行に使われた演算量に応じて消費されます。公式の料金ページで最新の単価を確認できます。

プラン別の無料枠

プラン月あたりの無料 Neurons超過分の単価
Workers Free10,000 Neurons/日超過不可
Workers Paid($5/月〜)10,000 Neurons/日を含む$0.011 / 1,000 Neurons

モデル別の Neuron 消費量の目安

Neuron の消費量はモデルのサイズと入出力トークン数によって変わります。llama-3-8b-instruct に 100 トークンのプロンプトを送って 500 トークンの応答を受け取った場合、おおよそ数十〜数百 Neuron を消費します。個人開発の用途であれば Free プランの 10,000 Neurons/日でかなりの試行ができます。

ローカル開発(wrangler dev)

Workers AI のローカル開発は wrangler dev --remote で行います。--remote フラグがないとローカルでは AI バインディングが動作しないため注意が必要です。

npx wrangler dev --remote

ローカルにプロキシが立ち上がり、実際の Workers AI エンドポイントに転送される形で動作します。ブラウザでは http://localhost:8787 でアクセスできます。

エラーハンドリングのベストプラクティス

Workers AI は外部サービス呼び出しなので、タイムアウトやレート制限への対処が必要です。

async function runWithRetry(
  env: Env,
  model: string,
  input: object,
  maxRetries = 3
): Promise<unknown> {
  for (let attempt = 0; attempt < maxRetries; attempt++) {
    try {
      return await env.AI.run(model, input);
    } catch (err) {
      const isLast = attempt === maxRetries - 1;
      if (isLast) throw err;

      // 指数バックオフ(Workers では setTimeout は使えないため await Promise で代替)
      await new Promise(r => setTimeout(r, 200 * Math.pow(2, attempt)));
    }
  }
}

Hono との組み合わせ

当ブログでも Hono × Cloudflare Workers の実践ガイドを公開していますが、Workers AI と Hono の組み合わせは特に相性が良いです。型安全なバインディングを Hono の Context から扱えます。

import { Hono } from 'hono';

type Bindings = {
  AI: Ai;
};

const app = new Hono<{ Bindings: Bindings }>();

app.post('/api/chat', async (c) => {
  const { message } = await c.req.json<{ message: string }>();

  const result = await c.env.AI.run('@cf/meta/llama-3-8b-instruct', {
    messages: [{ role: 'user', content: message }]
  });

  return c.json({ reply: result.response });
});

app.post('/api/chat/stream', async (c) => {
  const { message } = await c.req.json<{ message: string }>();

  const stream = await c.env.AI.run('@cf/meta/llama-3-8b-instruct', {
    messages: [{ role: 'user', content: message }],
    stream: true
  });

  return new Response(stream as ReadableStream, {
    headers: { 'Content-Type': 'text/event-stream' }
  });
});

export default app;

他の AI サービスとの比較

サービス強み弱み
Cloudflare Workers AI Workers との統合がシームレス・エッジで低レイテンシ・無料枠あり モデルの選択肢が少ない・GPT-4 クラスは未対応
OpenAI API GPT-4o など高性能モデルが使える・機能が豊富 コストが高め・ベンダーロックイン
Vercel AI SDK + OpenAI React との統合が優秀・ストリーミング UI が簡単 Cloudflare Workers 以外での採用が多い
Groq Cloud API Llama / Mistral で GPT-4 比で超高速推論 Cloudflare との統合は手動設定が必要

Workers で完結するアプリを作るなら Workers AI が自然な選択肢です。高精度・高機能が必要なユースケースでは OpenAI など外部 API と組み合わせる構成も現実的です。

まとめ

Cloudflare Workers AI のポイントをおさらいします。

  • wrangler.toml に [ai] を追加するだけで使い始められる。複雑なセットアップ不要
  • LLM・埋め込み・画像生成・音声認識をすべて同じバインディング API で呼び出せる
  • Vectorize と組み合わせた RAG が Workers だけで完結し、外部サービスへの依存を最小化できる
  • Free プランでも 10,000 Neurons/日の無料枠があり、プロトタイプ開発に十分
  • 本番の高精度ユースケースでは 外部 LLM API との使い分けが現実的

Cloudflare スタック(Workers + D1 + R2 + Vectorize + Workers AI)で完結させることで、管理コストを極限まで下げながら AI 機能を持つ Web サービスを作れます。まずは 公式クイックスタートで試してみてください。