※本記事には広告(楽天アフィリエイト)リンクが含まれる場合があります。
「OpenAI API を呼ぶだけで毎月費用がかさむ」「GPU サーバーを自前で立てるのは管理が重すぎる」「Cloudflare Workers で完結したい」——こんな悩みを持つ個人開発者に刺さるのが Cloudflare Workers AI です。
Workers AI は Cloudflare のグローバルネットワーク上で AI モデルの推論を実行できるサービスです。Cloudflare Workers の環境変数として AI バインディングを追加するだけで、LLM によるテキスト生成・テキスト埋め込み・画像生成・音声認識が使えるようになります。自前の GPU サーバーもコンテナも不要で、Workers のコードに数行追加するだけで動かせます。
本記事では、Workers AI のセットアップから、テキスト生成・ストリーミング・埋め込み生成・Vectorize を使ったシンプルな RAG まで、実践コードを交えて解説します。
Cloudflare Workers AI とは
Workers AI は Cloudflare が提供するサーバーレスの AI 推論サービスです。公式ドキュメントによると、Cloudflare のエッジネットワーク上で GPU を利用した推論を行い、ユーザーに地理的に近い拠点でリクエストを処理します。
主な特徴を整理すると次の通りです。
- Workers バインディングで即使える:
wrangler.tomlに数行追加するだけで、既存の Workers プロジェクトに AI 機能を組み込める - オープンソースモデルを無料で試せる:Llama・Mistral・Whisper・Stable Diffusion など多数のモデルが Free プランでも利用可能
- サーバーレスで従量課金:自前 GPU サーバーの常時起動コストが不要。使った分だけの Neuron 課金
- Cloudflare エコシステムと統合:D1・R2・Vectorize・KV など他サービスとの組み合わせがシームレス
対応モデル一覧
モデルカタログでは、カテゴリ別に利用可能なモデルが確認できます。2026年時点の主要モデルをカテゴリ別に紹介します。
テキスト生成(LLM)
テキスト生成モデルは最も多く揃っています。個人開発でよく使われる選択肢は次の通りです。
| モデル ID | 特徴 |
|---|---|
@cf/meta/llama-3-8b-instruct | Meta の Llama 3 8B。バランスの良い性能で汎用的に使いやすい |
@cf/meta/llama-3.1-8b-instruct | Llama 3.1 の最新版。ツール呼び出し対応 |
@cf/mistral/mistral-7b-instruct-v0.1 | Mistral 7B。高速で指示追従性が高い |
@cf/google/gemma-7b-it | Google Gemma 7B Instruct |
@cf/qwen/qwen1.5-14b-chat-awq | 量子化済み 14B モデル。品質と速度のバランスが良い |
テキスト埋め込み
| モデル ID | 次元数 | 用途 |
|---|---|---|
@cf/baai/bge-small-en-v1.5 | 384 | 軽量・高速。Neuron 消費が少ない |
@cf/baai/bge-base-en-v1.5 | 768 | 精度と速度のバランス |
@cf/baai/bge-large-en-v1.5 | 1024 | 精度重視。Vectorize との組み合わせに最適 |
その他のカテゴリ
- 画像生成:
@cf/stabilityai/stable-diffusion-xl-base-1.0(SDXL) - 音声認識:
@cf/openai/whisper(多言語対応) - 翻訳:
@cf/meta/m2m100-1.2b(100言語対応) - テキスト分類:
@cf/huggingface/distilbert-sst-2-int8 - 画像分類:
@cf/microsoft/resnet-50
セットアップ
公式のクイックスタートに沿って進めます。既存の Workers プロジェクトに追加する場合は wrangler.toml の変更だけで完結します。
新規プロジェクトの作成
npm create cloudflare@latest my-ai-worker -- --type hello-world-typescript
cd my-ai-worker
wrangler.toml に AI バインディングを追加
バインディングの設定は wrangler.toml に次のセクションを追加するだけです。
name = "my-ai-worker"
main = "src/index.ts"
compatibility_date = "2024-01-01"
[ai]
binding = "AI"
型定義の追加
TypeScript 環境では Env インターフェースに AI バインディングを追加します。
// src/index.ts
export interface Env {
AI: Ai;
}
export default {
async fetch(request: Request, env: Env): Promise<Response> {
// ここで env.AI を使って推論を実行する
return new Response("Hello Workers AI!");
}
};
テキスト生成の実装
最も基本的な使い方はチャット形式のテキスト生成です。OpenAI の messages 形式と互換性があるため、既存コードからの移行もしやすい作りになっています。
export default {
async fetch(request: Request, env: Env): Promise<Response> {
const response = await env.AI.run(
'@cf/meta/llama-3-8b-instruct',
{
messages: [
{
role: 'system',
content: 'あなたは親切な日本語アシスタントです。'
},
{
role: 'user',
content: 'Cloudflare Workers AIについて100字で説明してください。'
}
]
}
);
return Response.json(response);
}
};
レスポンスの形式は次の通りです。
{
"response": "Cloudflare Workers AIはCloudflareのエッジネットワーク上で..."
}
システムプロンプトのカスタマイズ
チャットボットや特定ドメインのアシスタントを作る際は、system ロールのメッセージで振る舞いを制御します。
const messages = [
{
role: 'system',
content: `あなたはECサイトのカスタマーサポートです。
返答は必ず200文字以内にしてください。
分からない場合は「担当者に確認します」と答えてください。`
},
{ role: 'user', content: request_body.message }
];
ストリーミングレスポンス
LLM の応答を逐次表示するストリーミングは、UX を大きく改善します。Workers AI では stream: true を渡すと SSE(Server-Sent Events)形式のストリームが返ってきます。
export default {
async fetch(request: Request, env: Env): Promise<Response> {
const { question } = await request.json() as { question: string };
const stream = await env.AI.run(
'@cf/meta/llama-3-8b-instruct',
{
messages: [{ role: 'user', content: question }],
stream: true
}
);
return new Response(stream as ReadableStream, {
headers: {
'Content-Type': 'text/event-stream',
'Cache-Control': 'no-cache',
'Connection': 'keep-alive'
}
});
}
};
フロントエンド側では EventSource または Fetch の ReadableStream で受け取ります。
// フロントエンド側(TypeScript)
const response = await fetch('/api/chat', {
method: 'POST',
headers: { 'Content-Type': 'application/json' },
body: JSON.stringify({ question: '量子コンピュータとは?' })
});
const reader = response.body!.getReader();
const decoder = new TextDecoder();
let output = '';
while (true) {
const { done, value } = await reader.read();
if (done) break;
const chunk = decoder.decode(value);
// SSEの "data: " プレフィックスを除去してJSONをパース
for (const line of chunk.split('\n')) {
if (line.startsWith('data: ') && line !== 'data: [DONE]') {
const data = JSON.parse(line.slice(6));
output += data.response;
document.getElementById('output')!.textContent = output;
}
}
}
テキスト埋め込み(Embeddings)
テキスト埋め込みは RAG(検索拡張生成)や類似検索の基盤になります。入力テキストを固定長のベクトルに変換し、意味的な距離を計算できるようにします。
const result = await env.AI.run(
'@cf/baai/bge-base-en-v1.5',
{
text: [
'Cloudflare Workers は V8 エンジンで動くサーバーレスプラットフォームです',
'Next.js は React ベースのフルスタックフレームワークです',
'PostgreSQL はオープンソースのリレーショナルデータベースです'
]
}
);
// result.data は Float32Array[] の配列
console.log(result.data.length); // 3
console.log(result.data[0].length); // 768(bge-base の次元数)
Vectorize と組み合わせた RAG の実装
Cloudflare Vectorize はベクトルデータベースサービスで、Workers AI と同じ wrangler.toml バインディングで連携できます。この 2 つを組み合わせることで、Workers だけで完結する RAG システムを構築できます。
wrangler.toml に Vectorize バインディングを追加
[ai]
binding = "AI"
[[vectorize]]
binding = "VECTORIZE"
index_name = "my-knowledge-base"
インデックス作成とドキュメント登録
// ドキュメントを埋め込んでインデックスに登録するスクリプト
const documents = [
{ id: '1', text: 'Workers AI は Cloudflare のエッジで動く AI 推論サービスです。' },
{ id: '2', text: 'D1 は Cloudflare のサーバーレス SQLite データベースです。' },
{ id: '3', text: 'R2 は S3 互換のオブジェクトストレージです。' }
];
for (const doc of documents) {
const embedding = await env.AI.run('@cf/baai/bge-base-en-v1.5', {
text: [doc.text]
});
await env.VECTORIZE.upsert([{
id: doc.id,
values: Array.from(embedding.data[0]),
metadata: { text: doc.text }
}]);
}
クエリの埋め込みと類似検索
async function ragSearch(env: Env, userQuery: string): Promise<string> {
// 1. ユーザーの質問を埋め込みに変換
const queryEmbedding = await env.AI.run('@cf/baai/bge-base-en-v1.5', {
text: [userQuery]
});
// 2. Vectorize で類似ドキュメントを検索
const matches = await env.VECTORIZE.query(
Array.from(queryEmbedding.data[0]),
{ topK: 3, returnMetadata: 'all' }
);
// 3. 検索結果をコンテキストとして LLM に渡す
const context = matches.matches
.map(m => m.metadata?.text)
.join('\n\n');
const response = await env.AI.run('@cf/meta/llama-3-8b-instruct', {
messages: [
{
role: 'system',
content: `以下のコンテキストを参考にして質問に答えてください:\n\n${context}`
},
{ role: 'user', content: userQuery }
]
});
return response.response;
}
画像生成
Stable Diffusion XL を使った画像生成も Workers AI から直接呼び出せます。バイナリレスポンスを R2 に保存する構成が個人開発では定番です。
const imageResponse = await env.AI.run(
'@cf/stabilityai/stable-diffusion-xl-base-1.0',
{
prompt: 'a futuristic city skyline at sunset, digital art style',
num_steps: 20
}
);
// imageResponse は Uint8Array(PNG バイナリ)
return new Response(imageResponse, {
headers: {
'Content-Type': 'image/png',
'Cache-Control': 'public, max-age=3600'
}
});
音声認識(Whisper)
Whisper モデルを使うと音声ファイルを文字起こしできます。multipart/form-data で送られた音声を受け取る実装例を示します。
export default {
async fetch(request: Request, env: Env): Promise<Response> {
const formData = await request.formData();
const audioFile = formData.get('audio') as File;
const audioBuffer = await audioFile.arrayBuffer();
const result = await env.AI.run(
'@cf/openai/whisper',
{
audio: [...new Uint8Array(audioBuffer)]
}
);
return Response.json({
text: result.text,
language: result.language
});
}
};
料金と制限(Neuron)
Workers AI の課金単位は Neuron(ニューロン) と呼ばれ、モデルの実行に使われた演算量に応じて消費されます。公式の料金ページで最新の単価を確認できます。
プラン別の無料枠
| プラン | 月あたりの無料 Neurons | 超過分の単価 |
|---|---|---|
| Workers Free | 10,000 Neurons/日 | 超過不可 |
| Workers Paid($5/月〜) | 10,000 Neurons/日を含む | $0.011 / 1,000 Neurons |
モデル別の Neuron 消費量の目安
Neuron の消費量はモデルのサイズと入出力トークン数によって変わります。llama-3-8b-instruct に 100 トークンのプロンプトを送って 500 トークンの応答を受け取った場合、おおよそ数十〜数百 Neuron を消費します。個人開発の用途であれば Free プランの 10,000 Neurons/日でかなりの試行ができます。
ローカル開発(wrangler dev)
Workers AI のローカル開発は wrangler dev --remote で行います。--remote フラグがないとローカルでは AI バインディングが動作しないため注意が必要です。
npx wrangler dev --remote
ローカルにプロキシが立ち上がり、実際の Workers AI エンドポイントに転送される形で動作します。ブラウザでは http://localhost:8787 でアクセスできます。
エラーハンドリングのベストプラクティス
Workers AI は外部サービス呼び出しなので、タイムアウトやレート制限への対処が必要です。
async function runWithRetry(
env: Env,
model: string,
input: object,
maxRetries = 3
): Promise<unknown> {
for (let attempt = 0; attempt < maxRetries; attempt++) {
try {
return await env.AI.run(model, input);
} catch (err) {
const isLast = attempt === maxRetries - 1;
if (isLast) throw err;
// 指数バックオフ(Workers では setTimeout は使えないため await Promise で代替)
await new Promise(r => setTimeout(r, 200 * Math.pow(2, attempt)));
}
}
}
Hono との組み合わせ
当ブログでも Hono × Cloudflare Workers の実践ガイドを公開していますが、Workers AI と Hono の組み合わせは特に相性が良いです。型安全なバインディングを Hono の Context から扱えます。
import { Hono } from 'hono';
type Bindings = {
AI: Ai;
};
const app = new Hono<{ Bindings: Bindings }>();
app.post('/api/chat', async (c) => {
const { message } = await c.req.json<{ message: string }>();
const result = await c.env.AI.run('@cf/meta/llama-3-8b-instruct', {
messages: [{ role: 'user', content: message }]
});
return c.json({ reply: result.response });
});
app.post('/api/chat/stream', async (c) => {
const { message } = await c.req.json<{ message: string }>();
const stream = await c.env.AI.run('@cf/meta/llama-3-8b-instruct', {
messages: [{ role: 'user', content: message }],
stream: true
});
return new Response(stream as ReadableStream, {
headers: { 'Content-Type': 'text/event-stream' }
});
});
export default app;
他の AI サービスとの比較
| サービス | 強み | 弱み |
|---|---|---|
| Cloudflare Workers AI | Workers との統合がシームレス・エッジで低レイテンシ・無料枠あり | モデルの選択肢が少ない・GPT-4 クラスは未対応 |
| OpenAI API | GPT-4o など高性能モデルが使える・機能が豊富 | コストが高め・ベンダーロックイン |
| Vercel AI SDK + OpenAI | React との統合が優秀・ストリーミング UI が簡単 | Cloudflare Workers 以外での採用が多い |
| Groq Cloud API | Llama / Mistral で GPT-4 比で超高速推論 | Cloudflare との統合は手動設定が必要 |
Workers で完結するアプリを作るなら Workers AI が自然な選択肢です。高精度・高機能が必要なユースケースでは OpenAI など外部 API と組み合わせる構成も現実的です。
まとめ
Cloudflare Workers AI のポイントをおさらいします。
- wrangler.toml に
[ai]を追加するだけで使い始められる。複雑なセットアップ不要 - LLM・埋め込み・画像生成・音声認識をすべて同じバインディング API で呼び出せる
- Vectorize と組み合わせた RAG が Workers だけで完結し、外部サービスへの依存を最小化できる
- Free プランでも 10,000 Neurons/日の無料枠があり、プロトタイプ開発に十分
- 本番の高精度ユースケースでは 外部 LLM API との使い分けが現実的
Cloudflare スタック(Workers + D1 + R2 + Vectorize + Workers AI)で完結させることで、管理コストを極限まで下げながら AI 機能を持つ Web サービスを作れます。まずは 公式クイックスタートで試してみてください。