Replicate
オープンソースのAIモデルをREST APIとしてすぐに実行できるクラウド推論プラットフォーム
Replicateは、2019年にアメリカでBen FirshmanとAndreas Janssonが共同で設立したクラウドAIモデルホスティングプラットフォームです。一言で言うと、「オープンソースAIモデルのStripe API」です。Llama、Stable Diffusion XL、Whisper、MusicGen、SAMなど、1万以上のモデルをGPUなしでREST APIを使って呼び出し、使用したGPUの時間を単位として課金する仕組みです（例：SDXL 1枚あたり~/bin/zsh.0023、Llama-3 70B 1kトークンあたり~/bin/zsh.001）。 従来のクラウドAIには、（1）AWS、GCP、Azureなどの一般的なクラウドに直接モデルをデプロイする→インフラとMLOpsの負担、（2）OpenAI、Anthropic API→モデルの選択肢がない、（3）Hugging Face Inference API→一部のモデルのみ、大規模LLMは制限があるといった限界がありました。Replicateは、「Cog」と呼ばれるオープンソースコンテナ標準でモデルをパッケージ化し、ユーザーがモデルページにアクセスし、「Run」またはAPIを呼び出すことで、結果をwebhook/ストリーミングで受信する流れを標準化しました。まるで「Vercelがフロントエンドのデプロイを標準化するように、ReplicateはAIモデルのデプロイを標準化」したと言えるでしょう。モデルページには、input/outputスキーマ、サンプル結果、価格、平均推論時間が明記されており、統合の負担が少なくなります。 生命工学研究者の視点からは、（1）ESMFold、OpenFoldなどのタンパク質構造予測モデルをGPUなしで呼び出す、（2）Stable Diffusion XLで論文の図や研究イラストを自動生成する、（3）Whisperで学会やインタビューの録音を一括でSTTする、（4）MusicGen、AudioCraftで講義のBGMを生成する、（5）カスタムモデルをデプロイする（Cogでパッケージ化すれば、独自のモデルもReplicateにホスト可能）といったことが可能です。月間の使用量が少ない場合は、Hugging Face SpacesやInference APIよりもコスト効率が良く、使用量が多い場合は、専用デプロイメント（予約GPU）でコストを固定できます。 OllamaやHugging Faceと並行して使用することで、相乗効果が生まれます。「普段はローカルのOllamaで迅速なプロトタイプを作成し、大規模モデルやトラフィックが急増した際にReplicateでバーストし、安定稼働段階で専用デプロイメントを行う」といった段階的な拡張が可能です。または、「HFでモデルを発見し、CogでReplicateにデプロイし、自身のアプリからAPIを呼び出す」という流れも標準的なパターンです。
💻 必要なスペック
クラウド呼び出しのみを使用する場合は0（ブラウザまたはノートパソコンのみで十分）。Cogで独自のモデルをパッケージ化し、ローカルでテストする場合は16GB以上。
クラウド呼び出しの場合は0 / Cogでローカルテストを行う場合は、モデルのサイズに応じて8〜48GB。Replicateサーバー側のGPUはA100またはH100が自動的に割り当てられます。
クラウドの場合は0 / Cogでローカルビルドを行う場合は、Dockerイメージが10〜50GB。結果ファイルは7日間、Replicate CDNに自動的にホストされます（ダウンロードまたはWebhookで処理）。
⚡ インストール
# Python SDK
pip install replicate
# 1. 環境変数の設定（APIトークン）
export REPLICATE_API_TOKEN=r8_xxx # replicate.com に登録後、発行
# 2. モデルの呼び出し（例：Llama-3 70B）
import replicate
output = replicate.run(
"meta/meta-llama-3-70b-instruct",
input={"prompt": "タンパク質構造予測におけるAlphaFoldとESMFoldの違いは？", "max_tokens": 500}
)
print("".join(output))
# 3. 画像生成（Stable Diffusion XL）
output = replicate.run(
"stability-ai/sdxl:39ed52f2a78e934b3ba6e2a89f5b1c712de7dfea535525255b1aa35c5565e08b",
input={"prompt": "タンパク質構造の可視化、科学的なイラスト"}
)
# output[0] = 生成された画像のURL
# 4. STT（Whisper）
output = replicate.run(
"openai/whisper:91ee9c0c3df30478510ff8c8a3a545add1ad0259ad3a9f78fba57fbc05ee64f7",
input={"audio": open("interview.mp3", "rb")}
)
# 5. Cogで独自のモデルをデプロイ
pip install cog
# cog.yaml + predict.py を作成後
cog push r8.im/myusername/my-bio-model
# 6. REST API を直接呼び出す（Pythonなし）
curl -X POST https://api.replicate.com/v1/predictions -H "Authorization: Bearer " -d '{"version":"...","input":{"prompt":"..."}}📝 アップデートノート
まだアップデートノートはありません。
🧪 関連「生命のコード」
関連する「生命のコード」記事はまだありません。