Mistral AIは、クラウドAPIを使用する方法と、`mistral-inference`ライブラリを通じてオープンモデルの重みをローカルGPUに直接ロードして実行する方法の2つを提供します。

### 4-1. クイックスタート（クラウドAPIの使用）

Mistral AIのクラウドプラットフォームであるLa PlateformeでAPIキーを取得し、Python SDKを使用して簡単に呼び出す方法です。

```bash
# Mistral AI公式Python SDKのインストール
pip install mistralai
```

インストールが完了したら、Pythonコードで以下のように連携してモデルを呼び出します。

```python
import os
from mistralai import Mistral

# APIキーの設定（事前に取得したキーを環境変数に登録するか、コードに入力）
api_key = os.environ.get("MISTRAL_API_KEY", "your_api_key_here")

# クライアントオブジェクトの作成
client = Mistral(api_key=api_key)

# Mistral Large最新モデルで会話リクエストを作成
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "乳がんを引き起こす遺伝子であるBRCA1とBRCA2のタンパク質機能の相違点を、韓国語で丁寧に説明してください。"}
    ]
)

print(response.choices[0].message.content)
```

### 4-2. 詳細なインストール（ローカルGPUにMistralモデルを直接サーブする）

セキュリティが極めて重要な研究環境で、重みをローカルにダウンロードして`mistral-inference`パッケージで直接実行する方法です。

```bash
# ローカル推論用の公式mistral-inferenceおよびhuggingface-hubパッケージのインストール
pip install mistral-inference huggingface_hub
```

その後、以下のようにHugging Faceからモデルをダウンロードして推論を実行します。

```python
from huggingface_hub import snapshot_download
from pathlib import Path
from mistral_inference.transformer import Transformer
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest

# 1. モデルの重みとトークナイザーをローカルにダウンロード（例：Mistral-7B-Instruct-v0.3）
mistral_models_path = Path.home() / "mistral_models"
mistral_models_path.mkdir(parents=True, exist_ok=True)

snapshot_download(
    repo_id="mistralai/Mistral-7B-Instruct-v0.3", 
    allow_patterns=["params.json", "consolidated.safetensors", "tokenizer.model.v3"], 
    local_dir=mistral_models_path
)

# 2. トークナイザーとTransformerモデルのロード（CUDA環境が必要）
tokenizer = MistralTokenizer.from_file(str(mistral_models_path / "tokenizer.model.v3"))
model = Transformer.from_folder(mistral_models_path)

# 3. 入力データをトークン化し、ローカル推論を実行
completion_request = ChatCompletionRequest(messages=[UserMessage(content="CRISPR-Cas9メカニズムを簡単に説明してください。")])
tokens = tokenizer.encode_chat_completion(completion_request).tokens

out_tokens, _ = model.generate(tokens, max_tokens=256, temperature=0.35)
result = tokenizer.decode(out_tokens)
print(result)
```