Mistral AI는 클라우드 API를 사용하는 방법과, `mistral-inference` 라이브러리를 통해 오픈 모델의 가중치를 로컬 GPU에 직접 올려 구동하는 방법 두 가지를 모두 제공합니다.

### 4-1. Quick Start (클라우드 API 사용)

Mistral AI의 클라우드 플랫폼인 La Plateforme에서 API 키를 발급받은 뒤, Python SDK를 이용해 간편하게 호출하는 방법입니다.

```bash
# Mistral AI 공식 Python SDK 설치
pip install mistralai
```

설치 완료 후 파이썬 코드에서 다음과 같이 연동하여 모델을 호출합니다.

```python
import os
from mistralai import Mistral

# API 키 설정 (사전에 발급받은 키를 환경 변수에 등록하거나 코드에 입력)
api_key = os.environ.get("MISTRAL_API_KEY", "your_api_key_here")

# 클라이언트 객체 생성
client = Mistral(api_key=api_key)

# Mistral Large 최신 모델로 대화 요청 생성
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "유방암 유발 유전자인 BRCA1과 BRCA2의 단백질 기능적 차이점을 한국어로 친절하게 설명해줘."}
    ]
)

print(response.choices[0].message.content)
```

### 4-2. 상세 설치 (로컬 GPU에 Mistral 모델 직접 서빙하기)

보안이 극도로 중요한 연구 환경에서 가중치를 로컬에 다운로드하여 `mistral-inference` 패키지로 직접 구동하는 방법입니다.

```bash
# 로컬 추론을 위한 공식 mistral-inference 및 huggingface-hub 패키지 설치
pip install mistral-inference huggingface_hub
```

그 후 아래와 같이 Hugging Face에서 모델을 다운로드하고 추론을 실행합니다.

```python
from huggingface_hub import snapshot_download
from pathlib import Path
from mistral_inference.transformer import Transformer
from mistral_common.tokens.tokenizers.mistral import MistralTokenizer
from mistral_common.protocol.instruct.messages import UserMessage
from mistral_common.protocol.instruct.request import ChatCompletionRequest

# 1. 모델 가중치 및 토크나이저 로컬 다운로드 (예: Mistral-7B-Instruct-v0.3)
mistral_models_path = Path.home() / "mistral_models"
mistral_models_path.mkdir(parents=True, exist_ok=True)

snapshot_download(
    repo_id="mistralai/Mistral-7B-Instruct-v0.3", 
    allow_patterns=["params.json", "consolidated.safetensors", "tokenizer.model.v3"], 
    local_dir=mistral_models_path
)

# 2. 토크나이저 및 트랜스포머 모델 로드 (CUDA 환경 필요)
tokenizer = MistralTokenizer.from_file(str(mistral_models_path / "tokenizer.model.v3"))
model = Transformer.from_folder(mistral_models_path)

# 3. 입력 데이터 토큰화 및 로컬 추론 실행
completion_request = ChatCompletionRequest(messages=[UserMessage(content="Explain CRISPR-Cas9 mechanism shortly.")])
tokens = tokenizer.encode_chat_completion(completion_request).tokens

out_tokens, _ = model.generate(tokens, max_tokens=256, temperature=0.35)
result = tokenizer.decode(out_tokens)
print(result)
```