模型管理界面示意：

┌─────────────────────────────────────────┐
│ 🔍 搜索模型...  [qwen2.5]  [搜索]       │
├─────────────────────────────────────────┤
│                                         │
│  📦 Qwen2.5-7B-Instruct               │
│     Q4_K_M  │ 4.7 GB │ ⬇️ 下载          │
│     Q5_K_M  │ 5.3 GB │ ⬇️ 下载          │
│     Q8_0    │ 7.8 GB │ ⬇️ 下载          │
│                                         │
│  📦 Qwen2.5-14B-Instruct              │
│     Q4_K_M  │ 8.9 GB │ ⬇️ 下载          │
│                                         │
└─────────────────────────────────────────┘

# 无需修改代码，直接切换到本地模型
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:1234/v1",
    api_key="lm-studio"  # 本地服务器不需要真实密钥
)

response = client.chat.completions.create(
    model="qwen2.5-7b-instruct",
    messages=[
        {"role": "user", "content": "你好，请介绍一下你自己"}
    ]
)
print(response.choices[0].message.content)

用户需求：分析包含个人健康信息的文档
问题：无法将数据上传到第三方 API
方案：使用 LM Studio 本地运行模型，数据不离开设备

# 本地处理敏感数据
import requests

def analyze_health_data(text: str) -> str:
    """使用本地模型分析健康数据，数据不会离开本机"""
    response = requests.post(
        "http://localhost:1234/v1/chat/completions",
        json={
            "model": "qwen2.5-7b-instruct",
            "messages": [
                {
                    "role": "system",
                    "content": "你是一个医疗数据分析助手，请根据提供的数据给出客观分析。"
                },
                {
                    "role": "user",
                    "content": f"请分析以下体检数据并给出建议：\n{text}"
                }
            ]
        }
    )
    return response.json()["choices"][0]["message"]["content"]

开发者流程：
1. 使用 LM Studio 在本地测试 prompt 设计
2. 确认效果后，切换到生产环境的 API
3. 代码无需修改，只需更改 base_url

研究者需求：对比不同模型在相同 prompt 下的表现

LM Studio 支持：
- 快速切换不同模型
- 保持相同的对话参数
- 导出对话记录用于分析

# Ollama 方式：命令行操作
$ ollama pull qwen2.5:7b
$ ollama run qwen2.5:7b "你好"
$ ollama serve  # 启动 API 服务器

# LM Studio 方式：图形化操作
# 1. 打开应用 → 搜索 → 下载 → 聊天
# 2. 切换到 Local Server 标签页 → 启动服务器

选 LM Studio 的理由：
├── 你是新手，想要友好的图形界面
├── 你需要快速搜索和下载 Hugging Face 上的模型
├── 你想在同一界面中聊天和测试 API
└── 你偏好可视化的参数调整

选 Ollama 的理由：
├── 你熟悉命令行操作
├── 你需要脚本化/自动化部署
├── 你需要 Docker 容器化运行
├── 你想要更丰富的第三方生态
└── 你需要在服务器/无 GUI 环境中运行

LM Studio:  http://localhost:1234/v1  (默认端口)
Ollama:     http://localhost:11434/v1 (默认端口)