【大模型测试】Python调用大模型API接口开发指南，详细介绍

【大模型测试】Python 调用大模型 API 接口开发指南（2026 超详细实战教程）

以下是基于 2026 年最新实践的Python 调用大模型（Large Language Models, LLM）API 接口开发指南。大模型 API 已成为 AI 开发的核心（如文本生成、聊天机器人、代码补全、翻译等）。我们将从零起步，覆盖主流提供商（如 OpenAI、Anthropic、Groq、Hugging Face、Google Gemini 等），包括环境准备、基本调用、高级技巧、统一框架、性能优化和完整项目实战。

教程基于 Python 3.12+，参考了 2026 年主流文档和社区最佳实践（如 LiteLLM SDK、Groq 集成等）。 假设你有基本的 Python 知识（如 import、函数、异常处理）。如果你是初学者，先安装 Python 和 pip。

为什么学这个？

• 2026 年，LLM API 已标准化（OpenAI 格式主导），调用简单，但需处理 API 密钥、限速、成本。
• 应用场景：构建聊天 App、自动化脚本、数据分析工具。
• 免费/付费选项：免费试用常见，但生产级需付费（e.g., OpenAI $0.02/1K tokens）。

0. 环境准备（5 分钟）

1. 安装 Python 依赖：
   使用 pip 安装核心库。推荐用虚拟环境（venv）。

   # 基础：请求库pipinstallrequests httpx# 主流 SDK（推荐）pipinstallopenai anthropic groq huggingface-hub litellm# LiteLLM 为统一 SDK# 可选：异步/流式（高性能）pipinstallaiohttp asyncio# 集成框架（高级）pipinstalllangchain streamlit# LangChain 为链式调用，Streamlit 为 UI

2. 获取 API 密钥：

   • OpenAI：官网 platform.openai.com/account/api-keys 创建密钥。
   • Anthropic (Claude)：console.anthropic.com/account/keys。
   • Groq：console.groq.com/keys（免费试用快）。
   • Hugging Face：huggingface.co/settings/tokens（免费推理 API）。
   • Google Gemini：makersuite.google.com/app/apikey。
   • 存储密钥：用环境变量（安全）。e.g.,export OPENAI_API_KEY="sk-..."（Windows 用 set）。

3. 测试环境：

   importosprint(os.environ.get("OPENAI_API_KEY"))# 应输出你的密钥

1. 主流大模型 API 提供商速览（2026 Top 8）

基于 2026 年市场， 以下是热门选项（免费/付费混合）：

选择建议：初学者从 OpenAI/Groq 开始（SDK 简单）。生产用 LiteLLM 统一多提供商。

2. 基本调用（Hello World 级）

核心：发送提示（prompt），获取响应。以下是单行/简单示例。

2.1 OpenAI 示例

importosfromopenaiimportOpenAI client=OpenAI(api_key=os.environ["OPENAI_API_KEY"])response=client.chat.completions.create(model="gpt-4o-mini",messages=[{"role":"user","content":"解释量子计算，简短点。"}])print(response.choices[0].message.content)

输出示例：量子计算利用量子比特进行并行计算，能解决经典计算机难题，如因子分解。

2.2 Anthropic (Claude) 示例

importosfromanthropicimportAnthropic client=Anthropic(api_key=os.environ["ANTHROPIC_API_KEY"])response=client.messages.create(model="claude-3-5-sonnet-20241022",max_tokens=100,messages=[{"role":"user","content":"写一首关于 AI 的短诗。"}])print(response.content[0].text)

2.3 Groq 示例

importosfromgroqimportGroq client=Groq(api_key=os.environ["GROQ_API_KEY"])response=client.chat.completions.create(model="llama3-70b-8192",messages=[{"role":"user","content":"Python 如何处理异常？"}])print(response.choices[0].message.content)

2.4 Hugging Face Inference API 示例

importosfromhuggingface_hubimportInferenceClient client=InferenceClient(token=os.environ["HF_TOKEN"])response=client.text_generation("meta-llama/Llama-3.2-3B-Instruct","描述 Hugging Face 的作用。",max_tokens=50)print(response)

通用提示：用try-except处理错误（如限速、密钥无效）。e.g.,except Exception as e: print(e)。

3. 高级技巧（生产级开发）

3.1 流式响应（Streaming）

实时输出（如聊天 App）。

# OpenAI 示例stream=client.chat.completions.create(model="gpt-4o-mini",messages=[{"role":"user","content":"讲个笑话。"}],stream=True)forchunkinstream:ifchunk.choices[0].delta.content:print(chunk.choices[0].delta.content,end="")

3.2 异步调用（Async，高并发）

用 asyncio 并发多个请求。

importasynciofromopenaiimportAsyncOpenAI async_client=AsyncOpenAI(api_key=os.environ["OPENAI_API_KEY"])asyncdefasync_call(prompt):response=awaitasync_client.chat.completions.create(model="gpt-4o-mini",messages=[{"role":"user","content":prompt}])returnresponse.choices[0].message.contentasyncdefmain():tasks=[async_call("提示1"),async_call("提示2")]results=awaitasyncio.gather(*tasks)print(results)asyncio.run(main())

3.3 工具调用（Function Calling）

让模型调用自定义函数（如计算器）。OpenAI/Anthropic 支持。

# OpenAI 工具示例tools=[{"type":"function","function":{"name":"add_numbers","description":"加两个数","parameters":{"type":"object","properties":{"a":{"type":"number"},"b":{"type":"number"}},"required":["a","b"]}}}]response=client.chat.completions.create(model="gpt-4o",messages=[{"role":"user","content":"3+5=?"}],tools=tools)# 如果调用工具，执行函数ifresponse.choices[0].message.tool_calls:tool_call=response.choices[0].message.tool_calls[0]iftool_call.function.name=="add_numbers":args=json.loads(tool_call.function.arguments)result=args["a"]+args["b"]print(result)

3.4 多模态（图像/音频）

OpenAI GPT-4o 支持。

response=client.chat.completions.create(model="gpt-4o",messages=[{"role":"user","content":[{"type":"text","text":"描述这张图。"},{"type":"image_url","image_url":{"url":"https://example.com/image.jpg"}}]}])print(response.choices[0].message.content)

4. 统一多提供商：LiteLLM SDK（推荐 2026 实践）

LiteLLM 支持 100+ LLM，一键切换。

fromlitellmimportcompletionimportos os.environ["OPENAI_API_KEY"]="..."os.environ["ANTHROPIC_API_KEY"]="..."# 调用 OpenAIresponse=completion(model="gpt-4o-mini",messages=[{"role":"user","content":"Hi!"}])# 切换到 Clauderesponse=completion(model="claude-3-5-sonnet-20241022",messages=[{"role":"user","content":"Hi!"}])print(response.choices[0].message.content)

优势：成本跟踪、负载均衡、日志。

5. 集成框架：LangChain（链式/代理开发）

构建复杂应用。

fromlangchain_groqimportChatGroqfromlangchain.promptsimportPromptTemplatefromlangchain.chainsimportLLMChain llm=ChatGroq(model="llama3-70b-8192",api_key=os.environ["GROQ_API_KEY"])prompt=PromptTemplate(input_variables=["topic"],template="解释 {topic}。")chain=LLMChain(llm=llm,prompt=prompt)print(chain.run("区块链"))

6. 性能优化 & 最佳实践

• 常见错误：401（密钥错）、429（限速）、超时（加 timeout=30）。
• 本地运行：用 Ollama/Hugging Face Transformers 跑开源模型（无 API 费）。 e.g.,from transformers import pipeline; pipe = pipeline("text-generation", model="meta-llama/Llama-3.2-3B")。

7. 完整项目实战：Streamlit 聊天机器人

用 Groq 构建 Web UI。

app.py：

importstreamlitasstfromgroqimportGroqimportos client=Groq(api_key=os.environ["GROQ_API_KEY"])st.title("Groq 聊天机器人")if"messages"notinst.session_state:st.session_state.messages=[]formessageinst.session_state.messages:withst.chat_message(message["role"]):st.markdown(message["content"])prompt=st.chat_input("说点什么？")ifprompt:st.session_state.messages.append({"role":"user","content":prompt})withst.chat_message("user"):st.markdown(prompt)withst.chat_message("assistant"):stream=client.chat.completions.create(model="mixtral-8x7b-32768",messages=[{"role":m["role"],"content":m["content"]}forminst.session_state.messages],stream=True)response=st.write_stream(chunk.choices[0].delta.contentor""forchunkinstream)st.session_state.messages.append({"role":"assistant","content":"".join(response)})

运行：streamlit run app.py。访问 localhost:8501。

扩展：加历史记录、工具调用、数据库存储。

8. 进阶学习路线（2026 版）

有具体提供商或功能想深入？如 OpenAI 微调、Groq LPU 优化、Hugging Face 自定义端点？告诉我，我继续展开～