动手学LLM大模型应用开发：大模型简介与环境配置（附教程）

大模型简介

大语言模型（LLM，Large Language Model），也称大型语言模型，是一种旨在理解和生成人类语言的人工智能模型。

我将他理解为一种黑盒模型，他可以输入人类语言，输出人类语言，黑盒里面是什么呢？是一种大型神经网络。

y=w1x1+w2x2+w3x3+by=w_1x_1+w_2x_2+w_3x_3+by=w1​x1​+w2​x2​+w3​x3​+b

w1、w2、w3w_1、w_2、w_3w1​、w2​、w3​是权重，x1、x2、x3x_1、x_2、x_3x1​、x2​、x3​是输入，只有当yyy大于某个值的时候，才会输出【出去玩】这个结论，这是一个简单的神经网络的例子。对我们学生来说，可能“考完试了”这个占的权重是 0.8 ，我们更可能考完试就出去玩。

当然，这只是一个简单的神经网络，这里面的权重数字，例如刚刚说到的 0.8 ，是我们手动设置的，事实上，你可以统计你出去玩的所有因素，数据化，最后可以得到一个线性回归的方程，这里面的权重符合你自己的情况。

python import networkx as nx import matplotlib.pyplot as plt # 创建一个空的有向图 G = nx.DiGraph() # 添加节点 layers = [10, 10, 13, 12,8,13,5,7,8,10,6,1] for i in range(len(layers)): for j in range(layers[i]): G.add_node((i, j)) # 添加边 for i in range(len(layers) - 1): for j in range(layers[i]): for k in range(layers[i + 1]): G.add_edge((i, j), (i + 1, k)) # 绘制图 pos = {} for node in G.nodes: pos[node] = node nx.draw(G, pos, with_labels=False, node_color='white',edgecolors='black') # 显示图 plt.show()

但如此大型的神经网络的构建是很复杂的，而大模型，大型语言模型，里面构建了成千上万个更复杂的各种各样的神经元。科学家用人类所有的语言数据作为输入，训练得到一个权重，这个权重放在黑盒中，我们再输入一些问题，黑盒就会返回一些回答。

私以为，现在学术界、市场上的各种大模型，他们的差异只在两点：

1. 神经元构建方式不同
2. 训练数据不同

神经元构建的不同，但都旨在模拟人类大脑，好比不同画家临摹一幅画，画家各不同，但画出来的画，如果画家合格，那应该没有什么大差别。

而花画得画，画石得石。

大模型应用开发是这样的，科学家只要训练模型就行了，而我们开发者要思考的就多了。

科学家已经为黑盒模型提供了调用接口，我们只要像以往调用 api 一样开发即可。

LangChain

LangChain旨在帮助开发者们快速构建基于大型语言模型的端到端应用程序或工作流程

人生苦短，我用 Python ，LangChain 库可以帮助我们快速开发大模型应用。

RAG

检索增强生成（RAG, Retrieval-Augmented Generation）

他的诞生是为了解决两点：

1. 大模型输入窗口的token有限
2. 大模型幻觉问题

以我在科大讯飞实习的经历来看，23年暑假我在数字员工部门实习，当时我们部门做 RPA +大模型，这是一个拿了中国信通院的大模型优秀应用案例的项目。

环境配置

环境配置较为简单，具体来说，你需要一台服务器，或者自己的电脑也行。我这里使用了阿里云的学生服务器，免费，我还有另外一台腾讯云的，但我在那里部署了我的博客。另外azure 的学生服务器也可以使用。现在云服务也很便宜。我第一次接触云服务器是高二寒假，那时疫情在家上网课，无意中接触到的。

你已经使用 vscode 连接上了远程服务器。可参考VSCode 连接远程服务器

配置 git

1. 生成ssh key

bash ssh-keygen -t rsa -C "youremail@example.com"

2. 将公钥添加到 github

bash cat ~/.ssh/id_rsa.pub

复制输出内容，复制输出内容，打开 github，点击右上角头像，选择 settings -> SSH and GPG keys -> New SSH key，将复制的内容粘贴到 key 中，点击 Add SSH key

配置 conda

1. 安装

bash mkdir -p ~/miniconda3 wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3 rm -rf ~/miniconda3/miniconda.sh

2. 初始化

bash ~/miniconda3/bin/conda init bash ~/miniconda3/bin/conda init zsh

3. 检查

bash conda --version

新建一个终端，此命令会输出conda版本

4. 新建虚拟环境

bash conda create -n llm-universe python=3.10

5. 激活虚拟环境

bash conda activate llm-universe

6. 克隆仓库

bash git clone git@github.com:datawhalechina/llm-universe.git

7. 配置仓库

bash cd llm-universe pip install -r requirements.txt

8. 下载 NLTK 相关资源

我们在使用开源词向量模型构建开源词向量的时候，需要用到第三方库 nltk 的一些资源。正常情况下，其会自动从互联网上下载，但可能由于网络原因会导致下载中断。当我们使用 nltk 时就会报错。此处我们从国内仓库镜像地址下载相关资源。

bash cd /root git clone https://gitee.com/yzy0612/nltk_data.git --branch gh-pages cd nltk_data mv packages/* ./ cd tokenizers apt install unzip -y unzip punkt.zip cd ../taggers unzip averaged_perceptron_tagger.zip

9.配置 jupterlab 的内核服务器为刚刚创建的llm 当你打开一个 ipynb 文件，点击右上角选择内核，选择 Python 解释器，再选择 llm-universe 环境

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！