从零开始：Ubuntu系统下OFA模型完整部署教程

从零开始：Ubuntu系统下OFA模型完整部署教程

如果你对AI模型感兴趣，特别是那种能看懂图片、理解图片和文字之间关系的模型，那么OFA（One-For-All）模型绝对值得你花时间研究一下。它就像一个多面手，能把图片生成、图片描述、视觉问答这些任务都统一到一个简单的框架里。

不过，对于很多刚接触Linux或者AI部署的朋友来说，在Ubuntu系统上把这样一个模型完整地跑起来，可能会觉得有点无从下手。网上的教程要么太零散，要么默认你已经是个老手，跳过了很多新手容易踩坑的细节。

这篇文章就是为你准备的。我会手把手地带你走一遍在Ubuntu 20.04 LTS系统上，从驱动安装到最终成功运行OFA模型的全过程。你不用有太多心理负担，跟着步骤走，遇到问题我们一起解决。我们的目标很简单：让你能亲手把这个强大的模型部署起来，并且跑通一个简单的例子。

1. 部署前的准备工作

在开始敲命令之前，我们先花几分钟把“战场”打扫干净，准备好“弹药”。这一步做得好，后面能省下大把排查问题的时间。

1.1 系统与硬件检查

首先，我们得确认一下你的Ubuntu系统是否满足基本要求。打开终端（快捷键Ctrl+Alt+T），输入以下命令查看系统信息：

lsb_release -a

你应该能看到类似Ubuntu 20.04.6 LTS这样的输出。这个教程主要基于20.04 LTS版本，但其他较新的版本（如22.04）也基本适用，只是某些软件包的版本号可能需要微调。

接下来，检查一下你的显卡，因为OFA模型在GPU上运行会快很多。输入：

lspci | grep -i nvidia

如果能看到NVIDIA显卡的信息（比如NVIDIA Corporation GA102 [GeForce RTX 3080]），说明硬件是支持的。如果没有输出，你可能使用的是集成显卡或者AMD显卡，后续我们将主要使用CPU模式，速度会慢一些，但流程是通的。

1.2 安装必要的系统工具

我们需要一些基础工具来辅助后续的安装和开发。一条命令搞定：

sudo apt update && sudo apt install -y wget curl git build-essential software-properties-common

• sudo apt update：更新软件包列表，确保我们安装的是最新版本。
• wget,curl：用来从网上下载文件。
• git：版本控制工具，用来克隆代码仓库。
• build-essential：包含编译软件所需的基本工具，比如gcc, g++, make。
• software-properties-common：方便我们添加和管理软件源。

2. 核心环境搭建：驱动、CUDA与PyTorch

这是整个部署中最关键，也可能最棘手的一步。别担心，我们一步一步来。

2.1 NVIDIA驱动安装（GPU用户）

如果你有NVIDIA显卡，并且希望使用GPU来加速模型，那么驱动是必须的。Ubuntu系统自带的“软件和更新”里的驱动有时版本较旧，我们推荐使用官方仓库。

首先，添加官方的NVIDIA驱动PPA仓库：

sudo add-apt-repository ppa:graphics-drivers/ppa -y sudo apt update

然后，查找推荐安装的驱动版本：

ubuntu-drivers devices

这个命令会列出所有可用的驱动，并标出一个推荐版本（通常是后面带(recommended)的）。假设推荐的是nvidia-driver-535，我们就安装它：

sudo apt install -y nvidia-driver-535

安装完成后，必须重启电脑才能使驱动生效。

sudo reboot

重启后，再次打开终端，输入nvidia-smi。如果能看到显卡的详细信息、驱动版本和CUDA版本（如下图），恭喜你，驱动安装成功了！CUDA版本这里显示的是驱动支持的最高版本，我们接下来会安装匹配的CUDA工具包。 （注：nvidia-smi会输出一个表格，显示GPU型号、驱动版本、CUDA版本等信息）

2.2 CUDA与cuDNN安装

CUDA是NVIDIA推出的并行计算平台，cuDNN是针对深度神经网络的GPU加速库。OFA模型依赖它们。

重要选择：PyTorch官网会明确说明其预编译版本支持哪些CUDA版本。为了最大兼容性，我们选择目前比较主流且稳定的CUDA 11.8。访问 PyTorch官网，可以看到它支持CUDA 11.8。

前往NVIDIA官网的 CUDA Toolkit Archive，找到CUDA 11.8.0的安装指南。对于Ubuntu，通常的命令如下：

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pin sudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600 wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda-repo-ubuntu2004-11-8-local_11.8.0-520.61.05-1_amd64.deb sudo dpkg -i cuda-repo-ubuntu2004-11-8-local_11.8.0-520.61.05-1_amd64.deb sudo cp /var/cuda-repo-ubuntu2004-11-8-local/cuda-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get -y install cuda-11-8

安装完成后，需要将CUDA添加到系统路径。编辑你的~/.bashrc文件：

echo 'export PATH=/usr/local/cuda-11.8/bin${PATH:+:${PATH}}' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda-11.8/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}' >> ~/.bashrc source ~/.bashrc

检查CUDA是否安装成功：nvcc --version，应该输出release 11.8。

接下来安装cuDNN。你需要先在NVIDIA开发者网站注册并登录，然后下载对应CUDA 11.x版本的cuDNN Local Installer for Ubuntu20.04 x86_64 (Debian)。假设下载的文件是cudnn-local-repo-ubuntu2004-8.9.7.29_1.0-1_amd64.deb，按顺序执行：

sudo dpkg -i cudnn-local-repo-ubuntu2004-8.9.7.29_1.0-1_amd64.deb sudo cp /var/cudnn-local-repo-*/cudnn-*-keyring.gpg /usr/share/keyrings/ sudo apt-get update sudo apt-get install libcudnn8=8.9.7.29-1+cuda11.8 sudo apt-get install libcudnn8-dev=8.9.7.29-1+cuda11.8 sudo apt-get install libcudnn8-samples=8.9.7.29-1+cuda11.8

2.3 Python环境与PyTorch安装

为了避免系统Python环境混乱，我们使用conda来创建独立的虚拟环境。如果你没有安装Anaconda或Miniconda，先安装Miniconda：

wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh bash Miniconda3-latest-Linux-x86_64.sh # 安装过程中一直按回车，在询问是否初始化conda时，输入 yes # 安装完成后，关闭并重新打开终端，或者执行 `source ~/.bashrc`

创建一个名为ofa_env的Python 3.8环境（PyTorch对3.8支持很好）：

conda create -n ofa_env python=3.8 -y conda activate ofa_env

现在，在这个干净的环境里安装PyTorch。根据PyTorch官网针对CUDA 11.8的安装命令：

pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

安装完成后，可以写个简单的Python脚本来测试GPU是否可用：

import torch print(f"PyTorch version: {torch.__version__}") print(f"CUDA available: {torch.cuda.is_available()}") if torch.cuda.is_available(): print(f"CUDA device: {torch.cuda.get_device_name(0)}")

保存为test_gpu.py并运行python test_gpu.py。如果看到CUDA可用并显示了你的显卡型号，那么最复杂的部分已经过去了！

3. OFA模型部署与初体验

环境终于准备好了，现在让我们把主角OFA模型请出来。

3.1 安装ModelScope与OFA

OFA模型由阿里巴巴的ModelScope平台托管。我们先安装ModelScope库及其依赖：

pip install modelscope

如果你的网络环境访问PyPI较慢，可以考虑使用国内镜像源，例如：pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple。

接下来，我们安装OFA模型所需的特定依赖。根据官方信息，我们需要fairseq和timm：

pip install fairseq timm

3.2 运行你的第一个OFA示例

OFA模型家族有很多成员，比如图像描述、视觉问答、图文蕴含等。我们先从最直观的“图像描述”功能开始，也就是让AI看一张图，然后告诉我们图里有什么。

创建一个新的Python脚本，比如叫ofa_demo.py，输入以下代码：

from modelscope.pipelines import pipeline from modelscope.utils.constant import Tasks from modelscope.outputs import OutputKeys # 1. 创建图像描述任务管道 # 我们使用英文通用大模型 print("正在加载OFA图像描述模型...") image_captioning = pipeline(Tasks.image_captioning, model='damo/ofa_image-caption_coco_large_en', model_revision='v1.0.1') # 2. 准备一张图片 # 这里我们使用一个网络上的示例图片（一篮甜甜圈） image_url = 'https://xingchen-data.oss-cn-zhangjiakou.aliyuncs.com/maas/image-captioning/donuts.jpg' print(f"正在分析图片: {image_url}") # 3. 让模型描述图片 result = image_captioning(image_url) # 4. 打印结果 print("\n--- AI生成的图片描述 ---") print(result[OutputKeys.CAPTION][0]) print("------------------------")

运行这个脚本：python ofa_demo.py。

第一次运行时会下载模型文件（大约几个GB），需要一些时间，请保持网络通畅。下载完成后，你会看到类似这样的输出：

正在加载OFA图像描述模型... 正在分析图片: https://... --- AI生成的图片描述 --- a bunch of donuts on a wooden board with popsicle sticks ------------------------

看，AI准确地描述出“木板上有一堆带着冰棍棒的甜甜圈”。虽然句子简单，但这证明你的OFA模型已经成功部署并运行起来了！

3.3 试试本地图片

用网络图片测试成功后，我们更常用的肯定是处理自己电脑上的图片。很简单，只需要把图片路径传给管道就行。

假设你有一张名为my_cat.jpg的图片放在当前目录下，将代码中的image_url替换为文件路径即可：

# 使用本地图片 image_path = './my_cat.jpg' result = image_captioning(image_path)

4. 常见问题与故障排除

部署过程中难免会遇到问题，这里汇总了几个常见的“坑”及其解决办法。

问题1：运行nvidia-smi提示“命令未找到”或没有输出显卡信息。

• 可能原因：NVIDIA驱动未安装成功。
• 解决：重新执行2.1节的驱动安装步骤，确保使用了推荐的驱动版本，并务必重启。也可以尝试使用ubuntu-drivers autoinstall让系统自动安装。

问题2：PyTorch测试时torch.cuda.is_available()返回False。

• 可能原因1：PyTorch版本与CUDA版本不匹配。
• 解决：确认你安装PyTorch的命令是针对CUDA 11.8的。在ofa_env环境中，用pip list | grep torch查看版本，并去PyTorch官网核对兼容性。
• 可能原因2：conda环境混乱。
• 解决：尝试创建一个全新的conda环境，从头安装PyTorch。

问题3：下载模型时速度极慢或失败。

• 可能原因：网络连接ModelScope仓库不稳定。
• 解决：
  1. 可以尝试设置环境变量使用国内镜像（如果可用）：export MODELSCOPE_CACHE=./model_cache（但主要解决缓存路径，下载源可能不变）。
  2. 耐心重试几次，或者更换网络环境。
  3. 对于非常大的模型，下载失败是正常的，重试即可，下载器支持断点续传。

问题4：运行示例代码时出现AttributeError或KeyError。

• 可能原因：ModelScope或OFA的API有更新，或者模型名称、输出键名有变化。
• 解决：访问 ModelScope OFA模型页面，查看最新的模型卡片（model card）和示例代码。这是获取最准确信息的地方。

问题5：内存不足（OOM）错误。

• 可能原因：OFA-large模型较大，如果你的GPU显存小于8GB，可能在处理大图片时遇到问题。
• 解决：
  1. 在调用管道时，可以尝试传入batch_size=1参数（如果支持）。
  2. 预处理图片，将其缩放到较小尺寸（如512x512）再输入模型。
  3. 如果只有CPU，运行会非常慢，且需要足够大的内存（建议16GB以上）。

5. 总结与下一步

跟着教程走下来，你应该已经在Ubuntu系统上成功搭建了CUDA环境，安装了PyTorch，并且把OFA图像描述模型跑通了。从看到终端里打印出第一句AI生成的图片描述开始，你就已经跨过了从零到一的门槛。

OFA的能力远不止于此。除了图像描述，你还可以轻松尝试其他任务，只需更换模型名称和任务类型。例如：

• 图文蕴含：判断一段文字描述是否与图片内容相符。模型：iic/ofa_visual-entailment_snli-ve_large_en
• 视觉定位：根据文字描述，在图片中框出对应的物体。模型：iic/ofa_visual-grounding_refcoco_large_zh（中文）
• 文生图：根据文字描述生成图片（需要特定版本的OFA）。

要探索这些功能，最好的方法是去ModelScope平台的OFA模型页面，仔细阅读每个模型的文档和示例代码。部署的流程都是一样的，核心就是pipeline这个函数。

这次部署经历，最宝贵的可能不是最终运行的那个demo，而是过程中你解决的每一个报错、理解的每一个步骤。Linux环境下的AI模型部署是一项非常实用的技能，希望这篇教程能成为一个扎实的起点。接下来，不妨用你熟悉的编程语言，写一个简单的Web界面，上传图片并显示AI的描述，这会是一个很有趣的练手项目。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。