Ollama系列05：Ollama API 使用指南

本文是Ollama系列教程的第5篇，在前面的4篇内容中，给大家分享了如何再本地通过Ollama运行DeepSeek等大模型，演示了chatbox、CherryStudio等UI界面中集成Ollama的服务，并介绍了如何通过cherryStudio构建私有知识库。
在今天的分享中，我将分享如何通过API来调用ollama服务，通过整合ollama API，将AI能力集成到你的私有应用中，提升你的职场价值！
Ollama API

Ollama 提供了一套简单好用的接口，让开发者能通过API轻松使用大语言模型。
本篇内容将使用Postman作为请求工具，和开发语言无关。
基本概念

在开始之前，我们先了解几个基本的概念：

• Model：模型，我们调用接口时使用的模型名字。我们可以把Ollama理解为模型商店，它里面运行着很多模型，每个模型都有一个唯一的名字，例如deepseek-r1:1.5b
  
• Prompt: 提示词，是我们给模型的指令。比如天空为什么是蓝色的就是一条简单的提示词。
  
• Token：字符块，是大模型的最小输出单位，同时也是大模型的计费单位。举个例子，对于天空为什么是蓝色的这句话，大模型会进行拆分天空/为什么/是/蓝色/的，每一段就是一个token（实际情况会比这个例子复杂）
  

内容生成（/api/generate）

让大模型帮我们生成指定的内容，就可以使用内容生成接口。一问一答，不带上下文。
我们试着用最少的参数来调用：

1. {
2.   "model": "deepseek-r1:1.5b",
3.   "prompt": "天空为什么是蓝色的"
4. }

复制代码

在postman里面看看输出：

可以看到输出的内容很长，这是因为默认采用的是stream的方式输出的，也就是我们在deepseek app里面看到的一个字一个字输出的那种效果。我们可以将stream参数设置成false来禁用流式输出。

1. {
2.     "model": "deepseek-r1:1.5b",
3.     "prompt": "天空为什么是蓝色的",
4.     "stream": false
5. }

复制代码

参数列表
参数名是否必填描述model是模型名称prompt是需要生成响应的提示词suffix否模型响应后追加的文本images否Base64编码的图片列表（适用于多模态模型如llava）format否返回响应的格式（可选值：json 或符合 JSON Schema 的结构）options否模型额外参数（对应 Modelfile 文档中的配置如 temperature）system否自定义系统消息（覆盖 Modelfile 中的定义）template否使用的提示词模板（覆盖 Modelfile 中的定义）stream否设为 false 时返回单个响应对象而非流式对象raw否设为 true 时不格式化提示词（适用于已指定完整模板的情况）keep_alive否控制模型在内存中的保持时长（默认：5m）context否（已弃用）来自前次 /generate 请求的上下文参数，用于维持短期对话记忆生成对话（/api/chat）

生成对话，是一种具备上下文记忆的内容生成。在内容生成API中，我们仅传入了prompt，大模型仅对我们本地的prompt进行回答，而在生成对话API中，我们还可以传入messages参数，包含我们多轮对话内容，使大模型具备记忆功能。
最简单的调用（为了方便演示，我们将stream参数设置为false）：

1. {
2.     "model": "deepseek-r1:1.5b",
3.     "messages": [
4.         {
5.             "role": "user",
6.             "content": "天空通常是什么颜色"
7.         }
8.     ],
9.     "stream": false
10. }

复制代码

postman调用截图：

多轮对话
聊天的时候，ollama通过messages参数保持上下文记忆。当模型给我们回复内容之后，如果我们要继续追问，则可以使用以下方法（注意：deepseek-r1模型需要在上下文中移除think中的内容）：

1. {
2.     "model": "deepseek-r1:1.5b",
3.     "messages": [
4.         {
5.             "role": "user",
6.             "content": "天空通常是什么颜色"
7.         },
8.         {
9.             "role": "assistant",
10.             "content": "天空通常看起来是**柔和的、明快的或稍微有些昏黄的色调**。具体颜色可能会因不同的天气情况而有所变化，例如：\n\n1. **晴朗天气**：天空可能呈现出温暖、明亮的颜色，比如蓝天、碧空等。\n2. **下雨天**：云层覆盖天空，可能导致颜色较为阴郁或变黑。\n3. **雨后天气**：雨后的天空可能恢复为明亮的色调。\n\n总的来说，天空的颜色主要取决于大气中的光线反射和折射情况，以及太阳的位置。"
11.         },
12.         {
13.             "role": "user",
14.             "content": "为什么是蓝色的？"
15.         }
16.     ],
17.     "stream": false
18. }

复制代码

postman调用截图：

结构化数据提取
当我们和系统对接时，通常要需要从用户的自然语言中提到结构化数据，用来调用现有的外部系统的接口。在ollama中我们只需要指定format参数，就可以实现结构化数据的提取：

1. {
2.     "model": "deepseek-r1:1.5b",
3.     "messages": [
4.         {
5.             "role": "user",
6.             "content": "哈喽，大家好呀~ 我是拓荒者IT，今年36岁了，是一名软件工程师"
7.         }
8.     ],
9.     "format": {
10.         "type": "object",
11.         "properties": {
12.             "name": {
13.                 "type": "string"
14.             },
15.             "age": {
16.                 "type": "integer"
17.             },
18.             "job": {
19.                 "type": "string"
20.             }
21.         },
22.         "required": [
23.             "name",
24.             "age",
25.             "job"
26.         ]
27.     },
28.     "stream": false
29. }

复制代码

参数列表
参数名是否必填描述model是模型名称messages是聊天消息数组（用于维持对话记忆）messages.role是消息角色（可选值：system, user, assistant, tool）messages.content是消息内容messages.images否消息中Base64编码的图片列表（适用于多模态模型如llava）messages.tool_calls否模型希望调用的工具列表（JSON格式）tools否模型可使用的工具列表（JSON格式，需模型支持）format否返回响应的格式（可选值：json 或符合 JSON Schema 的结构）options否模型额外参数（对应 Modelfile 文档中的配置如 temperature）stream否设为 false 时返回单个响应对象而非流式对象keep_alive否控制模型在内存中的保持时长（默认：5m）生成嵌入数据（/api/embed）

嵌入数据的作用是将输入内容转换成向量，可以用于向量检索等场景。比如我们在第四篇中介绍的知识库，就需要用到embedding模型。
在调用embed接口时，我们要选择支持Embedding功能的模型，deepseek是不支持的。
调用示例：

1. {
2.   "model": "bge-m3",
3.   "input": "为什么天空是蓝色的呢？"
4. }

复制代码

postman调用截图：

兼容openAI接口

因为现在很多应用、类库都是基于OpenAI构建的，为了让这些系统能够使用Ollama提供的模型，Ollama提供了一套兼容OpenAI的接口（官方说是实验性的，以后可能会有重大调整）。
因为这种兼容，使得我们可以直接通过OpenAI的python库、node库来访问ollama的服务，确实方便了不少。
注意：ollama属于第三方接口，不能100%支持OpenAI的接口能力，因此在使用的时候需要先了解清楚兼容的情况。
其它接口

ollama还有一些其它的接口，用来实现对模型的管理等功能，而这些功能我们通常会在命令行完成，因此不做详细说明。这些API的列表如下：

• 模型创建（/api/create）
  
• 列出本地模型（/api/tags）
  
• 查看模型信息（/api/show）
  
• 复制模型（/api/copy）
  
• 删除模型（/api/delete）
  
• 拉取模型（/api/pull）
  
• 推送（上传）模型（/api/push）
  
• 列出运行中的模型（/api/ps）
  
• 查看ollama版本（/api/version）
  

这些接口的调用都非常简单，大家感兴趣的可以尝试以下。
总结

本文介绍了ollama api的用法，详细介绍了生成内容、多轮对话、大模型记忆功能的实现、提取参数化内容等接口。通过使用这些接口，我们可以将AI能力集成到现有的项目中，提升软件的智能化程度。


来源：程序园用户自行投稿发布，如果侵权，请联系站长删除
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！