模板网站定制,建设银行的网站用户名是什么,asp网站静态化,做产品类的工作上什么网站好Ollama API 使用指南
简介
Ollama 提供了强大的 REST API#xff0c;使开发者能够方便地与大语言模型进行交互。通过 Ollama API#xff0c;用户可以发送请求并接收模型生成的响应#xff0c;应用于自然语言处理、文本生成等任务。本文将详细介绍生成补全、对话生成的基本…Ollama API 使用指南
简介
Ollama 提供了强大的 REST API使开发者能够方便地与大语言模型进行交互。通过 Ollama API用户可以发送请求并接收模型生成的响应应用于自然语言处理、文本生成等任务。本文将详细介绍生成补全、对话生成的基本操作并对创建模型、复制模型、删除模型等常见操作也进行了说明。
端点
回答补全对话补全创建模型复制模型删除模型列出运行模型列出本地模型显示模型信息拉取模型推送模型生成嵌入
一、回答补全
POST /api/generate使用指定的模型生成给定提示的响应。这是一个流式端点因此会有一系列响应。最终的响应对象将包括来自请求的统计信息和其他数据。
参数
model: 必需模型名称prompt: 要生成响应的提示suffix: 模型响应后的文本images: 可选一个base64编码的图像列表用于多模态模型如 llava
高级参数可选
format: 返回响应的格式。目前唯一接受的值是 jsonoptions: 其他模型参数如 temperature、seed 等system: 系统消息template: 要使用的提示模板context: 从先前对 /generate 的请求中返回的上下文参数可以用于保持简短的对话记忆stream: 如果设置为 false 响应将作为单个响应对象返回而不是一系列对象流raw: 如果设置为 true 将不会对提示进行任何格式化。如果您在请求API时指定了完整的模板提示可以选择使用 raw 参数keep_alive: 控制模型在请求后保留在内存中的时间默认5m
示例请求流式
curl http://localhost:11434/api/generate -d {model: llama3.1,prompt: 为什么草是绿的
}在 Python 中使用 Ollama API
导入Ollama模块 使用方法
from ollama import chat
from ollama import ChatResponseresponse: ChatResponse chat(modeldeepseek-r1:14b, messages[{role: user,content: 为什么天空是蓝色的,},
])
print(response[message][content])think
嗯为什么天空是蓝色的呢这个问题听起来好像很简单但其实要解释清楚可能需要一些思考。首先我知道阳光看起来是白色的但它其实包含了各种颜色的光对吧就像雨后出现的彩虹一样白光被分解成了红、橙、黄、绿、蓝、靛、紫这些颜色。那为什么天空会呈现蓝色呢是不是因为太阳发出的光中有更多的蓝色光线或者说空气中的某些成分影响了阳光的颜色我记得以前学过一个叫“散射”的现象可能和这个有关。散射是指光线被空气中的分子或颗粒散开的现象而不同颜色的光在散射时的表现可能不同。根据我模糊的记忆有一个叫做瑞利散射的理论可能是解释天空颜色的关键。瑞利散射说的是当光穿过大气层时较短波长的光更容易被散射。蓝色和紫色的光波长比红色和橙色的要短所以它们应该更易被散射到各个方向。但是我们看到的天空是蓝色而不是紫色这可能是因为人眼对紫色的敏感度较低或者大气中的某些因素削弱了紫色光的影响。另外我想到日出和日落时太阳的位置很低阳光需要穿过更厚的大气层这时较长波长的红光更容易穿透而蓝光大部分被散射掉了所以天空在日出日落时会变成红色或橙色。这也支持了瑞利散击理论。不过我还记得有时候天空看起来会有不同的颜色变化比如在污染较重的时候可能会有灰蒙蒙的颜色或者在某些天气条件下出现其他色调这可能是因为大气中的颗粒物或者其他因素影响了光线的散射方式。所以不仅仅是瑞利散射还可能有其他因素在起作用。总的来说天空呈现蓝色主要是因为阳光中的蓝色光被空气分子大量散射到各个方向而人眼对蓝光更敏感所以我们看到天空是蓝色的。但在日出和日落时由于光线经过更厚的大气层蓝色光大部分被散射掉了剩下红色的光穿透过来使天空呈现红色或橙色。当然这只是我的初步理解可能还有其他因素需要考虑比如大气中的气体成分、颗粒物的影响以及不同波长的光在大气中的传播路径等。为了更准确地回答这个问题我应该查阅一些相关的物理和光学知识或者看看权威的科学解释来验证我的想法是否正确。通过这个思考过程我对为什么天空是蓝色有了一个基本的理解但为了确保准确性可能还需要进一步学习相关理论和实验结果。
/think天空呈现蓝色主要是因为阳光中的蓝色光波在大气中被散射的结果。具体来说这是由于瑞利散射现象较短波长的蓝光比红光更容易被大气分子散射到各个方向导致我们在抬头望向天空时看到的是被散射后的蓝光。
流式响应
可以通过设置 streamTrue 启用响应流使函数调用返回一个 Python 生成器其中每个部分都是流中的一个对象。
from ollama import chatstream chat(modeldeepseek-r1:8b,messages[{role: user, content: 为什么天空是蓝色的}],streamTrue,
)for chunk in stream:print(chunk[message][content], end, flushTrue)think
嗯为什么天空是蓝色的呢这个问题好像从小的我就有了。小时候在院子里玩耍的时候我总是好奇地看着蓝天白云觉得它很美但同时也有点疑惑既然地球是圆的阳光照射到这里为什么不是其他颜色呢首先我想可能和地球的大气层有关。地球大气层由不同的气体组成比如氧气、氮气、水蒸气等。我听说过空气折射可以让我们看到地平线。但是这能解释蓝天吗是不是这些气体在阳光下发生了什么变化然后我想到了散射。太阳发出的光有很多颜色像红橙黄这些颜色被大气层中的某些分子吸收了而蓝光可能没有被完全吸收所以我们才会看到蓝天。但是具体是什么样的过程呢我好像记得听说过“蓝光”的问题大气层对蓝光特别敏感导致太阳看起来像一个圆盘这就是日食现象的原因。再想想白云是因为大气中悬浮着的小水滴折射和反射阳光形成不同的颜色。这些小水滴可能在不同高度有不同的温度所以云彩呈现出各种颜色比如红、黄、紫等这就是彩云的原因。但蓝天到底是怎么回事呢我还记得有人说过地球大气层中的分子对光的吸收和散射有一定的规律不同波长的光线被处理 differently。比如太阳辐射主要包含可见光和一些无可见光比如紫外线和红外线。蓝色的大多数光在大气层中被散射了所以我们才能看到天空的颜色。不过我不太确定这些解释是否完全正确。我是不是漏掉了什么比如是否还有其他因素影响天空的颜色比如污染或者海市蜃楼等现象也许我应该查阅一下相关资料看看科学家是怎么解释这个问题的。通过了解光线在大气中的传播和吸收过程或许能更清楚地理解为什么天空是蓝色的。总之我的初步结论是天空呈现蓝色主要是因为大气层对不同颜色的光线散射处理的结果尤其是蓝光被大量散射所以我们才会看到蓝天。不过我还需要进一步确认这些细节以确保理解的正确性。
/think天空呈现蓝色主要由于地球的大气层对光的折射和散射作用特别是对蓝色光线的高效散射。具体来说1. **光的传播与大气层**太阳发出的光包括多种颜色但大气中的分子如氧气、氮气等会对这些光线进行折射和吸收。2. **蓝光的散射**蓝色光波长较短大气层中的小颗粒物特别敏感导致大量蓝光被散射出去使得我们看到的天空呈现蓝色。这也解释了为什么太阳看起来是一个圆盘而不是真正的球体这就是日食现象。3. **其他颜色的吸收**红橙黄等颜色的光线在大气中被更多地吸收因此它们无法到达我们的眼睛导致我们看到的天空相对而言较为明亮。4. **云彩的形成**白云是由于大气中的水蒸气凝结成小水滴并因折射和反射阳光而呈现出各种颜色如红、黄、紫等。不同高度的温度差异也导致云彩呈现不同的颜色。综上所述天空呈蓝色是由于大气层对光线进行了特定的散射作用尤其是对蓝光的高效处理使得我们能够看到明亮而美丽的天空。
结构化输出
from pydantic import BaseModel, Field
from ollama import chat
import jsonclass CountryInfo(BaseModel):capital: str Field(..., alias首都)population: str Field(..., alias人口) # 修正字段名从number到populationarea: str Field(..., alias占地面积) response chat(modeldeepseek-r1:1.5b,messages[{role: user,content: 请介绍美国的首都、人口、占地面积信息并以 JSON 格式返回。要求JSON的键必须使用中文名称首都、人口、占地面积。}],formatjson, options{temperature: 0},
)response_content response[message][content]if not response_content:raise ValueError(Ollama 返回的 JSON 为空)json_response json.loads(response_content)
print(原始JSON响应:, json_response)# 验证数据是否符合CountryInfo模型
try:country_info CountryInfo.model_validate(json_response) print(解析后的模型:, country_info)
except Exception as e:print(验证错误:, e)原始JSON响应: {首都: 纽约, 人口: 2.4 亿, 占地面积: 109 万平方公里}
解析后的模型: capital纽约 population2.4 亿 area109 万平方公里如何使用Pydantic
from pydantic import BaseModel, Field, field_validator
from typing import Optionalclass Person(BaseModel):name: strage: int Field(frozenTrue, lt200)address: Optional[str] Nonephones: list[str] Field(default_factorylist)field_validator(phones)classmethoddef validate_phones(cls, v:list[str]) - list[str]:for n in v:if len(n) ! 11 or n[0] ! 1:raise ValueError(Phone number must be 11 digits)return v
p Person(nameAlice, age20,phones[12345678901])
p2 Person(nameBob, age25, addressNew York)# dict to pydantic
import json
info {name: Petter, age: 24, phones: [13242878818]}
print(info)info_json json.dumps(info)
print(info_json)
p Person(**info)
p2 Person.model_validate_json(info_json)
print(p)
print(p2){name: Petter, age: 24, phones: [13242878818]}
{name: Petter, age: 24, phones: [13242878818]}
namePetter age24 addressNone phones[13242878818]
namePetter age24 addressNone phones[13242878818]
