简单使用ollama

Ollama在Windows安装,使用,简单调用API 在Windows本地安装ollama,官方网页:https://ollama.com/download/windows下载完安装包,安装就好,默认应该是C盘。应该是没办法改,如果有小伙伴能改,也请告知一下。 阅读详情
AI摘要

本文介绍了Ollama,一个用于快速部署和管理大模型的开源工具,包括安装步骤、配置模型下载路径、使用命令行接口以及下载和运行Qwen示例。

简单使用ollama

1 介绍

Ollama是一个开源的大型语言模型部署工具,它可以帮助用户快速在本地部署运行大模型。类似于Docker一样,仅仅用几行命令就可以运行一个大模型。

2 安装ollama

(1)参考网站

# 官网地址
https://ollama.com/

# Github地址
https://github.com/ollama/ollama

# 可使用的模型
https://ollama.com/library

(2)下载软件

# 下载地址
https://ollama.com/download

在这里插入图片描述

下载后一步步安装即可,自动会安装到C盘。

3 配置Ollama

由于Ollama在下载模型时,会自动下载到C盘,因此需要设置下载目录。方法如下:

设置模型下载路径

在环境变量中添加“OLLAMA_MODELS”,之后重启ollama,我把下载模型的目录设置在了"D:\ollama"目录下。

OLLAMA_MODELS

在这里插入图片描述

4 使用Ollama

使用帮助

ollama -h 

在这里插入图片描述

# 启动ollama
ollama serve

# 显示模型列表
ollama list

在这里插入图片描述

查看模型的信息

# 查看模型的
# '--license': 查看序列;
# '--modelfile':查看模型文件;
# '--parameters':查看模型参数;
# '--system':查看模型系统;
# '--template':查看模型模板
ollama show --modelfile qwen:0.5b

获取模型

# 拉取模型
ollama pull qwen:1.8b

# 推送模型
ollama push 

在这里插入图片描述

管理模型

# 拷贝一个模型
ollama cp qwen:0.5b my-qwen:0.5b

# 删除模型
ollama rm my-qwen:0.5b

运行模型

⚠️ 最常用,如果没有模型,会自动下载模型,默认的端口号是“11434”

ollama run qwen:0.5b 

使用生成的API访问

curl http://localhost:11434/api/generate -d '{
  "model": "qwen:0.5b",
  "prompt": "Why is the sky blue?",
  "stream": false
}'

在这里插入图片描述

使用对话的API访问

返回的是对话流。

curl http://localhost:11434/api/chat -d '{
  "model": "qwen:0.5b",
  "messages": [
    { 
        "role": "user", 
        "content": "why is the sky blue?" 
    }
  ]
}'

在这里插入图片描述

5 下载Qwen例子

(1)查找可用模型

# 可使用的模型
https://ollama.com/library

可以在模型库上查找需要的模型。

在这里插入图片描述

(2)下载Qwen1.5模型

在ollama的模型库上选择“qwen"

# Ollama上的仓库地址
https://ollama.com/library/qwen

在这里插入图片描述

选择简单的

ollama run qwen:0.5b
Ollama 可以在 Windows 上运行了 阅读详情

相关推荐

Ollama入门教程:从安装到运行的完整指南

随着人工智能(AI)技术的快速发展,大型语言模型(LLMs)逐渐成为了各行各业的重要工具。然而,使用这些强大模型的同时,数据隐私、处理效率和部署复杂度等问题也逐渐浮现。为了解决这些问题,Ollama 提供了一种创新的解决方案——通过本地化部署大型语言模型,不仅能够增强数据隐私性,还能提高模型的运行效率。本文将详细介绍如何下载和安装 Ollama,如何选择和运行不同的语言模型,以及 Ollama 的特点、适用场景、优缺点等内容,帮助大家深入了解这一平台。ollama官网🚪 ollama官方文档🚪 根据自己

yoona333的博客 8321

一文彻底整明白,基于Ollama工具的LLM大语言模型Web可视化对话机器人部署指南

在上一篇博文中,我们在本地部署了**Llama 3 8B**参数大模型,并用 Python 写了一个控制台对话客户端,基本能愉快的与 Llama 大模型对话聊天了。但控制台总归太技术化,体验不是很友好,我们希望能有个类似 ChatGPT 那样的 Web 聊天对话界面,本博文就安排起来……

老牛啊 1万+

Ollama:一个在本地部署、运行大型语言模型的工具

所谓自定义模型就是不适用Ollama官方模型库中的模型,理论可以使用其他各类经过转换处理的模型Ollama库中的模型可以通过提示进行自定义。python复制代码FROM llama3 # 设置温度参数 PARAMETER temperature 1 # 设置SYSTEM 消息 SYSTEM """作为AI智能助手,你将竭尽所能为员工提供严谨和有帮助的答复。"""Modelfile文档One-API是一个OpenAI接口管理 & 分发系统,支持各类大模型。这里使用Docker快速进行部署。拉取镜像。

2401_84495725的博客 6730

使用ollama在本地部署llama3-8b大模型

使用ollama在本地部署llama3-8b大模型

weixin_39945822的博客 1万+

使用Ollama简单部署本地Qwen2

Ollama 是一个开源的、本地运行的 AI 聊天模型,允许在自己的设备上运行 LLM,无需依赖云服务。运行完成后就可以和大模型对话了,不过ollama 只有命令行模式运行,这里我下载了chatbox软件来运行,打开软件 模型设置选择ollama 以及 对应的ollama模型。windows下选择exe ,然后运行安装,安装完成后。1.5b就是对应安装Qwen2 1.5b大模型,如果使用7b 就是 ollama run qwen2:7b。首先安装ollama, 访问官网 下载 ollama 对应版本。

一个今天胜过两个明天 4530

通过Ollama本地部署Deepseek R1 以及简单使用

Ollama Deepseek

W_LIN的博客 673

如何在本地部署Ollama大模型并使用Python进行简单访问

本文介绍了如何在本地部署Ollama大模型平台,并使用Python进行API调用。首先,从官网下载并安装Ollama,然后通过设置环境变量更改模型保存路径。安装后,通过命令行验证安装成功,并从模型库中选择并下载所需模型。接着,启动Ollama的服务器模式,并使用Python的`requests`库向服务器发送请求,获取响应。文中提供了详细的Python代码示例,展示了如何构建请求数据、发送POST请求并打印响应内容。通过这些步骤,用户可以轻松地在本地部署和使用Ollama大模型。

qq_49035156的博客 9407

Windows上安装Ollama自定义目录和简单使用

大家好,我是小白学编程。最近被DeepSeek刷屏了,基本上打开手机就能看到关于它的信息,于是自己也想了解一下。刚刚好有 Ollama 可以在本地进行部署和管理大模型,于是就安装了一下。但是有个问题比较烦人,就是Ollama在安装和使用的时候默认都是在C盘中存储,而我们大多数人都不喜欢让太多东西占用C盘的空间,我就是。所以经过研究之后,也看了网上一些大神的帖子,找到了解决办法。

wjs_007的博客 2046

使用Ollama搭建自己的简单知识库

Ollama是一个轻量级、可扩展的框架,用于在本地机器上构建、运行和管理大型语言模型(LLM)。其核心价值在于简化在本地运行大语言模型的复杂过程,降低使用门槛,使得即便是非专业用户也能轻松上手。要使用Ollama首先要下载Ollama安装包,可以去Ollama官网(https://ollama.com/)下载最新的安装包。

AAI666666的博客 3200

Ollama下载完qianwen,怎么简单使用:ollama run qwen

【代码】Ollama下载完qianwen,怎么简单使用:ollama run qwen。

ZhangJiqun&191cm&85kg 728

svn co --depth和svn up --set-depth 只check out下一层文件 只更新指定文件 只更新下一层的用法

svn的工程可能很大 有时我们只需要部分文件即可 这里介绍几个命令 1.svn co(check out) --depth --depth=empty,files,immediates,infinity 假设某svn结构如下 svn://root/PRO/A_dir/a svn://root/PRO/B_dir/b svn://root/PRO/c_file svn co --depth=emptysvn://root/PRO 此时只会在本地check out出 PRO/的空目录。 sv.

cy413026的博客 1万+

langchain 简单与ollama 关联使用

使用 LangChain 中的 OllamaEmbeddings 类来初始化一个本地运行的嵌入模型(embedding model)的实例。这个模型可以将文本数据转换为向量表示(即 embeddings),常用于语义搜索、相似性匹配、RAG(Retrieval-Augmented Generation)等场景。如上面 一样通过 text 提问获取到 以保存的 向量化 数据通过 ollama 的llm 提问生成对应回答,一个简易的问答知识流程。“k”: 表示每次检索返回几个最相似的文档块(默认是 4)

ling_zhi_xin的博客 1369

用workbuddy自定义Skill:手把手搭建AI炒股分析助手

AI Agent正成为个人投资研究的重要工具,而Skill作为行为规范,能让AI输出保持稳定与专业。在AI Agent应用中,很多人分不清Skill与Agent的区别:Agent负责目标拆解与执行,Skill则固化分析流程与输出模板。借助本地工作台workbuddy,用户可自定义Skill,实现从市场环境检查到财务排雷的五段式分析。通过调低温度参数、设定数据验证规则,该方案能有效避免大模型凭空编造数据,帮助个人投资者快速完成基本面体检、资金面观察与风险清单生成。本文基于一套可直接套用的配置与一个月实测,展示

weixin_29038537的博客 558

三步教你使用Ollama搭建自己的简单知识库

现在大模型工具越来越流行了,文心一言和豆包已经慢慢融入大家的工作生活中了,我们有问题都可以让大模型帮我们回答。不过这里有个问题,就是公开的AI大模型工具回答的都是通用型的问题,不够有针对性,比如我就想问一下,我自己上一篇论文中的某些内容,公开大模型工具往往是无法回答我们的,因为公开的大模型都是基于目前的数据训练得到的,显然它并不知道我本地新增的信息。而且,就算有接口可以提交我们的信息,由于安全和保密的需求,也不方便直接把我们的信息都上传。

2401_85325726的博客 3817

Transformers在自动驾驶领域的应用(High-level like in scene)

Transformers uses global attention mechanism to capture long-range interaction information. Two core modules in Transformers are Self-Attention and Cross-Attention, which defined asAttn(Q,K,V)=softmax(QK⊤dk)VSelfAttn(X)=Attn(WQX,WKX,WVX)CrossAttn(X,Y)=Attn

qq_39337332的博客 1776

深信服 SANGFOR 设备密码恢复和配置备份恢复

、恢复密码 当我们拿到一台设备要去配置管理的时候,首先是要确认设备的登录IP,其次就是确认设备控制台登录密码。不知情的情况下如何找到设备的登录IP,请参考文档: http://bbs.sangfor.com.cn/forum.php?mod=viewthread&tid=9484 下文中提到的关于“网关升级客户端”的一些功能,也请参考此文档。 那么恢复密码,大家都知道有2种方法:U盘恢复密码、交叉线恢复密码。 1、U盘恢复密码 注意:仅恢复admin密码,不影响配置。 U盘恢复密码的前

李先生在闯荡江湖 1万+

通过Ollama本地部署DeepSeek R1以及简单使用

本文介绍了在Windows环境下,通过Ollama来本地部署DeepSeek R1。该问包含了Ollama的下载、安装、安装目录迁移、大模型存储位置修改、下载DeepSeek以及通过Web UI来对话等相关内容。 1、下载Ollama 首先我们到Ollama官网去下载安装包,此处我们下载的是Wind

fenfenfen520a的博客 1937

Vitis 安装及环境配置

Vitis 官方手册 https://www.xilinx.com/html_docs/xilinx2020_1/vitis_doc/index.html Xilinx Downloads center https://www.xilinx.com/support/download/index.html/content/xilinx/en/downloadNav/vitis.html 系统要求如下图所示,Windows系统只能支持Vitis嵌入式系统开发流程,不能支持加速设计 1.安装ubuntu18.0

怠桑的博客 7052

使用python语言实现简单的Ollama

参数规模从0.5b到720b不等,可以根据需要下载。安装成功以后可以运行cmd调出命令提示符对话框。运行Ollama run qwen:1.8b。点击Download下载安装。‌然后运行如下代码即可输出结果。

qq_25461557的博客 321

24届数字IC设计/验证秋招总结贴——先看这个

为方便快速进行查找该专栏的内容,将所有内容链接均放在此篇博客中整理不易,欢迎订阅~~

qq_42135020的博客 8420

即插即用系列(代码实践)| 2025 Strip R-CNN:大尺寸条形卷积——遥感目标检测新SOTA,专治细长目标(桥梁、船只)

摘要: 论文《Strip R-CNN: Large Strip Convolution for Remote Sensing Object Detection》针对遥感图像中细长目标(如桥梁、道路)检测难题,提出创新性解决方案。通过设计StripBlock模块,将传统方形卷积核替换为大尺寸条形卷积(水平1×19与垂直19×1组合),有效捕获长距离空间特征,同时减少背景噪声。结合CenterPooling增强目标中心定位,该模块可即插即用至现有网络,显著提升遥感检测任务(如DOTA数据集)的精度。代码已开源,

分享顶会顶刊论文即插即用模块 190

Spring AI + Ollama简单使用

核心逻辑:数值越大,模型随机性、创造性越强;数值越小,输出越确定、严谨、重复度低。

幽静净土的技术分享 415

PostgreSQL:详解如何搭建流复制集群

PostgreSQL流复制集群搭建指南摘要 本文详细介绍了PostgreSQL流复制集群的部署流程。流复制通过主节点实时传输WAL日志到备节点实现数据同步,支持高可用和读写分离。部署步骤包括:1)准备相同版本的主备节点环境;2)配置主节点的postgresql.conf和pg_hba.conf;3)创建专用复制用户;4)使用pg_basebackup初始化备库;5)验证复制状态。文章还涵盖复制槽、同步复制等高级配置,以及故障切换方法。该方案可实现数据实时同步,备库提供只读查询服务,是构建高可用Postgre

数据知道的博客 2573
上一篇: 使用weaviate实现向量存储
下一篇: Qdrant向量数据库的使用
MasonYyp
博客等级 码龄9年 301粉丝 297原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值