Linux下搭建基于本地知识库大模型

宝塔Linux操作Postgresql向量数据库安装pgvector插件 在开发项目时遇到使用<向量数据库>的需求,于是在云服务器上安装了一个postgresql数据库,并需要安装pgvector插件才能够在database里建立向量table。postgresql数据库的database下还有一个模式(默认生成一个public),可以直接在database的查询里写create table的代码。比如我的navicat16,就跟postgresql的14.2,以及pgvector的0.5.1版本适配。可使用linux操作命令进入该目录,也可以直接在<文件>中找到这个目录。 阅读详情

Linux下搭建基于本地知识库大模型

1.安装postgresql

1.1 参考此文章安装

https://blog.csdn.net/qq_38973841/article/details/118081479?spm=1001.2014.3001.5506

1.2 创建数据库

1)执行 ./psql -U postgres 进入数据库后,会变成如下图片
在这里插入图片描述
2)在postgres下执行如下语句,第一句创建test数据库,第二句安装扩展
CREATE DATABASE TEST;
CREATE EXTENSION IF NOT EXISTS vector;

1.3 全局环境配置

1)输入vim ~/.bashrc(在哪输入都行,也可以直接可视化打开)
在 ~/.bashrc 文件中最后一行中添加如下语句(根据1.1步骤安装的路径/home/postgresql/install/bin ) :
export PATH=$PATH:/home/postgresql/install/bin
(PS:上面的路径一定要改为自己postgresql的安装路径)
2)输入source ~/.bashrc (激活变量配置)

2.项目编译

2.1 设置RGROOT路径

1)执行 conda activate LLM 激活虚拟环境(LLM是虚拟环境名称)
2)在源码路径下(root身份,Langchain-Chatchat目录下),执行如下语句:
set “PGROOT=/home/postgresql/install/bin”
(PS:路径是postgresql的安装路径)

2.2 下载pgvector文件

1)在Langchain-Chatchat目录下执行如下语句下载pgvector文件:
git clone --branch v0.4.4 https://github.com/pgvector/pgvector.git
2)也可以直接文件下载,复制粘贴到Langchain-Chatchat目录下(以window目录为例,linux相同,1)和2)二选一即可)
在这里插入图片描述

2.3 执行编译

1)进入刚下载好的pgvector目录,执行make -f Makefile语句
在这里插入图片描述

2)在pgvector目录执行make -f Makefile install语句
在这里插入图片描述

3.数据库准备

3.1 初始化

1)在configs目录下执行python -m spacy download en_core_web_sm语句。
在这里插入图片描述
2)在configs目录下执行python -m spacy download zh_core_web_sm语句
在这里插入图片描述
3)在configs目录下执行pip install psycopg2语句
在这里插入图片描述
4)在configs目录下执行pip install pgvector语句
在这里插入图片描述

4.初始化向量库

4.1 初始化

1)在Langchain-Chatchat目录下,执行python init_database.py --recreate-vs语句,进行数据初始化
在这里插入图片描述

5.模型启动

5.1 执行python startup.py -a启动模型

在这里插入图片描述

使用Supabase和Postgres打造强大的AI应用:向量存储和自查询检索示例 Supabase结合Postgres和pgvector提供了一种高效的方式来存储和检索AI应用数据。通过本文,我们探讨了创建向量存储和自查询检索器的基本步骤。Supabase 官方文档PostgreSQL 文档pgvector GitHub 页面LangChain GitHub 页面。 阅读详情

相关推荐

PostgreSQL pgvector:如何利用向量数据库提升搜索效率和精度

随着基础模型的兴起,向量数据库的受欢迎程度也飙升。事实上,在大型语言模型环境中,向量数据库也很有用。在机器学习领域,我们经常处理的是向量嵌入。向量嵌入是通过特定的机器学习模型运行对象的特征,将对象的上下文信息投射到潜在空间中来创建的。为了在使用向量嵌入时能够表现得特别好,创建向量数据库是必要的。这方面的工作包括存储、更新和检索向量。当我们谈论检索时,通常是指检索与查询最相似的向量,这些向量与嵌入到同一潜在空间并传递到向量数据库中。这个检索过程被称为近似最近邻。

FrenzyTechAI的博客 1万+

Linux搭建个人大模型RAG-(ollama+deepseek+anythingLLM)

安装可以非常简单,一行命令完事。(有没有GPU,都没有关系,自动下载合适的版本)cd 到合适的文件目录下载安装一键安装文件赋权执行自动下载&安装ps:这里下载可能会很感人,所以有人说可以替换ollama下载为github下载:v0.5.7但是我发现我这里还是用ollama快一点安装完成后。

hzp666的博客 922

sdc时钟约束2——多驱动时钟

sdc 多驱动时钟 master_clock

qq_40411444的博客 5532

基于PLC的立体车库控制系统设计

本文介绍了基于西门子S7-1511-1PN PLC和KTP700 Basic PN HMI的立体堆垛式停车场自动化控制系统。系统通过PLC逻辑控制滑台运动,配合传感器实现车辆存取自动化,包含初始化、入库、出库和安全保护程序。程序采用模块化设计,分为安全互锁、动画显示、模式切换等六个功能模块,运用边沿触发、定时器和多级联锁确保安全。HMI界面提供模式切换、车位选择、状态显示和手动控制功能。该系统具有模块化、安全性和可扩展性特点,可应用于多车位立体停车场场景。

sxs3030787796的博客 1267

PPT太丑?用InDesign制作电影级的交互式在线演示文档

本文旨在解决传统演示软件(如PowerPoint、Keynote)在制作商业提案、设计报告时,普遍存在的模板化严重、视觉表现力不足、动态效果廉价的核心痛点。我们将介绍一套常被设计师们“误解”或“忽略”的“降维打击”工作流,核心是利用印刷排版软件 Adobe InDesign 强大的版式控制、动画与交互功能,来创建电影级的动态演示文稿,并通过其 在线发布 (Publish Online) 功能,一键生成可在任何浏览器中流畅访问的网页版交互式文档,从而极大地提升提案的专业度与视觉冲击力。

Kingsdesigner的博客 1283

Blender软件导出地形到Gazebo中

Blender软件导出地形到Gazebo中,并配置纹理、刚度、高度。

m0_70652514的博客 3377

ESP32学习笔记06-UART 的485 通讯模式

通信方式选择UART 控制器支持多种通信模式,使用函数 uart_set_mode() 可以选择模式。选择特定模式后,UART 驱动程序将处理已连接 UART 设备的相应行为。例如,主机开始向 Tx FIFO 缓冲区写入数据时,UART 驱动程序会自动置位 RTS 管脚(逻辑 1);最后一位数据传输完成后,驱动程序就会取消置位 RTS 管脚(逻辑 0)。要使用此模式,软件。

Car12 2477

YOLOv8-Pose 姿态识别 RK3588 实战:从模型训练到 RKNN 部署,精度与推理速度双提升

本教程从YOLOv8-pose模型的姿态识别训练,到RK3588的边缘量化部署,为你打造了一套“高精度+高实时性+低成本”的人体姿态分析解决方案。无论是健身动作纠正、智能安防行为检测,还是工业人员姿态监控,这套技术都能直接复用——你只需替换数据集与业务逻辑,即可快速落地专属的边缘AI姿态识别系统。如果你在实践中遇到任何卡点,欢迎随时交流。记住,人体姿态识别的价值在于“关键点准、推理快、部署易”,而这三者的平衡,正是你通过本教程能掌握的核心能力。

FJN110的博客 366

光学材料仿真软件:FDTD Solutions_(4).材料属性的定义与应用

在光学材料仿真软件中,材料属性的定义和应用是至关重要的一步。正确地定义材料属性可以确保仿真结果的准确性和可靠性。本节将详细介绍如何在FDTD Solutions中定义和应用不同的材料属性,包括介质材料、金属材料、色散材料等,并提供具体的代码示例和数据样例。介质材料是光学仿真中最常见的材料类型之一。在FDTD Solutions中,可以通过多种方式定义介质材料,包括使用预定义的材料库、自定义材料参数或导入材料数据文件。FDTD Solutions内置了一个丰富的材料库,包含了许多常用材料的光学性质。

kkchenjj的博客 1406

用playwright封装一个处理web网页的爬虫,并隐藏自动化特征,自动处理反爬

本文介绍了一个使用Playwright封装的Python爬虫函数,具备反爬对抗能力。该脚本通过移除自动化标志、注入真实用户代理、禁用Chrome自动化属性等措施,有效绕过电商、新闻等中等反爬网站的检测。核心功能包括:隐藏navigator.webdriver标志、模拟人类浏览行为、设置合理的设备参数,并支持代理和延迟加载。使用时需注意避免高频访问并定期更新User-Agent。该方案适用于需要JavaScript渲染的动态网页,性能优于非无头模式。

数据知道的博客 3394

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

贝叶斯统计 [韦来生编]

贝叶斯(Bayes)统计是近几十年来迅速发展起来的数理统计的一个重要分支。贝叶斯方法与经典统计方法的主要不同之处是进行统计推断时除了利用样本信息外,还要利用参数的先验信息,因此可以提高统计推断或统计决策的效果。它在经济、金融、生物、医学、自然科学和社会科学等许多领域具有广泛的应用。贝叶斯方法的研究已渗透到了统计学的几乎所有领域。作者在给中国科学技术大学概率论与数理统计专业本科生开设的“数理统计”课程中有一章专门讲授“贝叶斯方法和统计决策理论”,近十年来也给中国科学技术大学概率统计专业研究生开设过几次“贝叶斯分析”课。本书是在对过去讲稿的内容作了适当的增减和调整的基础上完成的。  本书共分六章。第1章是绪论,介绍了贝叶斯统计的若干基本概念,同时对必要的数理统计的基础知识有重点地作了回顾。第二章介绍了确定先验分布的若干可供选择的方法。第三章介绍了几类常见统计模型参数的后验分布的主要结果和计算方法。第四章和第五章分别介绍了“贝叶斯统计推断”和“贝叶斯统计决策”的内容。第六章介绍了贝叶斯统计计算的若干方法,包括蒙特卡洛方法和马尔可夫链蒙特卡洛(MCMC)方法以及相关统计软件的简介。本书的每一章附右大量的例题和习题,书末附有常用的几个表格和部分习题解答供读者查用。  大约可在54学时内讲授本书的第1章至第六章的主要内容,教师可根据学时需要选讲本书第1章至第六章的部分内容。书中标“*”号的章节可略去不讲,留给读者作为阅读材料。第六章例题中的R代码和部分例题的数据文件等可从作者个人主页下载。  作者在编写本书的过程中参考了J.O.Berger教授的《统计决策论及贝叶斯分析》和茆诗松教授编写的《贝叶斯统计》等书中的一些内容,以及《贝叶斯分析》一书中由张伟平博士编写的有关贝叶斯统计计算的一些内容。在此表示衷心感谢。  本书编写准备过程中,中国科学技术大学统计与金融系的几个研究生帮助完成了本书部分中文的录入和排版,作者对他们的辛勤工作表示真诚的感谢。高等教育出版社为本书的出版给予了大力支持。在此一并致谢。

上一篇: 基于本地知识库的大模型搭建教程
下一篇: Linux系统从零搭建本地大模型
Fantasy️
博客等级 码龄7年 91粉丝 11原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值