LangChain进阶之LLM_langchain llm

本地部署 vllm 阅读详情

01 Model介绍

任何语言模型应用程序的核心元素都是…模型(Model)。LangChain 提供了与任何语言模型进行交互的构建块(building blocks)。

LangChain 的 Model I/O 组件包括:两种不同类型的模型 - LLM 和 Chat model;格式化模型输入 Prompt;输出解析器 Output parser。

图片

本文将重点介绍:Model I/O子组件—>LLM

【一一AGI大模型学习 所有资源获取处一一】

①人工智能/大模型学习路线

②AI产品经理资源合集

③200本大模型PDF书籍

④超详细海量大模型实战项目

⑤LLM大模型系统学习教程

⑥640套-AI大模型报告合集

⑦从0-1入门大模型教程视频

⑧LLM面试题合集

02 LLM介绍

LangChain中的LLM是指纯文本完成模型(text completion models.)。这些模型通常都是接收一个字符串输入并返回一个字符串输出。

大型语言模型 (LLM) 是 LangChain 的核心组件。LangChain没有自己的LLM,而是提供了一个标准接口,用于与许多不同的LLM进行交互。

一句话解释:使用纯文本作为输入和输出的语言模型的接口。

LLM 类旨在为所有这些模型提供标准接口,比如国外的模型:OpenAI、Cohere、Hugging Face等,国内的模型:通义千问、百川、ChatGLM等等。

我们可以看下LangChain中目前已经支持的大语言模型有哪些,我格式化打印了下直接子类和间接子类,细分下来已经支持模型总共有100多个。这里可以狂呼666…

Python
复制代码
class BaseLLM
  class LLM
    class FakeListLLM
      class FakeStreamingListLLM
    class CustomLLM
    class CustomLLM
    class Anthropic
    class Banana
    class CerebriumAI
    class Cohere
    class ForefrontAI
    class GooseAI
    class Modal
    class Petals
    class PipelineAI
    class StochasticAI
    class Writer
    class HuggingFaceHub
    class SagemakerEndpoint
    class LlamaCpp
    class HuggingFaceTextGenInference
    class AI21
    class AlephAlpha
    class AmazonAPIGateway
    class Arcee
    class Aviary
    class BaichuanLLM
    class Baseten
    class Beam
    class Bedrock
    class CTransformers
    class ChatGLM
    class Clarifai
    class Databricks
    class DeepInfra
    class DeepSparse
    class EdenAI
    class FakeListLLM
      class FakeStreamingListLLM
    class Friendli
    class GPT4All
    class HuggingFaceEndpoint
    class HumanInputLLM
    class IpexLLM
    class JavelinAIGateway
    class KoboldApiLLM
    class Konko
    class Llamafile
    class ManifestWrapper
    class Minimax
    class Mlflow
    class MlflowAIGateway
    class MosaicML
    class NIBittensorLLM
    class NLPCloud
    class Nebula
    class OCIGenAI
    class OCIModelDeploymentLLM
      class OCIModelDeploymentTGI
      class OCIModelDeploymentVLLM
    class OctoAIEndpoint
    class OpaquePrompts
    class OpenLLM
    class PaiEasEndpoint
    class Predibase
    class PredictionGuard
    class QianfanLLMEndpoint
    class RWKV
    class Replicate
    class SelfHostedPipeline
      class SelfHostedHuggingFaceLLM
      class SelfHostedEmbeddings
        class SelfHostedHuggingFaceEmbeddings
          class SelfHostedHuggingFaceInstructEmbeddings
    class SparkLLM
    class TextGen
    class TitanTakeoff
    class TitanTakeoffPro
    class Together
    class VolcEngineMaasLLM
    class Xinference
    class YandexGPT
    class Yuan2
  class BaseOpenAI
    class OpenAI
    class AzureOpenAI
  class BaseOpenAI
    class OpenAI
      class PromptLayerOpenAI
    class AzureOpenAI
    class Anyscale
    class OpenLM
    class VLLMOpenAI
  class OpenAIChat
    class PromptLayerOpenAIChat
  class GradientLLM
  class HuggingFacePipeline
  class Aphrodite
  class AzureMLOnlineEndpoint
  class CTranslate2
  class Fireworks
  class GigaChat
  class GooglePalm
  class Ollama
  class Tongyi
  class VLLM
  class VertexAI
  class VertexAIModelGarden
  class WatsonxLLM

03 LLM案例实操

1 准备好LLM和输入

LLM的输入是纯文本,所以这里创建起来也很方便。

Python
复制代码
from langchain_openai import OpenAI

# 问号部分自己填自己的,verbose设置成True用于打印一些中间过程日志
llm = OpenAI(temperature=?, model_name=?, openai_api_key=?,verbose=True)
text = "我想创办一家公司,主要承接相亲业务,请帮我想一个公司名称。"

2 invoke执行

一次性全部输出纯文本结果。

Python
复制代码
llm.invoke(text)
# >> 当然可以,考虑到您的业务性质,我建议的公司名称可以是“红线牵缘”或者“心桥相会”。这两个名字都寓意着帮助人们建立感情的桥梁,符合相亲业务的主题。希望您会喜欢。

3 stream执行

流式输出,下一次输出不包括上一次的输出,结果与invoke一致。

Python
复制代码
for chunk in llm.stream(
    "我想创办一家公司,主要承接相亲业务,请帮我想一个公司名称。"
):
    print(chunk, end="", flush=True)

4 batch执行

顾名思义,批量执行多个文本输入,在一次性输出每个输入对应的结果。

Python
复制代码
llm.batch(
    [
        "我想创办一家公司,主要承接相亲业务,请帮我想一个公司名称。"
    ]
)
# >> [' 当然可以,考虑到您的业务性质,我建议的公司名称可以是“红线牵缘”或者“心桥相会”。这两个名字都寓意着帮助人们建立感情的桥梁,符合相亲业务的主题。希望您会喜欢。 ']

5 astream_log执行

异步执行,并且下一次输出包含上一次的输出累加,结果与invoke一致。。

Python
复制代码
async for chunk in llm.astream_log(
    "我想创办一家公司,主要承接相亲业务,请帮我想一个公司名称。"
):
    print(chunk)

04 自定义LLM

既然LangChain提供了LLM执行的标准接口,必然我们也可以自定义自己的LLM执行逻辑。

自定义LLM只需要实现两个必需的方法:

  • _call:根据用户输入,执行具体逻辑,然后返回输出
  • _llm_type:获取此聊天模型使用的语言模型的类型。仅用于日志记录。

让我们自定义一个自己的LLM,执行逻辑是:在用户输入的文本前加上“oh,我的天哪~ ”。比如用户输入“你好呀!”,模型输出“oh,我的天哪~你好呀!”; 用户输入“你吃饭了吗?”,模型输出“oh,我的天哪~你吃饭了吗?”。

Python
复制代码
from typing import Any, Dict, Iterator, List, Optional

from langchain_core.callbacks.manager import CallbackManagerForLLMRun
from langchain_core.language_models.llms import LLM
from langchain_core.outputs import GenerationChunk


class CustomLLM(LLM):
    """
    自定义一个LLM,在用户输入的基础上加上前缀:oh,我的天哪~
    """

    def _call(
            self,
            prompt: str,
            stop: Optional[List[str]] = None,
            run_manager: Optional[CallbackManagerForLLMRun] = None,
            **kwargs: Any,
    ) -> str:
        """
        根据用户输入,执行具体逻辑,然后返回输出
        """
        return "oh,我的天哪~" + prompt

    def _stream(
            self,
            prompt: str,
            stop: Optional[List[str]] = None,
            run_manager: Optional[CallbackManagerForLLMRun] = None,
            **kwargs: Any,
    ) -> Iterator[GenerationChunk]:
        """
        根据用户输入,执行具体逻辑,然后流式返回输出
        """
        for char in "oh,我的天哪~" + prompt:
            chunk = GenerationChunk(text=char)
            if run_manager:
                run_manager.on_llm_new_token(chunk.text, chunk=chunk)

            yield chunk

    @property
    def _identifying_params(self) -> Dict[str, Any]:
        """返回模型自定义参数字典"""
        return {
            "model_name": "Custommm",
            "model_version":"1.0.0"
        }

    @property
    def _llm_type(self) -> str:
        """获取此聊天模型使用的语言模型的类型。仅用于日志记录。"""
        return "custom"

使用方式跟其他LLM一样,我们打印一些输入输出看看效果。

Python
复制代码
llm = CustomLLM()
print(llm)
# CustomLLM
# Params: {'model_name': 'Custommm', 'model_version': '1.0.0'}

llm.invoke("你好呀")
# oh,我的天哪~~你好呀

await llm.ainvoke("你好呀")
# oh,我的天哪~~你好呀

llm.batch(["你好呀", "猪八戒"])
# ['oh,我的天哪~你好呀', 'oh,我的天哪~猪八戒']

await llm.abatch(["你好呀", "孙悟空"])
# ['oh,我的天哪~你好呀', 'oh,我的天哪~孙悟空']

async for token in llm.astream("你好呀"):
    print(token, end="|", flush=True)
# o|h|,|我|的|天|哪|~|你|好|呀

能不能与其他的LangChain组件很好的集成在一起?答案是: 能!

Python
复制代码
from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages(
    [("system", "you are a bot"), ("human", "{input}")]


llm = CustomLLM()
chain = prompt | llm
idx = 0
async for event in chain.astream_events({"input": "你好呀!"}, version="v1"):
    print(event)

# 输出很多的Event,由于输出太多,这里省略输出,大家可以自行验证。

05 LLM缓存

LangChain为LLM提供了一个可选的缓存层。这之所以有用,有两个原因:

  1. 如果经常多次请求相同的输入,它可以通过减少对LLM提供者的API调用次数来节省资金。
  2. 它可以通过减少对LLM提供程序的API调用次数来加快应用程序的速度。

注意看下面程序的执行时间对比!!!

Python
复制代码
from langchain.globals import set_llm_cache
from langchain_openai import OpenAI
from langchain.cache import InMemoryCache

llm = OpenAI(xxxxx)
# 输出一下程序执行时间
%%time
# 设置内存缓存
set_llm_cache(InMemoryCache())
llm.invoke("请讲一个关于乌龟的冷笑话。")

# CPU times: total: 0 ns
# Wall time: 965 ms
# 为什么乌龟总是带着头盔? 因为它想成为一只安全的慢行者!

# 再次执行
%%time
llm.invoke("请讲一个关于乌龟的冷笑话。")

# CPU times: total: 0 ns
# Wall time: 1.01 ms
# 为什么乌龟总是带着头盔? 因为它想成为一只安全的慢行者!

这里设置了“内存缓存”,你说:我不想用内存缓存怎么办?LangChain:嗯!可以不用内存缓存,还有这些缓存你可以使用。

Python
复制代码
class BaseCache
  class InMemoryCache
  class SQLAlchemyCache
    class SQLiteCache
  class UpstashRedisCache
  class _RedisCacheBase
    class RedisCache
    class AsyncRedisCache
  class RedisSemanticCache
  class GPTCache
  class MomentoCache
  class CassandraCache
  class CassandraSemanticCache
  class SQLAlchemyMd5Cache
  class AstraDBCache
  class AstraDBSemanticCache
  class AzureCosmosDBSemanticCache

06 跟踪token使用情况

token是什么?token是模型的输入与输出的容量,每次token的生成都需要耗费资源,这也是为什么模型的token是有限制的,OpenAI甚至按照token使用来收费。所以跟踪token的使用情况也是大模型开发中重要的一环。

很遗憾,目前LangChain仅支持OpenAI的token使用记录与计算,所以这里用一个简单的示例展示下效果。这里不能自定义啊,大家别上来就自定义~

Python
复制代码
from langchain_community.callbacks import get_openai_callback
from langchain_openai import OpenAI

llm = OpenAI(xxxxxx)
with get_openai_callback() as cb:
    result = llm.invoke("Tell me a joke")
    print(cb)

# Tokens Used: 37
#     Prompt Tokens: 4
#     Completion Tokens: 33
# Successful Requests: 1
# Total Cost (USD): $7.2e-05

07 总结

这里LangChain进阶系列的第一篇文章,主要对Model I/O中的LLM组件进行详细解析,从基础使用,到流式输出,再到自定义LLM,再到LLM缓存,最后加上一个仅适用于LLM的小知识(token使用跟踪)。希望这篇文章能帮助到已经看完的你,人工智能时代你我都不想太掉队~

以上内容依据官方文档编写,官方地址:python.langchain.com/docs/module…

读者福利:如果大家对大模型感兴趣,这套大模型学习资料一定对你有用

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

观看零基础学习书籍和视频,看书籍和视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
在这里插入图片描述
在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓
在这里插入图片描述

【LangChain系列 15】语言模型——LLMs(一) 本文是LLMs的第一部分,主要介绍了异步API、自定义LLM、FakeLLM和HumanInputLLM。 阅读详情

相关推荐

在LangChain中构建强大的LLM应用:从基础到进阶

LangChain提供了一个灵活且强大的框架,适合构建各种LLM应用。通过本篇文章,你已经了解了如何从基础着手,并逐步添加复杂功能。进一步探索LangChain的强大功能及其扩展,如LangGraph和LangSmith。

stjklkjhgffxw的博客 466

【可能是全网最丝滑的LangChain教程】八、LangChain进阶之LLM

LangChain进阶系列文章第一篇,之前的LangChain“丝滑”系列希望给位也能看看,是这个系列的基础。人工智能时代,我们都不想掉队~

Jeffray1991的博客 2363

探索LangChain与LangGraph:从入门到进阶的LLM应用开发指南

通过这篇文章,我们探讨了如何利用LangChain和LangGraph来构建从简单到复杂的LLM应用程序。希望借助这些工具,您能实现更多创新和高效的应用。进一步学习资源LangChain 官方文档LangGraph 教程LangSmith 使用指南。

mmlihaio的博客 894

LangChain与大型语言模型(LLMs)应用基础教程:角色定义

在和让大型语言模型(LLM)如ChatGPT等对话时,为了要让LLM能准确回答我们的问题,我们应该在对话之前给LLM设定一个角色,这样当LLM知道自己的角色定位以后,它的回答将会符合自己的角色,而不会天马行空,自由发挥。

weixin_42608414的博客 1万+

使用Gradient与Langchain进行LLM微调:从基础到进阶

通过对Gradient与Langchain的结合应用,您可以有效地微调LLM以满足特定任务。如想深入学习,建议阅读Gradient和Langchain的文档以及相关的LLM指南。

jaioyfpo的博客 394

快速上手LangChain和LLM应用开发:从基础到进阶指南

LangChain提供了丰富的功能来支持LLM应用开发。LangChain文档LangGraph教程LangSmith教程。

sjufgwgfhoia的博客 416

LangChain进阶之LLM

任何语言模型应用程序的核心元素都是...模型(Model)。LangChain 提供了与任何语言模型进行交互的构建块(building blocks)。

2301_81940605的博客 4476

前端大模型入门:用 js+langchain 构建基于 LLM 的应用

很多前端小伙伴都会有点担心,以后前端会消失吗?放心,前端不会消失,但会有较大的变化,AI或许会成为html+css+js之外的第四个工具件

分享有趣的、贴近生活的CS知识 2197

LangChain教程:从入门到精通,解锁LLM的进阶技巧

LangChain中的LLM是指纯文本完成模型(text completion models.)。这些模型通常都是接收一个字符串输入并返回一个字符串输出。大型语言模型 (LLM) 是 LangChain 的核心组件。LangChain没有自己的LLM,而是提供了一个标准接口,用于与许多不同的LLM进行交互。一句话解释:使用纯文本作为输入和输出的语言模型的接口。

m0_65555479的博客 1423

开源模型应用落地-LangChain高阶-集成vllm-QWen1.5(一)

通过LangChain和Vllm的结合,可以更好地处理对话,提供更智能、更准确的响应,从而提高对话系统的性能和用户体验

以微薄之力,予他人些许温暖. 2万+

华为Watch的ECG功能技术分析

华为Watch的ECG(心电图)功能通过硬件传感器、算法优化和医疗认证的结合,实现了对心脏电活动的监测和房颤(AFib)等心律失常的预警。采用医疗级ECG模拟前端芯片(AFE),如TI(德州仪器)的ADS1292R等,支持低噪声、高采样率(通常≥200Hz)。结合PPG(光学心率)数据交叉验证,提高检测可靠性(如ECG和PPG心率不一致时触发警告)。通过RR间期变异性判断心律是否规则,识别房颤(AFib)的典型特征(如不规则不规则心律)。结合加速度计数据,识别手臂运动导致的信号失真,动态调整算法参数。

xu_wenming的博客 6455

[用LangChain快速构建你的第一个LLM应用:从基础到进阶]

LangChain提供了从基础到高级的各种功能,让你可以灵活地构建和扩展你的LLM应用。LangChain教程LangGraph文档LangSmith文档。

ppoojjj的博客 523

汇率波动率建模实战:从GARCH到EGARCH的金融时间序列分析

在金融时间序列分析中,波动率建模是量化市场风险的核心技术。其基本原理在于捕捉金融资产收益率序列中存在的波动聚集、尖峰厚尾等典型特征。通过建立条件异方差模型,如GARCH及其扩展模型,可以动态估计和预测未来波动率,这对于资产定价、风险管理和投资决策具有重要价值。在金融工程领域,该技术广泛应用于外汇、股票和衍生品市场。本文以汇率波动率建模为具体场景,详细阐述了如何使用Python中的arch库,从数据预处理、模型选型(包括GARCH、EGARCH等)、参数估计到样本外预测评估的全流程实践,并深入探讨了模型在应对

weixin_32629853的博客 377

【LLM大模型】LangChain进阶之Prompts介绍

无论 LangChain 将 Prompt 封装的多么完美多么好,我门应该知道 Prompt 的本质就是:你在问模型问题的时候,多加一些输入,而不仅仅是问题本身。至于这些输入怎么来的?是本地文件?是向量数据库?是网页数据?还是其他的数据来源?这些都不重要,再怎么天花乱坠,本质还是给模型多一点额外输入信息!到这里,Prompt就基本介绍完了。

AAI666666的博客 823

pi/4QPSK调制解调原理

文章目录1. π/4\pi/4π/4QPSK 信号的调制原理2. 匹配滤波器与成形滤波器 1. π/4\pi/4π/4QPSK 信号的调制原理 减小相位突变量的QPSK由偏置键控QPSK(OK-QPSK)和 π/4\pi/4π/4偏置的QPSK( π/4\pi/4π/4QPSK)。由于 π/4\pi/4π/4QPSK是用差分相位编码产生的(因此也叫做 π/4\pi/4π/4DQPSK),能有效地进行差分解调和鉴频器解调,在一些不易提取相干载波的场合很有用。 在常规的QPSK中,输入数据经过串/并变换后,分成

gemengxia的博客 2万+

Zemax非序列模式新手入门:从零搭建一个抛物面反射镜系统(含灯丝光源与探测器设置)

本文详细介绍了如何在Zemax非序列模式下从零搭建抛物面反射镜系统,包括灯丝光源配置、反射镜建模和探测器设置等关键步骤。通过实战指南,帮助光学设计新手快速掌握非序列模式的应用技巧,特别适合处理复杂光线传播场景如反射镜系统和杂散光分析。

weixin_28717431的博客 439

LLM大模型应用监控---LangChain接入LangFuse进阶篇

本文介绍了如何将LangChain框架接入LangFuse进行进阶监控。主要内容包括:1)安装LangFuse SDK并配置密钥;2)在LangChain调用中加入回调函数;3)通过metadata关联session和用户ID;4)设置自定义trace名称;5)获取traceId用于日志追踪;6)使用DeepEval框架进行自定义评分,包括评分函数定义和批量处理trace数据。这些功能可以帮助开发者更好地监控和分析LLM应用的执行情况,通过可视化界面查看调用链路、会话回放和评分结果。

leonhongliang806的博客 3229

现代软件开发技术 | 第1章:Spring基础

Spring是一个轻量级Java 开发框架,最早由Rod Johnson创建,目的是为了解决企业级应用开发的业务逻辑层和其他各层的耦合问题。

知识库搭建ing 456

【LLM开发进阶】从LangChain到LangGraph:构建下一代智能Agent的完整指南

在过去的一年里,LangChain几乎成为了 LLM(大语言模型)应用开发的代名词。它通过“链(Chain)”的概念,成功地将 Prompt、模型和输出解析器串联起来,极大地降低了开发 RAG(检索增强生成)和基础应用的门槛。真实的业务逻辑往往不是线性的。我们需要循环、需要重试、需要根据上一步的结果动态决定下一步的操作——简而言之,我们需要构建Agent(智能体)。这时候,LangGraph应运而生。

m0_59598970的博客 1179

SAP 角色继承、派生

角色继承、派生 继承:是指两个角色Role形成母子关系。子角色的所有菜单、授权都源于母角色,并与母角色保持一致。母角色与子角色是1对多的关系。 继承关系:新建子角色继承母角色中的事务(后续通过复制,将母角色授权数据复制至子角色) 派生概念:将母角色中的授权数据派生至子角色中。 业务场景:方便批量修改子角色权限。若有继承关系,只需要修改母角色,然后通过母角色派生功能,从而批量修改子角色授权数...

willieyuan的博客 1万+

YOLOv11模型改进-模块-引入特征细化模块FRFN 解决小目标、遮挡等问题

FRFN 是一种专门设计的深度学习结构,旨在提高图像处理任务中的特征表示能力。它的核心设计理念是通过逐层细化和优化特征图,从而实现更高的分类和检测精度。1. 特征提取层:通过卷积层提取初始特征,并进行批量归一化以增强稳定性。2. 特征细化模块:在每个模块中,当前层特征图与前一层特征图进行融合,以强化特征表示。3. 跳跃连接:通过跳跃连接保留多尺度信息,帮助缓解深层网络中的信息丢失。4. 非线性激活:使用激活函数(如ReLU)增加模型的非线性能力。5. 输出层。

qq_64693987的博客 3339

LangChain、Dify等十款主流LLM应用框架比较

随着大型语言模型(LLM)的普及,开发者们需要强大的框架来快速构建智能应用。从聊天机器人到知识库搜索,市场上有许多工具可以简化开发流程。本文将比较十款主流开源框架:以下是这十款框架的简要概览,展示它们的定位和核心功能:我们从七个关键维度对比这些框架:易用性、定制化、开发速度、可扩展性、社区支持、集成能力和适用场景。推荐:新手选 Dify,兼顾易用和灵活选 Langflow。推荐:复杂项目选 LangChain,数据任务选 LlamaIndex。推荐:快速原型选 Dify,视觉开发选 Flowise 或 La

CSDN_430422的博客 4596

全面解析量化价值投资多因子模型的原理

明明知道“买便宜的好公司”是价值投资的核心,但面对3000+只A股,如何快速筛选出“便宜又好”的标的?主观判断总被情绪干扰——明明PE很低的股票,买了却不涨;或者因为“感觉”错过牛股?想规模化投资,但手动分析100只股票就要花一周,根本无法覆盖全市场?量化价值投资的多因子模型,正是解决这些问题的钥匙。它将价值投资的核心逻辑(“便宜”“好公司”)转化为可量化的因子,用数学模型替代主观判断,实现系统化筛选、可回测验证、规模化复制的投资决策。为什么多因子模型能有效预测股票收益?

AI天才研究院 1062

进阶篇-LangChain篇-1--LLM不是万能药:为什么我们需要编排框架?

LLM应用开发需要编排框架的原因 大语言模型(LLM)虽然强大,但单独使用时存在四大核心缺陷: 无状态性:每次请求都是独立对话,无法记忆上下文 幻觉问题:会编造看似合理但错误的信息 知识滞后:无法获取训练数据截止后的新信息 上下文限制:输入长度受token数限制 传统开发模式需要手动解决这些问题,导致: 代码量激增(管理对话历史、拼接prompt等) 系统脆弱(模型更换需重构大量代码) 功能扩展困难(集成外部工具复杂度高) LangChain等编排框架通过组件化设计解决了这些痛点: 提供标准化的记忆管理、工

weisian的博客 8723

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

【万字长文】深入浅出 LlamaIndex 和 LangChain:从RAG到智能体,轻松驾驭LLM应用开发

大语言模型 (LLM) 的兴起无疑是人工智能领域的一场革命。它们拥有强大的知识生成和推理能力,通常基于海量的公开数据进行预训练。然而,一个核心挑战随之而来:如何有效地利用我们自己的私有数据或特定领域数据来增强这些通用模型的能力?直接对 LLM 进行微调不仅成本高昂、耗时,而且模型内部知识的时效性也受限于其训练数据。为应对这一挑战,LLM 应用开发框架应运而生,其中 LlamaIndex 和 LangChain 是两个备受瞩目的领先者。它们如同桥梁,旨在简化构建由 LLM 驱动的应用程序的过程。

吴师兄大模型的博客 4135

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

基于大模型LLM + LangChain的知识库检索优化探究

本文讨论了基于LLM+Langchain搭建的知识库系统的检索准确度优化的可能点

qq_51495214的博客 8069
上一篇: 2024应届生就业挑战与解决之道,你不得不看
下一篇: 深入理解 Embedding 和 向量:AI 应用中的核心技术.
程序员丸子
博客等级 码龄4年 6695粉丝 918原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值