水熊虫
水熊虫
不认命,就拼命!
258文章 52分类

大模型应用--Harness技术(一)

之前我们介绍了Agent的发展,也了解了上下文管理的4大模块(感知模型、规划模块、执行模块、执行模块), 接下来我们就介绍这几个模型的实现,意图识别意图识别是整个系统的起点, 这部分的质量也直接决定了整个系统的执行质量,那么这部分一般是如何实现的呢?精心设计提示词引导LLM分类训练专用的路由模型,独立于主LLM完成路由判断用小模型进行微调,让模型在特定的场景下具备高精度的分类能力。Arch-Rou

大模型应用--Harness技术(零)

"Harness"原意是马具——缰绳、鞍具、嚼子——用来驾驭一匹强大但不可预测的动物的完整装备。这个比喻是刻意的:马 = AI 模型:强大、快速,但自己不知道该往哪里走马具 = Harness:引导、约束、使力量变得可控且有方向Agent = Model + Harness上下文模块感知模块感知模块是系统的入口,其核心任务是将非结构化的信息转化为结构化的信息,并理解其意图,从而

大模型应用--提示工程

提示工程一个好的提示工程由下面的几个部分组成,可能我们之前认为给大模型提示不就是描述清除就行么,底层逻辑是没问题的,不过需要有了下面这个模板能够帮我我们更好的描述任务,进而减低成本达成目的。指令任务本身。指令应该尽可能具体,避免留下太大的解释空间。上下文描述问题或任务背景的附加信息。它回答了“为什么提出这个指令”这样的问题。格式LLM 输出生成文本的格式。如果不指定格式,LLM 会自行决定格式,这

从大模型看算法工作

当前这个时间点, 我们似乎正在经历异常技术平权的革命, 因为大模型的出现, 让原来很多需要花费很多精力的工作变得毫无意义(这里就不便举例子), 也让我由此感慨一下,接下来主要看看我们在算法这个方向是如何看待算法工作与大模型的关系。

大模型预训练--DeepSeekV3核心优化详解(二)

MOE结构MOE结构是DeepSeek比较大的创新, 不管是从模型性能上,还是计算性能上, 都是非常好的设计。这一个部分其实替换掉传统的Transformer中的FFN的结构。我们来分开看当前的网络结构专家网络MOE结构中有多个专家网络,设计的预期是希望能够让多个专家能够各自负责不同领域的知识内容,完成任务的结构。门控网路门控专家是整个网路的一个路由,这个路由是要识别不同问题需要找那些专家。这个部

大模型应用--agent技术

今天我们来介绍大语言模型使用,Agent的构建和开发。基础知识Agent定义和核心机制Agent是一种通过感知环境(传感器)并主动与环境交互(执行器)的智能实体。LLM Agent通过结合大语言模型(LLM)与外部工具、内存和规划能力,突破传统LLM的对话局限,实现复杂任务拆解与执行。其核心是通过工具调用(如API、代码)弥补LLM在数学计算、事实检索等方面的短板,形成“指令-目标-决定-执行”的

智能供应链(零)--供应链简介

供应链自从人类开始生产生活就已经开始存在啦,直到20世纪才被学者提出来,今天我们通过一个小的文章宏观介绍一些供应链的基础知识。供应链系统是一个整合系统,将商流、物流、信息流、资金流进行有机的结合,通过管理这些流程,实现一个高效运作的整体。商流:商流是指供应链中,商品和服务在供应链各个环节的流通交易过程。物流:物流是商品从生产地到消费地点的运输和仓储过程,包括物流、仓储、包装等活动。信息流:信息流是

python+pyspark+jupyter环境搭建

今天抽点时间讲讲环境的问题,对于算法工程师而言,开发环境往往都是最容易被轻视,但是最容易被拖后腿的东西,这个文章主要讲讲如何依据spark环境搭建jupyter的算法开发环境。

运筹规划(十六)--大规模问题优化

Dantizig-Wolfe分解算法本章继续介绍大规模优化问题的求解方式。

运筹规划(十五)--大规模问题优化

本节我们就来讨论在运筹规划如何解决大规模的优化问题。一般会有以下一些方式,我分别进行理解。列生成和分值定价算法拉格朗日松弛算法Dantizig-Wolfe分解算法Benders分解算法。

大模型应用--向量数据库FAISS

向量数据库Faiss是Facebook AI研究院开发的一种高效的相似性搜索和聚类的库。它能够快速处理大规模数据,并且支持在高维空间中进行相似性搜索。Faiss的工作,就是把我们自己的候选向量集封装成一个index数据库,它可以加速我们检索相似向量Top K的过程,一些最有用的算法是在 GPU 上实现的。安装pip install faiss-cpupip install faiss-gpu通过上
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×