水熊虫
水熊虫
不认命,就拼命!
265文章 53分类

大模型应用--Harness技术(一)

之前我们介绍了Agent的发展,也了解了上下文管理的4大模块(感知模型、规划模块、执行模块、执行模块), 接下来我们就介绍这几个模型的实现,意图识别意图识别是整个系统的起点, 这部分的质量也直接决定了整个系统的执行质量,那么这部分一般是如何实现的呢?精心设计提示词引导LLM分类训练专用的路由模型,独立于主LLM完成路由判断用小模型进行微调,让模型在特定的场景下具备高精度的分类能力。Arch-Rou

大模型应用--Harness技术(零)

"Harness"原意是马具——缰绳、鞍具、嚼子——用来驾驭一匹强大但不可预测的动物的完整装备。这个比喻是刻意的:马 = AI 模型:强大、快速,但自己不知道该往哪里走马具 = Harness:引导、约束、使力量变得可控且有方向Agent = Model + Harness上下文模块感知模块感知模块是系统的入口,其核心任务是将非结构化的信息转化为结构化的信息,并理解其意图,从而

大模型应用--提示工程

提示工程一个好的提示工程由下面的几个部分组成,可能我们之前认为给大模型提示不就是描述清除就行么,底层逻辑是没问题的,不过需要有了下面这个模板能够帮我我们更好的描述任务,进而减低成本达成目的。指令任务本身。指令应该尽可能具体,避免留下太大的解释空间。上下文描述问题或任务背景的附加信息。它回答了“为什么提出这个指令”这样的问题。格式LLM 输出生成文本的格式。如果不指定格式,LLM 会自行决定格式,这
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×