大模型应用--向量数据库FAISS

向量数据库Faiss是Facebook AI研究院开发的一种高效的相似性搜索和聚类的库。它能够快速处理大规模数据,并且支持在高维空间中进行相似性搜索。Faiss的工作,就是把我们自己的候选向量集封装成一个index数据库,它可以加速我们检索相似向量Top K的过程,一些最有用的算法是在 GPU 上实现的。安装pip install faiss-cpupip install faiss-gpu通过上

大模型基础--Stable Diffusion 模型(多模态)

Stable Diffusion 的发布可以说 AI 图像生成发展过程中的一个重要里程碑,它不仅可以生成高质量的图像,根据提示词生成图像、修改图像,而且运行速度快,所用资源较少。Stable Diffusion 模型的直观理解

漫谈之配送体系(一)

今天继续讨论配送体系,之前谈论好几次配送的指标体系, 这一篇文章我们主要是重新深入的看一下配送体系, 抛开指标体系,看配送体系下的几个角色, 这些角色在系统中的关系, 以及不用场景下这些关系的变化。我是配送圆环这张图基本上就介绍了配送业务到底在干什么样的事情, 用户下单给平台,平台从系统中找到骑手和商家, 商家负责出餐, 骑手负责配送,进而平台完成了了这样一个订单, 产生了平台赖以生存的指标GMV

机器学习之好模型

今天来讲一个有趣的话题, 如何训练一个好的模型呢?如果让你训练一个模型, 效果不好, 你会从哪些方面入手呢? 下面我们就一个一个说, 从上到下应该越来天花板越低。特征丰富程度这一节就是我们经常提到的特征工程。特征利用率数据增强程度模型拟合能力模型拟合成本

大模型推理--推理优化

大模型的推理也是大模型领域需要研究的一个重要部分,涉及到推理的优化方法。● 减小模型尺寸:常见的方法包括模型量化、知识蒸馏、权重共享等。这些方法可以减少存储空间的占用、提高模型的加载速度和推理速度等。● 减少计算操作:常见的方法包括模型剪枝和稀疏激活等。这些方法的核心思想是用更高效、计算量更少的操作来代替模型中原有的操作知识蒸馏知识蒸馏不是一个新的概念, 相信大家应在其他的机器学习的背景知识上了解

管理哲学--目标

今天我们来开启一个话题是如何制定目标, 工作生活中经常被指定了这样那样的目标, 那么如果让你来制定目标, 你将如何思考这个问题呢?第一个步骤永远都是使命和愿景,这部分看起来很虚,但是其实随着企业的壮大, 是能够在关键决策上起到作用的, 例如滴滴的使命是让出行更加美好, 而不是GMV最大化, 其实在是否要介入自动驾驶, 是否要做司机服务等问题上都是起到了关键的作用。假如我们有了愿景。下面就是要理解什

管理哲学--战略

发现人其实原地徘徊其实是一个十分耗费精神力的阶段,产生这种状态的原因大致就是短期内失去了目标和方向, 怪不得很久以前一旦出现产能过剩(迷茫), 就会产生世界大战的结果, 始终都是要找到一个目标,哪怕那个目标可能有点没用。这一期的主题就来聊聊战略, 听起来有点高大上, 不过人的成长,期望成为什么样的人, 处处都是战略, 只是在企业里我们叫起来更加应景一点儿。

思考问题框架

​今天突然有个想法想要总结一下思考问题的框架,起源来自于一个问题, 当别人说我既想要A有想要B,还不想多花钱的时候,这类问题应该如何思考呢?​第一层思考是优化流程, 就是现有流程中是否有可以优化的点, 例如现在有一些环节存在资源的浪费,能够通过形式上的改变,节省一部分成本,这部分往往技术门槛不高, 通过白嫖的方式避免资源的浪费。​第二层是置换优化, 例如资源已经锁定了, 那么通过现有资源的置换,是

计算广告(二)

社交类广告接下来我们来讲社交广告的内容,对于社交广告常见的类型是Banner广告、信息流广告、视频广告、H5广告、开屏广告、插屏广告等。此外社交广告的定向方式也有也不同。社交媒体中广告的定向方式主要分为两大类:一类是基于人的定向;另一类是基于内容的定向。基于人的定向,就是根据当前用户的属性来定向投放广告,例如,通过用户的性别、年龄、职业等用户画像数据定向投放广告,基于用户兴趣定向投放广告,或基于用

计算广告(一)

本系列开始,咱们开始进入一个新的领域方向,也是平台变现的一个重要组成部分,广告反光。首先我们要了解需要广告的收入模式是怎样的?Revenue=PV×CPMCPM=CTR×ACPRevenue=PV \times CPM \\CPM=CTR \times ACPRevenue=PV×CPMCPM=CTR×ACP其中Revenue表示利润,PV表示访问量, CPM是千次展现的收费 。 CPM是通过CT

机器学习之评估函数探究

今天遇到有一个比较有趣的问题, 我想做一个分类问题,预测用户下单的概率,但是我出了对这个下单的概率感兴趣以外,还对下单的总人数感兴趣,中间可能考虑一些补贴的事宜,这个时候就有一个比较有意思的问题, 对于分类问题我们一般关注AUC即可,那么对于这个场景我是否能只关注AUC呢?因为考虑到下单人数的计数,我也想关注MAE,然后就产生了一个很好的问题, AUC和RMSE是否是完全同向的, 以及我们分类使用

控制论(八)--预算控制

本节简介预算控制
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×