首页
学习
活动
专区
圈层
工具
发布

#量化

腾讯健康×雍禾植发:以50倍放大AI检测与WAND大模型构建诊室闭环,缩短决策周期

IT资讯研究所

腾讯科技 | 研究员 (已认证)

腾讯健康携手雍禾植发,针对植发行业效果不可见、信任低及转化难等痛点,利用50倍放大AI毛发检测、WAND生图大模型与ASR转写构建“诊前检测—诊中模拟—全程沉淀...

1600

集合竞价数据自动挖掘量化因子思路

用户12000654

开盘前几分钟,竞价金额暴增、价格快速上冲,看起来像强势,9:30 却可能低开回落。问题不在数据不够,而在信号没有被拆成可验证的因子。把竞价过程留痕,再把价格、量...

4510

量化因子自动挖掘指南

fxyz

手动翻财报、一个个算PE/PB/ROE的时代早就过去了。量化因子挖掘的核心不是"找到一个好因子",而是建立一套能批量生产、自动检验、持续迭代的因子工厂。 这篇文...

12010

本地部署大模型的成本和收益分析

编程小白狼

72B 的量化模型在 4090 上大概每秒 10-15 个 tokens,写一段 200 字的回答需要等 5-10 秒。这个速度对于聊天场景勉强可以接受,但对于...

21010

我用Ollama搭建本地模型服务踩过的坑

编程小白狼

在试过 llama.cpp、vLLM、Text Generation WebUI 等多个工具之后,我最终选择了 Ollama 作为日常使用的本地模型管理工具。

12610

HuggingFace生态工具使用指南

编程小白狼

对于AI开发者来说,HuggingFace就像是GitHub之于程序员——它是最大的开源模型和数据集社区。

11710

模型量化与推理加速实践

编程小白狼

大模型的能力很强,但部署成本也很高。一个70B的模型需要约140GB显存(FP16),4张A100才能跑起来。

9310

PyTorch与ONNX模型导出部署实战

编程小白狼

PyTorch训练的模型效果很好,但部署到生产环境时遇到了问题。 生产环境可能用的是Java或C++,没有PyTorch运行时,或者对推理性能有严格要求。

12210

Ollama与vLLM实测对比:本地跑模型到底该选哪个

编程小白狼

"本地跑大模型用什么工具?"这是我这几个月被问得最多的问题。网上答案五花八门:有人说Ollama傻瓜好用,有人说vLLM才是性能王者。我两台机器、两个框架、三个...

11510

vLLM部署大模型踩坑实录:吞吐量从30到800的调优之路

编程小白狼

最初的架构很简单:Docker里跑Transformers的generate接口,单卡4090,模型是Qwen2.5-14B(4bit量化)。问题是:

14610

llama.cpp量化实战:普通显卡也能流畅跑大模型

编程小白狼

"大模型要多少显存?" "我这卡GTX 3060能跑吗?" 这是社区里最常被问的问题。答案是:选对模型+正确量化,6G显存也能流畅跑7B模型。我花了两周时间,用...

15410

笔记本上跑小参数模型的实用场景实测

编程小白狼

先说结论,6G 显存的机器,7B 的模型量化后能跑,速度大概每秒二十来个字,聊天完全可用。14B 也能塞进去,但要压缩到 4bit 以下,质量打折明显,感觉像跟...

10910

RAG 知识库搭建教程 UserStory

hollyx

摘要: RAG 知识库让大模型基于你上传的文档来回答问题。用腾讯云高性能应用服务 HAI 的 GPU 环境部署开源 RAG 平台(如 RAGFlow),上传文档...

19410

回测里的涨停判断,为什么不能写成 return >= 0.1

量化行业新引擎

不少回测代码会这样处理涨停:当天收益率大于等于10%,就认为股票无法买入。写起来很省事,但这个判断既可能漏掉真正的涨停,也可能把本来有成交机会的股票直接过滤掉。

15610

用WorkBuddy做投研最贵的不是模型,是数据:13 大类金融数据,现在能免费拉

Filiagao

腾讯云计算北京(有限责任公司) | 架构师 (已认证)

做投研,卡住人的往往不是模型不行,是拿不到干净、够深、口径一致的数据。要么一年掏几千上万买终端,要么自己爬自己洗。Workbuddy、Skillhub上架的“中...

44632

电商3D商品展示怎么低成本做起来

hollyx

用 AI 图生3D 工具批量生成商品3D 模型,单件成本不到2元,90秒出模。以腾讯混元生3D 极速版为例,具体操作步骤和成本数据如下。 成本对比 方式 单品成...

12810

每天盯 30 只票就盯不过来?用 WorkBuddy 星耀数智技能搭个投研工作台

Filiagao

腾讯云计算北京(有限责任公司) | 架构师 (已认证)

上次聊的是单次研究能不能信。这篇换个角度:把这 15 个 Skill 拼起来,能搭出一个每天自动跑的工作台,早上扫公告、盘中扫形态、周末跑回测。文末说一句怎么拿...

1K97

我在 32GB 单卡上跑两万四千专家的 MoE:分层放置实测与三个坑

Archive

一张 32GB 的卡,装完权重基本就没剩什么了,连 KV 缓存都紧张。我当时的第一反应是"这不可能跑起来",第二反应是去查是不是量化档位选错了。

14610
领券