腾讯科技 | 研究员 (已认证)
腾讯健康携手雍禾植发,针对植发行业效果不可见、信任低及转化难等痛点,利用50倍放大AI毛发检测、WAND生图大模型与ASR转写构建“诊前检测—诊中模拟—全程沉淀...
开盘前几分钟,竞价金额暴增、价格快速上冲,看起来像强势,9:30 却可能低开回落。问题不在数据不够,而在信号没有被拆成可验证的因子。把竞价过程留痕,再把价格、量...
手动翻财报、一个个算PE/PB/ROE的时代早就过去了。量化因子挖掘的核心不是"找到一个好因子",而是建立一套能批量生产、自动检验、持续迭代的因子工厂。 这篇文...
72B 的量化模型在 4090 上大概每秒 10-15 个 tokens,写一段 200 字的回答需要等 5-10 秒。这个速度对于聊天场景勉强可以接受,但对于...
在试过 llama.cpp、vLLM、Text Generation WebUI 等多个工具之后,我最终选择了 Ollama 作为日常使用的本地模型管理工具。
对于AI开发者来说,HuggingFace就像是GitHub之于程序员——它是最大的开源模型和数据集社区。
大模型的能力很强,但部署成本也很高。一个70B的模型需要约140GB显存(FP16),4张A100才能跑起来。
PyTorch训练的模型效果很好,但部署到生产环境时遇到了问题。 生产环境可能用的是Java或C++,没有PyTorch运行时,或者对推理性能有严格要求。
"本地跑大模型用什么工具?"这是我这几个月被问得最多的问题。网上答案五花八门:有人说Ollama傻瓜好用,有人说vLLM才是性能王者。我两台机器、两个框架、三个...
最初的架构很简单:Docker里跑Transformers的generate接口,单卡4090,模型是Qwen2.5-14B(4bit量化)。问题是:
"大模型要多少显存?" "我这卡GTX 3060能跑吗?" 这是社区里最常被问的问题。答案是:选对模型+正确量化,6G显存也能流畅跑7B模型。我花了两周时间,用...
先说结论,6G 显存的机器,7B 的模型量化后能跑,速度大概每秒二十来个字,聊天完全可用。14B 也能塞进去,但要压缩到 4bit 以下,质量打折明显,感觉像跟...
摘要: RAG 知识库让大模型基于你上传的文档来回答问题。用腾讯云高性能应用服务 HAI 的 GPU 环境部署开源 RAG 平台(如 RAGFlow),上传文档...
不少回测代码会这样处理涨停:当天收益率大于等于10%,就认为股票无法买入。写起来很省事,但这个判断既可能漏掉真正的涨停,也可能把本来有成交机会的股票直接过滤掉。
腾讯云计算北京(有限责任公司) | 架构师 (已认证)
做投研,卡住人的往往不是模型不行,是拿不到干净、够深、口径一致的数据。要么一年掏几千上万买终端,要么自己爬自己洗。Workbuddy、Skillhub上架的“中...
用 AI 图生3D 工具批量生成商品3D 模型,单件成本不到2元,90秒出模。以腾讯混元生3D 极速版为例,具体操作步骤和成本数据如下。 成本对比 方式 单品成...
上次聊的是单次研究能不能信。这篇换个角度:把这 15 个 Skill 拼起来,能搭出一个每天自动跑的工作台,早上扫公告、盘中扫形态、周末跑回测。文末说一句怎么拿...
一张 32GB 的卡,装完权重基本就没剩什么了,连 KV 缓存都紧张。我当时的第一反应是"这不可能跑起来",第二反应是去查是不是量化档位选错了。