首页
学习
活动
专区
圈层
工具
发布

#优化

推理成本太高、算力不够用?单纯堆卡没用,得靠极致的“压缩”与“调度” | AICon

深度学习与Python

在实际应用中,推理成本高昂、算力需求巨大,直接制约了业务的广泛落地。大模型在实际应用中面临的挑战不仅是“快不快”,更是“省不省”。本专题将跳出表面的参数微调,系...

1200

SIGGRAPH Asia 2025:摩尔线程赢图形顶会3DGS挑战赛大奖,自研LiteGS全面开源

机器之心

12 月 17 日,在香港举办的全球图形学领域备受瞩目的顶级学术盛会 SIGGRAPH Asia 2025 上,摩尔线程在 3D Gaussian Splatt...

600

经验记忆黑科技:LightSearcher让AI工具调用减39.6%、推理快48.6%

机器之心

如今,以 DeepSeek-R1 为代表的深度思考大模型能够处理复杂的推理任务,而DeepSearch 作为深度思考大模型的核心搜索器,在推理过程中通过迭代调用...

900

国产芯片也能跑AI视频实时生成了,商汤Seko 2.0揭秘幕后黑科技

机器之心

自 Sora 2 发布以来,各大科技厂商迎来新一轮视频生成模型「军备竞赛」,纷纷赶在年底前推出更强的迭代版本。

400

NeurIPS 2025|指哪打哪,可控对抗样本生成器来了!

机器之心

近日,在全球人工智能领域最具影响力的顶级学术会议 NeurIPS(神经信息处理系统大会)上, 清华大学和蚂蚁数科联合提出了一种名为 Dual-Flow 的新型对...

900

利用因果机器学习消除推荐系统评估中的选择偏差

用户11764306

在某中心店铺中,超过60%的销售额来自独立卖家。推动这一增长的重要因素之一是FBA,这是一个可选计划,允许卖家将订单履行外包给某中心。FBA使客户能够以快速的配...

1800

面试高频考点:传值返回和传引用返回的区别

用户11929334

C++ 值返回需要拷贝,RVO 省掉拷贝;const& 会延续临时,多次析构是自然现象。d 析构 1 次(func 结束),return 时临时值析构 1 次,...

1400

一文彻底搞清楚数据结构之快速排序和归并排序的深入优化

用户11956170

下⾯我们来看看这个OJ题,这个OJ,当我们⽤快排的时候,lomuto的⽅法,过不了这个题⽬,hoare版本可以过这个题⽬.堆排序和归并和希尔是可以过的,其他...

1800

《C++进阶之C++11》【移动语义 + 完美转发】

序属秋秋秋

当函数返回一个局部对象时,如果满足一定条件(如没有发生返回值优化 RVO 或命名返回值优化 NRVO)

1800

DeepSpeed v0.18.1 发布:新增 DataStates 异步检查点引擎,优化 Zero 优化器与存储共享机制

福大大架构师每日一题

DeepSpeed v0.18.1 在性能优化、功能扩展与稳定性方面进行了多项改进,尤其在优化器灵活性、学习率控制、检查点引擎以及 HF Accelerate ...

500

ragflow v0.21.1 发布:功能更新与优化详解

福大大架构师每日一题

ragflow v0.21.1 版本正式发布,本次版本对功能、性能、文档和界面等多个方面进行了更新和优化,涵盖了模型支持、解析器能力、知识库管理、界面交互以及开...

1300

mediamtx v1.15.3 发布:多项修复与性能优化详解

福大大架构师每日一题

mediamtx v1.15.3 在稳定性和安全性方面都有显著提升。针对 RTSP、RTMP 以及摄像头的优化,使得该版本在多协议视频处理上的表现更为可靠。同时...

2600

deeplake v4.3.5 更新详解:新增数据类型支持与多项优化

福大大架构师每日一题

近期,deeplake 发布了 v4.3.5 版本,带来了针对数据类型支持、Bug 修复、文档完善以及代码质量优化等多方面的更新。本次版本升级旨在优化数据处理的...

1700

ragflow v0.21.0 发布:可编排数据流、长上下文RAG、多模型支持及管理CLI全新登场

福大大架构师每日一题

在 2025 年 10 月 15 日,RAGFlow 正式发布 v0.21.0 版本。此次更新带来了多项重磅新功能,包括可编排的数据摄取管道(Orchestra...

1900

LiveKit v1.9.2 发布:功能增强与多项优化修复详解

福大大架构师每日一题

本次 LiveKit v1.9.2 更新在功能扩展、性能优化以及稳定性方面都有显著提升,尤其是在音频分层传输支持、加密数据包类型引入、RPC API 完善以及节...

1400

CodeSpirit .NET 10 升级说明

码灵

CodeSpirit 框架已全面升级到 .NET 10 和 Aspire 13.0。.NET 10 是 Microsoft 最新发布的长期支持(LTS)版本,A...

900

CodeSpirit・码灵:以 AI 赋能,重构业务智能边界

码灵

CodeSpirit 框架在AI集成方面具有独特的创新性和实用性,通过深度整合大语言模型(LLM)能力,实现了从底层组件到上层应用的全方位AI增强,以解决AI落...

3300

挑战一周开发考试系统?CodeSpirit实战

码灵

在开发考试系统的过程中,我对架构也做了不少的优化,比如添加EventBus,UI组件转换优化等等。不用写或少写前端代码的感觉真爽,下一步,我将进一步封装移动端U...

2000

dify-plus 1.8.1 发布:合并 dify 1.8.1 并新增批量异步执行功能

福大大架构师每日一题

2025年10月19日,dify-plus 发布了全新的 1.8.1 版本。本次版本在功能和架构上有显著更新,核心点如下:

1200

pion/webrtc v4.1.6 发布:修复 nil stats getter 问题并升级依赖模

福大大架构师每日一题

2025 年 10 月 15 日,github.com/pion/webrtc 发布了 v4.1.6 版本。本次更新对代码稳定性和依赖模块进行了优化升级,具体更...

1300
领券