当年作为核心SE在MindSpore团队从0到1构建了MindSpore Lite推理引擎，到去年知道的信息是现在在华为和荣耀手机上的AI能力都是基于Lite推理引擎，调用次数10亿/天。
在人工智能领域，知识推理技术是一个不断发展的重要分支，它关注于如何让计算机系统使用预先定义的知识库进行逻辑推理，以解决复杂问题。这种技术基于一系列成熟的理论和方法，从传统的符号逻辑推理发展到现代的图谱推理和机器学习融合方法。知识推理不仅涉及知识的有效表示和存储，还包括如何通过逻辑运算对这些知识进行处理和推导出新的知识。
本文节选整理自NVIDIA GTC讲座[S41607]： 自动光学检测（AOI）中采用的深度学习技术一直是制造业的热门话题。 然而，大多数项目都停留在概念验证阶段或仅部署在少数 AOI 机器上。 我们的分析发现，障碍通常与 AI 模型的准确性或性能无关，而是出于其他原因。 在制造检测中部署深度学习时，我们将解决这些障碍，以及 Jetson 平台如何帮助我们克服这些障碍。 根据我们的经验，制造商在采用人工智能技术方面面临障碍，这三点是我们从客户那里听到的最常见的原因。一是技能差距，客户没有新技术技能，二是对
在前沿AI大模型规模呈指数级增长的趋势下，仅凭单卡已经很难满足当下的推理需求。 就拿拥有1750亿参数的GPT-3来说。 仅仅是加载模型参数就需要数百GB的存储空间，远超单个GPU的容纳能力。 因此，多卡并行被视为AI大模型推理的必然选择。 但现有的推理系统仍旧存在不少弊端。 比如需要用户对通信、内存等各部分协作进行手动管理，需要额外编译等……导致用户使用门槛居高不下。 为此，大规模并行AI训练系统Colossal-AI团队提出了大模型推理系统Energon-AI。 以“高性能、高可用、可伸缩”的理念，深
文 | 传感器技术（WW_CGQJS） 12月15日，工信部正式印发了《促进新一代人工智能产业发展三年行动计划》，为2018年到2020年人工智能发展指明了前进的方向。计划中的重点内容是培育八项智能产品和四项核心基础，而智能传感器正排在核心基础的第一位，处于最基础最重要的地位。 万物相连技术链 传感器、大数据、机器学习、人工智能和机器人是怎样拧在一起了呢？在人工智能时代硬件和软件是共生演化的，彼此影响的呢？ “物联网”、“大数据”和“机器人”等,其实这些趋势是相互联系在一起的，拧成一个大趋势， 在这个链条里
前言：我们正处在认知智能的起步的阶段，还有很多未知的因素，也不知道未来往哪走，但是有一条，无非是要么从知识，要么图谱、要么融合，但是可用肯定前景是无限的。这里有很多的机会，把我们的认知智能，搜索、问答问题、推理这些东西用在工业互联网的很多场景里面，认知智能技术，搜索、回答问题、推理的这些数据用在工业借的很多场景里，认知智能技术蕴藏着巨大的前景。
作者 | 丁效 整理 | 维克多 在过去十年的人工智能浪潮中，以深度学习为代表的人工智能技术已基本实现了视觉、听觉等感知智能，但依然无法很好地做到思考、推理等认知智能。 4月9日，哈尔滨工业大学计算学部副研究员丁效，在AI TIME青年科学家——AI 2000学者专场论坛上，做了《基于神经符号的认知推理方法》的报告，分享了神经网络方法执行符号推理任务的最新进展，同时也给出了将符号知识注入神经网络的思路以及如何将神经网络与符号系统相融合。 以下是演讲原文，AI科技评论做了不改变原意的整理。 今天和大家分享神
在农业场景，主要包括有作物管理、害虫和杂草处理、疾病管理、土壤管理、产量预测和管理等。作物管理，主要提供作物选择，施肥建议，使得作物免受恶劣天气影响等；害虫和杂草处理，即识别害虫和杂草，提供处理害虫和杂草的相关建议，推测害虫行进路线和繁殖规模和速度，推测杂草的生长状态和发展等；疾病管理，即预测、识别分类作物病害；土壤和作物管理，包括评估作物表面土壤湿度，预测天气，结合天气预测结果进行灌溉等；产量预测和管理，根据气候，季节等因素提供最佳播种时间建议，并预测最佳收成时间和最终产量等。其主要运用的AI技术最开始是基于规则的专家系统，发展到后来的模糊推理系统和人工神经网络的结合。主要涉及模式识别，图像识别等。
机器人和自动化越来越多地用于制造、农业、建筑、能源、政府和其他行业，但许多公司一直在努力将人工智能和深度学习的优势融入到最苛刻的应用中。 借助新的 NVIDIA Jetson AGX Xavier 工业模块，NVIDIA 使在安全性和可靠性至关重要的恶劣环境中的边缘部署 AI 成为可能。这种新型工业模块扩展了 Jetson AGX Xavier 系统级模块的功能，使开发人员能够构建先进的、支持 AI 的加固系统。Jetson AGX Xavier Industrial 专为最恶劣环境中的智能视频分析、光学检
以AI知名的科技公司科大讯飞，2022全球1024开发者节上官宣最新技术成果和进展。
从工厂和农场到炼油厂和建筑工地，这些炎热、肮脏、嘈杂、潜在危险的地方却是保持工业繁荣至关重要的地方。而这些地方在日常运营的同时都需要检查和维护，但是，考虑到安全问题和工作条件，派人进驻并不总是最好的。
博雯 发自 凹非寺 量子位 | 公众号 QbitAI 如何在不查看图片的前提下，几秒之内就识别一张图片？ 这个看似在找茬的问题，却是隐私计算领域会真实碰到的问题。 著名的“百万富翁问题”所描述的就是这样的场景：两位富翁如何在不知道对方财富的前提下，比较谁的财富更多？ 近年来出现出现的一些方法，比如两方计算网络推理（2PC-NN）可以解决上述问题，但同时又会造成大量的计算成本和通信开销。 但现在，只要2.5分钟，2.3GB的通信费用，就能在ResNet50的基准上进行端到端的执行。 比起现在最好的两方计算网
英国雷丁大学和普利茅斯大学的研究团队开发和评估了一个情感脑-机音乐接口(aBCMI)，用来调节用户的情感状态。构造一个aBCMI来检测用户的当前情感状态并尝试调制它为了实现特定的目标(例如,用户平静或快乐)通过播放音乐根据一个特定的情感目标生成算法作曲系统和基于案例的推理系统。
人工智能正在加速各行各业技术升级、提升社会的运行效率，而人工智能中的视觉感知类任务扮演着重要的角色。 从目标检测、属性识别的高效模型训练，到模型压缩、量化部署推理，虽然学术界和开源社区有大量的成熟工作可供借鉴，但如何批量生产在工业级场景下满足精度和速度的模型，依然不是一个简单的问题。 从模型的算法研究到生产部署，其间的落地鸿沟之大一直较少被人提及和重视。 我们将带你详细了解商汤-模型工具链团队在解决算法落地过程中的技术思考，深入理解模型的工业化落地流程是如何更加高效和便捷！ 学术公开课「目标检测落地难题
最近爆火的AI初创公司Groq，推出了比目前常见GPU推理系统快4倍，成本低70%的大模型推理解决方案。
---- 将 ScienceAI 设为星标 第一时间掌握 新鲜的 AI for Science 资讯 ---- 编辑 | 萝卜皮 科学家们的目标是发现能够准确描述实验数据的有意义的公式。自然现象的数学模型可以根据领域知识手动创建，或者也可以使用机器学习算法从大型数据集自动创建。学界已经研究了表示相关先验知识与相关函数模型合并的问题，认为寻找与一般逻辑公理先验知识一致的模型，是一个悬而未决的问题。 IBM 研究团队以及三星 AI 团队的研究人员开发了一种方法「AI-Descartes」，通过将逻辑推理与符
本周，在佛罗伦萨举行的ACL 2019上，参会者中有一个人感慨良多，他就是Alexa AI的机器学习科学家Mihail Eric。
本期将为大家介绍香港中文大学计算机科学与工程系 James Cheng 老师招收工程师和实习生相关信息。 Husky Data Lab 是由香港中文大学计算机科学与工程系 Prof. James Cheng 领导下的大数据实验室，专注于高性能数据分析系统和数据库的开发，研究成果已被应用于工业界多个大规模 / 高性能系统。 个人主页：https://www.cse.cuhk.edu.hk/~jcheng/ 目前，James Cheng 教授团队在开发 Ofnil 和 Graxy 两个平台： Ofnil gr
👆点击“博文视点Broadview”，获取更多书讯 科技在不断进步，各式各样的业务场景也在不断催生各种AI技术的兴起！ 试看将来的世界，必定是充满了AI的世界！ 为了帮助大家紧跟时代的潮流，系统学习当前主流的AI技术，博文菌本周为大家整理了今年出版的AI领域爆品新书，每一本都称得上该技术方向上的里程碑式著作！ 还等什么？赶紧学习起来吧！ ---- 01 ▊《联邦学习实战（全彩）》 杨强 黄安埠 刘洋 陈天健 著 杨强教授领衔撰写 深度剖析前沿应用案例 丰富的配套视频资源、线上资源 部分案例配以
来源：arXiv 作者：闻菲，刘小芹 【新智元导读】南京大学周志华教授等人在最新的一篇论文中提出了“溯因学习”（abductive learning）的概念，将神经网络的感知能力和符号AI的推理能力结合在一起，能够同时处理亚符号数据（如原始像素）和符号知识。实验中，基于溯因学习框架的神经逻辑机NLM，在没有图像标签的情况下，学会了分类模型，能力远超当前最先进的神经网络模型。作者表示，就他们所知，溯因学习是首个专门为了同时进行推理和感知而设计的框架，为探索接近人类水平学习能力的AI打开了新的方向。假设你在踢足
👆点击“博文视点Broadview”，获取更多书讯 有位朋友说，程序员的工作就是消灭自己的职业。 这么说或许是有些危险耸听了，不过随着近期ChatGPT的爆火，可以预见未来的程序员可能的确需要有更强的研究开发能力才能有更强的竞争力！ 面对ChatGPT带来的冲击，了解其背后的核心技术，才能在AI浪潮中狂飙！ 简单说，ChatGPT是通过预训练大语言模型，配以RLHF（Reinforcement Learning from Human Feedback，RLHF，人类反馈强化学习）开发出来的AIGC产品，
👆点击“博文视点Broadview”，获取更多书讯 一年一度的423世界读书日即将到来， 又到了提醒大家要“多读书，读好书”的日子 ~~ 好书，可以带领我们在时间的长河中不惧变化、稳扎稳打；也可以带领我们穿越时空、窥探未来…… 所以，今天就给大家分享10本最近的爆款新书， 既有久经时间沉淀的经典书升级，又有紧贴未来趋势的前沿新书，希望可以帮大家以不变的根基拥抱变化的未来！ 此外，423当天，我们也会为大家带来一场特别的专场活动，有17位大咖会做客博文视点直播间，和大家聊聊读书这件事儿，点击下方预约
如果问计算机擅长什么，在所有的答案里，数学必须榜上有名。在经历了漫长的研究之后，顶尖学者们在研究计算机关于数学计算方面的发展，取得了令人惊讶的成绩。
机器之心专栏 作者：字节跳动AI Lab、UT Austin、新加坡科技设计大学StatNLP组 目前强大的语言模型普遍在很多下游 NLP 任务中能轻易地达到比较好的结果，但在推理效果上没有达到我们的预期 [1]。字节跳动人工智能实验室与新加坡科技与设计大学提出一个基于演绎推理的方法，希望实现类似 System 2 的推理能力 [2]. 论文链接：https://arxiv.org/abs/2203.10316 研究动机 作为一类需要解题的推理过程，在数学解题任务中比较适合应用演绎推理模型。我们尝试在此任
👆关注“博文视点Broadview”，获取文末赠书 联邦学习——一种新型的、基于数据隐私保护技术实现的分布式训练范式。 自提出以来，就受到了学术界和工业界的广泛关注。 近年来，联邦学习飞速发展，成为解决数据孤岛和用户隐私问题的首选方案。 如何应用联邦学习进行实战，也成了大家普遍关心的问题。 为了帮助大家更好地将联邦学习应用在实际项目中，杨强教授再次带领团队撰写了国内首本联邦学习实战的权威著作——《联邦学习实战（全彩）》。 本书结合联邦学习案例，有助于读者更深入地理解联邦学习这一新兴的学科。 全书分
在人工智能（AI）的快速发展背景下，大语言模型（LLMs）凭借其在语言相关任务上的杰出表现，已成为 AI 领域的重要推动力。然而，随着这些模型在各种应用中的普及，它们的复杂性和规模也为其部署和服务带来了前所未有的挑战。LLM 部署和服务面临着密集的计算强度和巨大的内存消耗，特别是在要求低延迟和高吞吐量的场景中，如何提高 LLM 服务效率，降低其部署成本，已经成为了当前 AI 和系统领域亟需解决的问题。
互联网时代，人类在与自然和社会的交互中生产了异常庞大的数据，这些数据中包含了大量描述自然界和人类社会客观规律有用信息。如何将这些信息有效组织起来，进行结构化的存储，就是知识图谱的内容。
👆点击“博文视点Broadview”，获取更多书讯 一句话就可以“创作”一条视频 AI终于把魔抓伸向影视行业了 大家知道，制作一条视频需要很多步骤： 文案、录制、后期，等等 即便是简简单单的一条短视频，也要经过一通操作才能使之呈现。 但是，现在可要变天了！ 就在不久前，谷歌发布了名为“Dreamix”的视频生成产品。 好家伙啊 在官方演示中，你只需要一句话，就可以对现有视频进行“魔改“，直接替换生产新主角和新内容。 比如这里，输入了”一只白猫和一只橘猫在地板上“原视频里的狗子直接变成了两只猫。
👆点击“博文视点Broadview”，获取更多书讯 ChatGPT可以说是近几个月最火爆的，由它引申出来的话题也是层出不穷： ChatGPT究竟有多强？ ChatGPT背后的技术是什么？ 第一批因为AI失业的人？ 可以说ChatGPT几乎涉及到了各个领域，成为大家关注的焦点。 越来越多的人与ChatGPT对话，ChatGPT也逐渐成为各路打工人的“辅助神器”，写代码、编小说、出方案、画图、做动画、剪视频等等。 同时ChatGPT也进入了许多企业，参与到了企业的工作当中。可以说ChatGPT无论是对个
👆关注“博文视点Broadview”，获取更多书讯 从电信网络到社交网络，从经济网络到生物医学网络……图结构的数据无处不在。 如何提取图的特征，表示或编码图的结构，基于图数据进行学习、推理和归纳变得越来越重要。 因为无论是进行数据挖掘、分析社交网络，还是优化推荐系统、问答系统，乃至未来破解AI黑盒、增强AI可解释性与鲁棒性，实现认知智能甚至通用人工智能，图都极有可能是其中必不可少的一环。 近年来，关于图表示学习（Graph Representation Learning，GRL）的研究激增，其中既包括用
【新智元导读】2012年一项被誉为“最逼真人工大脑”的研究发表在 Science 杂志上，名为 Spaun 的这个系统一时引起许多关注。现在，Spaun 团队使用神经形态芯片，将运行速度提高了9000倍。神经形态芯片将带来 AI 硬件的一场革命，或许不久我们能在移动设备上运行 AI 算法。 例如苹果的 Siri 等的 AI 服务，是将用户的查询发送到别处的数据中心，再从数据中心发送回来响应。这些服务需要依赖基于云的计算的原因是，现在的电子产品缺乏足够的计算力来运行机器学习算法。大多数智能手机使用的 CPU
近日，CMU Catalyst 团队推出了一篇关于高效 LLM 推理的综述，覆盖了 300 余篇相关论文，从 MLSys 的研究视角介绍了算法创新和系统优化两个方面的相关进展。
对于这个系统，你可以使用阀门控制流入水箱的水。流出率取决于输出管的直径（恒定）和水箱中的压力（随水位变化）。因此，该系统具有非线性特性。
最近ZOMI这2/3周有幸被邀请去百度交流、去VIVO研究院交流、去MindSpore开源团队交流、去华为昇腾团队交流推理引擎。所以有些心得体会，恰好前不久又分享完《AI编译器》系列课程和《AI推理引擎》系列课程。
在大型语言模型（LLM）的世界中，处理多轮对话一直是一个挑战。前不久麻省理工Guangxuan Xiao 等人推出的 StreamingLLM，能够在不牺牲推理速度和生成效果的前提下，可实现多轮对话总共 400 万个 token的流式输入，22.2 倍的推理速度提升。
随着工业4.0时代的到来，新一轮科技革命和产业变革正在孕育兴起。制造企业智能化转型困难重重，项目时间紧迫、算法人才缺失、产线精度和效率要求极高等，都是架在企业面前的一座山。 工业质检、安全巡检、生产设备健康管理等问题都是制造产业中的重要环节。当前产品质检主要有人工质检和机器视觉质检两种方式，其中人工占90%，人工质检成本高、误操作多，影响产品的良品率；安全生产是企业发展的重中之重，传统巡检需要专人实地或视频巡检，耗时费力，且不易实时监管，过程繁琐，亟需 AI 帮助企业有效监管工作人员行为和设备故障，及时发现
StreamingLLM可以在不牺牲生成效果、推理速度的前提下，实现多轮对话共400万个token，22.2倍推理速度提升。
在大型语言模型（LLM）的世界中，处理多轮对话一直是一个挑战。前不久麻省理工Guangxuan Xiao等人推出的StreamingLLM，能够在不牺牲推理速度和生成效果的前提下，可实现多轮对话总共400万个token的流式输入，22.2倍的推理速度提升。
Generating meaning: active inference and the scope and limits of passive AI
机器之心报道 编辑：泽南 1750 亿参数，只需要一块 RTX 3090，ChatGPT 终于不再是大厂专属的游戏？ 计算成本是人们打造 ChatGPT 等大模型面临的重大挑战之一。 据统计，从 GPT 进化到 GPT-3 的过程也是模型体量增长的过程 —— 参数量从 1.17 亿增加到了 1750 亿，预训练数据量从 5GB 增加到 45TB，其中 GPT-3 训练一次的费用是 460 万美元，总训练成本达 1200 万美元。 除了训练，推理也很花钱。有人估算，现在 OpenAI 运行 ChatGPT
2023 年的 AI 产业可以用风起云涌来形容。ChatGPT 的横空出世让生成式 AI 技术一夜之间红遍全球，很多从未了解过人工智能的普通人也开始对大模型产生了浓厚的兴趣。媒体、调研机构纷纷推出长篇专题，论证 ChatGPT、StableDiffusion、Midjourney 等文本和图像大模型会对哪些行业产生颠覆式影响；甚至有很多员工和企业开始利用这些大模型提升日常工作中的生产力，乃至取代人类岗位。毫无疑问，2023 年将是大模型技术开始爆发的转折点，一场影响深远的技术革命正在徐徐拉开帷幕。
随着信息流和短视频应用的发展，推荐系统已经从传统的单目标浅层网络的中小型架构演进为多目标超大规模深度学习的复杂架构。这种复杂的系统的演进对大规模的训练推理和在线排序提出了非常高的技术要求。 另外随着用户消费内容类型以及业务复杂度的增加，如何更好地理解文字、图片、视频到多模态，乃至用户画像的进一步演进，到最终可以给用户推送最合适的内容，也成为了一个在不断迭代和优化的过程。 11 月 5-6 日，AICon 全球人工智能与机器学习技术大会（北京站）2021 将落地北京。我们邀请到了腾讯看点 CTO 兼副总经理、
大数据文摘作品 编译：VVN、蒋宝尚、龙牧雪、魏子敏 【人工智能】正在让这个时代激动不已，但也正引发不少担忧。被誉为机器学习之父的美国三院院士、伯克利教授Michael I.Jordan昨天在美国知名科技媒体Medium上，难得的发布了他的第一篇文章。一反以往的技术干货输出，这篇文章的主题是对当前AI研究中的问题进行冷静反思。 这篇名为《人工智能：革命远未到来》的长文阅读时间在20分钟左右，从14年前Jordan教授自己的一个关乎生死抉择的故事说起，回顾了AI发展的过往，更重要的是，提
大数据文摘授权转载自AI前线 整理：核子可乐、冬梅 可解释性，已经成为当今机器学习研究与开发领域最紧迫的难题之一。尽管目前的大规模语言模型（LM）已经展现出令人印象深刻的问答能力，但其固有的不透明性却导致人们无法理解模型如何得出最终答案，因此用户难以论证答案合理性、也不易发现答案中的潜在错误。 DeepMind 研究团队在最新论文《使用大型语言模型实现可信推理》（Faithful Reasoning Using Large Language Models）中解决了这个问题。论文提出一套前向链选择推理模型，能
摘要 机器学习中的许多问题可以自然地用无向图模型的语言表达。在这里，我们提出了无向模型的黑箱学习和推理算法，优化了模型的对数似然的变分近似。我们的方法的核心是我们表示为灵活神经网络的函数q参数化配分函
腾讯公司和中国计算机学会于2013年共同发起的CCF-腾讯犀牛鸟基金（以下简称犀牛鸟基金），始终致力于支持海内外青年学者开展前沿学术研究与技术实践。犀牛鸟基金通过提供企业真实问题与业务实际需求，搭建产学研合作及学术交流的平台，推动合作双方学术影响力的提升及研究成果的应用落地，促进自主技术的创新与发展。 本年度犀牛鸟基金共设立10个科研方向共33项研究课题 申报截止时间为2021年6月15日24:00(北京时间) 申报链接： https://www.withzz.com/project/detail/129
工欲善其事必先利其器，这也是大部分开发者在日常工作中最重要开发原则。选择与开发内容相匹配的工具，常常会使我们事半功倍。但面对人工智能的多个领域，如：机器学习、深度学习、NLP等等，多样的工具有时也让我们也无从选择。
本文来自NVIDIA GTC21的一次技术分享视频，演讲者是Gary Marcus，他是Robust.AI的创建者和CEO，演讲的主题是“The Next Decade in AI: Four Steps Toward Robust Artificial Intelligence”，即“人工智能的下一个十年：迈向强大人工智能的四个步骤”。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
