在工业界,利用激光雷达获取点云数据,很早就有应用了,如进行测高、遥感等。近几年的大规模发展得益于自动驾驶和机器人领域的火热,激光雷达成为重要的感知手段而得到人们关注,点云处理也成为热门。
PDAL是点云数据处理的库。这是一个C/C++开源库,用于点云数据的转换和处理。尽管该库中许多工具的重点和发展都起源于激光雷达点云数据的处理,但它也不限于激光雷达数据。
三维图像是一种特殊的信息表达形式,其特征是表达的空间中三个维度的数据。和二维图像相比,三维图像借助第三个维度的信息,可以实现天然的物体-背景解耦。除此之外,对于视觉测量来说,物体的二维信息往往随射影方式而变化,但其三维特征对不同测量方式具有更好的统一性。与相片不同,三维图像时对一类信息的统称,信息还需要有具体的表现形式。其表现形式包括:深度图(以灰度表达物体与相机的距离),几何模型(由CAD软件建立),点云模型(所有逆向工程设备都将物体采样成点云)。可见,点云数据是最为常见也是最基础的三维模型。点云模型往往由测量直接得到,每个点对应一个测量点,未经过其他处理手段,故包含了最大的信息量。然而,这些信息隐藏在点云中需要以其他提取手段将其萃取出来,提取点云中信息的过程则为三维图像处理。
计算机视觉入门的一些综述类文章和经典pdf书籍,【3D视觉工坊】按照不同领域帮大家划分了下,涉及图像处理、计算机视觉、自动驾驶、立体视觉、深度估计、姿态估计、OpenCV、SLAM、点云处理、多视图几何、三维重建等~ 综述类文章 双目视觉的匹配算法综述 基于立体视觉深度估计的深度学习技术研究(综述) 单目图像的深度图估计:综述 机器视觉表面缺陷检测综述 A Review on Object PoseRecovery: from 3D Bounding Box Detectors to Full 6D Pos
MLP是多层感知机的缩写,在三维点云处理网络中经常能看到一层Shared MLP,下面是我关于其作用的分析。 先从感知机的一层说起,其结构如下。 Output=f(Input×Weights+biases) 其中: Input:N×C1 Weights:C1×C2 biases:N×1×C2 Output:N×C2 f(·):激活函数,逐元素映射
近年来我国很多企事业单位(如北京北科天绘、武汉海达数云、成都奥伦达、禾赛科技、深圳大疆及中科院上海光机所等)的激光雷达设备研制成果显著,自主产品不断地推陈出新,设备功能与性能愈发强大,并进一步向消费级产品迈进,行业应用也从早期的军事应用拓展到社会和国民经济发展的方方面面,如地形测绘、林业资源调查、电力巡检、数字城市、无人驾驶及遗产保护等。激光雷达硬件的快速发展与行业应用需求的急剧增加,对海量密集点云数据的处理时效、定量化应用水平、性能与功能强大的数据处理软件研制提出了新的挑战。
Autodesk ReCap是一款由Autodesk公司发布的数字化建筑软件,主要用于3D扫描、点云处理和精准测量。该软件集成了多种高级的功能和工具,为建筑行业提供了全方位的数字化解决方案。
本文对自动驾驶中的3D点云处理和学习进行了综述。LiDAR传感器是自动驾驶车辆中最重要的传感器之一,它采集3D点云,精确的记录物体和场景的外表面。3D点云处理和学习工具对于自动驾驶车辆中的地图创建、定位和感知模块至关重要。在目前研究者关注从摄像机中采集到的图像、视频等数据的同时,已经有越来越多的研究者认识到LiDAR在自动驾驶中的重要性和意义,提出了基于3D点云的处理和学习算法。本文回顾了该研究领域的最新进展,总结了目前自动驾驶领域已经尝试使用的和需要的使用的实用方法。本文还提供了未来需要解决的开放问题的一些观点。
标题:3D Point Cloud Processing and Learning for Autonomous Driving
这个工作来自于牛津大学、中国香港大学、中国香港中文大学和Intel Labs,发表于ICCV2021。我们知道,Transformer在近两年来于各个领域内大放异彩。其最开始是自然语言处理领域的一个强有力的工具。后来,在图像处理领域,Transformer由于其可以感知远距离的像素,从而学习到更全面的特征表示。并且这项工具已经被应用在多个二维图像处理任务中,例如目标检测、语义分割等。而将Transformer应用于三维点云相关的任务是一个必然的趋势。由于三维点云的不规则性和密度多样性,Transformer在点云数据上甚至具有更大的潜力。实际上,在早期的工作中就已经有将Transformer应用到点云相关的任务中,例如DCP利用Transformer对源点云和目标点云的互信息进行建模,实现输入点云对的同时感知。但是,彼时的Transformer并不是一个重点。这篇Point Transformer则是将Transformer应用到点云学习的一个标志性成果,其设计了一个Point Transformer网络,并展现了其在点云点特征提取和全局特征提取的优势作用。这使得这篇论文的工作有着更广阔的应用范围和潜力,为后续很多点云相关任务的研究提供了一个有力的工具和参考。
本论文的第一作者朱钦峰是西交利物浦大学和利物浦大学联合培养的一年级在读博士,其导师为范磊副教授。他的主要研究方向为语义分割、多模态信息融合、3D视觉、高光谱图像和数据增强。该课题组正在招收24/25级博士生,欢迎邮件咨询。
我们提出了一种几何敏感的点云补全Transformer,通过将点云表示成为一组无序的点代理,并采用Transformer的Encoder-Decoder结构进行缺失点云生成。除此以外,我们提出了两个更具有挑战性的点云补全Benchmark——ShapeNet-55/34。我们的论文已被ICCV接收为Oral Presentation,代码、数据集与模型均以开源。
激光雷达是利用激光束来感知三维世界,通过测量激光返回所需的时间输出为点云。它集成在自动驾驶、无人机、机器人、卫星、火箭等许多领域。
CloudCompare是一个三维点云(网格)编辑和处理软件。最初,它被设计用来对稠密的三维点云进行直接比较。它依赖于一种特定的八叉树结构,在进行点云对比这类任务时具有出色的性能【1】。此外,由于大多数点云都是由地面激光扫描仪采集的,CloudCompare的目的是在一台标准笔记本电脑上处理大规模的点云——通常超过1000万个点云。在2005年后,cloudcompare就实现了点云和三角形网格之间的比较。随后,许多其他点云处理算法(配准、重采样、颜色/法线向量/尺度、统计计算、传感器管理、交互式或自动分割等)以及显示增强工具(自定义颜色渐变、颜色和法向量处理,校准图像处理、OpenGL着色器、插件等)
摘要:近年来,机器人自动化领域越来越多地应用3D视觉技术对目标物体进行定位。本文主要研究3D视觉技术在机器人抓取作业中的应用,总结了3D视觉技术在识别、定位物体时面临的挑战,给出了抓取作业机器人3D视觉系统的设计方法,归纳了现有的3D表面成像方法和视觉处理算法,最后给出一个结合3D视觉技术对白色抽屉纸盒进行抓取分拣的实际应用案例。
ReCap Pro 2021是一款由Autodesk公司开发的3D扫描和数据处理软件,是Autodesk ReCap软件产品线中的一员。作为全新一代的软件,ReCap Pro 2021为用户带来了更加高效、准确和易用的3D扫描和数据处理工具,可以帮助用户完成各种复杂的3D扫描任务。
自动驾驶技术正逐渐成为现实,而Autoware是一个开源的自动驾驶软件框架,旨在为开发人员提供一个完整的解决方案。本文将对Autoware的源码进行剖析,并介绍如何进行实际的开发实践。
“SFFAI114期来自南洋理工大学的潘亮推荐的文章主要关注于计算机视觉的点云处理领域,你可以认真阅读讲者推荐的论文,来与讲者及同行线上交流哦。”
原始点云数据不可避免地从3D传感器或在重建算法中包含异常值。本文提出了一种用于鲁棒点云处理的新型端到端网络,称为 PointASNL,可以有效地处理带噪声的点云。我们方法中的关键部分是自适应采样(AS)模块。它首先从最远点采样点的周围对点的邻域加权,然后在整个点云中自适应的调整采样。AS模块不仅有益于点云的特征学习,而且缓解受异常值的影响。为了进一步捕捉邻域信息和长期依赖于采样点,我们从非局部操作的角度出发,提出了局部-非局部 (local-Nonlocal, L-NL) 模块。这种L-NL模块使学习过程对噪声不敏感。大量的实验证明了在分类和语义分割任务上,在合成数据,室内、室外数据,是否有噪声的数据,都有良好性能和鲁棒性。并且在有大量噪声的真实户外数据集SemanticKITTI上,明显优于以前的方法。代码发布在:
标题:PointRNN: Point Recurrent Neural Network for Moving Point Cloud Processing
随着新型,低成本的3D传感器硬件的出现(例如Kinect),以及科研人员在高级点云处理研究上的不断努力,3D感知在机器人技术以及其他领域显得愈发重要。
作者丨刘昕宸@知乎 来源丨https://zhuanlan.zhihu.com/p/264627148?utm_source=wechat_session&utm_medium=social&utm_
VR社交平台AltspaceVR宣布关闭 AltspaceVR是一个VR社交平台,用户能够在该平台上和朋友聊天,并通过内置的浏览器分享网页内容,或体验社交活动。比如通过大屏幕观看Neflix、Yout
由香港大学CVMI Lab和牛津大学合作提出了一种点云上具有动态内核组装的位置自适应卷积——PAConv: Position Adaptive Convolution with Dynamic Kernel Assembling on Point Clouds,论文已被CVPR2021接收。
论文地址: http://arxiv.org/pdf/1907.12046v3.pdf
用实验车运行Autoware,首先要调通控制底层,底层一般是CAN通讯,有pci接口的can或者usb-can,调试相关驱动使得程序能够控制车辆的油门、制动和转向,有这些最基础的功能后就够了。
近些年涌现了很多不同的 3D 点云网络和算子,它们在常见基准评测集上的性能逐步提升,但是由于各种网络采用不同的局部算子、整体网络结构和实现细节,人们对该领域的实质进步一直缺乏准确地评估。
今天我们来看一篇点云目标检测方面的文章——MV3D,下面是作者提供的Demo演示。
点云滤波不同于图像滤波,它指的是将原始激光雷达点云数据分为地面点和地物点的二分类过程。由于PCL点云库具备易用、且实现了大多数点云处理算法,我们使用PCL中的渐进形态学滤波算法对点云进行滤波:
文章:labelCloud: A Lightweight Domain-Independent Labeling Tool for 3D Object Detection in Point Clouds
随着3D扫描技术的进步,如何将点云的前景和背景正确分离成为点云处理的一个具有挑战性的问题。具体来说,就是给定一个对象位置的估计,目标是识别属于该对象的那些点,并将它们与背景点分开。除了将前景与背景分离的基本任务外,分割还有助于定位、分类和特征提取。根据人类视觉感知的原理,一个典型的2D图像的图割问题如图1所示。
今天要聊的论文是斯坦福大学Charles等人在CVPR2017上发表的论文,提出了一种直接处理点云的深度学习网络——PointNet。
点云处理过程中可能会遇到寻找最临近点的问题,常用的解决方案就是用空间换效率。例如建立kd-tree等树状结构来代替遍历。
论文链接:https://crgjournals.com/robotics-and-mechanical-engineering/articles/pallet-localization-techniques-of-forklift-robot-a-review-of-recent-progress
点云拼接,配准,注册说的是同一个概念,就是寻找对齐不同点云之间的空间变换的过程。找到这种转换的目的包括将多个点云拼接为全局一致的模型,并将新的测量值映射到已知的点云以识别特征或估计其姿势
大多数自动驾驶汽车使用 3D 激光扫描仪(即所谓的 LiDAR)来感知周围的 3D 世界。LiDAR 生成汽车周围场景的局部 3D 点云。这些 3D 点云广泛用于众多机器人和自动驾驶任务,如定位、物体检测、避障、映射、场景解释和轨迹预测。一个典型的 LiDAR 传感器每秒生成大约 10 个这样的点云。
论文阅读模块将分享点云处理,SLAM,三维视觉,高精地图相关的文章。公众号致力于理解三维视觉领域相关内容的干货分享,欢迎各位加入我,我们一起每天一篇文章阅读,开启分享之旅,有兴趣的可联系微信dianyunpcl@163.com。
论文作者:Yongcheng Liu、Bin Fan、Shiming Xiang、Chunhong Pan
点云,是一种重要的三维数据形式,对于自动驾驶、VR/AR测量领域都有着十分重要的作用。
SLAM技术原理是使用相机、激光雷达、惯性测量单元等传感器,来收集环境信息,然后用算法将这些信息融合起来,以确定设备在未知环境中的位置,并构建一张环境地图。
论文地址: http://arxiv.org/pdf/2110.10538v2.pdf
在上一篇中,我们介绍了什么是3D相机。但是对于初次接触3D相机的同学,可能首先面临的问题是如何处理3D相机得到的数据。3D相机的数据分为两种方式:三维点云数据方式,二维数据方式。其中,三维数据保存的格式有csv,txt,ply,stl等。二维数据通常以二维图像的形式存在,其中保存Z方向的二维图像被称为深度图像。本篇主要介绍一下深度图像的生成与处理。
CVPR 2021 相关论文、代码 、解读和demo整理,同时为了方便下载论文,已把部分论文上传到上面了,欢迎小伙伴们 star 支持一波!
Github库在这(这里用1.8.1):https://github.com/PointCloudLibrary/pcl/releases/tag/pcl-1.8.1
随着我们队伍的不断壮大,目前星球嘉宾及合伙人,主要包括多个大厂的计算机视觉算法工程师、深度学习算法工程师、结构光三维重建算法工程师、资深VSLAM算法工程师、3D视觉测量方向的点云后处理资深算法工程师、标定算法工程师以及国内外知名高校博士等近10多位成员。星球主要关注3D视觉、vSLAM、三维重建、点云处理、立体视觉、结构光、深度学习、计算机视觉和图像处理等方向。日常分享各个领域的最新进展和经典论文,会员可以免费对嘉宾进行技术提问,完成一对一的指导解答,星球的初衷是让更多的童鞋能够尽快熟悉自己研究的3D视觉领域,少走一些弯路。
标题:3D Object Detection Method Based on YOLO and K-Means for Image and Point Clouds
在工坊平台,常常会有企业老板联系我们,希望工坊能够快速帮忙对接相应人才,以帮忙解决项目中棘手的难题,比如机械臂抓取、相机标定、缺陷检测、点云后处理、三维处理、 TOF标定、SLAM方案咨询等;同时,也有星球成员私下联系我们,希望工坊能够帮忙对接一些企业项目,可以在业余时间接点活儿。
自动驾驶汽车依靠各种传感器来收集周围环境的信息。车辆的行为是根据环境感知进行规划的,因此出于安全考虑,其可靠性至关重要。有源激光雷达传感器能够创建场景的精确3D表示,使其成为自动驾驶汽车环境感知的宝贵补充。由于光散射和遮挡,激光雷达的性能在雾、雪或雨等恶劣天气条件下会发生变化。这种限制最近促进了大量关于缓解感知性能下降的方法的研究。本文收集、分析并讨论了基于激光雷达的环境感知中应对不利天气条件的不同方面。并讨论了适当数据的可用性、原始点云处理和去噪、鲁棒感知算法和传感器融合等主题,以缓解不利天气造成的缺陷。此外论文进一步确定了当前文献中最紧迫的差距,并确定了有希望的研究方向。
领取专属 10元无门槛券
手把手带您无忧上云