首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

SegICP:一种集成深度语义分割和位姿估计的框架

为了提高机器人系统的感知速度和鲁棒性,作者提出了 SegICP,这是一种用于对象识别和位姿估计的集成解决方案。...然而,用于闭环操作任务的现有对象识别和姿态估计解决方案通常具有以下问题: (1) 在具有部分遮挡的杂乱环境中不鲁棒; (2) 无法实时操作 (<1 Hz); (3) 不够准确; (4) 在没有较好初始条件的情况下无法获得高精度...然后使用SegNet预测的每个分割对象的语义标签,并从对象模型库中检索其相应的3D网格模型。网格模型被转换为点云形式后进行下采样并针对其各自的分割点云进行配准。 其中,点云配准分为获取和跟踪两个阶段。...为了使跟踪过程对对象分割边界上的缺陷具有鲁棒性,通过删除最新配准模型位姿的边界框外的点来进一步修剪对象的场景点云。通过配准获得的位姿用作卡尔曼滤波器中的测量更新,以跟踪每个对象的6-DoF姿态和速度。...3、实验环节 作者在数据集上对 SegICP 进行基准测试,该数据集由通过 MoCap 系统获得的1246个带注释的对象位姿组成。

84440

基于在线光度校准的混合稀疏单目视觉里程计

此外,HSO能够通过使用局部-全局亮度一致性增强的KLT跟踪,在时间和空间上建立远离的关键帧之间的姿态约束。候选地图点的收敛速度被用作关键帧选择的依据,从而加强了前端和后端之间的协调。...光度校准被巧妙地集成到联合工作的VO系统中: (1)在HSO中准确校准和补偿了相机的光度干扰,如暗角和曝光时间的变化,从而提高了VO的准确性和鲁棒性。...视觉里程计 运动估计线程的任务是根据输入的帧图像进行相机运动估计,首先,使用最新优化的光度校准参数对输入帧进行光度校准,去除响应函数和渐晕效应,然后,采用直接图像对齐方法,结合自适应模式选择,获得帧的姿态和曝光时间的初始估计...在两个相反的图像亮度变化下的特征跟踪结果,第一列是参考帧,第二列是使用我们的方法在当前帧中进行的特征跟踪结果,第三列是传统KLT方法的结果,绿色和黄色的点表示被跟踪的特征点,即使图像亮度发生剧烈变化,我们的方法仍能有效地跟踪到大量的特征点...,在极端图像亮度变化和运动模糊的情况下,光度校准的纯比率模型比传统的线性模型表现出更强的稳健性能,通过考虑候选点的收敛速度,引入了一种新颖的关键帧选择机制,我们的一个主要贡献在于在线光度校准方法完全与VO

22110
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    非重复型扫描激光雷达的运动畸变矫正

    这两个速度被概率地融合成一个统一的速度,并作为测量输入卡尔曼滤波(KF)过程,KF过程针对每个跟踪对象运行,以计算其最终速度。使用此速度,可以校正每个移动对象的畸变点云。...采样点i时刻和帧开始时间t0之间的时间ti存在偏差。为了纠正不匹配,对于每个点,获得最接近的 APX velocity vi输出,以转换偏差。...,与使用激光雷达和相机进行优化时相比,切向上的校正明显不足,尤其是在移动对象主要沿切向移动的情况下(情况2和3)。...利用所提出的方法(激光雷达和摄像头)和HOLD方法,评估了12个真实道路数据,其中57个是使用自制车顶安装系统收集的跟踪移动对象。图7示出了为每个被跟踪的移动对象计算的得分。...图8:利用该方法对常见交通场景进行跟踪和畸变校正,提供了估计车速的大小,用该方法恢复了卡车、公共汽车和轿车的形状 在图9中,展示了多个被跟踪对象的跟踪性能和得分。蓝色虚线是从原始点云计算的分数。

    1.1K30

    Ground-VIO:在线标定相机-地面参数的单目视觉惯性里程计

    开发了一种新颖的视觉前端,利用相机-地面几何关系和IPM精确地跟踪地面上的特征。 进行了模拟测试和实际实验,验证了系统的不同方面,包括C-G参数的估计、里程计的准确性和IPM的校准性能。...换句话说,仅通过跟踪一个地面特征,就可以获得关于平移的几何信息,相对误差为1%,这对于单目视觉惯性系统来说非常有意义。...(包括地面特征)的测量值在因子图估计器中进行融合,在估计器之后定期调用C-G参数的初始化模块,直到参数被初始化为止。...透视图上的光流跟踪错误案例说明,绿色点表示被跟踪的特征,而蓝色点表示预测的精确对应点。 幸运的是,IPM可以恢复地面特征的度量尺度几何,并在快速运动过程中消除大部分尺度效应,从而提供更好的跟踪精度。...这些条件可能会导致特征跟踪困难和VIO系统的可观测性不足,对于Ground-VIO,预校准的C-G参数是在线估计结果获得的。图24和图25显示了估计的车辆轨迹和相对平移误差分布。

    88720

    眼动研究最佳实践

    在大多数情况下,不依赖于下巴托的眼动仪仍能提供可接受的精度水平。在某些情况下,下巴托就不合时宜了,例如当被试是婴儿或者儿童时。...然而,这些值代表了最好的情况,数据的准确度和精密度取决于许多因素,除了正在使用眼动跟踪的类型,还包括眼动仪的设置、实验过程、行为和被试的生理状态等等。在每次追踪眼动时,都会进行一次校准。...这些措施可以揭示被试如何在整体范围内与刺激因素之间的相互作用。不同研究领域的几个案例可以说明这一点。...对于其他变量,如扫视振幅、扫视持续时间和扫视速度,情况也是如此;更大的扫视持续时间更长,移动速度更快。 考虑到潜在变量的数量很大,研究人员在进行研究之前应当选择好他们将分析哪些变量是至关重要的。...技术进步使得眼动跟踪对许多研究人员来说更实惠、更容易获得。随着可访问性的增加,不正确使用的风险也随之增加。本文对眼动跟踪在研究中的应用进行了简要的概述。

    1.4K42

    TJ4DRadSet:自动驾驶4D成像雷达数据集

    B、 传感器标定 多传感器标定是感知算法的基础,该过程主要包括内参校准、外参校准和时间校准。摄像机的固有参数和畸变系数通过MATLAB工具箱和棋盘进行校准,畸变系数用于校正以获得去畸变图像。...相机和4D雷达的外部参数可以通过对其余两个外部参数进行矩阵运算来获得。不同传感器之间的外参表示为平移和旋转矩阵。...对于相机和激光雷达外参校准,我们使用棋盘格对点云和图像数据进行2D-3D对齐,以完成粗略校准。然后,我们通过环境中的树和极点等静态对象手动微调外部参数。...数据集涵盖了广泛的驾驶条件,包括各种照明条件,如正常照明、强光和黑暗,以及不同的道路类型,如城市道路、高架道路和工业区,有复杂的场景,如对象密集的十字路口和简单的场景,例如有少量对象的单向街道。...其他对象的类映射到“其他车辆”。保留原始类,以便可以根据需要自定义映射。我们为跟踪任务的每个对象分配一个唯一的id。最后,提取了40K帧同步数据,其中标记了44个连续序列中的7757帧。

    1.1K20

    自动驾驶中图像与点云融合的深度学习研究进展综述

    本文的主要贡献如下: •据我们所知,本文首次对自主驾驶中基于深度学习的图像和点云融合方法进行了研究,包括深度完成、动态和静态目标检测、语义分割、图像融合、图像融合、点云融合等,跟踪和在线交叉传感器校准。...图像和稀疏深度图首先由两个基于NASNet的并行编码器进行处理,然后将它们融合到共享解码器中。这种方法可以在非常稀疏的深度输入(8通道激光雷达)下获得良好的性能。...DBT或tracking by detection框架利用对象检测器产生的一系列对象假设和更高层次的线索来跟踪对象。在DBT中,通过数据(检测序列)关联或多假设跟踪来跟踪目标。...因此,研究交叉传感器在线自动标定具有重要的实用价值。 A、 经典的在线校准 在线校准方法在没有校准目标的情况下,估计自然环境中的外源性。...•单任务到多任务:最近的一些工作[73][122]结合了多个互补任务,如目标检测、语义分割和深度完成,以获得更好的整体性能并降低计算成本。

    3.6K31

    综述:用于自动驾驶的全景鱼眼相机的理论模型和感知介绍

    图3:标准边界框不是鱼眼图像的良好对象表示,(a) 边界框内的红色像素显示不包含对象的大区域,定向框(b)和曲线边界框(c)是更好的表示 在一些论文中探索了更复杂的表示,不再使用简单的矩形框,而是利用已知鱼眼摄像机径向畸变的曲线边界框...,虽然分割模型最初被表示为图像上的映射,但它可以表示为投影函数 通过将针孔模型(2)代入(16),可以简单地获得径向投影函数,在这种情况下,一旦通过分割模型解决了畸变问题,可以将其视为针孔模型的参数。...跟踪:对象跟踪是一项常见的时间任务,其中对象必须跨多个帧关联。文章[124]中探讨了环绕视图摄像机的运动对象检测和跟踪,使用经典的基于光流的方法进行跟踪。...WEPDTOF是最近发布的一个数据集,用于在头顶监控设置中使用鱼眼摄像机进行行人检测和跟踪,虽然它不是一个汽车数据集,但它捕获了在鱼眼摄像机上开发跟踪系统所需的挑,轨迹预测与跟踪密切相关,其中必须为下一组帧预测感兴趣对象的位置...Rashed等人[150]证明了深度和运动等几何任务有助于语义分割,因此实现了跨任务的协同交叉链接,摄像机校准被转换为逐像素张量,并被馈送到模型中,以适应各种摄像机内在特性。

    4.2K21

    头戴式ARVR 光学标定

    为了正确地呈现被认为在空间上与物理环境对齐的虚拟对象,还需要精确地测量用户眼睛在跟踪系统的坐标系中的位置。 20多年来,研究人员提出了各种各样的标定方法来确定穿戴者的眼睛位置。...根据这些信息,系统可以确定在相应的3D位置显示虚拟对象需要哪些2D屏幕像素。这个姿势越准确,位置的真实感就越强。渲染相机的姿势通常使用跟踪系统测量,为了报告准确的姿势估计,需要对其进行校准。...在这种情况下,即使跟踪系统需要AR系统反馈渲染相机的姿势,跟踪器也会反馈基准点的姿势,但是这导致了需要执行二次校准的附加要求,这产生了跟踪基准点和渲染相机之间的转换。...然而,由于光学设计的小尺寸,相机必须放置在用户眼睛位置后面20毫米处,这可能导致近距离的配准错误。 在2007年,Priese等人在进行了初步的校准之后,提出了使用眼球跟踪来估计眼球位置的方法。...使用与SPAAM相同的针孔相机模型,显示参数从投影矩阵中分解,投影矩阵是从预先离线执行的SPAAM校准中获得的。

    1.9K20

    论文简述 | CamVox: 一种低成本、高精度的激光雷达辅助视觉SLAM系统

    ORB-SLAM通过提取图像中的ORB特征来跟踪对象,并使用闭环检测来全局优化地图和姿态,这通常是快速和稳定的.然而它不能精确地恢复真实的比例因子,因为绝对深度比例对于相机是未知的....由于远距离探测和高精度,相机和激光雷达之间的外部参数校准成为更重要的考虑因素.在[12]中,激光雷达相机的建议解决方案可以分为两种方式.第一个是校准过程是否需要一个校准目标,第二个是校准是否可以在没有人为干预的情况下工作...,如图3c和图3d所示.然后根据输出执行进一步的跟踪线程操作,如ORB特征提取、关键点生成.由于激光雷达持续扫描环境,每个数据点都是在略有不同的时间戳获得的,需要IMU进行校正.这不同于照相机,而图像是在几乎一瞬间获得的...在这种情况下,我们通过增加一定程度的不匹配来改进ICP中的成本函数。改进的成本函数如公式所示。...CamVox、两个主流SLAM框架和地面真实轨迹的比较在我们的SUSTech数据集上进行评估,如图10和表1所示,使用evo.由于精确的校准、丰富的深度相关视觉特征以及它们的精确跟踪,CamVox系统非常接近

    1.3K20

    基于运动相关分析的实时多源异构传感器时空标定方法研究

    大多数校准方法都是专门为某种传感器组合而设计的,如相机-IMU系统或相机-激光系统。然而,多源异构传感器融合在当今的应用场景中很常见,如自动驾驶。且将来也会出现新传感器。...使用一维互相关的估计精度有限,使用相位一致无法获得噪声数据的精确时间对齐。因此,它只被用作滤波或优化方法的初始化方法。...我们充分利用三维运动,并评估与三维相关性的运动相关性,以更鲁棒和准确的校准,实现与优化方法相当的精度。事实上,三维动态相关分析已用于动态对象跟踪[31]、[32]中的运动分解。...在不失去一般性的情况下,我们选择了中心IMU和一个目标传感器进行标准说明,使用相同参考IMU的任意两个传感器可以通过组合相应的中心IMU标准对进行校准。 ?...它也用于动态对象[32]的运动分解和尺度估计,其中动态对象的度量尺度优化通过最小化的相关对象运动和主体的运动,而在本文中,我们提出通过最大化相应的运动相关性来校准两个传感器的时间偏移和外部旋转参数。

    1.3K30

    纯干货:Box Size置信度偏差会损害目标检测器(附源代码)

    此外,Test Time Augmentation会放大这种偏差,从而从我们的校准方法中获得更大的性能提升。...Bias in Confidence of Object Detector 研究者假设条件置信偏差正在损害目标检测器的性能。 如第一张图,基于具有不同校准曲线的两组检测的夸大示例来形象化这个想法。...每个组只有一个各自的置信值的检测,在这个例子中很明显,置信阈值为0.55的检测器对于未校准检测(0,1)的精度为50%;如果检测器被完美校准 (2,3),精度为70%。...我们以60:40的比例分割2017 COCO验证集,在第一个分割上进行校准,并在较小的第二个分割上评估校准检测。...我们对80个类别中的每一个类别进行类别校准以考虑不同类别的变化,然后将每个类别的检测分为三个大小相同的边界框大小的子组。每个子组都使用具有7个置信区间的直方图分箱进行校准。

    38610

    ICRA 2021| 具有在线校准功能的高效多传感器辅助惯性导航系统

    因此我们提倡使用平面块,它包含点云最主要的结构信息,便于获得稳健数据关联,从 LiDAR 点云中提取以更新状态并校准 LiDAR 和 IMU 之间的时空参数。...特别是,基于我们之前的工作 [1]-[3],我们开发了 MINS,这是一种实时、一致、紧耦合、多传感器辅助的 INS 估计器,具有高效的 LiDAR 平面patch跟踪,同时在所有传感器之间进行在线时空校准...• 我们开发了一种高效的 LiDAR 特征跟踪算法,以从 3D LiDAR 点云中提取、合并和跟踪具有适当不确定性建模的平面块。这些平面patch用于通过在线校准进行实时 MSCKF 更新。...与相机测量不同,找到不同扫描之间的点对应非常具有挑战性,因为这些点通常不代表相同的物理位置。...我们在一个新的点云中配置这个新的pp={pc,nc},通过指定中心点pc作为点的位置,nc作为点的附加信息。请注意,由每个pp组成的局部点云pi也被跟踪到以后的合并步骤(IV-B)。

    1.2K40

    组会系列 | TCTrack: 用于空中跟踪的时序信息框架

    最终,TCTrack不仅在未使用加速情况下在嵌入式系统上达到实时性的要求,还获得了与其他SOTA跟踪器相似的精度。...然而,这些框架忽略了连续帧之间内在存在的强相关性,即时间信息,使得这些方法难以感知目标物体的运动信息。 因此,在目标经历不同复杂条件如大运动和遮挡引起的严重外观变化时,这些跟踪器更容易失败。...这已经引发了关于如何利用时间信息进行视觉跟踪的最新研究。对于基于DCF的方法,在时间维度上响应图的变化被惩罚,这通过先前的响应图来指导当前的响应图。...由于在线TAdaConv中的校准是基于前一帧中特征的全局描述符,TAdaCNN只会引入微不足道的帧率下降,但显著提高了跟踪性能。...为了提高运算速度我们首先通过全局平均池化(GAP) 减少输入特征的大小即 。为了避免调制向量对网络性能产生负影响,1D conv的权重及偏差被初始化为0,即在未训练时 。

    83330

    单视角下AI也可以计量长高距离

    虽然在之前的工作中已经使用了使用已知类的对象作为参考来重建相机和场景3D属性的想法,但我们通过在图像形成模型中进行较少的近似来显著扩展这项工作(例如,全透视相机与零相机俯仰角、无限焦距),从而更好地对野外图像进行建模...对于图像帧纵轴上的测量,地平线的位置为v0,而垂直图像中心位于vc。每个对象边界框在图像中都有一个顶部vt和底部vb位置。我们假设所有图像都是在零滚动的情况下拍摄的,或者事先进行了校正。...在不失一般性的情况下,我们进一步假设校正产生零偏航和零失真。...我们的端到端方法,称为ScaleNet(SN),分为两部分,我们在下图中进行了描述。首先,通过几何相机校准网络联合估计除相机高度外的所有对象边界框和相机参数。这些参数在训练过程中受到直接监督。...机场项目:解决飞行物空间大小/纵横比、速度、遮挡等问题引起的实时目标检测问题 旋转角度目标检测的重要性!!!

    41021

    简述:机器人BEV检测中的相机-毫米波雷达融合

    在第五部分,我们将展示讨论的方法如何在相机-雷达评估基准数据集nuScenes [4]上进行评估。然后,在第六部分中,我们将探讨可能的扩展,关注当前的研究趋势,为未来的研究提供启示。...IoU阈值(通常为0.5)用于判断预测框是否与特定的真实框相匹配。如果IoU大于阈值,则认为该预测为真正阳性 (TP),否则为假阳性 (FP)。未能用任何预测框检测到的真实对象被视为假阴性 (FN)。...传感器的原始输出是极坐标形式,可以通过传感器校准矩阵轻松地转换为BEV空间。然而,嘈杂的雷达点需要经过滤波处理,该处理会利用一些形式的聚类和时态跟踪。这种时态跟踪可以通过卡尔曼滤波器[16]实现。...SORT [22]和Deep-SORT [23]是此类别中的开创性论文。SORT使用匈牙利匹配进行数据关联的多目标跟踪任务,并使用卡尔曼滤波器估计恒定速度运动模型。...这些毫米波雷达图像的通道代表了来自毫米波雷达点表示的信息,比如物理量(如距离、速度等)。文献[25]、[26]、[27]、[28]等就是这个方向的工作。

    77720

    ​OA-SLAM:在视觉SLAM中利用物体进行相机重定位

    主要贡献 目前的先进SLAM方法如ORB-SLAM2,依赖于词袋描述子来寻找相似图像,以及基于外观的局部特征,如ORB或SIFT,用于在查询图像中的关键点和地图中的地标之间寻找匹配点。...特别是物体跟踪和物体初始重建被添加到主要的跟踪线程中,与局部特征点建图类似,局部物体建图也以类似的方式处理,并不断优化物体模型,它在一个独立的线程中运行。...在这种情况下,关键帧中为两个对象跟踪的检测框被合并,然后初始化一个新的椭球,但只在关键帧上进行。...在我们的系统中,对象不参与相机跟踪,它们在单独的优化中独立地进行了优化,仅用于重新定位。 图9:在SLAM捆集调整中集成对象的三种配置。...图11:使用OA-SLAM进行相机跟踪恢复,图像中显示在对象检测上方的数字分别是它们关联对象的ID、检测得分和类别。 部分建模 根据场景建模的详细程度进行适应。

    66320

    EdgeCalib:基于多帧加权边缘特征的非目标LiDAR-camera标定

    Canny和SAM提取的边缘特征的比较。可以观察到SAM的边缘在捕捉对象轮廓方面优于Canny方法获得的边缘,特别是在捕捉对象轮廓方面表现出色。...LiDAR边缘提取 在LiDAR数据处理中,距离的不连续性被用于提取点云内的边缘特征,鉴于扫描线的垂直方向上点云密度较低,分析主要集中在连续扫描之间的水平深度差异,从而实现对点云结构内边缘的检测。...多帧加权策略 使用图像中的SAM边缘和点云中的边缘,可以获得单帧校准结果,然而为了获得更有益于校准的信息,我们分析来自LiDAR的连续数据序列,以探索跨多帧的点边缘一致性,从而在优化步骤中对点边缘进行加权...同步采集的数据以10HZ的速度进行了矫正,包含了5986帧图像和点云数据。我们的采集设备如图7所示。 图7....自己数据集上的实验 使用我们的方法获得的结果与传统的基于棋盘格的校准方法进行了比较,如表III所示,我们的方法在不使用棋盘格的情况下实现了与基于棋盘格的方法类似的准确度,这证明了我们提出的方法的灵活性。

    46330

    7 Papers & Radios | SIGGRAPH 2020最佳博士论文;南开等提出新型自校准卷积

    在本文中,来自南开大学、新加坡国立大学和字节跳动 AI 实验室的研究者探究如何在不调整模型架构的情况下依然提升 CNN 的基本卷积特征转换过程。...具体来说,与使用小核(如 3×3)融合空间和通道信息的标准卷积不同,研究者提出的自校准卷积通过新型自校准运算(self-calibration operation)围绕每个空间位置自适应地构建远程空间和通道间依赖...这项研究被认为「解决了图形学算法中的不连续性以及现代硬件的大规模并行性问题,其贡献远远超出了传统的自动微分」。 ?...在大多数情况下,图像生成和处理任务是在原始像素上进行操作。但是,学习丰富图像和目标表示两方面取得的显著进展为文本到图像或布局到图像等主要由语义驱动的任务开辟了路径。...研究目的是在给定的群集中对图像信息进行编码,进而生成新的群集,如目标替换以及目标之间关系的变化,同时原始图像的语义和风格保持不变。

    88030

    GVINS:基于GNSS视觉惯性紧耦合的平滑状态估计方法

    其中,我们特别感兴趣的是将小型低成本的传感器,如相机、IMU和GNSS接收机结合起来,在未知环境下进行实时准确的估计。视觉与惯性测量的紧密耦合融合可以分为基于滤波的方法和基于优化的方法。...蓝色箭头是一个类似指南针的应用程序,指示相机的全局偏航方向。子图(c)和(d)分别表示姿态信息和局部偏航偏移。每颗被跟踪卫星的测量噪声级如(e)部分所示。...在GNSS-VI初始化之前,假设VIO已成功初始化,即重力矢量、初始速度、初始IMU偏差和比例已获得初始值。之后,在局部世界框架中形成一条平滑的轨迹,并准备用于GNSS-VI初始化阶段。...在极端情况下,当平台经历纯旋转运动时,GNSS不能提供任何关于旋转方向的信息,而偏航分量又会像VIO那样漂移。因此,如果窗口内的平均速度低于阈值vths,我们固定偏航偏移变量。...在我们的系统中,vths设置为0.5m/s,即使行人也能很容易地满足要求。 2) 少于4颗被跟踪的卫星:如果被跟踪的卫星数量少于4颗,SPP或松散耦合的方法将无法解析接收器的位置。

    1.2K30
    领券