首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Additive Powers-of-Two (APoT) Quantization:硬件友好的非均匀量化方法

    本文首先提出了Additive Powers-of-Two(APoT)加法二次幂量化,一种针对钟形和长尾分布的神经网络权重,有效的非均匀性量化方案。通过将所有量化数值限制为几个二次幂相加,这APoT量化有利于提高计算效率,并与权重分布良好匹配。其次,本文通过参数化Clipping函数以生成更好的更新最佳饱和阈值的梯度。最后,提出对权重归一化来调整权重的输入分布,使其在量化后更加稳定和一致。实验结果表明,本文提出的方法优于最先进的方法,甚至可以与全精度模型竞争,因此证明了本文提出的APoT量化的有效性。例如,本文在 ImageNe t上的 3bit 量化 ResNet-34 仅下降了 0.3% 的 Top-1 和 0.2% Top-5 的准确性。

    04

    深度人脸识别中不同损失函数的性能对比

    无约束人脸识别是计算机视觉领域中最难的问题之一。人脸识别在罪犯识别、考勤系统、人脸解锁系统中得到了大量应用,因此已经成为人们日常生活的一部分。这些识别工具的简洁性是其在工业和行政方面得到广泛应用的主要原因之一。但是同时,这种易用性掩盖了工具设计背后的复杂度和难度。很多科学家和研究人员仍然在研究多种技术以获得准确、稳健的人脸识别机制,未来其应用范围仍然会以指数级增加。2012 年,Krizhevsky 等人 [1] 提出 AlexNet,这一变革性研究是人脸识别领域的一项重大突破,AlexNet 赢得了 ImageNet 挑战赛 2012 的冠军。之后,基于 CNN 的方法在大部分计算机视觉问题中如鱼得水,如图像识别、目标检测、语义分割和生物医疗图像分析等。过去几年研究者提出了多种基于 CNN 的方法,其中大部分方法处理问题所需的复杂度和非线性,从而得到更一般的特征,然后在 LFW [12]、Megaface [13] 等主要人脸数据集上达到当前最优准确率。2012 年之后,出现了很多基于深度学习的人脸识别框架,如 DeepFace [14]、DeepID [15]、FaceNet [16] 等,轻松超越了手工方法的性能。

    04
    领券