图像质量评估 (IQA) 在计算机断层扫描 (CT) 成像中极为重要，因为它有助于 辐射剂量的优化和医学成像中新算法的开发，例如 恢复。此外，由于过量的辐射会对患者造成有害影响，因此从低剂量图像生成高质量图像是医学领域的热门话题。然而，尽管峰值信噪比 (PSNR) 和结构相似性指数度量 (SSIM) 是 这些算法使用最广泛的评估指标，但它们与放射科医生对图像质量的看法的相关性已被证明是 在以前的研究中不足，因为他们根据数字像素值计算图像分数。此外 ，由于需要原始参考图像来计算这些指标 ，因此它们在实际临床环境中无效，由于辐射剂量会给患者带来风险，因此通常不可能获得原始、高质量的图像。为了克服这些限制，一些研究旨在开发一种 无参考的新颖图像质量指标，该指标与放射科医生对没有 任何参考图像的图像质量的看法密切相关 。
糖尿病视网膜病变是导致失明的主要原因之一，影响约 78% 的人，糖尿病病史为 15 年或更长时间。DR 经常导致脉管系统结构的逐渐变化并导致异常。DR 是通过目视检查视网膜眼底图像是否存在视网膜病变来诊断的，例如微动脉瘤 (MA)、视网膜内微血管异常 (IRMA)、非灌注区和新生血管。这些病变的检测对于 DR 的诊断至关重要。 已经有一些工作使用眼底图像进行 DR 诊断 。随着越来越受欢迎，OCT 血管造影 (OCTA) 能够在微血管水平上非常详细地显示视网膜和脉络膜血管系统 。特别地，扫描源 (SS)-OCTA 还允许对脉络膜脉管系统进行单独评估。已经有一些工作使用 SS-OCTA 对糖尿病视网膜病变的定性特征进行分级。此外，超宽光学相干断层扫描血管造影成像 (UW-OCTA) 模式显示典型 OCTA 未捕获的视网膜周边病理负担较高。一些作品已经在 DR 分析中使用了 UW-OCTA 。传统的DR分级诊断主要依靠眼底照相和FFA，尤其是PDR，严重危害视力健康。FA主要用于检测有无新生血管。眼底摄影很难发现早期或小的新生血管病变。FA 是一种侵入性眼底成像，不能用于过敏、怀孕或肝肾功能不佳的患者。超宽OCTA可以无创检测DR新生血管的变化，是帮助眼科医生诊断PDR的重要成像方式。但是，目前还没有能够使用 UW-OCTA 进行自动 DR 分析的作品。在DR分析过程中，首先需要对UW-OCTA的图像质量进行评估，选择成像质量较好的图像。然后进行DR分析，例如病变分割和PDR检测。因此，构建灵活、鲁棒的模型以实现图像质量自动评估、病灶分割和 PDR 检测至关重要。为了促进机器学习和深度学习算法在UW-OCTA图像自动图像质量评估、病灶分割和PDR检测中的应用，促进相应技术在DR临床诊断中的应用，提供了一个标准化的超宽（扫描源）光学相干断层扫描血管造影（UW-OCTA）数据集，用于测试各种算法的有效性。有了这个数据集，不同的算法可以测试它们的性能并与其他算法进行公平的比较，并促进相应技术在DR临床诊断中的应用，提供标准化的超宽（扫描源）光学相干断层扫描血管造影（UW-OCTA）数据集，用于测试各种算法的有效性。
CMR 成像质量易受呼吸运动伪影的影响。挑战赛目标是评估呼吸运动对 CMR 成像质量的影响，并检查自动分割模型在不同呼吸运动水平下的鲁棒性。心脏磁共振 (CMR) 成像是目前评估心脏结构和功能的金标准模式。基于机器学习的方法在以前的 CMR 挑战（例如 ACDC、M&Ms）中取得了显着的性能。然而，在临床实践中，模型性能受到不一致的成像环境（例如，供应商和协议）、人口变化（正常与病理病例）和意外的人类行为（例如，身体运动）的挑战。通过将训练有素的机器学习模型暴露于“压力测试”中的极端情况来调查潜在的故障模式很有用。迄今为止，模型通用性方面的现有挑战大都集中在供应商可变性和解剖结构变化上，而对人类行为的影响的探索较少。对于 CMR 采集，呼吸运动是主要问题之一。有急性症状的患者不能遵守屏气指令，导致图像质量下降和分析不准确。
糖尿病视网膜病变 (DR) 是糖尿病的一种常见且特有的并发症，是工作年龄人群可预防失明的主要原因之一。据估计，2020 年全球有 1.03 亿成年人患有 DR，预计 2030 年 DR 患者人数将增至 1.3 亿，2045 年将增至 1.61 亿。
paper: https://arxiv.org/abs/2202.13123 code:https://github.com/guanghaoyin/CVRKD-IQA
在图像信息技术被广泛应用的情况下，对图像质量的评估变成一个广泛而基本的问题。由于图像信息相对于其它信息有着无可比拟的优点，因此对图像信息进行合理处理成为各领域中不可或缺的手段。在图像的获取、处理、传输和记录的过程中，由于成像系统、处理方法、传输介质和记录设备等不完善，加之物体运动、噪声污染等原因，不可避免地带来某些图像失真和降质，这给人们认识客观世界、研究解决问题带来很大的困难。
本文继 去雨去雾去模糊篇 、 图像增强与图像恢复篇 、图像修复Inpainting篇之后，继续盘点CVPR 2020 中底层图像处理技术中非常重要的一块：图像质量评价（Image Quality Assessment）。
图像质量和美学的量化一直是图像处理和计算机视觉的一个长期存在的问题。虽然技术质量评估涉及到测量像素级的退化，如噪声、模糊、压缩失真等，但美学评估捕获了图像中与情绪和美感相关的语义层次特征。最近，用人工标记数据训练的深层卷积神经网络(CNNs)被用来处理特定类图片的图像质量的主观性质，例如景观。但是，这些方法在其范围内是有限的，因为它们通常将图像分类为低质量和高质量两个类。我们的方法预测了评级的分布。这将导致更准确的质量预测，其与地面实况的相关性更高，适用于一般图像。 在“NIMA:神经图像评估”中，我们引入
AI 科技评论按：本文发布于 Google Research Blog，作者为 Hossein Talebi， 机器感知领域软件工程师兼 Peyman Milanfar 研究科学家。AI 科技评论做了不改动原意的编辑和修改。 美是否存在标准？在图像处理与计算机视觉领域，图像质量与美学的量化问题一直困扰着研究者们。从技术的角度来说，图片质量的评估主要与像素降级相关，比如噪声、模糊、压缩等等。而图像在美学层面的评估，则需要根据图片所传达的情感或美感所连接的语义级特征来评判。 近年来，在人类标记数据的训练下，CN
图像质量和美学的量化一直是图像处理和计算机视觉长期存在的问题。技术质量评估测量的是图像在像素级别的损坏，例如噪声、模糊、人为压缩等等，而对艺术的评估是为了捕捉图像中的情感和美丽在语义级别的特征。
我们都知道拍摄相片容易，但是想拍摄高质量的图片却很难，它需要良好的构图和照明。此外，选择正确的镜头和优质的设备也会提高图像的质量。但是，最重要的是，拍摄高质量的图片需要良好的品味和判断力，也就是我们需要专家级的眼光。
作为视觉生物，人类对视觉信号损耗(例如块状，模糊，嘈杂和传输损耗)敏感。因此，我将研究重点放在发现图像质量如何影响Web应用程序中的用户行为上。最近，一些研究测试了低质量图像在网站上的影响。康奈尔大学[4]证明了低质量的图像会对用户体验，网站转换率，人们在网站上停留多长时间以及信任/信誉产生负面影响。他们使用由LetGo.com提供的公开数据集训练的深度神经网络模型。目的是衡量图像质量对销售和感知到的信任度的影响，但是他们无法衡量图像质量对可信赖性的影响。
将hugging face的权重下载到本地，然后我们之后称下载到本地的路径为llama_7b_localpath
眼看着2020年上半年已经所剩无几了，大家也经历了一个不一样的学期，许多即将毕业的同学和准备换工作的朋友也在开始准备秋招了。
30 多年来，二维超声心动图图像的精确分割一直是一个持续存在的问题。其原因有三个：i) 超声心动图图像的本质（对比度差、亮度不均匀、沿心肌的散斑图案变化、群体内显着的组织回声变化等）使得难以准确定位心脏区域；ii) 缺乏公开的大规模二维超声心动图数据集；iii）缺乏对大型数据集的多专家注释来评估最小误差范围，在该误差范围内，分割方法将被认为与人类专家一样准确。
VMAF是目前比较好用的质量评价模型。但是在图像/视频压缩，视频增强等领域，可能需要一定的质量评价模块作为损失函数指导网络的训练。VMAF作为不可微的质量评价模型，无法直接作为损失函数，在这样的前提下，Darren等人提出使用神经网络去模拟VMAF的分数，使得该质量评价模块可以直接应用于其他网络的训练过程当中。
月石一 发自 凹非寺 量子位 报道 | 公众号 QbitAI 现在，给视频人物“喂”一段音频，他就能自己对口型了，就像这样： 原声其实是出自这里： 这是一种利用音频生成视频人物口型的新方法，出自慕尼黑工业大学Wojciech Zielonka的硕士论文。 用这种新方法对口型，只需2-3分钟就能够训练目标角色，生成的视频保留了目标角色的说话风格； 并且不受语音来源、人脸模型和表情的限制。 新方法与Neural Voice Puppetry、Wav2Lip、Wav2Lip GAN的生成效果，对比起来是这样的：
我们在 Meta AI Research 和 FAIR 的团队开发了一个称为 SAM 的分割基础模型，其中包括一个可提示的分割任务、一个分割模型和一个数据引擎。 我们的数据集拥有超过 10 亿个masks和 1100 万张图像。
光子的吸收可以让分子的电子从ground state to an excited state，这个过程叫做激发态excitation。激发态也可以由其他的机制产生，比方说机械的或化学作用。当一个电子被提升到激发态的时候，有几种可能的结果：被激发的电子relax到基态，可以发出光子或热量
大家好，有三本月出版了《深度学习之摄影图像处理：核心算法与案例精萃》，这是一本系统性讲述计算摄影核心算法的书籍，同时配套有大量实战案例。
1. 背景介绍 随着直播、短视频以及各种音视频类应用的兴起与迅猛发展，如今全民K歌与QQ音乐活跃用户数以亿计，终端每天都会产生海量的UGC视频（包括直播和短视频等）。面对内容多样化的大规模视频带来的挑战，如何更好的把控端到端视频画质体验对整个直播、视频的全链路优化尤为关键。同时，为保障直播视频质量、对视频画质进行评估度量和实时监控，建设一个高效、准确的视频画质评估系统十分必要。 本文主要分享腾讯音乐技术团队针对细分直播视频场景定制的无参考的清晰度评估算法 TDQA（TME Deeplearning bas
斯坦福的研究，从LLaMA 7B模型在52k的instruction-following demonstrations上微调得到的模型，AIpaca 7B. 主打就是一个低成本，小于600刀。据说和text-davinci-003具有相类似的性能，也就是我们所说的GPT-3.5。
超分辨率是从给定的低分辨率(LR)图像中恢复高分辨率(HR)图像的过程。由于较小的空间分辨率(即大小)或退化的结果(如模糊)，图像可能具有“较低的分辨率”。我们可以将HR图像和LR图像通过如下公式联系起来：LR = degradation(HR)`
机器之心专栏清华大学黄高团队、快手Y-tech团队 这是一篇来自清华大学黄高团队和快手 Y-tech 团队合作的论文，该工作探究了如何在基于参考图像的生成任务中实现对于单张生成图像质量的评价。文中设计的 RISA 模型无需人工标注的训练数据，其评价结果能够与人的主观感受具有高度一致性。本工作已入选 AAAI 2022 Oral。 引言 现有的生成图像评价工作主要基于生成图像的分布对模型「整体」的生成效果进行评价。然而，一个性能优异的生成模型并不代表其合成的「任何一张」图像都具有高质量的效果。在基于参考图像（
生成对抗网络（GAN）[19] 是由一对存在竞争关系的神经网络——生成器和判别器——组成的深度神经网络架构。通过交替优化两个目标函数训练该模型，这样可以让生成器 G 学会产生与真实图像类似的样本，还能让判别器 D 学会更好地甄别真假数据。这种范式潜力巨大，因为它可以学会生成任何数据分布。这种模型已经在一些计算机视觉问题上取得了一定成果，例如文本到图像的转换 [56] 和图像到图像的转换 [24,59]、超分辨率 [31] 以及逼真的自然图像生成 [25]。
随着大数据人工智能技术的蓬勃发展，今天的图像分析技术早已不再是单纯的图片审核，而是基于深度学习等人工智能技术，和海量训练数据，提供综合性的图像智能服务，应用场景包含相册、信息流、社交、广告等，每天分析、处理海量图片，可以大幅提升各类产品的体验、效率。
正在部署中，回头看看怎么finetune一下。之前NLP接触的不多，希望以LLaMA为切入点，进行扩展。比方说里面提到的finetune技术的发展，GPT-3到现在之间的多个模型的迭代，还有各种激活函数的使用。和CV完全是两个知识体系，但是都在一个世界之下。
图像质量是一个属性的组合，表明一个图像如何如实地捕获原始场景。影响图像质量的因素包括亮度、对比度、锐度、噪声、色彩一致性、分辨率、色调再现等。
众所周知，深度学习算法已经占领很多计算机视觉任务的制高点，在图像识别等任务上的精度已然超过了人类的平均水平。然而，绝大多数深度学习算法只有在高质量的图像上才能取得高性能。实际图像采集过程中，存在各种降质因素，导致图像质量和视觉效果下降，深度学习算法的性能也随之降低。
大模型正在实现语言和视觉的跨越，有望无缝地理解和生成文本和图像内容。在最近的一系列研究中，多模态特征集成不仅是一种不断发展的趋势，而且已经带来了从多模态对话到内容创建工具等关键进步。大型语言模型在文本理解和生成方面已经展现出无与伦比的能力。然而，同时生成具有连贯文本叙述的图像仍然是一个有待发展的领域。
有损压缩通过变换和量化技术证明了其在视频压缩中的效率的同时，也表明其会带来量化错误问题。为了补偿这一误差，许多研究者开发了滤波技术，比如去块滤波、样本自适应偏移以及基于维纳的滤波。更进一步的，最近的编码标准将滤波技术应用于环内也取得了图像质量实质上的提高。目前，大部分的滤波技术集中在环路内，作为预处理的滤波还没有被广泛用于有损视频压缩，尤其是最近的视频编码标准 HEVC 和 VVC 中。少部分研究者根据视频压缩标准，基于传统的信号处理技术来进行预处理以提高视频质量，这样做复杂度低但是效率有限。
随着音视频内容日趋成为主要的内容消费载体，用户们对视频清晰度、画质的要求也在不断提高，我们在这里把视频清晰度、画质都统称为视频质量，来聊一聊如何对其进行优化。
本系列的前面贴子中，我们梳理了Netflix和YouTube在ABR方面的一些进展，本文将简要介绍一下编码优化领域的一位新贵—Beamr的技术动态。 Beamr是内容自适应视频编码与优化解决方案的提供
文 / Han Zhang, Research Scientist and Jing Yu Koh, Software Engineer, Google Research
北京协和医院、华西医院、河北医科大学第二医院、天津医科大学眼科医院、温州医科大学附属眼科医院的联合研究团队通过开发人工智能系统模型，协助初级眼科医生的诊断一致性提高了约 12%，为 13 种主要眼底疾病的自动检测提供了一种新的方法。
乳腺癌是女性死亡的主要原因。组织病理学检查是识别乳腺癌的金标准。为此，首先将肿瘤材料制成HE染色切片（图1）。然后，病理学家通过在显微镜下观察 HE 切片或分析数字化全切片图像 (WSI) 进行诊断。对于确诊的乳腺癌，必须通过检查特定蛋白质的表达来制定精确的治疗计划，例如人类表皮生长因子受体2（HER2）。HER2表达的常规评估是通过免疫组织化学技术 (IHC) 进行的。IHC 染色切片如图 1 所示。直观上，HER2 表达水平越高，IHC图像的颜色越深（图 2）。
低照度图像增强只是对在低环境光环境下拍摄的图像进行增强，以提高图像视觉清晰度，如下图所示：
对单张图像循环进行多次超分辨，图像增强，去模糊等图像处理是否合理？以及如何评价图像质量？
研究目的：目的是设计一个更复杂但实用的退化模型（包括随机混合模糊、下采样和噪声退化）；
近些年来，深度生成模型取得了巨大的进展，诞生了很多有趣的应用，然而，并非所有生成的结果都很完美。
SDXL Turbo 通过新的蒸馏技术实现了最先进的性能，能够以前所未有的质量生成单步图像，将所需的步骤数从 50 减少到仅 1。
随着移动互联网的发展，视频成为信息消费越来越重要的形式（这从国内外的YouTube、抖音的发展可见一斑），而其中用户贡献内容（UGC）往往占很大比例。
PSNR（Peak Signal-to-Noise Ratio，峰值信噪比）是一种衡量图像质量的指标，常用于评估压缩算法的效果。它通过比较原始图像与压缩/恢复后的图像之间的差异，来量化图像质量的损失程度。
论文地址： https://arxiv.org/pdf/2003.08932.pdf
opencv 3.4.4 安装：pip install opencv-python
classification也要训练的，和auto-encoder一起训练，介样练：
与领先的超分辨率深度神经网络模型相比，Adobe的超分辨率有多有效?这篇文章试图评估这一点，Adobe的超级分辨率的结果非常令人印象深刻。 超分辨率技术 超分辨率是通过提高图像的视分辨率来提高图像质量
这篇论文探讨了一个当前在图像合成领域中的核心问题：如何在保持生成图像质量的同时，减少计算资源的消耗。目前的先进扩散模型，如Stable Diffusion和DALL·E 2，虽然能够生成接近真实的高质量图像，但它们对计算资源的需求非常高，这在一定程度上限制了它们的应用范围和可达性。例如，Stable Diffusion 1.4版本的训练就耗费了150,000 GPU小时。
Frechet Inception 距离得分（Frechet Inception Distance score，FID）是计算真实图像和生成图像的特征向量之间距离的一种度量。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
