根据所用文库制备方法的不同,获得的RNA序列(也称reads或tags)有3'(或5')端起始的转录本(10X Genomics, CEL-seq2, Drop-seq, inDrops)和全长转录本(Smart-seq)之分。
本文将接上期【保姆教程:什么是单细胞?(一)】后,介绍scRNA-seq的表达矩阵是如何生成。后续实战分析内容,请关注下方公众号:
本篇主要分享卷积神经网络(CNN)的数学原理解析,会让你加深理解神经网络如何工作于CNNs。出于建议,这篇文章将包含相当复杂的数学方程,如果你不习惯线性代数喝微分也没事,目的不是记住这些公式,而是对下面发生的事情有一个直观的认识。
原标题 | Gentle Dive into Math Behind Convolutional Neural Networks
由于使用权重矩阵的方式,会对典型RNN可以学习的模式类型存在一些显着的限制。因此,对于称为长短期存储器网络(Long Short-Term Memory networks)的RNN的变型充满了兴趣。 正如我将在下面描述的,LSTMs比典型的RNN具有更多的控制,这使得LSTMs允许学习更复杂的模式。
选自Medium 作者:Taposh Dutta-Roy 机器之心编译 运用深度学习技术进行图像和视频分析,并将它们用于自动驾驶汽车、无人机等多种应用场景中已成为研究前沿。近期诸如《A Neural Algorithm of Artistic Style》等论文展示了如何将艺术家的风格转移并应用到另一张图像中,而生成新的图像。其他如《Generative Adversarial Networks》(GAN)以及「Wasserstein GAN」等论文为开发能学习生成类似于我们所提供的数据的模型做了铺垫。因此
导语:在经过一天之后,我们的活动人数已经达到40人了,感谢大家对小编的支持,同时在本文末附上前一天的众筹榜单。希望能跟小伙伴们度过愉快的6天! 上过 Jeremy Howard 的深度学习课程后,我意
机器学习很复杂。你可能会遇到一个令你无从下手的数据集,特别是当你处于机器学习的初期。 在这篇文章中,你将学到一些基本的关于建立机器学习模型的技巧,大多数人都从中获得经验。这些技巧由Marios Mic
根据所使用的文库制备方法,RNA 序列(也称为读数或标签)将来自转录本(10X Genomics、CEL-seq2、Drop-seq)的 3' 末端(或 5' 末端) , inDrops) 或来自全长转录本 (Smart-seq)。
Transformer自诞生以来,就在NLP领域刷新一个又一个纪录,称作当下最流行的深度学习框架亦不为过。
在本教程中,我们将学习如何使用Python语言执行图像处理。我们不会局限于单个库或框架;但是,我们将最常使用的是Open CV库。我们将先讨论一些图像处理,然后再继续介绍可以方便使用图像处理的不同应用程序/场景。
选自tkipf.github 作者:Thomas Kipf 机器之心编译 参与:李诗萌、刘晓坤 本文介绍了图卷积网络的基本结构,和最新的研究进展,并指出了当前模型的优缺点。通过对半监督学习应用 GCN 证明三层 GCN 模型不需要节点的任何特征描述就可以对只有一个标签实例的类进行线性分离。 GitHub 链接:https://github.com/tkipf/gcn 论文链接:https://arxiv.org/abs/1609.02907 概览 在当今世界中许多重要的数据集都以图或网络的形式出现:社交网
Transformer是一类神经网络架构,现在越来越受欢迎了。Transformer最近被OpenAI用于训练他们的语言模型,同时也被DeepMind的AlphaStar 采用,用于他们的程序击败那些顶级星际玩家。
CUDA 是“Compute Unified Device Architecture (计算统一设备架构)”的首字母缩写。CUDA 是一种用于并行计算的 NVIDIA 架构。使用图形处理器也可以提高 PC 的计算能力。
做Leetcode的过程也是一个寻找趣味题目的过程。Leetcode的第二页及第三页这100题断断续续做了有段时间了,趁周末时间把它close掉了。几个有意思的题目挑出来给大家思考一下。
2017年谷歌大脑在《注意力是你所需要的一切》一文中解释了Transformer 。本文是随着自然语言处理领域的发展而来的。许多最先进的NLP模型都是以Transformer 为基础建立的。
英文原文:https://ujjwalkarn.me/2016/08/11/intuitive-explanation-convnets/
非常简单实用的PyTorch模型的分布式指标度量库,配合PyTorch Lighting实用更加方便。
今天给大家介绍的是瑞典知名制药公司阿斯利康,查尔姆斯理工大学等合作开发的一个基于图神经网络的分子生成平台GraphINVENT,GraphINVENT使用分层的深度神经网络架构以一次产生一个单键地方式概率的生成新分子。在GraphINVENT中实现的所有模型都可以快速学习构建类似于训练集分子的分子,而无需对化学规则进行任何明确的编程。该模型已使用基于MOSES平台(分子生成的基准平台)的指标进行了基准测试,显示了GraphINVENT模型与最新的生成模型的比较结果。这项工作是最早的仅利用图神经网络进行分子设计研究工作之一,并且说明了基于GNN的模型如何在未来成为分子发现的有利工具。
选自Medium 作者:Artem Oppermann 机器之心编译 参与:白妤昕、李泽南 深度自编码器(Deep Autoencoder)由两个对称的深度信念网络组成,它相比常见的自编码器加入了更多隐藏层。在本文中,作者将尝试使用该工具进行协同过滤,帮助人们研究和预测大量用户对于不同电影的喜好。 推荐系统使用协同过滤的方法,通过收集用户的偏好信息来预测特定用户的兴趣。协同过滤技术的基本假设是,如果用户 A 对某个问题与人 B 有相同的口味或意见,那么 A 就更有可能在其他问题上拥有与 B 的相同的意见。
推荐系统使用协同过滤的方法,通过收集用户的偏好信息来预测特定用户的兴趣。协同过滤技术的基本假设是,如果用户 A 对某个问题与人 B 有相同的口味或意见,那么 A 就更有可能在其他问题上拥有与 B 的相同的意见。
来源:机器之心 本文长度为3476字,建议阅读7分钟 本文为你介绍图卷积网络的基本结构和最新的研究进展,并用一个简单的一阶 GCN 模型进行图嵌入。 本文介绍了图卷积网络的基本结构和最新的研究进展,并指出了当前模型的优缺点。通过对半监督学习应用 GCN 证明三层 GCN 模型不需要节点的任何特征描述就可以对只有一个标签实例的类进行线性分离。 GitHub 链接:https://github.com/tkipf/gcn 论文链接:https://arxiv.org/abs/1609.02907 概览 在当
翻译自博客:IMPLEMENTING A CNN FOR TEXT CLASSIFICATION IN TENSORFLOW 原博文:http://www.wildml.com/2015/12/implementing-a-cnn-for-text-classification-in-tensorflow/ github:https://github.com/dennybritz/cnn-text-classification-tf 在这篇文章中,我们将实现一个类似于Kim Yoon的卷积神经网络语句分类
翻译自Jay Alammar的一篇文章。 Translated from an article by Jay Alammar
不知道从什么时候开始,我们的生活突然之间就充满了二维码——看网页要扫二维码,加好友要扫二维码,现在连楼下卖草莓的大爷都支持扫码支付了。
NumPy是Python中用于数据分析、机器学习、科学计算的重要软件包。它极大地简化了向量和矩阵的操作及处理。python的不少数据处理软件包依赖于NumPy作为其基础架构的核心部分(例如scikit-learn、SciPy、pandas和tensorflow)。除了数据切片和数据切块的功能之外,掌握numpy也使得开发者在使用各数据处理库调试和处理复杂用例时更具优势。
在图论的上下文中,图是一种结构化数据类型,具有节点(nodes)(保存信息的实体)和边缘(edges)(连接节点的连接,也可以保存信息)。
GitHub Actions 使你可以直接在你的 GitHub 库中创建自定义的工作流,工作流指的就是自动化的流程,比如构建、测试、打包、发布、部署等等,也就是说你可以直接进行 CI(持续集成)和 CD (持续部署)。
最近开始对使用机器学习生成中型个人资料图片感兴趣。深入到了神经风格转换领域。尽管NST在概念上很容易理解,但要生成高质量图像却出奇地困难。为了获得良好的结果,必须正确实施许多复杂的细节和未提及的技巧。在本文中,将深入研究神经风格转换,并详细研究这些技巧。
1996年的8月19日至23日,芬兰的瓦萨举行了由芬兰人工智能协会和瓦萨大学组织的芬兰人工智能会议。
使用Python的Keras库可以很容易创建和评测深度学习神经网络,但是您必须遵循严格的模型生命周期。
您是否曾经遇到过这样一种情况:您试图分析一个复杂且高度相关的数据集,却对信息量感到不知所措?这就是独立成分分析 (ICA) 的用武之地。ICA 是数据分析领域的一项强大技术,可让您分离和识别多元数据集中的底层独立来源。
Python 是一种功能强大、灵活且易于学习的编程语言。它是许多专业人士、爱好者和科学家的首选编程语言。Python 的强大之处来自其庞大的软件包生态系统和友好的社区,以及其与编译扩展模块无缝通信的能力。这意味着 Python 非常适合解决各种问题,特别是数学问题。
LLM的问题就是权重参数太大,无法在我们本地消费级GPU上进行调试,所以我们将介绍3种在训练过程中减少内存消耗,节省大量时间的方法:梯度检查点,LoRA和量化。
关键词:Python,tensorflow,深度学习,卷积神经网络 正文如下: 前言 上月导师在组会上交我们用tensorflow写深度学习和卷积神经网络,并把其PPT的参考学习资料给了我们, 这是codelabs上的教程:《TensorFlow and deep learning,without a PhD》 https://codelabs.developers.google.com/codelabs/cloud-tensorflow-mnist/#0 当然需要安装python,教程推荐使用pytho
该文介绍了如何使用TensorFlow创建一个简单的分类器,通过在输入中添加噪声来训练模型,并利用计算图对数据进行操作。文章还介绍了如何将操作连接在一起以创建更复杂的计算图,并演示了如何使用TensorBoard可视化计算图。
本期是 Swift 编辑组自主整理周报的第五十三期,每个模块已初步成型。各位读者如果有好的提议,欢迎在文末留言。
在本文中,将介绍NumPy的主要用法,以及它如何呈现不同类型的数据(表格,图像,文本等),这些经Numpy处理后的数据将成为机器学习模型的输入。
来源:Python数据科学本文约7200字,建议阅读14分钟在本文中,我们将研究Transformer模型,理解它的工作原理。 1.导语 谷歌推出的BERT模型在11项NLP任务中夺得SOTA结果,引爆了整个NLP界。而BERT取得成功的一个关键因素是Transformer的强大作用。谷歌的Transformer模型最早是用于机器翻译任务,当时达到了SOTA效果。Transformer改进了RNN最被人诟病的训练慢的缺点,利用self-attention机制实现快速并行。并且Transformer可以增
谷歌推出的BERT模型在11项NLP任务中夺得SOTA结果,引爆了整个NLP界。而BERT取得成功的一个关键因素是Transformer的强大作用。谷歌的Transformer模型最早是用于机器翻译任务,当时达到了SOTA效果。Transformer改进了RNN最被人诟病的训练慢的缺点,利用self-attention机制实现快速并行。并且Transformer可以增加到非常深的深度,充分发掘DNN模型的特性,提升模型准确率。在本文中,我们将研究Transformer模型,理解它的工作原理。
早在三月份,就开放了实施“具有池化或跨越层的CNN的快速密集特征提取”,虽然未广为人知,但2017年BMVC发表的论文提供了一种高效优雅的解决方案,可以避免在使用时避免计算冗余基于补丁的卷积神经网络。因此在这篇文章中,将解释该模型的工作原理,并展示如何在实际应用程序中使用它。
编者按:前一段时间谷歌推出的BERT模型在11项NLP任务中夺得SOTA结果,引爆了整个NLP界。而BERT取得成功的一个关键因素是Transformer的强大作用。谷歌的Transformer模型最早是用于机器翻译任务,当时达到了SOTA效果。Transformer改进了RNN最被人诟病的训练慢的缺点,利用self-attention机制实现快速并行。并且Transformer可以增加到非常深的深度,充分发掘DNN模型的特性,提升模型准确率。在本文中,我们将研究Transformer模型,把它掰开揉碎,理解它的工作原理。
卷积神经网络(Convolutional Neural Networks, CNN)是一类包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks),是深度学习(deep learning)的代表算法之一。
对于一阶近似,所有现代的深度学习模型都是使用梯度下降训练的。在梯度下降的每一步,您的参数值开始于某个起点,并将它们移动到最大的损失减少的方向。通过对损失对整个参数向量求导,也就是雅可比矩阵。然而,这只是损失的一阶导数,它没有告诉你曲率的任何信息,或者说,一阶导数变化的有多快。由于您所处的区域中,您对一阶导数的局部近似可能不会从该估计值点(例如,就在一座大山前面的一条向下的曲线)推广到很远的地方,所以您通常希望谨慎,不要迈出太大的一步。因此,为了谨慎起见,我们用步长控制前进的速度,即α(alpha),如下式所示。
领取专属 10元无门槛券
手把手带您无忧上云