为什么我消耗了这么多CPU而没有GPU？ - 腾讯云开发者社区

文章/答案/技术大牛

发布

面试官问：为什么 Java 线程没有 Running 状态？我懵了

当然了，我们所谓阻塞只是指这段时间 CPU 暂时不会理它了，但另一个部件比如硬盘则在努力地为它服务。CPU 与硬盘间是并发的。...在这里，硬盘与 CPU 的互动机制也是类似，硬盘对 CPU 说：“别老来问我 IO 做完了没有，完了我自然会通知你的。”...而先前因 I/O 而 waiting 的线程随着 I/O 的完成也再次回到 ready 队列，这时 CPU 可能会选择它来执行。...你用嘴，用手，还是用什么鸟东西来满足它的需求，它并不关心~ 处于 IO 阻塞，只是说 CPU 不执行线程了，但网卡可能还在监听呀，虽然可能暂时没有收到数据：就好比前台或保安坐在他们的位置上，可能没有接待什么人...而操作系统的线程状态是围绕着 CPU 这一核心去述说的，这与 JVM 的侧重点是有所不同的。

7083 0

面试官问：为什么 Java 线程没有 Running 状态？我懵了

当然了，我们所谓阻塞只是指这段时间 cpu 暂时不会理它了，但另一个部件比如硬盘则在努力地为它服务。cpu 与硬盘间是并发的。...在这里，硬盘与 cpu 的互动机制也是类似，硬盘对 cpu 说：”别老来问我 IO 做完了没有，完了我自然会通知你的“ 当然了，cpu 还是要不断地检查中断，就好比演员们也要时刻注意接听电话，不过这总好过不断主动去询问...而先前因 I/O 而waiting 的线程随着 I/O 的完成也再次回到 ready 队列，这时 cpu 可能会选择它来执行。...你用嘴，用手，还是用什么鸟东西来满足它的需求，它并不关心~ 处于 IO 阻塞，只是说 cpu 不执行线程了，但网卡可能还在监听呀，虽然可能暂时没有收到数据：就好比前台或保安坐在他们的位置上，可能没有接待什么人...而操作系统的线程状态是围绕着 cpu 这一核心去述说的，这与 JVM 的侧重点是有所不同的。

1.9K3 0

您找到你想要的搜索结果了吗？

是的

没有找到

面试官问：为什么 Java 线程没有 Running 状态？我懵了

6444 0

为什么我放弃了运维必学必会的 Python，而选择了更加高大上的 Go？

没有什么比一门新的编程语言更令开发者兴奋了，不是么? 因此，我在 4、5 个月之前开始学习 Go。在这里我将告诉你，你为什么也要学习这门新语言。...例如，在 Java 中创建新的线程会消耗大量内存。因为每一个线程都会消耗大约 1 MB 大小的堆内存，如果你运行上千个线程，他们会对堆造成巨大的压力，最终会由于内存不足而宕机。...另一方面，Go 于 2009 年发布，那时多核处理器已经上市了。这也是为什么 Go 是在考虑并发的基础上构建的。Go 用 goroutine 来替代线程，它们从堆中消耗了大约 2 KB 的内存。...这太酷了！！！用 Go 编写的代码易于维护我告诉你一件事，Go 没有像其他语言一样疯狂于编程语法，它的语法非常整洁。...Go 有意的忽视了许多现代面向对象语言的一些特性。没有类。所有代码都仅用 package 分开，Go 只有结构体而不是类。不支持继承。这将使得代码易于修改。

1.7K1 0

运维告诉我CPU飙升300%,为什么我的程序上线就奔溃了 | Java Debug 笔记

线上服务CPU飙升前言==功能开发完成仅仅是项目周期中的第一步，一个完美的项目是在运行期体现的今天我们就来看看笔者之前遇到的一个问题CPU飙升的问题。...代码层面从功能上看没有任何问题但是投入使用后却让我头大问题描述====系统上点击数据录入功能在全局监控中会受到相关消息的通知。...这也是导致CPU过高的问题。我们1W个用户同事在线的可能有5000+ 。那么我们需要5000次以上的反射着肯定是吃不消的。这也是为什么本文开头说功能正常不代表业务正常。...既然找到问题我们就好解决了。下面我们对代码做了一下改动我将数据缓存起来。因为在同一批次推送时本来也应该保证数据一致性。而且我们系统对数据实时性也是可以接受一定时间延迟的。...我在这里又加上缓存这样就解决了我们循环的问题经过测试本次改动在CPU上大概优化了100倍。总结==功能开发完成仅仅代表功能的实验没有问题单用户和多用户完全是两种不同的用户形态。

5871 0

腾讯二面：为什么数据库连接很消耗资源？我竟然答不上来。。一下懵了！

凡是都有为什么，而且用数字说明问题是最直观的。 ❞ 本文主要想探究一下连接数据库的细节，尤其是在Web应用中要使用数据库来连接池，以免每次发送一次请求就重新建立一次连接。...❝ 在本文中，消耗资源的分析主要集中在网络上，当然，资源也包括内存、CPU等计算资源，使用的编程语言是Java，但是不排除编程语言也会有一定的影响。...在这个最简单的代码中，没有设置任何额外的连接属性，所以在设置属性上占用的时间可以认为是最少的（其实，虽然我们没有设置任何属性，但是驱动仍然设置了字符集、事务自动提交等，这取决于具体的驱动实现），所以整个连接所使用的时间可以认为是最少的...由于上面是程序异常终止了，但是在正常的应用程序中，连接的关闭一般都是通过Connection.close()完成的，代码如下： Class.forName("com.mysql.jdbc.Driver"...欢迎加入我的知识星球，全面提升技术能力。加入方式，“长按”或“扫描”下方二维码噢：星球的内容包括：项目实战、面试招聘、源码解析、学习路线。文章有帮助的话，在看，转发吧。

4011 1

腾讯二面：为什么数据库连接很消耗资源？我竟然答不上来。。一下懵了！

凡是都有为什么，而且用数字说明问题是最直观的。 ❞ 本文主要想探究一下连接数据库的细节，尤其是在Web应用中要使用数据库来连接池，以免每次发送一次请求就重新建立一次连接。...❝ 在本文中，消耗资源的分析主要集中在网络上，当然，资源也包括内存、CPU等计算资源，使用的编程语言是Java，但是不排除编程语言也会有一定的影响。...在本文的测试中，只用了5行代码来建立连接，但是并没有通过该连接去执行任何操作，所以在程序执行完毕之后，连接不是通过Connection.close()关闭的，而是由于程序执行完毕，导致进程终止，造成与数据库的连接异常关闭...在这个最简单的代码中，没有设置任何额外的连接属性，所以在设置属性上占用的时间可以认为是最少的（其实，虽然我们没有设置任何属性，但是驱动仍然设置了字符集、事务自动提交等，这取决于具体的驱动实现），所以整个连接所使用的时间可以认为是最少的...由于上面是程序异常终止了，但是在正常的应用程序中，连接的关闭一般都是通过Connection.close()完成的，代码如下： Class.forName("com.mysql.jdbc.Driver"

1460 0

这么多活，没100个人干不完啊

出门来不及的时候，要是有十双手一起收拾就好了这么多人，为什么没有100条队今天这工作量，需要1000个我一起才做得完其实，你的电脑每一秒都在面对这样的难题。...如果是渲染一段3D动画，计算量就更大了。能同时完成这么多计算却依然不卡，靠的就是GPU（图形处理器）。相对于CPU，它拥有大量的算术逻辑单元，能同时处理许多简单、规则的计算任务。...太懂这种感觉了。从游戏、视频渲染到推荐算法，鹅也是GPU消耗大户。为了把算力的价格打下来、利用率提上去，鹅想了很多办法。首先，把算力资源放在云上。这让GPU变成了能弹性伸缩的资源池。...它完整地控制并拦截了用户态和内核态间的通信。这就好比把同一栋大楼内外的门卫都换成自己人，在确保隔离的前提下，实现了对GPU资源的精准切分。 qGPU 这也是业界唯一的GPU在离线混部能力。...分优先级运行另外，利用腾讯云自研的跨平台加速引擎TACO，你不用再管复杂的底层硬件差异了，只需要聚焦算法本身。

1.3K2 0

业界 | 剖析用于深度学习的硬件：GPU、FPGA、ASIC和DSP

一个英特尔服务器 CPU 可能会消耗 100-150 瓦功率并需要一个有着冷却装置的超大系统来支持其性能的正常发挥。还有哪些其它的选择？...但是它们同时也会消耗大约 250 瓦的功率并且需要一个完整的计算机来支持运行，这又消耗了额外的 150 瓦的功率。一个高性能的 GPU 系统至少需要消耗 400 瓦的功率。...DSP DSP 已经存在了很长一段时间，它最初是用来执行矩阵算法的。但到目前为止，DSP 并没能真正提供任何有用的性能或是可以与 GPU 相匹敌的器件。为什么会这样呢？其主要原因就是核数量。...其工作负载并不需要这么多。相反，GPU 负载在近 10~15 年间一直在增加，因此它需要更多的核。最终，大约从 2006 年开始，英伟达的 GPU 在性能上就超过了 DSP。...Texas Instruments 公司还在开发 DSP，但是我们从中并没有看到任何有竞争力的性能。且许多 DSP 也已经被 FPGA 取代了。

1.5K10 1

亚马逊AWS自研芯片深度分析

但网上已经有很多专业的文章了，我就不再班门弄斧一一介绍了。...为什么需要这么多张卡？...快速地为业务提供更强大的功能和服务价值，给客户提供更加快速而积极的功能支持，是云计算的核心竞争力。虽然消耗Nitro卡的资源多一些，但这些可以留待后续持续优化。...如图5所示，Winnie Shao博士是CPU领域的专家，她总结的这个表格已经非常完善了，我就不再班门弄斧了。...4.2 为什么要为特定场景定制芯片 AWS发布了Inferentia定制芯片，它不像Graviton这样的通用CPU处理器什么都能干，而是专注于机器学习推理。

1.3K2 0

关于视图在切圆角时候的导致的性能下降的一些探讨

这里先说下离屏渲染： ###### iOS 的渲染机制： CPU 计算好显示内容提交到 GPU，GPU 渲染完成后将渲染结果放入帧缓冲区，随后视频控制器会逐行读取帧缓冲区的数据，经过可能的数模转换传递给显示器显示...opacity（不透明）复杂形状设置圆角等渐变我用一个现有的小 DEMO 来测试下，因为这个 demo 中没有切圆角，但是有阴影，一样可以出发离屏渲染，所以效果是一样的，在 tableView 中的自定义...cell 类中我设置了阴影如图：使用 Instruments 测试得到当前帧数在二三十左右同时屏幕是也出现了黄色图层所有黄色的高亮的图层都进行了离屏渲染，也表示这些图层存在着问题，影响性能...最后给大家测试下，因为我之前的 demo 没有切圆角，而是使用的阴影，所以我就用第一种方法给大家测一下。...由此可见以后大家再切圆角的时候多注意下，刚才就研究了这么多，有什么问题及时与我交流吧。。。 UI 性能优化

7995 0

为什么操作DOM会影响WEB应用的性能？

见下图的gif图，一个页面中div元素的位置不受视口调整而修改，也会引发重排）【消耗GPU的计算能力】试验：resize视口，一个页面中div元素的位置不受视口调整而修改，也会引发重排 ?...（我怀疑文字加粗也会触发重排，但是我没有证据。理论上来说如果在一个固定尺寸的div内加粗文字，应该不会影响后边元素的重排，但可能该div内部的其他相邻文字或元素会发生重排。）试验gif图： ?...那又是为什么要尽量避免重排和重绘呢？换句话说，重排和重绘的副作用是什么？缺点是什么？这就要引入CPU和GPU了。...重排会占用CPU，dom元素位置计算会消耗CPU的算力，所以应该尽量减少CPU的占用，使电脑不卡顿。重绘会占用GPU，渲染页面时会消耗GPU的算力。...ES和 DOM是两种东西，每次连接都需要消耗性能操作DOM会导致重排和重绘，重排会占用、消耗CPU; 重绘会占用、消耗GPU 11、控制台观察一个页面的重排和重绘现象因为重排必然会引发重绘，所以在浏览器的开发者工具中提供了一个检测重绘的按钮

2.4K2 0

从「根」上找出模型瓶颈！康奈尔AI联合创始人发文，从第一原理出发剖析深度学习

其中计算（Compute）指的是GPU在计算浮点操作时所消耗的时间，也就是FLOPS；内存（Memory）指的是把tensors写到GPU里消耗的时间。...如果模型把大部分的时间都花在了内存传输上，那么增加GPU的FLOPS是没有用的。又或者如果你把所有的时间都花在执行大块的数学运算上，那么把你的模型逻辑改写成C++来减少开销也没有用。...至于为什么非矩阵乘法的理论性能和现实相差这么多，研究人员给出的答案是：内存带宽（memory bandwidth）。...对于重复次数小于32次时，内存带宽已经饱和，而计算能力却没有得到充分利用。相反，一旦重复大于64次，会发现计算量已经饱和（即达到接近峰值FLOPS），而内存带宽利用率开始下降。...粉色线条显示了CPU内核与GPU内核的匹配情况。当GPU在等待CPU的开销时，就有很多空隙。 CPU比GPU运行得更快时空隙就少很多。

7052 0

【深度学习框架大PK】褚晓文教授：五大深度学习框架三类神经网络全面测评（23PPT）

多GPU卡环境下，CNTK平台在FCN和AlexNet上的可扩展性更好，而MXNet和Torch在CNN上相当出色。比起多核CPU，GPU平台效率更高。所有的工具都能通过使用GPU达到显著的加速。...今天在短短的二十分钟，我想花一半时间跟大家回顾过去十年里我们CPU和GPU的发展，接下来给大家介绍现在主流的深度学习软件工具，也就是浸会大学在深度学习软件工具的测试工作，及为什么做这个工作。...大家有没有发现这两条曲线非常吻合，有没有想过为什么？...我想带给大家的信息是：硬件和软件同样重要，仅仅有硬件是不够的，没有好的软件硬件的效能是发挥不出来的，这也是为什么今天有这么多深度学习软件它们的性能有如此大的差异。...在测试硬件方面，我们早期做了一些CPU的测试，把它们的性能跟GPU做比较，后来发现差距实在太大，所以近期我们已经放弃了在CPU上做测试，已经没有太大的实际意义GPU我们测试了多款市面上比较流行的GPU，

1.5K8 0

willchange 优化性能的原理是什么

他首先是将你设置 willchange 属性的元素单独列了一层，那么这层独立出来之后，你后面的操作就相当于和别的元素没有任何关联，他单独处理这一块，而且是单独使用 GPU 加速处理，这里GPU 加速可以理解为一个比...CPU渲染能力更强更快的处理方式,但是因为 GPU 能做的事情比较有限，一般都是和显示相关的，所以他的性能更强，因为做的事情比较单一。...，这样经常改动的层改变的时候就只会影响他自己那个层，不会影响不动的那个层，这样就大大的减少了重排元素的数量，同时每一个单独的层都会使用独立的 GPU 加速处理，看到这里也许你们就可以明白为什么 willchange...，一个是滚动条，一个是工具栏，一个就是 content，为什么他没有将模块挨个分一下呢？...因为每新加一个 GPU都是对浏览器性能的消耗，所以他提高性能的同时也是对性能的一种消耗，所以最好的是找到这中间的一种平衡，而不是无脑的倾向某一个方向！

4162 0

主板上来了一个新邻居，CPU慌了！

大家好，我是CPU一号车间的那个阿Q，好久不见，我想死你们了～不认识我的请去这里这里补补课：完了！CPU一味求快出事儿了！...而且他们的计算资源电路也简单很多，像我们用于分支预测和乱序执行的逻辑控制电路这里都没有” ? “Q哥高手啊，这里这么多电路你都能认得出来？”...“俺在CPU厂里混了那么多年，这都认不出来那不白干了吗？” “不对啊，按照你说的，他们这里的电路应该很少才对，可是你看怎么这么多”，小六的话引起了我的注意。 ?...我们，哦不，是他们CPU只是批量操作数据，GPU这里是批量执行计算，真是妙啊！” “Q哥，听起来不错啊，为什么咱们CPU不能这样搞呢？”，小六悄悄问我。...咱们GPU虽然以计算见长，但还是会遇到分支判断的场景，咱们这又没有CPU那样的分支预测和乱序执行的能力，你们不知道内存那家伙可慢了，有时候难免会遇到停顿等待的情况，浪费计算资源。

4822 1

干货|TensorFlow数据量少的时候却占GPU显存比较多

这样就可以找到为什么GPU显存会一下子升高了。一开始训练一步一步的输出，程序都对，GPU显存也比较低，那为什么中间过程会升高呢？...说明一定是到了这一步之后GPU自己存了什么数据，不可能只是模型，因为没有这么大。升高这么多很大可能是存了我们的数据。怎么验证我们这个猜想呢？...我在训练完一轮之后打印了一下，然后看这个打印输出的时候是不是GPU显存升高的时候。事实证明，确实是这样。...结论当数据量比较小，而GPU的显存足够存储这些数据的时候，在训练过程中会把这些数据存在GPU显存，这样每一轮训练的时候就不用从cpu读数据了，训练速度会快些。...而当数据量比较大，而GPU的显存不够时，每次GPU显存中只会存储模型和批数据。注： 1.

4.4K2 0

什么是DrawCall？「建议收藏」

大家好，又见面了，我是你们的朋友全栈君。前言游戏开发圈里的人一定听过优化游戏要降低DrawCall,这样到底什么是DrawCall呢？...快点醒醒我这里又有画画的任务了(Cpu调用Gpu的次数),打一个比方比如上传很多文件到百度云或其他地方时,都会把它压缩到一个文件夹里,不会把它们分开上传(当然还有原因就是它们数据是相关,比如是主题的一套...Gpu早就把命令缓存区里命令都处理完毕了,Cpu确还在准备DrawCall的命令,Cpu通过图像编程接口向命令缓存区添加命令,而Gpu通过缓存区获取命令处理。...2.为什么会拖后腿？...Unity中可以通过静态批处理实现优化DrawCall,静态批处理的原理就是合并网格,而合并过程是需要消耗时间,因此批处理技术更加适合那些静态的物体,比如不会动的地面、树和石头,对于这些静态物体我们合并一次即可

2.1K3 0

惊呆，ChatGPT每天耗电量相当于5万个家庭

我觉得这样的耗电算是稀松平常，训练AI模型需要算力，用户访问也需要算力，而算力要用到GPU显卡，就像挖矿一样，非常的耗电。以Chat GPT这样的参数和访问规模，其耗电量只会越来越大。...ChatGPT这样规模的AI应用至少也得大几千张A100，加上其他辅助系统(CPU、内存、降温等)的功耗，一天50万度电也只能算洒洒水。...AI不光耗电还耗水，AI训练需要大量的水去冷却计算机，据说GPT 3训练过程中大约消耗了 70 万升，如果一个用户与 ChatGPT 进行 25～50 个问题的对话，大概就相当于请 ChatGPT 喝了...回过头来，计算一项技术耗费多少电，本身是没有意义的，还要考虑它的产出，是否值得消耗这么多电。...从能源的角度看，我的猜测是未来AI会主要依靠太阳能、风能等可再生能源，因为随着算力的不断扩大，仅仅靠煤炭、石油等传统能源是无法持续的，所以说AI革命也是能源革命啊。

7201 0

CPU和GPU双低效，摩尔定律之后一万倍 ——写于TPU版AlphaGo重出江湖之际

但这次，亲爱的，这次真的到头了那是我读计算机体系结构专业博士的最后一年，当时我对此嗤之以鼻：摩尔定律怎么可能还有那么多油水可以榨。...工艺极限近在眼前，不用智子出手，摩尔定律就会死翘翘了；传统结构更是没戏，CPU的架构已经被研究到头了，从2000年后，几乎没有捣鼓出啥新东西。所以，这个“一万倍”，真的是好科幻好科幻啊。...为什么CPU是低效的在解释凭什么能做到“摩尔定律之后一万倍”之前，我们先聊聊为什么CPU和GPU无法担此重任。如果你问我，CPU最大的特点是什么？...为什么FPGA只是过渡方案 CPU和GPU的架构都有非常沉重的历史包袱，体现在：它们都有很强的通用性，不能仅仅只针对某个领域做优化它们都有很强的兼容性，过去编写的程序必须能够运行它们都有稳定而庞大的程序员队伍...当年Apple决定自己做芯片时，并没有直接组建队伍，而是收购了P.A. Semi；这么多年后，成果赫赫，但依然不敢在Mac电脑中使用自研的CPU来淘汰Intel的芯片。

1.2K7 0

点击加载更多

面试官问：为什么 Java 线程没有 Running 状态？我懵了

面试官问：为什么 Java 线程没有 Running 状态？我懵了

面试官问：为什么 Java 线程没有 Running 状态？我懵了

为什么我放弃了运维必学必会的 Python，而选择了更加高大上的 Go？

运维告诉我CPU飙升300%,为什么我的程序上线就奔溃了 | Java Debug 笔记

腾讯二面：为什么数据库连接很消耗资源？我竟然答不上来。。一下懵了！

腾讯二面：为什么数据库连接很消耗资源？我竟然答不上来。。一下懵了！

这么多活，没100个人干不完啊

业界 | 剖析用于深度学习的硬件：GPU、FPGA、ASIC和DSP

亚马逊AWS自研芯片深度分析

关于视图在切圆角时候的导致的性能下降的一些探讨

为什么操作DOM会影响WEB应用的性能？

从「根」上找出模型瓶颈！康奈尔AI联合创始人发文，从第一原理出发剖析深度学习

【深度学习框架大PK】褚晓文教授：五大深度学习框架三类神经网络全面测评（23PPT）

willchange 优化性能的原理是什么

主板上来了一个新邻居，CPU慌了！

干货|TensorFlow数据量少的时候却占GPU显存比较多

什么是DrawCall？「建议收藏」

惊呆，ChatGPT每天耗电量相当于5万个家庭

CPU和GPU双低效，摩尔定律之后一万倍 ——写于TPU版AlphaGo重出江湖之际

相关资讯

热门标签

活动推荐

运营活动

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐