4GB大了,如果是7.X, 16B每条指令, 则有8GB那么大,
我从来没有见过如此巨大的kernel.但是考虑到总是有人喜欢问:"我的kernel能写的多大" "我的kernel写了这么长没事吗"这样的问题...关于第三部分, N卡所遵循的浮点标准(IEEE-754)
这里主要说明了几点:
没有全局可以配置的动态的圆整(取整)模式,很多处理器上(例如X87?)..., 具有用户可调的浮点取整模式,
但是N卡作为GPU,没有这种全局的模式, 而是每条指令都可以自行设定.回到具体的CUDA C用户, 用户可以注意到有些intrinsic functions具有_rz(...)之类的结尾, 就是起到这种作用的(欢迎参考我们之前的章节中说的4大圆整模式)
此外, 本章节说的NaN的问题,
部分处理器带有多种NaN处理模式,
很多人以前在我们的群里, 三天两头的发, 我计算出错了...本段落还说了, 可以全局的用某些参数来控制精度信息(你可以选择更高性能的, 但精度较低的; 和较慢的, 但精度较高的代码生成,这点在之前说过, 请参考我们之前的相关章节.