mmap是linux中提高文件读写效率的一种手段，这里简单整理一下mmap的原理和使用。 高速页缓存 在介绍文件读写之前需要先了解下页缓存的机制，有助于理解文件读写的底层实现。...在linux文件读写中，内核会将文件内容缓存到物理内存中，以页为单位进行映射。...推荐使用第二种方案，代码可移植性更好。 length：映射内存的大小，实际映射内存是刚好大于等于length的page size的整数倍。...主要使用的标志位就是MAP_PRIVATE和MAP_SHARED。若使用MAP_PRIVATE，则表示每个调用mmap的进程独有一块缓存（写时复制），对该内存的更新不会写入文件。...若使用MAP_SHARED，则表示所有相关进程共享一份缓存（可用作共享内存），同时对缓存的更新会周期性的写入文件。 fd：打开的文件描述符，mmap函数返回后可以直接把文件关闭，不会影响内存映射。
Linux mmap原理 前言 Linux段页式内存管理 mmap mmap内存映射原理 文字概述 mmap函数参数介绍 源码解析 1. 文件映射 2....缺页异常 mmap 和常规文件操作的区别 mmap 使用的细节 小结 ---- 前言 mmap是linux操作系统提供给用户空间调用的内存映射函数，很多人仅仅只是知道可以通过mmap完成进程间的内存共享和减少用户态到内核态的数据拷贝次数...本文想要和大家一起来聊聊mmap的原理，本文整体脉络如下: linux段页式内存管理回顾 mmap原理 ---- Linux段页式内存管理 这里的段页式内存管理主要基于linux 0.11进行讲解...mmap的实现不是基于linux 0.11的虚拟内存管理方式，而是更复杂的方式，这里大家需要记住上面标红的那段话。...Linux内核使用vm_area_struct结构来表示一个独立的虚拟内存区域，由于每个不同质的虚拟内存区域功能和内部机制都不同，因此一个进程使用多个vm_area_struct结构来分别表示不同类型的虚拟内存区域
一 mmap系统调用 1.内存映射 所谓的内存映射就是把物理内存映射到进程的地址空间之内，这些应用程序就可以直接使用输入输出的地址空间，从而提高读写的效率。...Linux提供了mmap()函数，用来映射物理内存。...2.mmap系统调用 mmap将一个文件或者其它对象映射进内存。文件被映射到多个页上，如果文件的大小不是所有页的大小之和，最后一个页不被使用的空间将会清零。...二 系统调用mmap()用于共享内存的两种方式 （1）使用普通文件提供的内存映射：适用于任何进程之间；此时，需要打开或创建一个文件，然后再调用mmap()；典型调用代码如下： fd=open(name...struct file *,struct vm_area_struct *); linux有2个方法建立页表: (1) 使用remap_pfn_range一次建立所有页表.
flags：由以下几个常值指定：MAP_SHARED（共享的） MAP_PRIVATE（私有的）, MAP_FIXED（表示必须使用 start 参数作为开始地址，如果失败不进行修正），其中，MAP_SHARED..., MAP_PRIVATE必选其一，而 MAP_FIXED 则不推荐使用。...在 32位的 Linux 内核中，每个进程都独有 4GB 的虚拟内存空间，但所有进程却共用相同的物理内存空间。...但虚拟内存空间是逻辑上的内存空间，虚拟内存空间必须映射到物理内存空间才能使用。 虚拟内存空间与物理内存空间映射关系如下： ? 映射是按内存页进行的，一个内存页为 4KB 大小。...vm_area_struct 结构 在Linux内核中，虚拟内存是用过结构体 vm_area_struct 来管理的，通过 vm_area_struct 结构体可以把虚拟内存划分为多个用途不相同的内存区
文章目录 一、mmap 与 mmap2 系统调用 二、Linux 内核中的 mmap 系统调用源码 一、mmap 与 mmap2 系统调用 ---- mmap 创建 " 内存映射 " 的 系统调用 有...2 种实现 , mmap 和 mmap2 ; 2 者区别是 : mmap 偏移单位是 " 字节 " , mmap2 偏移单位是 " 页 " , 但是在 arm 64 体系架构中 , 没有实现 mmap2..., 只实现了 mmap 系统调用 ; 二、Linux 内核中的 mmap 系统调用源码 ---- arm64 架构体系中 , 使用 mmap 系统调用 创建 " 内存映射 " , 调用 mmap 系统调用函数...函数 , 继续向下执行 ; mmap 系统调用代码如下 : SYSCALL_DEFINE1(old_mmap, struct mmap_arg_struct __user *, arg) { struct...>> PAGE_SHIFT); } 参考路径 : linux-4.12\mm\mmap.c#1534
~/Downloads/research/linux-5.15.4/include/linux/mm_types.h struct page { unsigned long flags;
---- 1.为什么要使用大页内存 了解操作系统内存管理的人一般都知道操作系统对内存采用多级页表和分页进行管理，操作系统每个页默认大小为4KB。...如果进程使用的内存过大，比如1GB，这样会在页表中占用 1GB / 4KB = 262144个页表项，而系统TLB可以容纳的页表项远小于这个数量。...操作系统默认支持的大页是2MB，当使用1GB内存时，在页表中将占用 1GB / 2MB = 512个页表项，可以大大提升TLB命中率，进而提升应用性能。...---- 2.怎样使用大页内存 2.1 先预留一定量的大页内存 #先查看系统有多少已经预留的大页内存 # cat /proc/meminfo |grep -i huge #预留192个大页 # sysctl...memory.h> int main(int argc, char *argv[]) { char *m; size_t s = (8UL * 1024 * 1024); m = mmap
文章目录 一、do_mmap 函数执行流程 二、do_mmap 函数源码 调用 mmap 系统调用 , 先检查 " 偏移 " 是否是 " 内存页大小 " 的 " 整数倍 " , 如果偏移是内存页大小的整数倍..., 则调用 sys_mmap_pgoff 函数 , 继续向下执行 ; 在 sys_mmap_pgoff 系统调用函数 中 , 最后调用了 vm_mmap_pgoff 函数 , 继续向下执行 ; 在 vm_mmap_pgoff...函数 中 , 核心处理过程就是调用 do_mmap 函数 , 这是 " 内存映射 " 创建的主要函数逻辑 ; 一、do_mmap 函数执行流程 ---- do_mmap 函数 , 主要功能是 创建 "..." 内存映射 " 主要是 do_mmap 函数实现的 , 该函数定义在 Linux 内核源码的 linux-4.12\mm\mmap.c#1320 位置 ; do_mmap 函数源码如下 : /*...(flags & (MAP_POPULATE | MAP_NONBLOCK)) == MAP_POPULATE)) *populate = len; return addr; } 源码路径 : linux
mmap()会返回一个指针ptr，它指向进程逻辑地址空间中的一个地址，这样以后，进程无需再调用read或write对文件进行读写，而只需要通过ptr就能够操作文件。...()也是系统调用，如前所述，mmap()中没有进行数据拷贝，真正的数据拷贝是在缺页中断处理时进行的，由于mmap()将文件直接映射到用户空间，所以中断处理函数根据这个映射关系，直接将文件从硬盘拷贝到用户空间...图2.read系统调用原理 下面这个程序，通过read和mmap两种方法分别对硬盘上一个名为“mmap_test”的文件进行操作，文件中存有10000个整数，程序两次使用不同的方法将它们读出，加1，再写回硬盘...通过对比可以看出，read消耗的时间将近是mmap的两到三倍。...*/ gettimeofday( &tv1, NULL ); fd = open( "mmap_test", O_RDWR ); array = mmap( NULL, sizeof(int)*MAX,
作者：freeboy1015 来源：http://lib.csdn.net/article/linux/62126 一. mmap系统调用 1. mmap系统调用 mmap将一个文件或者其它对象映射进内存...当使用mmap映射文件到进程后,就可以直接操作这段虚拟地址进行文件的读写等操作,不必再调用read,write等系统调用.但需注意,直接对该段内存写时不会写入超过当前文件大小的内容....系统调用mmap()用于共享内存的两种方式 （1）使用普通文件提供的内存映射：适用于任何进程之间；此时，需要打开或创建一个文件，然后再调用mmap()；典型调用代码如下： fd=open(name,...ptr=mmap(NULL, len , PROT_READ|PROT_WRITE, MAP_SHARED , fd , 0); 通过mmap()实现共享内存的通信方式有许多特点和要注意的地方 （2）使用特殊文件提供匿名内存映射...结构的成员: int (*mmap)(struct file *,struct vm_area_struct *); linux有2个方法建立页表: (1) 使用remap_pfn_range一次建立所有页表
作者：freeboy1015 来源：http://lib.csdn.net/article/linux/62126 一. mmap系统调用 1. mmap系统调用 mmap将一个文件或者其它对象映射进内存...当使用mmap映射文件到进程后,就可以直接操作这段虚拟地址进行文件的读写等操作,不必再调用read,write等系统调用.但需注意,直接对该段内存写时不会写入超过当前文件大小的内容....系统调用mmap()用于共享内存的两种方式 （1）使用普通文件提供的内存映射：适用于任何进程之间；此时，需要打开或创建一个文件，然后再调用mmap()；典型调用代码如下： fd=open(name, flag...（2）使用特殊文件提供匿名内存映射：适用于具有亲缘关系的进程之间；由于父子进程特殊的亲缘关系，在父进程中先调用mmap()，然后调用fork()。...结构的成员: int (*mmap)(struct file *,struct vm_area_struct *); linux有2个方法建立页表: (1) 使用remap_pfn_range一次建立所有页表
文章目录 一、vm_mmap_pgoff 函数执行流程 二、vm_mmap_pgoff 函数源码 调用 mmap 系统调用 , 先检查 " 偏移 " 是否是 " 内存页大小 " 的 " 整数倍 " ,...如果偏移是内存页大小的整数倍 , 则调用 sys_mmap_pgoff 函数 , 继续向下执行 ; 在 sys_mmap_pgoff 系统调用函数 中 , 最后调用了 vm_mmap_pgoff 函数..., 继续向下执行 ; 一、vm_mmap_pgoff 函数执行流程 ---- 在 vm_mmap_pgoff 函数中 , 首先 , 以 " 写者 " 身份 , 向 Linux 内核申请 读写 " 信号量...函数源码 ---- vm_mmap_pgoff 函数定义在 Linux 内核源码中的 linux-4.12\mm\util.c#296 位置 ; vm_mmap_pgoff 函数源码如下 : unsigned...(mm, &uf); if (populate) mm_populate(ret, populate); } return ret; } 源码路径 : linux-4.12\mm\util.c
失败时，munmap返回-1，errno 返回标志和 mmap 一致。 该调用在进程地址空间中解除一个映射关系，addr是调用mmap()时返回的地址，len是映射区的大小。...总结来说，常规文件操作为了提高读写效率和保护磁盘，使用了页缓存机制。...而使用 mmap 操作文件，创建新的虚拟内存区域和建立文件磁盘地址和虚拟内存区域映射这两步，没有任何文件拷贝操作。...而之后访问数据时发现内存中并无数据而发起的缺页异常过程，可以通过已经建立好的映射关系，只使用一次数据拷贝，就从磁盘中将数据传入内存的用户空间中，供进程使用。...参考文献 认真分析mmap：是什么为什么怎么用- 胡潇
文章目录 一、mmap_region 函数执行流程 1、检查内存申请是否合法 2、创建 " 虚拟内存区域 " 二、mmap_region 函数源码 调用 mmap 系统调用 , 先检查 " 偏移 "...; 在 do_mmap 函数中 , 调用了 mmap_region 函数 , 创建 " 虚拟内存区域 " ; 一、mmap_region 函数执行流程 ---- 1、检查内存申请是否合法 在 mmap_region...may_expand_vm(mm, vm_flags, (len >> PAGE_SHIFT) - nr_pages)) return -ENOMEM; } 源码路径 : linux-..., prev, rb_link, rb_parent); 源码路径 : linux-4.12\mm\mmap.c#1710 vma_set_page_prot(vma); 源码路径 : linux-4.12...\mm\mmap.c#1743 二、mmap_region 函数源码 ---- mmap_region 函数源码 定义在 Linux 内核源码的 linux-4.12\mm\mmap.c#1602 位置
二级页表地址旺射的最小单位有4K、1K，Linux使用4K。...buffer）blog.csdn.net 使用mmap时，需要有cache、buffer的知识。...是否使用cache、是否使用buffer，就有4种组合(Linux内核文件arch\arm\include\asm\pgtable-2level.h)： 第1种是不使用cache也不使用buffer，...3.3, 驱动程序要做的事 驱动程序要做的事情有3点： ① 确定物理地址 ② 确定属性：是否使用cache、buffer ③ 建立映射关系 参考Linux源文件，示例代码如下： 还有一个更简单的函数：...① 使用哪一个函数分配内存？ 我们应该使用kmalloc或kzalloc，这样得到的内存物理地址是连续的，在mmap时后APP才可以使用同一个基地址去访问这块内存。
二级页表地址旺射的最小单位有4K、1K，Linux使用4K。 一级页表项里的内容，决定了它是指向一块物理内存，还是指问二级页表，如下图： ?...是否使用cache、是否使用buffer，就有4种组合(Linux内核文件arch\arm\include\asm\pgtable-2level.h)： ?...3.3, 驱动程序要做的事 驱动程序要做的事情有3点： ① 确定物理地址 ② 确定属性：是否使用cache、buffer ③ 建立映射关系 参考Linux源文件，示例代码如下： ?...4,驱动编程 我们在驱动程序中申请一个8K的buffer，让APP通过mmap能直接访问。 ① 使用哪一个函数分配内存？...我们应该使用kmalloc或kzalloc，这样得到的内存物理地址是连续的，在mmap时后APP才可以使用同一个基地址去访问这块内存。(如果物理地址不连续，就要执行多次mmap了)。
Linux下的进程间通信也可以使用mmap的内存共享映射来实现，mmap的作用就是把磁盘文件的一部分直接映射到进程的内存中，那么进程就可以直接对该内存文件进行操作，mmap也设置了两种机制...通过这样的内存共享映射就相当于是进程直接对磁盘中的文件进行读写操作一样，那么如果有两个进程来mmap同一个文件，就实现了进程间的通信。...磁盘中的文件通过mmap函数来实现映射，然后通过munmap函数取消映射。...由于这只是实现两个进程间的通信，那么对于test文件来说在没有进程运行的时候没有什么作用，所以它可以设置为一个临时文件，所以可以在代码中使用unlink函数，在进程结束以后删除test文件。...如果在运行中出现Bus error (core dumped)错误，需要考虑共享文件是否有存储空间(也就是说你要mmap一个4096的文件，但实际文件没有4096那么大)。
Linux 内核使用 vm_area_struct 结构来表示一个独立的虚拟内存区域，由于每个不同质的虚拟内存区域功能和内部机制都不同，因此一个进程使用多个 vm_area_struct 结构来分别表示不同类型的虚拟内存区域...MAP_STACK (since Linux 2.6.27) 将映射分配到适合进程或线程的栈空间。该标志目前是无操作的，但在 glibc 线程实现中有使用。...5.使用场景 Linux mmap 是一个灵活的系统调用，主要用于在进程的虚拟地址空间中创建映射，使得文件、设备、匿名映射等对象能够直接映射到进程的地址空间。...6.FAQ （1）mmap 映射到进程的虚拟地址是一样的吗？ 在 Linux 中，mmap 函数可以用于将一个文件或者其他对象映射到进程的地址空间。...参考文献 mmap(2) - Linux manual page mmap - opengroup.org 认真分析mmap：是什么为什么怎么用- 胡潇 Linux source code (v6.0
—-使用内存映射的原因 为了随机访问文件的内容，使用mmap将文件映射到内存中是一个高效和优雅的方法。...例如，无需打开一个文件并执行大量的seek(),read(),write()调用，只需要简单的映射文件并使用切片操作访问数据即可。 内存映射一个文件并不会导致这个文件被读取到内存中。...mmap 模块提供“内存映射的文件对象”，mmap 对象可以用在使用 plain string 的地方，mmap 对象和 plain string 的区别是： mmap 对象不提供字符串对象的方法； mmap...—-创建 mmap 对象 mmap(filedesc, length, tagname=”) #windows mmap(filedesc, length, flag=MAP_SHARED, prot=...； 参数 prot 对应的取值包括：mmap.PROT_READ, mmap.PROT_WRITE 和 mmap.PROT_WRITE | mmap.PROT_READ。
MAP_FIXED：使用参数addr创建映射，如果内核无法映射指定地址addr，那么mmap会返回失败，参数addr要求按页对齐。...参数fd可以看出mmap映射是否和文件相关联，因此Linux内核中映射可以分为匿名映射和文件映射。 匿名映射：没有映射对应的相关文件，这种映射的内存区域的内容会被初始化为0。...IO，进程间通信 私有匿名映射 当使用参数fd=-1且flags=MAP_ANONYMOUS | MAP_PRIVATE时，创建的mmap映射是私有匿名映射。...私有匿名映射最常见的用途是在glibc分配大块内存中，当需要的分配的内存大于MMAP_THREASHOLD(128KB)时，glibc会默认使用mmap代替brk来分配内存。...（2）另外一个是直接打开"/dev/zero"设备文件，然后使用这个文件句柄来创建mmap。 私有文件映射 私有文件映射时flags的标志位被设置为MAP_PRIVATE，那么就会创建私有文件映射。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
腾讯会议
实时音视频
