使用Intel高性能数学核心计算库

课程目标

• l了解英特尔高性能数学核心计算库（MKL）有哪些特点和优势
• l掌握如何在腾讯云使用镜象工具轻松搭建集成了英特尔优化的高性能数学核心计算库开发环境
• l掌握英特尔数学核心计算库的使用方法
• l掌握使用MKL矩阵运算替换原始代码以实例的方式快速提高计算性能

目录

第一章 英特尔数学核心计算库（MKL）简介

第二章 如何搭建MKL开发环境

第三章 如何使用MKL提高用户计算性能

第四章 实验结果及分析

第一章 英特尔数学核心计算库（MKL）简介

数学核心库（MKL）简介

• Intel MKL, 全称Intel Math Kernel Library
• 提供经过高度优化的数学程序库
• 满足需要极致性能的科学、工程及金融等领域的应用而设计
• 为当前及下一代英特尔处理器提供性能优化
• 支持主流的操作系统（Windows, Linux, Mac OS等）
• 与主流的开发工具（Microsoft Visual Studio, Eclipse等）相集成，调试简便
• 最小的付出获取极速的性能提升

提供的数学运算

通过提供高度优化，线程化和向量化的数学函数，加快科学，工程，金融和机器学习应用程序的计算速度

提供用于密集和稀疏线性代数（BLAS，LAPACK，PARDISO），FFT，矢量数学，摘要统计，样条曲线等的关键功能

自动为每个处理器分配优化的代码，而无需分支代码

针对单核向量化和缓存利用率进行了优化

多核和多核自动并行化

从单核运算扩展到集群函数

Automatic-Dispatching

自动调度特定于ISA的代码路径以获得最佳的调优性能

性能数据

数学核心库（MKL）分类

• 线性运算
• 傅里叶变化
• 向量化随机数
• 统计相关函数
• 向量化基本函数
• 其它

英特尔®MKL BLAS（基本线性代数包）

英特尔®MKL快速傅立叶变换（FFT）

• 自动并行化避免数据冲突
• 批量处理

英特尔®MKL矢量运算

Intel® MKL 稀疏分解器

数学核心库（MKL）丰富资源

第二章 如何搭建MKL开发环境

步骤

1. 在云上使用MKL
2. 找到镜像
3. 完成服务器配置
4. 确认配置信息开通

使用腾讯云服务器

在镜像市场中找到 Intel Parallel Studio境像

选择镜像后完成服务器配置

第三章 如何使用MKL提高用户计算性能

典型矩阵运算C=alpha*A*B+beta*C

本示例衡量了计算实矩阵乘积的性能

使用三重嵌套循环的C = alpha * A * B + beta * C，其中A，B和C是矩阵，而alpha和beta是双精度标量。

在这个简单的示例中，省略了良好的编程风格和较高的Intel®MKL性能所必需的诸如内存管理，数据对齐和I / O之类的操作，以提高可读性。

C 原始代码

当alpha=1, beta=0时：

for (i = 0; i < m; i++) {
        for (j = 0; j < n; j++) {
            sum = 0.0;
            for (k = 0; k < p; k++)
                sum += A[p*i+k] * B[n*k+j];
            C[n*i+j] = sum;
        }
    }

三个for循环进行的操作，使用MKL函数dgemm进行直接替换

#include "mkl.h"

/* Computing real matrix C=alpha*A*B+beta*C, where A, B, and C 
     are matrices and alpha and beta are double precision scalars */

// Step 1: Allocate memory for Matrix aligned on 64-byte boundary
double *C = (double *)mkl_malloc( m*n*sizeof( double ), 64 );

// Step 2: Perform C=alpha*A*B+beta*C by calling cblas_dgemm
cblas_dgemm(CblasRowMajor, CblasNoTrans, CblasNoTrans, 
                m, n, p, alpha, A, p, B, n, beta, C, n);

// Step 3: Free allocated memory
mkl_free(C);

第四章 实验、结果及分析

实验目标

为矩阵A，B，C分配内存

初始化输入矩阵A（2000 x 200）和B(200 x 1000)

计算矩阵C=矩阵A乘矩阵B

输出矩阵运算耗时

实验所需要的软件包

Intel编译器或GCC

Intel数学核心库（MKL）

如果采用MKL镜像生成实例则上述软件包已经装配好了

实验原代码目录及文件

/home/ubuntu/mkl example/demo matrix multiply.c 和 matrix_multiply＿mkl.c

编译及运行

1. source

source /opt/intel/compilers and libraries 2019.4.243/linux/bin/compilervars.sh intel64

2.cd到路径/home/ubuntu/mkl example/demo并编译

make libintel64 compiler=gnu function=matrix_multiply

make libintel64 compiler=gnu function=matrix_multiply_mkl

3.运行

results/gnu_lp64_parallel _intel64_lib/matrix multiply.out

results/gnu_lp64 parallel intel64_lib/matrix multiply_mkl.out

结果及分析

原始计算性能

290.81466 milliseconds

MKL优化后计算性能

28.82696 milliseconds