找回密码
 立即注册
收起左侧

KS13-03 使用QtConcurrent处理并发-Map

0
回复
65
查看
[复制链接]
累计签到:41 天
连续签到:1 天
来源: 原创 2019-7-11 21:10:26 显示全部楼层 |阅读模式

马上注册,查看详细内容!注册请先查看:注册须知

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
本帖最后由 baizy77 于 2019-7-16 20:43 编辑

版权声明
----------------------------------------------------------------------------------------------------------------------------
该文章原创于Qter开源社区(www.qter.org
作者: 女儿叫老白
转载请注明出处!
----------------------------------------------------------------------------------------------------------------------------

网页版课程源码 提取码:1uy7

引言
------------------------------------------------------------------------------------
在并发操作中,有些处理是可以同步进行的,比如批量转换文件、批量导出数据库表、计算图形的缩略图等。这些操作相互之间没有关联,因此可以并行执行(同步与并行都是指可以同时执行)。本节为读者介绍使用QtConcurrent的Map处理并发操作。

正文
------------------------------------------------------------------------------------
QtConcurrent是Qt提供的用来处理多线程并发操作的模块,它可以自动根据可用的CPU核心数分配调整所用的线程数目,而且无需开发者关注内部细节。也就是说用QtConcurrent开发的程序兼容多核计算机。
QtConcurrent提供了一个静态的接口用于处理可以并发执行且相互之间没有任何关联的操作,Qt提供的定义如下:
代码清单13-03-01
qtconcurrentmap.h
  1. template <typename OutputSequence, typename InputSequence, typename MapFunctor>
  2. OutputSequence blockingMapped(const InputSequence &sequence, MapFunctor map)
  3. {
  4.     return blockingMappedReduced<OutputSequence>
  5.         (sequence,
  6.          QtPrivate::createFunctionWrapper(map),
  7.          QtPrivate::PushBackWrapper(),
  8.          QtConcurrent::OrderedReduce);
  9. }
复制代码
代码清单13-03-01摘自qtconcurrentmap.h。该清单所示的接口展示了模板接口blockingMapped()的定义。该接口提供了两个参数:参数1为输入序列,比如一个文件名列表或者一个待处理的图片数组等;参数2是映射函数,该函数接受sequence中一个成员作为参数;blockingMapped()接口返回值为输出序列OutputSequence。QtConcurrent会自动遍历sequence,把每一个成员作为参数传入MapFunctor接口map,然后把返回值组织为一个输出序列。
在本节课的示例中,我们将实现如下功能:
遍历指定目录中的所有文件,挨个计算MD5码,最后把得到的所有MD5码组成一个列表。
我们介绍一下怎样使用QtConcurrent实现该功能。

首先,我们看一下单线程计算批量文件md5码

代码清单13-03-02

main.cpp
  1. #include <QApplication>
  2. #include <QTranslator>        // 国际化
  3. #include "qglobal.h"
  4. #include <QLibraryInfo> // 国际化
  5. #include <QDir>
  6. #include <QFile>
  7. #include <qtconcurrentmap.h>
  8. #include <iostream>

  9. #include "baseapi.h"

  10. using std::cout;
  11. using std::endl;
  12. int main(int argc, char * argv[])
  13. {
  14.         // ......
  15.     QStringList strFilters;
  16.     strFilters << "*";
  17.     // 得到待计算MD5码的文件列表.
  18.     QString strScanPath = ns_train::getPath("$TRAINDEVHOME");
  19.     qDebug() << strScanPath;
  20. QStringList files =
  21.                 ns_train::getFileList(strScanPath, strFilters, true);
  22.     QStringList::iterator ite;
  23.    
  24.     int singleThreadTime = 0; // 单线程计算md5码所需的时间。
  25.     QTime time;
  26.     time.start();
  27.     QList<QByteArray> md5_a;
  28.     { // 串行操作
  29.         QString strFileName;
  30.         for ( ite = files.begin(); ite != files.end(); ite++) {
  31.             md5_a.push_back(ns_train::getMd5(*ite));
  32.         }
  33.         singleThreadTime = time.elapsed(); // ms
  34.         qDebug() << "single thread" << singleThreadTime;
  35.     }   
  36. // ......
  37. }
复制代码
在代码清单13-03-02中,
第7行,包含“qtconcurrentmap.h”,因为本示例用到的接口在该文件中定义;
第17~23行,遍历得到"$TRAINDEVHOME"目录下的所有文件(含所有子目录)并将文件列表保存到files变量;
第27~28行,为了对比使用单线程计算md5码与QtConcurrent计算md5码的速度,定义了time变量并启动计时;
第31~34行变量files文件列表,并挨个文件计算md5码,将得到的md5码保存到列表md5_a;
第35~36行,统计计算用时并输出;

为了对两种方法的计算结果进行对比,确保两种方法计算的到的md5码一致,我们将得到的md5码列表保存到文件,先保存单线程方案的结果:
代码清单13-03-03
main.cpp
  1. int main(int argc, char * argv[])
  2.   {
  3.       //  ......
  4.        // 将结果a写入文件
  5.        {
  6.           QString strFileName;
  7.           strFileName =  ns_train::getPath("$TRAINDEVHOME/test/chapter13/ks13_03/md5_a.txt");
  8.           QString strDir =  ns_train::getDirectory(strFileName);
  9.           QDir dir;
  10.           dir.mkpath(strDir);
  11.    
  12.           QFile file(strFileName);
  13.           // 打开方式:只读、文本方式
  14.           if (!file.open(QFile::Truncate |
  15.                          QFile::WriteOnly |
  16.                          QFile::Text)) {
  17.               qDebug("open failed! file  name is:%s",
  18.                      strFileName.toLocal8Bit().data());            
  19.           }
  20.           else {
  21.               QList<QByteArray>::iterator  iteMd5 = md5_a.begin();
  22.               for (; iteMd5 != md5_a.end();  iteMd5++) {
  23.                   file.write(*iteMd5);
  24.               }
  25.           }
  26.           file.close();
  27.   }
  28.   // ......
  29.   }
  30.   
复制代码

    代码清单13-03-03实现的功能是将md5_a中的md5码保存到文件:
    "$TRAINDEVHOME/test/chapter13/ks13_03/md5_a.txt"

然后,我们看一下使用QtCocurrent的实现方案
       代码清单13-03-04
main.cpp
  1. #include <QApplication>
  2.   #include <QTranslator>  // 国际化
  3.   #include "qglobal.h"
  4.   #include <QLibraryInfo> // 国际化
  5.    
  6.   #include <QDir>
  7.   #include <QFile>
  8.   #include <qtconcurrentmap.h>
  9.   #include <iostream>
  10.   #include <functional>
  11.   #include "baseapi.h"
  12.   using std::cout;
  13.   using std::endl;
  14.    
  15.   int main(int argc, char * argv[])
  16.   {
  17.       //  ......
  18.        // 利用std::function声明的函数
  19.        std::function<QByteArray(const QString&)> getMd5OfFile = [](const QString &strFileName)  -> QByteArray
  20.        {
  21.           qDebug() << "get md5 in  thread" << QThread::currentThread();
  22.           return ns_train::getMd5(strFileName);
  23.        };
  24.    
  25.        // Use QtConcurrentBlocking::mapped to apply the getMd5OfFile function  to all the
  26.        // files in the list.
  27.        QList<QByteArray> md5_b;
  28.        int mapTime = 0; // 使用QtConcurrent的map计算md5码所需的时间。
  29.        {
  30.           QTime time;
  31.           time.start();
  32.           md5_b =  QtConcurrent::blockingMapped(files, getMd5OfFile);
  33.           mapTime = time.elapsed(); // ms
  34.           qDebug() << "Map:"  << mapTime;
  35.    
  36.        }
  37.        qDebug() << "Map speedup x" <<  ((double)singleThreadTime - (double)mapTime) / (double)mapTime + 1;
  38.   // ......
  39.   }
复制代码


      
代码清单13-03-04中:
       第19~24行,我们利用std::function包装了一个lambda表达式(C++11特性)。其实是定义了一个函数:函数名为:getMd5OfFile,函数提供 一个const QString&类型的参数,返回值为QByteArray类型。等号后面是Lambda表达式的语法。Lambda函数可以引用在它之外声明的变量. 这些变量的集合叫做一个闭包. 闭包被定义在 Lambda表达式声明中的方括号 [] 内。[]后面是参数列表(关于Lambda表达式我们不做过多讲解,大家先简单把它理解为一个函数吧)。该函数的实现中,第22行打印了当前线程id,第23行是函数的核心代码:通过调用ns_train::getMd5()计算指定文件的md5码。但是这里的Lambda表达式仅仅定义了函数,具体的函数调用在后面。
       第29~38行是真正的函数调用。第32、33行启动计时器以便计算该方案的耗时,第35行计算耗时;第36行输出耗时;第34行是真正的函数调用,通过QtConcurrent::blockingMapped()调用实现对前面Lambda表达式的执行。我们单独看一下这一行:
代码清单13-03-05
main.cpp
  1. md5_b =  QtConcurrent::blockingMapped(files, getMd5OfFile);
复制代码

    在代码清单13-03-05中,第一个参数传入了文件名列表,第二个参数是需要被调用的函数名,返回值存放在md5_b中,该变量在29行定义。

  

代码清单13-03-06
main.cpp
  1. // 将结果b写入文件
  2.   int main(int argc, char * argv[])
  3.   {
  4.       //  ......
  5.         qDebug() <<  "Map speedup x" << ((double)singleThreadTime -  (double)mapTime) / (double)mapTime + 1;
  6.        // 将结果b写入文件
  7.        {
  8.           QString strFileName;
  9.           strFileName =  ns_train::getPath("$TRAINDEVHOME/test/chapter13/ks13_03/md5_b.txt");
  10.           QString strDir =  ns_train::getDirectory(strFileName);
  11.           QDir dir;
  12.           dir.mkpath(strDir);
  13.    
  14.           QFile file(strFileName);
  15.           // 打开方式:只读、文本方式
  16.           if (!file.open(QFile::Truncate |  QFile::WriteOnly | QFile::Text)) {
  17.               qDebug("open failed! file  name is:%s",
  18.                     strFileName.toLocal8Bit().data());
  19.           }
  20.           else {
  21.               QList<QByteArray>::iterator  iteMd5 = md5_b.begin();
  22.                for (; iteMd5 !=  md5_b.end(); iteMd5++) {
  23.                   file.write(*iteMd5);
  24.               }
  25.           }
  26.           file.close();
  27.   }
  28.   }
复制代码

    在代码清单13-03-06中,跟方案1一样,将方案2结果b保存到文件中。在第5~6行将两个方案的用时进行比较并计算出比例值并输出,以便比较这两个方案哪个用时更少。读者可以自行运行一下本示例附件源码,看看效果,如果不明显可以试试多准备些文件。

结语
------------------------------------------------------------------------------------
       本文介绍了使用QtConcurrent处理并发操作的一种应用,关键在于代码清单13-03-07这一行:
代码清单13-03-07
main.cpp
  1. md5_b = QtConcurrent::blockingMapped(files,  getMd5OfFile);
复制代码

读者可以尝试把本示例的用法应用到类似的不同场景中。




回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册