• 企业400电话
  • 微网小程序
  • AI电话机器人
  • 电商代运营
  • 全 部 栏 目

    企业400电话 网络优化推广 AI电话机器人 呼叫中心 网站建设 商标✡知产 微网小程序 电商运营 彩铃•短信 增值拓展业务
    php使用fputcsv实现大数据的导出操作详解

    本文实例讲述了php使用fputcsv实现大数据的导出操作。分享给大家供大家参考,具体如下:

    为了实验大数据的导出,我们这里先自已创建一张大表,表结构如下:

    CREATE TABLE `tb_users` (
     `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '用户ID',
     `name` varchar(32) DEFAULT '' COMMENT '用户名',
     `age` tinyint(3) DEFAULT '0' COMMENT '用户年龄',
     `desc` varchar(255) DEFAULT '' COMMENT '用户描述',
     `phone` varchar(11) DEFAULT '' COMMENT '用户手机',
     `qq` varchar(16) DEFAULT '' COMMENT '用户QQ',
     `email` varchar(64) DEFAULT '' COMMENT '用户邮箱',
     `addr` varchar(255) DEFAULT '' COMMENT '用户地址',
     PRIMARY KEY (`id`)
    ) ENGINE=InnoDB DEFAULT CHARSET=utf8;
    

     然后写个php脚本往这个表插入数据,代码如下:

    ?php
    set_time_limit(0);
    ini_set('memory_limit', '128M');
    
    //使用TP3.2的String类,php7下会报错,注意把类名换一下
    require './String.class.php';
    use Org\Util\NewString;
    
    $begin = microtime(true);
    
    $db = new mysqli('127.0.0.1', 'root', '', 'test');
    
    if($db->connect_error) {
      die('connect error');
    }
    //数据插入语句
    $insSql = '';
    
    //一百万数据,分200步,每步插入5000条
    $step = 200;
    $nums = 5000;
    
    for($s = 0; $s  $step; ++$s) {
      $insSql = 'INSERT INTO tb_users VALUES';
      for($n = 0; $n  $nums; ++$n) {
        $name = NewString::randString(3, 4);
        $age = mt_rand(1, 120);
        $desc = NewString::randString(64, 4);
        $phone = NewString::randString(11, 1);
        $qq = NewString::randString(13, 1);
        $email = $qq . '@qq.com';
        $addr = NewString::randString(128, 4);
        $insSql .= "(NULL, '{$name}', $age, '{$desc}', '{$phone}', '{$qq}', '{$email}', '{$addr}'),";
      }
      $insSql = rtrim($insSql, ',');
      $db->query($insSql);
    }
    $end = microtime(true);
    echo '用时:', $end - $begin;
    
    $db->close();
    

    里面用到的TP3.2的String类大家自行上TP官网下载。整个用时2个多小时,最后数据大小662M。

    现在我们用php提供的fputcsv来导出这一百万的数据,原理就是打开一个标准输出流,然后把数据按一万条来分割,每一万条就刷新缓冲区。

    ?php
    set_time_limit(0);
    ini_set('memory_limit', '128M');
    
    $fileName = date('YmdHis', time());
    header('Content-Type: application/vnd.ms-execl');
    header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
    
    $begin = microtime(true);
    
    //打开php标准输出流
    //以写入追加的方式打开
    $fp = fopen('php://output', 'a');
    
    $db = new mysqli('127.0.0.1', 'root', '', 'test');
    
    if($db->connect_error) {
      die('connect error');
    }
    
    //我们试着用fputcsv从数据库中导出1百万的数据
    //我们每次取1万条数据,分100步来执行
    //如果线上环境无法支持一次性读取1万条数据,可把$nums调小,$step相应增大。
    $step = 100;
    $nums = 10000;
    
    //设置标题
    $title = array('ID', '用户名', '用户年龄', '用户描述', '用户手机', '用户QQ', '用户邮箱', '用户地址');
    foreach($title as $key => $item) {
      $title[$key] = iconv('UTF-8', 'GBK', $item);
    }
    //将标题写到标准输出中
    fputcsv($fp, $title);
    
    for($s = 1; $s = $step; ++$s) {
      $start = ($s - 1) * $nums;
      $result = $db->query("SELECT * FROM tb_users ORDER BY id LIMIT {$start},{$nums}");
      
      if($result) {
        while($row = $result->fetch_assoc()) {
          foreach($row as $key => $item) {
            //这里必须转码,不然会乱码
            $row[$key] = iconv('UTF-8', 'GBK', $item);
          }
          fputcsv($fp, $row);
        }
        $result->free();
        
        //每1万条数据就刷新缓冲区
        ob_flush();
        flush();
      }
    }
    
    $end = microtime(true);
    echo '用时:', $end - $begin;
    

    整个过程用时5分钟,最终生成的csv文件大小420M。

    对于如何用phpexcel导出大数据,并没有什么比较好的方案,phpexcel提供的一些缓存方法,数据压缩,虽然内存使用小了,但所用时间则加长了,时间换空间,显然并不是最好的方案。比较靠谱的方法还是生成多个下载链接地址,把你要下载的数据,以get形式传递当前页数,后台进行数据分页然后导出。

    a href="/downSearchData.php?参数1=值1参数2=值2page=1" rel="external nofollow" >下载汇总结果1/a>
    a href="/downSearchData.php?参数1=值1参数2=值2page=2" rel="external nofollow" >下载汇总结果2/a>
    a href="/downSearchData.php?参数1=值1参数2=值2page=3" rel="external nofollow" >下载汇总结果3/a>
    

     比如你有一个查询数据表单,ID为searchFrm,然后你想把导出数据按1万条分割(phpexcel一次导出1万条是没有问题的,效率还行)

    form id="searchFrm">
      姓名input type="text" name="uname">
      input type="button" id="searchDataBtn" value="导出汇总结果">
    /form>
    div id="searchDataList">/div>
    
    script type="script">
      $("#searchDataBtn").on("click", function() {
        var params = $("#searchFrm").serialize();
        
        //获取查询数据的条数
        $.get("/getSearchDataRows?" + params, function(data) {
          var downDataList = "";
          if(data["rows"]) {
            //rows是数据总条数,pageSize是一页多少条
            var pageNum = Math.ceil(data["rows"] / data["pageSize"]);
            for(var i = 1; i = pageNum; ++i) {
              downDataList += "a href='/downSearchData.php?'" + params + "page=" + i + ">下载汇总结果" + i + "/a>nbsp;nbsp;";
            }
            $("#searchDataList").html(downDataList);
          } else {
            $("#searchDataList").text("没有数据");
          }
        }, "json");
        return false;
      });
    /script>
    

    更多关于PHP相关内容感兴趣的读者可查看本站专题:《php+mysql数据库操作入门教程》、《php+redis数据库程序设计技巧总结》、《php面向对象程序设计入门教程》及《php常见数据库操作技巧汇总》

    希望本文所述对大家PHP程序设计有所帮助。

    您可能感兴趣的文章:
    • 使用Python pandas读取CSV文件应该注意什么?
    • 使用python把json文件转换为csv文件
    • 使用pandas库对csv文件进行筛选保存
    • Python CSV文件模块的使用案例分析
    • 使用opencsv文件读写CSV文件
    • python csv一些基本操作总结
    上一篇:gearman中任务的优先级和返回状态实例分析
    下一篇:php5.3/5.4/5.5/5.6/7常见新增特性汇总整理
  • 相关文章
  • 

    © 2016-2020 巨人网络通讯 版权所有

    《增值电信业务经营许可证》 苏ICP备15040257号-8

    php使用fputcsv实现大数据的导出操作详解 php,使用,fputcsv,实现,大,