首页 / PHP / PHP对大文件的处理思路

PHP对大文件的处理思路

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了PHP对大文件的处理思路，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含2416字，纯文字阅读大概需要4分钟。

内容图文

需求： 现有一个1G左右的日志文件，大约有500多万行， 用php返回最后几行的内容。

在php中，对于文件的读取时，最快捷的方式莫过于使用一些诸如file、file_get_contents之类的函数，简简单单的几行代码就能 很漂亮的完成我们所需要的功能。但当所操作的文件是一个比较大的文件时，这些函数可能就显的力不从心, 下面将从一个需求入手来说明对于读取大文件时，常用的操作方法。

1. 直接采用file函数来操作

由于 file函数是一次性将所有内容读入内存，而php为了防止一些写的比较糟糕的程序占用太多的内存而导致系统内存不足，使服务器出现宕机，所以默认情况下 限制只能最大使用内存16M,这是通过php.ini里的memory_limit = 16M来进行设置，这个值如果设置-1，则内存使用量不受限制。

下面是一段用file来取出这具文件最后一行的代码。代码执行大概2分钟左右。

$fp = fopen($file, "r");
$num = 10;
$chunk = 4096;
$fs = sprintf("%u", filesize($file));
$max = (intval($fs) == PHP_INT_MAX) ? PHP_INT_MAX : filesize($file);
for ($len = 0; $len < $max; $len += $chunk) {
  $seekSize = ($max - $len > $chunk) ? $chunk : $max - $len;
    fseek($fp, ($len + $seekSize) * -1, SEEK_END);
    $readData = fread($fp, $seekSize) . $readData;

    if (substr_count($readData, "\n") >= $num + 1) {
        preg_match("!(.*?\n){".($num)."}$!", $readData, $match);
        $data = $match[0];
        break;
    }
}
fclose($fp);
echo $data;

 

我机器是2个G的内存，当按下F5运行时，系统直接变灰，差不多20分钟后才恢复过来，可见将这么大的文件全部直接读入内存，后果是多少严重，所以不在万不得以，memory_limit这东西不能调得太高，否则只有打电话给机房，让reset机器了。

2.直接调用linux的tail命令来显示最后几行

在linux命令行下,可以直接使用tail -n 10 access.log很轻易的显示日志文件最后几行,可以直接用php来调用tail命令,执行php代码如下.整个代码执行完成耗时 0.0034 (s)

file = ‘access.log‘;
$file = escapeshellarg($file); // 对命令行参数进行安全转义
$line = `tail -n 1 $file`;
echo $line;

 

3. 直接使用php的fseek来进行文件操作

这种方式是最为普遍的方式,它不需要将文件的内容全部读入内存,而是直接通过指针来操作,所以效率是相当高效的.在使用fseek来对文件进行操作时,也有多种不同的方法,效率可能也是略有差别的,下面是常用的两种方法.

方法一：

首先通过fseek找到文件的最后一位EOF，然后找最后一行的起始位置，取这一行的数据，再找次一行的起始位置，再取这一行的位置，依次类推，直到找到了$num行。

             1
            function tail($fp,$n,$base=5)
 2{
 3assert($n>0);
 4$pos = $n+1;
 5$lines = array();
 6while(count($lines)< =$n){
 7try{
 8fseek($fp,-$pos,SEEK_END);
 9         } catch (Exception$e){
10fseek(0);
11break;
12        }
13$pos *= $base;
14while(!feof($fp)){
15array_unshift($lines,fgets($fp));
16        }
17    }
18returnarray_slice($lines,0,$n);
19}
20var_dump(tail(fopen("access.log","r+"),10));

方法二:

还是采用fseek的方式从文件最后开始读,但这时不是一位一位的读,而是一块一块的读,每读一块数据时,就将读取后的数据放在一个buf里,然后通过换行符(\n)的个数来判断是否已经读完最后$num行数据.

             1
            $fp = fopen($file, "r");
 2$line = 10;
 3$pos = -2;
 4$t = " ";
 5$data = "";
 6while ($line > 0) {
 7while ($t != "\n") {
 8fseek($fp, $pos, SEEK_END);
 9$t = fgetc($fp);
10$pos --;
11    }
12$t = " ";
13$data .= fgets($fp);
14$line --;
15}
16fclose ($fp);
17echo$data

 

方法三:

            ini_set(‘memory_limit‘,‘-1‘);
$file = ‘access.log‘;
$data = file($file);
$line = $data[count($data)-1];
echo$line;

 

原文：http://www.cnblogs.com/Alight/p/3947591.html

内容总结

以上是互联网集市为您收集整理的PHP对大文件的处理思路全部内容，希望文章能够帮你解决PHP对大文件的处理思路所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

扫描二维码推送至手机访问。

本文链接：https://qyyshop.com/info/1245251.html

来源：【匿名】