首页 / PHP / PHP采集类

PHP采集类

内容导读

互联网集市收集整理的这篇技术教程文章主要介绍了PHP采集类，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含9885字，纯文字阅读大概需要15分钟。

内容图文

PHP代码 URL ); return $pageContent; } /** * 根据标记得到列表段 * @param $content 页面源数据 * @return String 列表段内容 */ function getContentPiece ( $content ) { $content = $this->getContent( $content, $this->startFlag, $this->endFlag ); if(!$content) $content=$this->cut ($content, $this->startFlag, $this->endFlag ); return $content; } /** * 得到一个字符串中的某一部分 * @param $sourceStr 源数据 * @param $startStr 分离部分的开始标记 * @param $endStart 分离部分的结束标记 * @return boolean 操作成功返回true */ function getContent ( $sourceStr, $startStr, $endStart ) { $s = preg_quote( decode( $startStr ) ); $e = preg_quote( decode( $endStart ) ); $s = str_replace( " ", "[[:space:]]", $s ); $e = str_replace( " ", "[[:space:]]", $e ); $s = str_replace( "\r\n", "[[:cntrl:]]", $s ); $e = str_replace( "\r\n", "[[:cntrl:]]", $e ); preg_match_all( "@" . $s . "(.*?)". $e ."@is", $sourceStr, $tpl ); $content = $tpl[1]; $content = implode( "", $content ); return $content; } function cut ( $sourceStr, $startStr, $endStr ) { return cut( $sourceStr ,decode( $startStr ) ,decode( $endStr) ); } /** * 得到只含有连接和内容的列表数组 * @param $sList 页面列表源数据 * @return array 列表段内容 */ function getSourceList ( $sList ) { preg_match_all( "//i", $sList, $list ); $list = $list[0]; //foreach($list as $l) echo $l; if(!$list || !is_array($list)){ return $this->getSourceListExtend($sList); }else{ return $this->getList ( $list ); } } function getSourceListExtend($sList) { $content=explode("",$sList); for($i=0;$i(.*?)<\/a>/i", $list[$i], $templ ); //content preg_match_all( "/href=(\"|'|)(.*?)(\"|'|)/i", $list[$i], $tempc ); //获取的数据正确 if( !emptyempty( $templ[1][0] ) && !emptyempty( $tempc[2][0] ) ) { if( 0 == strpos( $tempc[2][0], "/" ) ) { preg_match( "@http://(.*?)/@i", $this->URL, $url ); $tempc[2][0] = substr( $url[0], 0, strlen( $url[0] ) - 1 ) . $tempc[2][0]; } $listContent[$i][0] = $templ[1][0]; $listContent[$i][1] = $tempc[2][0]; } } if(!$listContent || !is_array($listContent)){ return $this->GetListExtend ( $list ); }else{ return $listContent; } } function GetListExtend ( $list ) { $list=str_replace("\"","",$list); $list=str_replace("'","",$list); $list=str_replace("=","",$list); for ( $i = 0; $i cut($list[$i],"href"," "); echo $temp_link."
"; //title if(eregi(">",$list[$i])){ $temp_title=substr(strrchr($list[$i], ">"), 1 ); $temp_title=preg_replace( "@\<(.*?)\>@is","",$temp_title); $temp_title=str_replace( ">","",$temp_title); $temp_title=str_replace( "<","",$temp_title); if(!$temp_title) $temp_title=$list[$i] ; $temp_title=preg_replace( "@\<(.*?)\>@is","",$temp_title); $temp_title=str_replace( ">","",$temp_title); $temp_title=str_replace( "<","",$temp_title); echo $temp_title."
"; }else{ $temp_title=$list[$i]; $temp_title=preg_replace( "@\<(.*?)\>@is","",$temp_title); $temp_title=str_replace( ">","",$temp_title); $temp_title=str_replace( "<","",$temp_title); echo $temp_title."
"; } //获取的数据正确 if( !emptyempty( $temp_link ) && !emptyempty( $temp_title) ) { if( 0 == strpos( $tempc[2][0], "/" ) ) { preg_match( "@http://(.*?)/@i", $this->URL, $url ); $temp_link = substr( $url[0], 0, strlen( $url[0] ) - 1 ) . $temp_link; } $listContent[$i][0] = trim($temp_title); $listContent[$i][1] = $temp_link; } } return $listContent; } /** * 得到正文中的图片路径信息 * @param $content 正文信息 * @return array 信息中图片路径的数组 */ function getImageList ( $content ) { preg_match_all( "/src=(\"|')(.*?)(\"|')/i", $content, $temp ); $imageList = $temp[2]; return array_unique($imageList); } /** * 下载图片时将页面中的路径替换成新的路径 * @param $content 需要替换路径的页面内容 * @return String 替换后的页面内容 */ function replaceImageParh ( $content ) { for ( $i = 0; $i < count( $this->ImageList ); $i++ ) { if($this->FileName[$i]){ $content = str_replace( $this->ImageList[$i], $this->imageURL.$this->FileName[$i], $content ); }else{ //$s=" /src=(\\\"|')".preg_quote($this->ImageList[$i])."(\\\"|')/i"; $content = str_replace($this->ImageList[$i], $GLOBALS[SET][webpath]."images/nopic.gif", $content ); } } return $content; } /** * 下载图片时读取图片文件后存储在相应路径 * @param $imageURL 需要读取的图片文件 * @return boolean 操作成功返回true */ function saveImage ( $imageURL ) { for ( $i = 0; $i < count( $imageURL ); $i++ ) { $fName = $this->saveFile( $imageURL[$i] ); if( !emptyempty( $fName ) ) { $filename[$i] = $fName; } } return $filename; } function saveFile( $fileName ) { $s_filename = basename( $fileName ); $ext_name = strtolower( strrchr( $s_filename, "." ) ); if( ( ".jpg" && ".gif" && ".swf" ) != strtolower( $ext_name ) ) { return ""; } if( 0 == strpos( $fileName, "/" ) ) { preg_match( "@http://(.*?)/@i", $this->URL, $url ); $url = $url[0]; } if( 0 == strpos( $fileName, "." ) ) { $url = substr( $this->URL, 0, strrpos( $fileName, "/" ) ); } $contents = @file_get_contents( $url . $fileName ); $s_filename = time(). rand( 1000, 9999 ) . $ext_name; //file_put_contents( $this->saveImagePath.$s_filename, $contents ); $handle = @fopen ( $this->saveImagePath.$s_filename, "w" ); @fwrite( $handle, $contents ); @fclose($handle); if(filesize($this->saveImagePath.$s_filename)>3072){ return $s_filename; }else{ @unlink($this->saveImagePath.$s_filename); return ""; } } /** * 不下载图片则格式化其路径为绝对路径 * 不能格式化变态路径 Eg: ./../ or /./../ 一类的不过不影响结果 * @param $imageURL 需要读取的图片文件 * @return $filename 返回格式化的图片路径 */ function ToPath($imageURL) { $PathArray=parse_url($this->URL); $webpath=$PathArray[scheme]."://".$PathArray[host] ; $filepath=$PathArray[path] ; for ( $i = 0; $i < count( $imageURL ); $i++ ) { if( substr( $imageURL[$i] ,0,1 )== '/' ){ $filename[$i] =$webpath.$imageURL[$i]; }elseif( substr( $imageURL[$i] ,0,2 )== './' ){ $filename[$i] =$webpath.$filepath.substr( $imageURL[$i] ,1, strlen( $imageURL[$i]) ); }elseif( substr( $imageURL[$i] ,0,3 )== '../' ){ $index=strrchr($filepath,"/"); $filename[$i] =$webpath.substr($filepath,0,$index).substr($imageURL[$i] ,2, strlen( $imageURL[$i])); }elseif(substr( $imageURL[$i] ,0,4)== 'http'){ $filename[$i] =$imageURL[$i] ; }else{ } } return $filename; } /** * 不下载图片时将页面中的路径替换成新的路径 * @param $content 需要替换路径的页面内容 * @return String 替换后的页面内容 */ function ImgPathReplace( $content ) { for ( $i = 0; $i < count( $this->ImageList ); $i++ ) { $content = str_replace( $this->ImageList[$i], $this->FileName[$i], $content ); } return $content; } function setURL ( $u ) { $this->URL = $u; return true; } function setStartFlag ( $s ) { $this->startFlag = $s; return true; } function setEndFlag ( $e ) { $this->endFlag = $e; return true; } function setSaveImagePath ( $p ) { $this->saveImagePath = $p; return true; } function setImageURL ( $i ) { $this->imageURL = $i; return true; } } ?>

内容总结

以上是互联网集市为您收集整理的PHP采集类全部内容，希望文章能够帮你解决PHP采集类所遇到的程序开发问题。如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。

内容备注

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容，请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。

内容手机端

扫描二维码推送至手机访问。

本文链接：https://qyyshop.com/info/192933.html

来源：【匿名】

【上一篇】phpvar_dump()函数【下一篇】PHP 5 数据对象 (PDO) 抽象层与 Oracle

更多 ►

【PHP采集类】教程文章相关的互联网学习教程文章

PHP采集利器 Snoopy 试用心得

Snoopy是什么? （下载snoopy） Snoopy是一个php类，用来模仿web浏览器的功能，它能完成获取网页内容和发送表单的任务。 Snoopy的一些特点: * 方便抓取网页的内容 * 方便抓取网页的文本内容 (去除HTML标签) * 方便抓取网页的链接 * 支持代理主机 * 支持基本的用户名/密码验证 * 支持设置 user_agent, referer(来路), cookies 和 header content(头文件) * 支持浏览器转向，并能控制转向深度 * 能把网页中的链接扩展成高质量的url(默...

PHP下载/采集远程图片到本地【代码】

/*** 下载远程图片到本地** @param string $url 远程文件地址* @param string $filename 保存后的文件名（为空时则为随机生成的文件名，否则为原文件名）* @param array $fileType 允许的文件类型* @param string $dirName 文件保存的路径（路径其余部分根据时间系统自动生成）* @param int $type 远程获取文件的方式* @return json 返回文件名、文件的保存路径* @author blog.snsgou.com*/ function download_image($url, $fileNa...

火车头discuz6.1 完美采集的php接口文件

PS：对原文件的修改较大,程序中注释已经很详尽，这里就不多说了。复制代码代码如下:<?php // header(‘Content-Type:text/html;charset=UTF-8‘); //if(function_exists("mb_convert_encoding")){ // $tmp = checkAndTranslate("使用前请将该文件直接上传至论坛根目录", 0); // header(‘Content-Type:text/html;charset=UTF-8‘); // print($tmp); //}else{ // print("NO"); //} // exit("this.line=".__line__); /* 文件名：lo...

PHP多线程批量采集下载美女图片的实现代码

使用curl的多线程，另外curl可以设置请求时间，遇到很慢的url资源，可以果断的放弃，这样没有阻塞，另外有多线程请求，效率应该比较高下面是代码实现/** * curl 多线程 * @author http://www.lai18.com* @param array $array 并行网址 * @param int $timeout 超时时间* @return mix */public function Curl_http($array,$timeout='15'){$res = array();$mh = curl_multi_init();//创建多个curl语柄foreach($array as $k=>$url){$co...

php 采集书并合成txt格式的实现代码

<?php /** * @name 采集书.php * @date Sun Mar 01 22:48:02 CST 2009 * @copyright 马永占(MyZ) * @author 马永占(MyZ) * @link http://blog.csdn.net/mayongzhan/ */ //header(‘Content-Type:text/html;charset=utf8‘); header(‘Content-Type:text/html;charset=gb2312‘); error_reporting(E_ALL); date_default_timezone_set(‘Asia/Shanghai‘); set_time_limit(0); function writer($content,$url) { $fp = fopen($url, ‘...

PHP 采集程序原理分析篇

苦想了几天，终于弄明白了里面的道理。在这里写出来，请高手指正。采集程序的思路很简单，无非就是先打一个页面，一般都是列表页，取得里面全部链接的地址，然后打开逐条链接，寻找我们感兴趣的东西，如果找到，就把它入库或别的处理。下面以一个很简单的例子来说说。首先确定一个采集页，一般就是列表面了。这里目标是:http://www.jb51.net/article/11/index.htm。这是一个列表页，我们的目的就是采集这个列表页上全部的文章。 ...

PHPCMS V9 采集实例【图】

采集目标：列表： http://www.cnys.com/zixun/list_2_2.html 原文：http://www.cnblogs.com/guo2001china/p/5299238.html

PHP采集程序大全

在论坛好久了没有怎么正式的发表过东西，今天给大家共享一下我的采集代码！思路：　　采集程序的思路很简单大体可以分为以下几个步骤： 1.获取远程文件源代码（file_get_contents或用fopen）.2.分析代码得到自己想要的内容（这里用正规匹配，一般是得到分页）。　　3.跟根得到的内容进行下载入库等操作。在这里第二步有可能要重复的操作好几次，比如说要先分析一下分页地址，在分析一下内页的内容才能取得我们想要的东西。代码：...

php采集DEMO一个

?123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169...

php 模拟登陆（不带验证码）采集数据【代码】【图】

这里模拟表单登陆窗口提交代码部分1，生成session_id保存到 cookie$login_url = ‘http://www.96net.com.cn/Login.php‘;$cookie_file = dirname(__FILE__)."/pic.cookie";$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $login_url);curl_setopt($ch, CURLOPT_HEADER, 0);curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);curl_exec($ch);curl_close($ch);2,处理提交的登陆的数...

php 带cookie采集某页面【代码】

<?php error_reporting(0); define("temp_dir", dirname(__FILE__)."/Public/"); define("U", "11111");//$_GET[‘e‘];define("P", "mima");$dlfk=login(U, P); echo$dlfk; //登陆$bbb=friendshow(); $bbb = preg_replace(‘/<script[^>]*?>(.*?)<\/script>/is‘,"",$bbb); $bbb = preg_replace(‘/<input[^>]*?>/is‘,"",$bbb); $bbb = preg_replace(‘/<a style[^>]*?>(.*?)<\/a>/is‘,"",$bbb); $bbb = preg_replace(‘/<a[^>...

php curl采集，服务器gzip压缩返回数据怎么办

一般服务器不会胡乱返回gzip压缩的数据，一般是客户端请求的头部里包含你浏览器能接受的压缩方式，Accept-Encoding:gzip,deflate,sdch这里是gzip 、deflate、sdch这三种方式，这里不一一说明是指什么，不懂的可以去找谷哥度娘，有些服务器强制返回gzip压缩的数据，我们采集的时候，返回的是乱码，根本无法读取使用，这个时候马上查看手册发现其实curl里有个参数，curl_setopt($ch, CURLOPT_ENCODING,‘gzip‘);手册解释： CURLOPT_...

php采集内容中带有图片地址的远程图片并保存的方法

本文实例讲述了php采集内容中带有图片地址的远程图片并保存的方法。分享给大家供大家参考。具体实现方法如下：复制代码代码如下:function my_file_get_contents($url, $timeout=30) { if ( function_exists(‘curl_init‘) ) { $ch = curl_init(); curl_setopt ($ch, curlopt_url, $url); curl_setopt ($ch, curlopt_returntransfer, 1); curl_setopt ($ch, curlopt_connecttimeout, $timeout); $file_conten...

我的php学习笔记：php通用采集程序

php采集程序构建基本步骤：采集程序是什么？获取远程数据（文字、图片、图片）并快速保存到本地或指定地址。如天气预报（小偷程序）：远程获取--》替换内容--》展示给用户如实时更新的新闻（采集内容）：远程获取--》提取内容--》分类存储--》读取内容---》展示内容*************************设计PHP采集入库UML 列表正则：终端正则：**************************file_get_contents()获取远程页面内容preg_match_all()匹...

PHP curl模拟浏览器采集阿里巴巴的实现代码

没有不可能只有不去做，哈哈复制代码代码如下:<?php set_time_limit(0); function _rand() { $length=26; $chars = "0123456789abcdefghijklmnopqrstuvwxyz"; $max = strlen($chars) - 1; mt_srand((double)microtime() * 1000000); $string = ‘‘; for($i = 0; $i < $length; $i++) { $string .= $chars[mt_rand(0, $max)]; } return $string; } $HTTP_SESSION=_rand(); $HTTP_SESSION; $HTTP_Server="search.china.alibaba.co...

首页 / PHP / PHP采集类

PHP采集类

内容导读

内容图文

内容总结

内容备注

内容手机端

【PHP采集类】教程文章相关的互联网学习教程文章

PHP采集利器 Snoopy 试用心得

PHP下载/采集远程图片到本地【代码】

火车头discuz6.1 完美采集的php接口文件

PHP多线程批量采集下载美女图片的实现代码

php 采集书并合成txt格式的实现代码

PHP 采集程序原理分析篇

PHPCMS V9 采集实例【图】

PHP采集程序大全

php采集DEMO一个

php 模拟登陆（不带验证码）采集数据【代码】【图】

php 带cookie采集某页面【代码】

php curl采集，服务器gzip压缩返回数据怎么办

php采集内容中带有图片地址的远程图片并保存的方法

我的php学习笔记：php通用采集程序

PHP curl模拟浏览器采集阿里巴巴的实现代码

PHP - 相关标签

采集 - 相关标签

PHP - 技术教程分类

PHP - 最新教程

PHP - 最热教程