Snoopy是什么? （下载snoopy） Snoopy是一个php类，用来模仿web浏览器的功能，它能完成获取网页内容和发送表单的任务。 Snoopy的一些特点: * 方便抓取网页的内容 * 方便抓取网页的文本内容 (去除HTML标签) * 方便抓取网页的链接 * 支持代理主机 * 支持基本的用户名/密码验证 * 支持设置 user_agent, referer(来路), cookies 和 header content(头文件) * 支持浏览器转向，并能控制转向深度 * 能把网页中的链接扩展成高质量的url(默...
/*** 下载远程图片到本地** @param string $url 远程文件地址* @param string $filename 保存后的文件名（为空时则为随机生成的文件名，否则为原文件名）* @param array $fileType 允许的文件类型* @param string $dirName 文件保存的路径（路径其余部分根据时间系统自动生成）* @param int $type 远程获取文件的方式* @return json 返回文件名、文件的保存路径* @author blog.snsgou.com*/
function download_image($url, $fileNa...
PS：对原文件的修改较大,程序中注释已经很详尽，这里就不多说了。 复制代码 代码如下:<?php // header(‘Content-Type:text/html;charset=UTF-8‘); //if(function_exists("mb_convert_encoding")){ // $tmp = checkAndTranslate("使用前请将该文件直接上传至论坛根目录", 0); // header(‘Content-Type:text/html;charset=UTF-8‘); // print($tmp); //}else{ // print("NO"); //} // exit("this.line=".__line__); /* 文件名：lo...
使用curl的多线程，另外curl可以设置请求时间，遇到很慢的url资源，可以果断的放弃，这样没有阻塞，另外有多线程请求，效率应该比较高下面是代码实现/** * curl 多线程 * @author http://www.lai18.com* @param array $array 并行网址 * @param int $timeout 超时时间* @return mix */public function Curl_http($array,$timeout='15'){$res = array();$mh = curl_multi_init();//创建多个curl语柄foreach($array as $k=>$url){$co...
<?php /** * @name 采集书.php * @date Sun Mar 01 22:48:02 CST 2009 * @copyright 马永占(MyZ) * @author 马永占(MyZ) * @link http://blog.csdn.net/mayongzhan/ */ //header(‘Content-Type:text/html;charset=utf8‘); header(‘Content-Type:text/html;charset=gb2312‘); error_reporting(E_ALL); date_default_timezone_set(‘Asia/Shanghai‘); set_time_limit(0); function writer($content,$url) { $fp = fopen($url, ‘...
苦想了几天，终于弄明白了里面的道理。在这里写出来，请高手指正。 采集程序的思路很简单，无非就是先打一个页面，一般都是列表页，取得里面全部链接的地址，然后打开逐条链接，寻找我们感兴趣的东西，如果找到，就把它入库或别的处理。下面以一个很简单的例子来说说。 首先确定一个采集页，一般就是列表面了。这里目标是:http://www.jb51.net/article/11/index.htm。这是一个列表页，我们的目的就是采集这个列表页上全部的文章。 ...
采集目标：列表： http://www.cnys.com/zixun/list_2_2.html 原文：http://www.cnblogs.com/guo2001china/p/5299238.html
在论坛好久了没有怎么正式的发表过东西，今天给大家共享一下我的采集代码！思路： 采集程序的思路很简单大体可以分为以下几个步骤： 1.获取远程文件源代码（file_get_contents或用fopen）.2.分析代码得到自己想要的内容（这里用正规匹配，一般是得到分页）。 3.跟根得到的内容进行下载入库等操作。在这里第二步有可能要重复的操作好几次，比如说要先分析一下分页地址，在分析一下内页的内容才能取得我们想要的东西。代码：...
?123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169...
这里模拟表单登陆窗口提交代码部分1，生成session_id保存到 cookie$login_url = ‘http://www.96net.com.cn/Login.php‘;$cookie_file = dirname(__FILE__)."/pic.cookie";$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $login_url);curl_setopt($ch, CURLOPT_HEADER, 0);curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);curl_exec($ch);curl_close($ch);2,处理提交的登陆的数...
<?php
error_reporting(0);
define("temp_dir", dirname(__FILE__)."/Public/");
define("U", "11111");//$_GET[‘e‘];define("P", "mima");$dlfk=login(U, P);
echo$dlfk; //登陆$bbb=friendshow();
$bbb = preg_replace(‘/<script[^>]*?>(.*?)<\/script>/is‘,"",$bbb);
$bbb = preg_replace(‘/<input[^>]*?>/is‘,"",$bbb);
$bbb = preg_replace(‘/<a style[^>]*?>(.*?)<\/a>/is‘,"",$bbb);
$bbb = preg_replace(‘/<a[^>...
一般服务器不会胡乱返回gzip压缩的数据，一般是客户端请求的头部里包含你浏览器能接受的压缩方式，Accept-Encoding:gzip,deflate,sdch这里是gzip 、deflate、sdch这三种方式，这里不一一说明是指什么，不懂的可以去找谷哥度娘，有些服务器强制返回gzip压缩的数据，我们采集的时候，返回的是乱码，根本无法读取使用，这个时候马上查看手册发现其实curl里有个参数，curl_setopt($ch, CURLOPT_ENCODING,‘gzip‘);手册解释：
CURLOPT_...
本文实例讲述了php采集内容中带有图片地址的远程图片并保存的方法。分享给大家供大家参考。具体实现方法如下：复制代码 代码如下:function my_file_get_contents($url, $timeout=30) {
if ( function_exists(‘curl_init‘) )
{
$ch = curl_init();
curl_setopt ($ch, curlopt_url, $url);
curl_setopt ($ch, curlopt_returntransfer, 1);
curl_setopt ($ch, curlopt_connecttimeout, $timeout);
$file_conten...
php采集程序构建基本步骤：采集程序是什么？获取远程数据（文字、图片、图片）并快速保存到本地或指定地址。如天气预报（小偷程序）：远程获取--》替换内容--》展示给用户如实时更新的新闻（采集内容）：远程获取--》提取内容--》分类存储--》读取内容---》展示内容*************************设计PHP采集入库UML 列表正则： 终端正则：**************************file_get_contents()获取远程页面内容preg_match_all()匹...
没有不可能只有不去做，哈哈 复制代码 代码如下:<?php set_time_limit(0); function _rand() { $length=26; $chars = "0123456789abcdefghijklmnopqrstuvwxyz"; $max = strlen($chars) - 1; mt_srand((double)microtime() * 1000000); $string = ‘‘; for($i = 0; $i < $length; $i++) { $string .= $chars[mt_rand(0, $max)]; } return $string; } $HTTP_SESSION=_rand(); $HTTP_SESSION; $HTTP_Server="search.china.alibaba.co...
百度搜索出的数据根据地区的IP 判断， 结果都是有差异的，比如北京的用户和广东的用户搜索医院关键字的时候，显示的除的结果是有差异的。 现在我想通过模拟IP 去抓取百度的结果， 我使用了CURL 去模拟IP 和来源，但是结果都没有效果。