为什么用curl或file_get_content抓取不到数据。解决方案
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了为什么用curl或file_get_content抓取不到数据。解决方案，小编现在分享给大家，供广大互联网技能从业者学习和参考。文章包含1888字，纯文字阅读大概需要3分钟。
内容图文
为什么用curl或file_get_content抓取不到数据。本帖最后由 xroha 于 2014-12-15 09:49:56 编辑 为什么用curl或file_get_content抓取不到数据。
百度经验里，比如http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html，
直接看页面源代码，是有文章数据。
但是用curl ，file_get_content.都无法正常获取文章内容。
这是为什么？已经伪造了IP，来路等，但还是抓取不到。百度是通过什么防止抓取数据的？
以下是代码：
function fcontents( $url, $timeout = 5, $referer = "" ){
$ch = curl_init();
$header = array (
'User-Agent: Mozilla/5.0 (Windows NT 5.2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.153 Safari/537.36','X-FORWARDED-FOR:154.125.25.15', 'CLIENT-IP:154.125.25.15'
);
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_HTTPHEADER, $header); //构造用户IP
curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com/");//构造来路
$result = curl_exec($ch);
curl_close($ch);
return $result;
}
$html = fcontents('http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html');
echo $html;
------解决思路----------------------
curl 只是抓取这个页面内容，但这个页面有其它许多的动态内容是不能通过抓取去填充的
------解决思路----------------------
没有cookie的原因吧。先把cookie加上。
$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";
$cookie_jar = dirname(__FILE__)."/jy.cookie";
/* 获取cookie */
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);
curl_exec($ch);
curl_close($ch);
然后请求的时候带上cookie:
$ch = curl_init();
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);
curl_setopt($ch, CURLOPT_HEADER, 0);
$res = curl_exec($ch);
curl_close($ch);
echo $res;
内容总结
以上是互联网集市为您收集整理的为什么用curl或file_get_content抓取不到数据。解决方案全部内容，希望文章能够帮你解决为什么用curl或file_get_content抓取不到数据。解决方案所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错，欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 gblab@vip.qq.com 举报，一经查实，本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。
来源：【匿名】