Discuz!官方免费开源建站系统

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索

[采集] supesite 定时自动采集 详细设置

[复制链接]
平安数据 发表于 2010-3-26 12:52:38 | 显示全部楼层 |阅读模式
配置要求:服务器需要支持cron修改添加权限
1、在supesite根目录下建立myhz.com_caiji.php和 myhz.com_admincp.php两个文件
2、在supesite的admin目录下建立myhz.com_robots.php
(三个文件的权限要求可读,可执行,内容请下载,下载地址:http://bbs.myhz.com/viewthread.php?tid=1812&extra=page%3D1
需要注意的是myhz.com_caiji.php中有两个地方,域名要修改成你自己的
<?php
echo date("Y-m-d H:i:s");
echo "\n";
caiji("http://news.myhz.com/myhz.com_admincp.php?action=robots& amp;op=robot&clearcache=1&robotid=".$argv[1]);//这里news.myhz.com换成你的网址
echo date("Y-m-d H:i:s");
Function caiji($next)
{
echo $next."\n";
$ch2 = curl_init();  
$user_agent = "Baiduspider+(+http://www.baidu.com/search/spider.htm)";
curl_setopt($ch2, CURLOPT_URL, $next);  
curl_setopt($ch2, CURLOPT_HEADER, false);  
curl_setopt($ch2, CURLOPT_RETURNTRANSFER, 1);  
curl_setopt($ch2, CURLOPT_USERAGENT, $user_agent);  
$orders = curl_exec($ch2);  
//echo '';  
//echo strip_tags($orders);  
//echo '';  
curl_close($ch2);
$str=strip_tags($orders);
$start="window.location.replace('";
$end="setTimeout";
$siteurl="http://news.myhz.com"; //这里news.myhz.com换成你的网址
$a=strpos($str,$start);
$b=strpos($str,$end);
if ((!$a) or (!$b))
return(0);
$len=$b-$a-strlen($start);
$c=strip_tags(substr($str, $a+strlen($start), $len));
$next=$siteurl.trim(str_replace("');","",str_replace("}","",$c)));
if ($next==$siteurl)
echo "\n";
else
caiji($next);
}
?>

3、在后台添加采集的机器人,并记录机器人ID。
4、运行命令crontab -e(linux或unix系统),根据需要,添加自动运行的脚本,格式如下,运行的频率、php文件地址和机器人ID需要根据自己的需要来修改:
5 * * * * /usr/bin/php /htdocs/myhz.com_caiji.php 1
10 * * * * /usr/bin/php /htdocs/myhz.com_caiji.php 2

#(注释:5 * * * * 表示每个小时的第5分钟运行一次,/usr/bin/php是运行程序php的地址,/htdocs/myhz.com_caiji.php是采集脚本 myhz.com_caiji.php的地址,1是采集机器人ID)
bugubird01 发表于 2010-4-5 10:37:28 | 显示全部楼层
正是我找的,多谢,顶了
回复

使用道具 举报

bugubird01 发表于 2010-4-5 10:45:33 | 显示全部楼层
回复 1# 平安数据


    那个网址注册不成的,附件能否上传下
回复

使用道具 举报

bugubird01 发表于 2010-4-19 21:50:58 | 显示全部楼层
回复 1# 平安数据


    楼主怎么不回复呢?
回复

使用道具 举报

grubylee 发表于 2010-4-20 14:04:04 | 显示全部楼层
前台不会弹出窗口之类的吧?用户不会看到在采集吧?
回复

使用道具 举报

恒星科技 发表于 2010-4-28 01:17:18 | 显示全部楼层
还有这样的吗
回复

使用道具 举报

段宇 发表于 2010-5-21 22:24:05 | 显示全部楼层
谢谢,占位做记号
回复

使用道具 举报

cqhyf2000 发表于 2010-5-26 08:44:28 | 显示全部楼层
不错,下来看看
回复

使用道具 举报

ghz0433 发表于 2010-5-27 18:59:48 | 显示全部楼层
好东西啊
回复

使用道具 举报

ming112 发表于 2010-8-18 17:44:42 | 显示全部楼层
好东西。不知道行不行.
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

手机版|小黑屋|Discuz! 官方站 ( 皖ICP备16010102号 )star

GMT+8, 2025-1-4 05:45 , Processed in 0.029410 second(s), 3 queries , Gzip On, Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.

快速回复 返回顶部 返回列表