前几日网上讨论最多的话题就是新浪博客屏蔽了百度蜘蛛的爬行,以后我们做网站优化要如何来做,等等这一方面的问题我们合肥网站建设那天也写了一篇http://www.qimaikj.com/news/12/774.html这样的文章。
开放百度的搜索引擎的User-Agent代码
User-agent: Baiduspider
#限制不能搜索的目录,Disallow: 为空时开放所有目录####
Disallow: /admin/
Disallow: /include/
Disallow: /html/
Disallow: /queue/
Disallow: /config/
#开放bing.com的搜索引擎的User-Agent代码
User-agent: msnbot
#限制不能搜索的目录,Disallow: 为空时开放所有目录####
Disallow: /admin/
Disallow: /include/
Disallow: /html/
Disallow: /queue/
Disallow: /config/
User-agent: bing
#限制不能搜索的目录,Disallow: 为空时开放所有目录####
Disallow: /admin/
Disallow: /include/
Disallow: /html/
Disallow: /queue/
Disallow: /config/
#限制的搜索引擎的User-Agent代码,*表示所有###########
User-agent: *
#临时限制对所有目录的禁止抓取
Disallow: /
#限制不能搜索的目录,Disallow: 为空时开放所有目录####
##Disallow: /admin/
##Disallow: /include/
##Disallow: /html/
##Disallow: /queue/
##Disallow: /config/
#开放搜索的目录有####################################
# /
# /advice/
# /help/
# /lm/
# /main/
# /myblog/
可以看出新修改的robots.txt文件中的写法已经完全支持各类主流搜索引擎抓取博客内容,一个开放的新浪博客又回来了!
昨为一个站长,我们现在又可以在新浪博客上写一些自己文章,发外链了。对站长朋友也说也是一件很好的事情。
[ 上一篇 ] 互联网行业真不缺乏新闻,百度起诉360 索赔千万元
[ 下一篇 ] 在合肥开一家网络公司他的成本和利润有多大?
将文章分享到:
相关新闻
日期:19 浏览:47480
日期:19 浏览:34444
日期:19 浏览:25735
日期:19 浏览:23730
版权所有:启迈科技-合肥网站建设 皖ICP备19009304号-1
皖公网安备 34010402702162号
网站建设,网站设计公司启迈科技,为众多企业提供网站建设,网站制作,响应式网站设计,手机网站建设,微网站,模板建站,企业邮箱等一站式互联网解决方案和建站服务10年。