动态网站的搜索引擎策略

打造搜索引擎友好的网站:实战指南 本文详细探讨了如何使网站搜索引擎更友好。内容包括解决搜索机器人无法导航的问题、处理动态页面、选择合适的关键词以及如何优化HTML标签。通过这些方法,网站可以提高在搜索引擎中的可见性和排名。 阅读详情

动态网站丰富了网站的功能,但是对于搜索引擎来说,情况就不同了,动态页面是在用户“输入内容”或者进行“选择”时动态生成的,但是搜索引擎的“搜索机器人”无法“输入”和“选择”。另外,搜索引擎要避免“搜索机器人陷阱(spider traps)”的脚本错误。

一、动态网站的出现和优势

  最早互联网出现时,站点内容都是以HTML静态页面形式存放在服务器上,访问者浏览到的页面都是这些实际存在的静态页面。随着技术的发展,特别是数据库和脚本技术PERL、ASP、PHP和JSP的发展,越来越多的站点都开始采取动态的页面发布手段。比如,我们在GOOGLE.COM上搜索一个内容,得到的搜索结果页面文件/"本身/"在GOOGLE服务器上并不存在,而是通过程序在我们输入搜索内容时调用后台数据库实时生成的,也就是说,这些结果页面是动态的。

  静态页面的站点只涉及文件的传输问题,而动态站点则复杂得多,用户和站点之间出现大量的交互,网站不再仅仅是内容的发布,而是成为了一种/"应用(Application)/",是软件业向互联网上的扩张,从软件的角度看,动态站点是逻辑应用层和数据层的分离,数据库负责站点数据的存储管理,而ASP、PHP、JSP等负责处理站点的逻辑应用。这样做的好处除了增加很多交互功能外,更重要的是站点的维护、更新和升级都方便了许多。可以说,没有动态网站技术,目前互联网上的这些超大型站点就不可能出现。

二、搜索引擎抓取动态网站页面时面临的问题
  从用户的角度看,动态网站非常不错,丰富了站点的功能,但是对于搜索引擎来说,情况就不同了。(关于搜索引擎和分类目录的区别,以及搜索引擎的工作原理,请? /"了解搜索引擎/")
  根本的问题在于/"输入/"和/"选择/",动态页面是在用户/"输入内容/"或者进行/"选择/"时动态生成的,但是搜索引擎的/"搜索机器人/"无法/"输入/"和/"选择/"。比如我们要在当当书店站点查看冯英健的《网络营销基础与实践》一书,介绍页面是动态生成的,URL地址是:http://www.dangdang.com/product_detail/product_detail.asp?product_id=493698
这里在/"?/"后面的product_id参数值需要我们输入的,/"搜索机器人/"可以通过链接找到http://www.dangdang.com/product_detail/product_detail.asp 页面,但是它无法输入/"?/"后面的product_id参数值,从而无法抓取这个页面文件。
  另外,对于通过链接达到这种带/"?/"的页面,技术上搜索引擎可以抓取,但是一般情况下搜索引擎选择不去抓取,这是为了避免一种叫/"搜索机器人陷阱(spider traps)/"的脚本错误,这种错误会让搜索机器人进行无限循环的抓取,无法退出而浪费时间。

三、动态网站的搜索引擎策略
  动态网站要被搜索引擎抓取,可以采用内容发布系统软件将动态站点转化成静态页面,这种办法对于页面发布后变动少的站点比较合适,比如一些新闻类的站点(如新浪的新闻中心:http://news.sina.com.cn/ )。
  一般的动态网站可以通过下面的办法让搜索引擎抓取:
首先,我们要让动态页面的URL地址中没有/"?/",让动态页面看上去象/"静态页面/"。看看下面这个页面http://www.amazon.com/exec/obidos/tg/detail/-/043935806X/ ,这明显是一个动态页面,但是URL地址看上去却象/"静态页面/"。针对不同的动态技术可以采用下面技术实现:
  ·对于采用ASP技术的动态页面Exception Digital公司提供一种工具叫着XQASP(http://www.xde.net/products/product_xqasp.htm )可以将/"?/"替换为/"//"。
  ·对于采用ColdFusion技术的站点,需要重新配置服务器上的ColdFusion,用/"//"代替/"?/"将参数传输到URL,更详细的信息请见http://coldfusion.com/ 站点。
  ·对于使用Apache服务器的站点,可以使用rewrite模块将带参数的URL地址转换成搜索引擎支持的形式,该模块mod_rewrite在Apache服务器中不是缺省安装的,详细的信息请见http://httpd.apache.org/docs/mod/mod_rewrite.html 。
  对于其他的动态技术也能找到对应的方法改变URL的形式。
  然后,要创建一些静态页面指向这些动态页面(以改变过的URL链接)。
前面说过,搜索引擎机器人并不会自己/"输入/"参数,所以要让上面这些动态页面被搜索引擎抓取,我们还需要告诉机器人这些页面的地址(也就是参数)。我们可以创建一些静态的页面,一般在网络营销中称? /"gateway page/"(入口页面),这些页面上有大量指向这些动态页面的链接。
  将这些入口页面的地址提交到搜索引擎,这些页面和链接的动态页面(改变过URL形式)就能都被搜索引擎抓取了。

四、搜索引擎对动态网站支持的改进
  在我们调整动态站点适应搜索引擎的同时,搜索引擎也在发展。到目前为止,绝大多数的搜索引擎还不支持动态页面的抓取,但是GOOGLE、HOTBOT等和国内的百度开始尝试抓取动态网站页面(包括? /"?/"的页面),这就是我们现在在这些搜索引擎进行搜索时,结果中出现动态链接的原因。
  这些搜索引擎抓取动态页面时,为了避免/"搜索机器人陷阱/",都只抓取从静态页面(至少/"看上去/"是静态的页面)链接到的动态页面,而从动态页面链接出的动态页面都不再抓取。
  所以一个动态站点如果只针对上面这些搜索引擎,可以在上面小节介绍方法的基础上简化:只用创建一些入口页面,链接很多动态页面,然后将这些入口页面递交到这些搜索引擎就可以了。
  对于直接使用动态的URL地址,请注意:
  ·文件URL中不要有Session Id,同时不要用ID作为参数名称(特别是对于GOOGLE);
  ·参数越少越好,尽量不要超过2个;
  ·能在URL中不用参数尽量不要用,一些参数转移到其他地方,这样可以增加动态页面被抓取的深度和数目。

动态网页怎样才能被搜索引擎收录 动态网页怎样才能被搜索引擎收录动态网页怎样才能被搜索引擎收录呢?其实动态网页搜索引擎收录和静态网页被收录的原理是一样的,只是因为两种网页表现形式的差异造成了搜索引擎索引这些文件的方式有所不同,动态网页只有通过链接关系被搜索引擎蜘蛛发现才可能被收录。搜索引擎是否收录一个网页,主要取决于是否有一个网页(已经被搜索引擎收录的网页)链接了那个新的、尚未被收录的动态网页网址。   在网上营销新观察网络营 阅读详情

相关推荐

[网络爬虫] 动态网页抓取 — 概念引入

从上面的数据包分析中可以看出,针对静态网页,我们可以直接对 HTML 页面发起请求,所拿到的数据就是整个网页的数据,但是针对动态网页,我们只拿它的 HTML 是没有任何用的,因为里面没有任何数据,我们针对的应该是那种二次加载进来包含数据的请求包,比如上面那个 JSON 数据包。我们在浏览器中看到的是啥样,那么抓取的结果就是啥样。上面这种网页,笔者一般称为 “静态” 或者 “死” 网页,因为里面的每个展现的数据都是固定死的,它不会随着时间变化而变化,如果想要改变内容,那么就只能重新写一个 HTML 文件了。

Blue17 の 小窝 1896

爬取用益信托网部分数据

本文章只用于技术拓展,不得恶意破坏任何网站。 首先当我们拿到一个网站时,必须清楚知道我们需要的是什么数据, 然后带有目的性的去查看源代码的相关信息,直接进去主题。 我们要拿的是在售产品的每一个产品的全部数据(如图所示) 然后点开其中一个产品找到其中的一个产品,我们要拿的就是这里面的全部信息(如图所示) 我们观察发现每个产品的地址都是通过一个固定地址加一个id值构成的,只要拿到这些id值,就可...

weixin_44772112的博客 2643

一个高端网站的必备条件

随着互联网的发展,越来越多的企业注重网站建设,因为企业在互联网上来的业务比现在的线下业务可能还多。但是企业想要在互联网上获得更多的业务,就需要有一个能推广公司形象和产品的企业网站,并且是一个高端网站。但是什么样的网站才是高端网站呢?今天华信环球就给大家分享一下一个高端网站需要有的必备条件。 (1)满足用户需求 我们知道,一个网站能否发展下去在于有没有用户流量,这是网站建设的基本条件。所以在建设网站时我们要知道用户的痛点、需求点是什么,然后根据这些信息在网站上去满足这些需求,在每个用户访问网站的时候都能找到自

zhuiqiuzhe_的博客 181

探索SpiderWebView:一个高效网页爬取与渲染框架

探索SpiderWebView:一个高效网页爬取与渲染框架 在数据挖掘和Web分析的世界中,高效的爬虫工具是必不可少的。今天,我们将介绍一款名为的开源项目,它结合了Java和Android WebView技术,提供了一种新颖且强大的网页抓取和渲染解决方案。 项目简介 SpiderWebView是由开发者HpWens创建的一个项目,其主要目标是为了解决传统网络爬虫在处理JavaScript动态加载内...

gitblog_00022的博客 600

动态网站搜索引擎优化策略(转)

摘要:动态网站丰富了网站的功能,但是对于搜索引擎来说,情况就不同了,动态页面是在用户“输入内容”或者进行“选择”时动态生成的,但是搜索引擎的“搜索机器人”无法“输入”和“选择”。另外,搜索引擎要避免“搜索机器人陷阱(spider...

cuankuangzhong6373的博客 256

谈一谈动态网站搜索引擎优化策略

动态网站搜索引擎优化策略   摘要:动态网站丰富了网站的功能,但是对于搜索引擎来说,情况就不同了,动态页面是在用户“输入内容”或者进行“选择”时动态生成的,但是搜索引擎的“搜索机器人”无法“输入”和“选择”。另外,搜索引擎要避免“搜索机器人陷阱(spider traps)”的脚本错误。   一、动态网站的出现和优势   最早互联网出现时,站点内容都是以HTML静态页面形式存放在服务器上,访问者浏...

weixin_30550271的博客 236

动态网站的优化策略

搜索引擎抓取动态网站页面时面临的问题:  从用户的角度看,动态网站非常不错,丰富了站点的 功能,但是对于搜索引擎来说,情况就不同了。根本的问题在于“输入”和“选择”,动态页面是在用户"输入内容"或者进行“选择”时动态生成的,但是搜索引 擎的“搜索机器人”无法“输入”和“选择”。比如我们要在当当书店站点查看冯英健的《网络营销基础与实践》一书,介绍页面是动态生成的,URL地址是:http://www.

appoFeng的专栏 665

搜索引擎优化 seo全攻略

域名注册 恶意关键字(keywords spamming):这里不是指垃圾邮件(email spamming), 如果在您的网页内容上或在meta标记中多次重复堆放某个关键字,这就叫做恶意关键字(keyw...

weixin_33739627的博客 364

如何做一个针对百度搜索引擎友好的网站

百度欢迎合理的搜索引擎优化,网站优化过度只会适得其反。合理的优化,有利于搜索引擎爬行网站、收录更多的有用的网页、挖掘出更多有价值的信息等;此类网站叫对搜索引擎友好的网站。 看过很多SEO(搜索引擎优化的缩写)的文章谈网站如何优化,针对Google优化的文章占多,baidu相对少一些。理论加上实践,我总结了一些经验给大家分享。 大家看百度的搜索帮助:http://www.baid

刘凤飞 1353

SEO优化12个基本策略

成功的搜寻引擎营销策略应该是在网站建设之初开始的,从域名的选择到网页的源代码书写开始。但目前的现状是多数网站建设的分工和流程都是把针对搜寻引擎的优化工作放在最后——网站已经建好了,向搜寻引擎提交网站之前再做优化。这时做优化其实已经相当被动。所以,建议网站规划者在网站建设之初就提交给网页设计师、程序开发人员和内容编辑一份有利于搜寻引擎排名的网站建设备忘录。 现将各种介绍搜寻引擎优化(search

java教程 1698

搜索引擎优化SEO全攻略

 摘要:成功的搜索引擎营销策略应该是在网站建设之初,包括关键词策略、域名策略、虚拟主机策略网页文件目录策略、外部文件存储策略动态策略、框架策略、图片策略、图片策略网站地图策略、title和meta标签策略、链接策略网站流量、避免惩罚等。成功的搜索引擎营销策略应该是在网站建设之初开始的,从域名的选择到网页的源代码书写开始。但目前的现状是多数网站建设的分工和流程都是把针对搜索引擎的优化工作放在

playzxw的专栏 8290

百度、谷歌搜索引擎原理

百度、谷歌搜索引擎原理及新网站应对 第一节 搜索引擎原理 1、基本概念     来源于中文wiki百科的解释:(网络)搜索引擎指自动从互联网搜集信息,经过一定整理以后,提供给用户进行查询的系统。     来源于英文wiki百科的解释:Web search engines provide an interface to search for information on the World

風泽秀舞 2897

【亲测免费】 PHP动态寄生虫程序:提升网站活跃度的利器

PHP动态寄生虫程序:提升网站活跃度的利器 去发现同类优质开源项目:https://gitcode.com/ PHP动态寄生虫程序介绍 PHP动态寄生虫程序是一款功能强大的独立版本寄生虫程序,支持快照劫持和搜索引擎优化策略,有效增强网站搜索引擎中的可见性。 项目介绍 在当今互联网高速发展的时代,网站流量和用户粘性是衡量一个网站成功与否的关键指标。PHP动态寄生虫程序正是一款专注于提升网站活跃度和...

gitblog_06780的博客 457

关于搜索的一些知识

<br /><br />1. SEO与SEM<br />SEO是搜索引擎优化,是通过对网站的优化,提升网站的PR值,提高网页关键字在搜索引擎上的排名,为网站带来大量流量.<br />SEM是通过SEO技术,通过策划分析,来制定高效率的营销策略,为网站带来收入.<br />2. 静态网页动态网页<br />程序是否在服务器端运行,是重要标志。在服务器端运行的程序、网页、组件,属于动态网页,它们会随不同客户、不同时间,返回不同的网页,例如ASP、PHP、JSP、ASP.net、CGI等。运行于客户端的程序、网

byrsongQQ的专栏 902
上一篇: 搜索引擎面面观
下一篇: 从中国人网站看搜索引擎的ASP服务
husn
博客等级 码龄21年 11粉丝 64原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值