百度不收录：写的高质量文章百度不收录？百度不收录内页的6个关键点_哪家网络推广公司好站长快车网站综合信息查询工具站长快车为站长们提供强大的站长工具网站综合信息查询,SEO站长工具,搜索引擎收录查询,网站收录查询,百度收录查询,Google
搜索引擎的工作的过程非常复杂而简单的讲搜索引擎的工作过程大体可以分成三个阶段。
爬行和抓取：搜索引擎蜘蛛通过跟踪链接访问页面seo优化而简单的讲搜索引擎的工作过程大体可以分成三个阶段。
爬行和抓取：搜索引擎蜘蛛通过跟踪链接访问页面获取页面HTML代码存入数据库。
预处理：搜索赢球对抓取来的页面数据文字进行文字提取、中文分词、索引等处理以备排名程序调用。
排名：用户输入关键字后排名调用索引库数据计算相关性然后按一定格式生成搜索结果页面。
爬行和抓取
爬行和抓取是搜索引擎工作的第一步完成数据收集任务。
蜘蛛
搜索引擎用来爬行和访问页面的程序被称为蜘蛛(spider)也称为机器人(bot)。
蜘蛛代理名称：
百度蜘蛛：Baiduspider+(+) ·
雅虎中国蜘蛛：Mozilla/5.0 (compatible; Yahoo! Slurp China; ) ·
英文雅虎蜘蛛：Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; )
Google 蜘蛛：Mozilla/5.0 (compatible; Googlebot/2.1; +) ·
微软 Bing 蜘蛛：msnbot/1.1 (+)·
搜狗蜘蛛： Sogou+web+robot+(+#07) ·
搜搜蜘蛛：Sosospider+(+) ·
有道蜘蛛：Mozilla/5.0 (compatible; YodaoBot/1.0; ; )
跟踪链接
为了抓取网上尽量多的页面搜索引擎蜘蛛会跟踪页面上的链接从一个页面爬到下一个页面就好像蜘蛛在蜘蛛网上爬行那样这也就是搜索引擎蜘蛛这个名称的由来。最简单的爬行遍历策略分为两种一是深度优先二是广度优先。
深度优先搜索
深度优先搜索就是在搜索树的每一层始终先只扩展一个子节点不断地向纵深前进直到不能再前进(到达叶子节点或受到深度限制)时才从当前节点返回到上一级节点沿另一方向又继续前进。这种方法的搜索树是从树根开始一枝一枝逐渐形成的。
深度优先搜索亦称为纵向搜索。由于一个有解的问题树可能含有无穷分枝深度优先搜索如果误入无穷分枝(即深度无限)则不可能找到目标节点。所以深度优先搜索策略是不完备的。另外应用此策略得到的解不一定是最佳解(最短路径)。
广度优先搜索
在深度优先搜索算法中是深度越大的结点越先得到扩展。如果在搜索中把算法改为按结点的层次进行搜索 本层的结点没有搜索处理完时不能对下层结点进行处理即深度越小的结点越先得到扩展也就是说先产生 的结点先得以扩展处理这种搜索算法称为广度优先搜索法。
在深度优先搜索算法中是深度越大的结点越先得到扩展。如果在搜索中把算法改为按结点的层次进行搜索 本层的结点没有搜索处理完时不能对下层结点进行处理即深度越小的结点越先得到扩展也就是说先产生 的结点先得以扩展处理这种搜索算法称为广度优先搜索法。
吸引蜘蛛
哪些页面被认为比较重要呢?有几方面影响因素：
· 网站和页面权重。质量高、资格老的网站被认为权重比较高这种网站上的页面被爬行的深度也会比较高所以会有更多内页被收录。
· 页面更新度。蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样说明页面没有更新蜘蛛也就没有必要经常抓取。如果页面内容经常更新蜘蛛就会更加频繁地访问这种页面页面上出现的新链接也自然会被蜘蛛更快跟踪抓取新页面。
· 导入链接。无论是外部链接还是同一个网站的内部链接要被蜘蛛抓取就必须有导入链接进入页面否则蜘蛛根本没有机会知道页面的存在。高质量的导入链接也经常使页面上的导出链接被爬行深度增加。一般来说网站上权重最高的是首页大部分外部链接是指向首页蜘蛛访问最频繁的也是首页。离首页点击距离越近页面权重越高被蜘蛛爬行的机会也越大。
地址库
为了避免重复爬行和抓取网址搜索引擎会建立一个地址库记录已经被发现还没有抓取的页面以及已经被抓取的页面。地址库中的uRL有几个来源：
(1)人工录入的种子网站。
(2)蜘蛛抓取页面后从HTML中解析出新的链接uRL与地址库中的数据进行对比如果是地址库中没有的网址就存入待访问地址库。
(3)站长通过搜索引擎网页提交表格提交进来的网址。
蜘蛛按重要性从待访问地址库中提取uRL访问并抓取页面然后把这个uRL从待访问地址库中删除放进已访问地址库中。