第24章谷歌一下

一个搜索引擎，还有比这更bang的东西么？

&n出一个搜索引擎来……

如果要追溯的话，搜索引擎的“历史”比worldwideweb还要长。早在web出现之前，互联上就已经存在许多旨在让人们共享的信息资源了。这些资源当时主要存在于各种允许匿名访问的f点。

就目前而言，大多数站都是大学的men户，其他的站实在是太少了，于是搜索引擎的存在意义就被淡化了。

但是未来肯定不会如此。

且不说自己想要将这上这些蛋疼的人分开，从另一方面而言，因为和《洛杉矶时报》的合作也快要开始了，综合类型的站总是会出现的，于是搜索引擎就会变得必要起来。

“也许这是一个不错的注意……”凯瑟琳撑着下巴，然后在思考着。

而艾尔莎时间，已经快到下午…了，于是就去泡红茶了。

“什么主意？”

艾尔莎一边在拿着茶饼，一边问着。

“一个搜索引擎，一个能够让我们知道各种站的一个好东西。”

“我们可以将自己想要的页搜索出来？”

“对，就是这样。”

“这能办得到吗？”

“当然……”

虽然是肯定的回答，但是凯瑟琳最后的语气却变得有些奇怪。

搜索引擎依靠的是络蜘蛛，即web-spider。

这是一个很形象的比喻，就如同络被人称为“”一样（就是“”的意思）。

准确一点来络蜘蛛就是通过页的链接地址来寻找页，从站首页开始读取页的内容，找到在页中的其它链接地址，然后通过这些链接地址寻找下一个页，这样一直循环下去，直到把这个站所有的页都抓取完为止。如果把整个互联当成一个那么络蜘蛛就可以用这个原理把互联上所有的页都抓取下来。简而言之，络蜘蛛就是一个爬行程序，一个抓取页的程序。

未来的“百度”、“谷歌”等等都是建立在这样的一个基础之上的。

&nb出来……似乎还有些麻烦。

“来还给成立一个工作组才行。”

开始了抱着双手站了起来。

“我觉得我们公司的人才已经够紧张的了。”艾尔莎将红茶和茶饼放在了凯瑟琳的桌上。

“没关系，到了五月份，这种情况就能得到缓解。”intel与斯坦福大学的合作培养的第一批学生已经快要毕业了，有了他们的加入，公司的人才紧缺的问题必然能够得到一定程度的缓解。

“至少在未来十年内，我们公司的人才都有可能是供不应求，这是一个急速扩张的产业，和那些传统行业是不一样的。”

――直到2世纪，这些行业对于人才的渴求依然是强烈的。

当然，中国除外――因为那里的人实在是太多了，乃至于都有了“it民工”的说法。

凯瑟琳坐了下来，然后喝了一口红茶。

她一边喝着茶，一边在思考着应该如何写一个络蜘蛛的程序出来。

评价一个络蜘蛛的好坏，有三个方式，一个是覆盖率，络蜘蛛的首要目标是抓取互联上所需的信息。因此，有价值的信息是否都收录，收录的比例是络蜘蛛的基本评价指标；第二个则是时效xing，即事件发生并在互联上传播后（以新闻、论坛、博客等各种形式），用户需要通过搜索引擎尽快能检索到相应内容。而索引的前提是收录，因此需要络蜘蛛尽快的抓取互联上最新出现的资源；最后则是重复率，互联上重复的内容很多，如何尽早的发现页面重复并消除之，是络蜘蛛需要解决的问题。除转载导致的重复外，重复总能体现为各种不同的模式，站点级重复，目录级重复，cgi级重复，参数级重复等等，及早发现这些模式并进行处理，能节省系统的存储、抓取、建库和展现资源。

第一个问题最好解决，因为美国电信的根服务器就在诺亚。页的覆盖率永远都是。

需要解决的是第二和第三个问题。

事实上这也不是个大问题，原理很容易解决，最重要的一环在于需要一个高效率的程序。

光凭自己一个人的话，可能需要不少的时间。凯瑟琳一直梦想的是当一个甩手掌柜，这事怎么能够发生呢？――于是，找人就是必须的。<e开发组chou调了三个人出来，帮助开发这个络蜘蛛程序。

反正星men系统的开发已经差不多了，这个时候自己chou调一些人出来开发络蜘蛛完全不是问题。

络蜘蛛是搜索引擎的一个最核心的部分。有了这个程序之后，搜索引擎的建立就会非常简单了。