这几天在重温 《疑犯追踪》,作为一个近科幻的代表作,其描绘的社会是如此地贴近现实,让人想到时都会有一种无力感。在技术社区的种种讨论中,总会有零星的关于此话题的讨论以及解决之道。去中心化网络作为其中一个核心概念,已经有很多落地的实验性产品,虽然仍然无法撼动如今的网络结构,但总是一些希望之火。另外一个最近引起热门讨论的技术便是 Common Index。搜索引擎发展了这么多年,在给人们带来了很多便利的同时,也带来了无数的负面影响。Common Index 是一种解决途径,虽然如去中心化网络一样,看起来都很遥不可及,但仍然是值得期待的。

搜索引擎是一种商业产品,其背后的公司依靠大部分依靠广告牟利。这是一种非常容易理解的商业模式,但是却造成了以下后果:

  1. Too Big To Fail: 搜索引擎技术随着互联网规模的发展,会形成越来越高的技术壁垒。没有任何新公司能进入到这个市场。Google 目前占据着绝对主流,其他几家只占有微量的比例:
  2. 搜索引擎公司可以通过一些看似 公平的策略来调整不同网页的权重,从而来影响互联网的发展。比如 Google 一直在提高支持移动互联网网页的比重。这样的行为不能说是很坏,但是否应该由一家公司来做这些决定呢?
  3. 搜索引擎公司可以通过人为调整搜索结果顺序来牟利。比如毫无底线的百度。

信息时代人们对于信息检索的需求是非常庞大的,而且或许正如某些人所说,它不再是一个普通的商品,而是成为类似于水电一样的基础设施,每个人的生存都依赖于这些东西。在这种情况下,搜索技术再由某些垄断公司提供是不合适的,尤其是公司容易受到地缘政治的影响。Common Index 对此的提议是将搜索技术分为两层: 底层是通用的 index 技术,上层是各个公司的定制部分。

这里OWIOpen Web Index, 即本文一直说的 Common Index。Common Index 作为基础设施,提供基本的互联网索引,不同的商业机构可以基于此添加自己的特定的索引,并提供不同的界面以及功能。比如我可以实现一个专门搜书的搜索引擎,或者一个专门用来搜索特定某个人的公开信息的搜索引擎等等。Common Index 让新公司加入搜索引擎这个市场变得可能,并且可以通过差异化的服务来获取用户。有了这个基础,搜索引擎市场便有可能成为一个良性竞争的市场。

要想这个设想变成可能, 操作起来是很麻烦的,所以很多类似的设想都只停留在设想阶段。我能想到两个问题便是:

  1. 谁来承担 Common Index 的成本? 理论上可以应该让参与这个市场的公司来共同承担,想扶持本国在此方面有所发展的国家可以资助本国公司去参与这个市场。
  2. 如何打破现有市场的格局? 最理想的情况是,在未来的某一个天,通过反垄断法将 Google 拆分, 分离出其 部分index 技术作为 Common Index 的基础。

当然,希望在未来讨论这些问题的时候,百度已经不在了。

相关链接:

  1. Can an Open Web Index break Google’s stranglehold over the search engine market?
  2. The Web is missing an essential part of infrastructure: an Open Web Index