分布式搜索引擎的巨大潛力

中國互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的第43次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》顯示,截至2018年12月,中國網(wǎng)民規(guī)模達(dá)8.29億,全年新增網(wǎng)民5653萬,用戶數(shù)量呈現(xiàn)不斷增長態(tài)勢(shì)。互聯(lián)網(wǎng)迎來大數(shù)據(jù)時(shí)代,搜索引擎也遇到了不小的挑戰(zhàn)。中心化的搜索到當(dāng)今已難以發(fā)展,同時(shí),以IPSE為代表的分布式搜索應(yīng)運(yùn)而生。IPSE目前已登陸全球最大的Dapp生態(tài)平臺(tái)DappReview,在未來,會(huì)逐步實(shí)現(xiàn)代碼開源,具有巨大的發(fā)展?jié)摿Α?/p>

中心化搜索的痛點(diǎn)

如今信息技術(shù)領(lǐng)域已經(jīng)進(jìn)入大數(shù)據(jù)、云計(jì)算時(shí)代,互聯(lián)網(wǎng)技術(shù)創(chuàng)新不斷突破,搜索引擎作為網(wǎng)絡(luò)信息的入口和第一大互聯(lián)網(wǎng)應(yīng)用工具,也將發(fā)生改變。而目前搜索引擎技術(shù)發(fā)展相對(duì)落后,分布式搜索引擎技術(shù)方案相對(duì)較少,大部分傳統(tǒng)搜索引擎采用中心化體系結(jié)構(gòu)。而中心化體系結(jié)構(gòu)有以下幾個(gè)缺點(diǎn),首先是系統(tǒng)可靠性差,中心化體系結(jié)構(gòu)算力有限,不能應(yīng)對(duì)大量的數(shù)據(jù)和訊息;其次是系統(tǒng)可拓展性不足,不能應(yīng)對(duì)逐漸復(fù)雜的數(shù)據(jù)處理需求。同時(shí),搜索引擎的用戶規(guī)模仍在不斷擴(kuò)張,甚至超過了通訊工具的覆蓋率。

IPSE正是要解決這種痛點(diǎn),發(fā)揮分布式搜索引擎最佳的性能,擁有更好的可靠性和可擴(kuò)展性,它將分布式技術(shù)融入搜素引擎,指引出分布式搜索引擎的發(fā)展方向。

什么才是未來?

在IPSE的分布式搜索模式下,互聯(lián)網(wǎng)上所有的信息都應(yīng)該在分布式的對(duì)等網(wǎng)絡(luò)上,進(jìn)行唯一的、永久的并且可以按照內(nèi)容來查找。分布式搜索引擎采用分布式計(jì)算技術(shù)架構(gòu),讓整個(gè)集群中的每臺(tái)計(jì)算機(jī)進(jìn)行協(xié)作,來完成爬行、索引和搜索功能。分布式搜索引擎不僅解決了傳統(tǒng)搜索引擎面對(duì)的一些問題,如海量數(shù)據(jù)的信息處理低下問題、索引和搜索效率低下問題,而且具有更佳的安全性能,更強(qiáng)的容錯(cuò)性,更高的效率,更加方便維護(hù),使它的服務(wù)越來越完善。

分布式搜索利用分布式技術(shù),使得多臺(tái)計(jì)算機(jī)串聯(lián)起來,能夠擁有更大的存儲(chǔ)、計(jì)算能力,部署成本也會(huì)更低,無疑對(duì)高校、企業(yè)等研究機(jī)構(gòu)提供了更為廣闊的研究平臺(tái)和發(fā)展空間,也為知識(shí)產(chǎn)權(quán)保護(hù)提供了新的途徑。快捷、高效的信息處理更滿足了社會(huì)大眾的知識(shí)獲取需要,會(huì)創(chuàng)造巨大的社會(huì)價(jià)值。

分布式搜索的技術(shù)保證

在分布式計(jì)算領(lǐng)域,分布式搜索應(yīng)用了分布式計(jì)算框架Hadoop,它具有低成本、高效性、高容錯(cuò)性、高可靠性、高擴(kuò)展性等優(yōu)點(diǎn),能夠讓開發(fā)者輕松對(duì)其進(jìn)行架構(gòu)和使用,在Hadoop上來開發(fā)和運(yùn)行應(yīng)用程序來對(duì)海量的數(shù)據(jù)進(jìn)行處理,為分布式引擎IPSE提供很好的技術(shù)支撐。

目前,IPSE主要采用基于P2P的分布式搜索引擎。P2P系統(tǒng)一般采用非中心化的拓?fù)浣Y(jié)構(gòu),并通過分布式散列表(DHT)技術(shù)來對(duì)網(wǎng)絡(luò)進(jìn)行組織。DHT是由廣域網(wǎng)范圍中的大量節(jié)點(diǎn)共同進(jìn)行維護(hù)的巨大散列表,它采用分布式散列計(jì)算法解決結(jié)構(gòu)化的分布式存儲(chǔ)問題,通過分布式散列表,對(duì)文件能夠進(jìn)行精確匹配查找,保證網(wǎng)絡(luò)中的文件經(jīng)過有限的跳數(shù)一定能夠被找到。

由此可見,基于分布式的搜索引擎將會(huì)是未來搜索引擎的主要發(fā)展方向,也是互聯(lián)網(wǎng)領(lǐng)域中的熱點(diǎn)研究問題。隨著搜索引擎的商業(yè)化,未來的分布式搜索引擎也將不斷地取得發(fā)展,一個(gè)新的搜索時(shí)代正在到來。