29堆的应用:如何快速获取到Top10最热门的搜索关键词?.pdf
《29堆的应用:如何快速获取到Top10最热门的搜索关键词?.pdf》由会员分享,可在线阅读,更多相关《29堆的应用:如何快速获取到Top10最热门的搜索关键词?.pdf(12页珍藏版)》请在三一文库上搜索。
1、29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/geektime/数据结构与算法之美/29堆的应用:如何快速获取到Top10最热门的搜索关键词?.html2019/1/15 15:36:04 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? 搜索引擎的热门搜索排行榜功能你用过吗?你知道这个功能是如何实现的吗?实际上,它的实现并不复杂。搜索引擎每天会接收大量的用户搜索请求,它会把这 些用户输入的搜索关键词记录下来,然后再离线地统计分析,得到最热门的Top 10搜索关键词。 那请你思考下,假设现在我们有一个包含10亿个搜索关键词的日志文件,如何能
2、快速获取到热门榜Top 10的搜索关键词呢? 这个问题就可以用堆来解决,这也是堆这种数据结构一个非常典型的应用。上一节我们讲了堆和堆排序的一些理论知识,今天我们就来讲一讲,堆这种数据结构 几个非常重要的应用:优先级队列、求Top K和求中位数。 堆的应用一:优先级队列 首先,我们来看第一个应用场景:优先级队列。 优先级队列,顾名思义,它首先应该是一个队列。我们前面讲过,队列最大的特性就是先进先出。不过,在优先级队列中,数据的出队顺序不是先进先出,而是 按照优先级来,优先级最高的,最先出队。 如何实现一个优先级队列呢?方法有很多,但是用堆来实现是最直接、最高效的。这是因为,堆和优先级队列非常相似
3、。一个堆就可以看作一个优先级队列。很 多时候,它们只是概念上的区分而已。往优先级队列中插入一个元素,就相当于往堆中插入一个元素;从优先级队列中取出优先级最高的元素,就相当于取出堆 顶元素。 你可别小看这个优先级队列,它的应用场景非常多。我们后面要讲的很多数据结构和算法都要依赖它。比如,赫夫曼编码、图的最短路径、最小生成树算法等 等。不仅如此,很多语言中,都提供了优先级队列的实现,比如,Java的PriorityQueue,C+的priority_queue等。 只讲这些应用场景比较空泛,现在,我举两个具体的例子,让你感受一下优先级队列具体是怎么用的。 1.合并有序小文件 假设我们有100个小文
4、件,每个文件的大小是100MB,每个文件中存储的都是有序的字符串。我们希望将这些100个小文件合并成一个有序的大文件。这里就会用 到优先级队列。 整体思路有点像归并排序中的合并函数。我们从这100个文件中,各取第一个字符串,放入数组中,然后比较大小,把最小的那个字符串放入合并后的大文件中, 并从数组中删除。 假设,这个最小的字符串来自于13.txt这个小文件,我们就再从这个小文件取下一个字符串,并且放到数组中,重新比较大小,并且选择最小的放入合并后的大文 件,并且将它从数组中删除。依次类推,直到所有的文件中的数据都放入到大文件为止。 这里我们用数组这种数据结构,来存储从小文件中取出来的字符串。
5、每次从数组中取最小字符串,都需要循环遍历整个数组,显然,这不是很高效。有没有更加 高效方法呢? 这里就可以用到优先级队列,也可以说是堆。我们将从小文件中取出来的字符串放入到小顶堆中,那堆顶的元素,也就是优先级队列队首的元素,就是最小的字 符串。我们将这个字符串放入到大文件中,并将其从堆中删除。然后再从小文件中取出下一个字符串,放入到堆中。循环这个过程,就可以将100个小文件中的数 据依次放入到大文件中。 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/geektime/数据结构与算法之美/29堆的应用:如何快速获取到Top10最热门的搜索关键词?.htm
6、l2019/1/15 15:36:04 我们知道,删除堆顶数据和往堆中插入数据的时间复杂度都是O(logn),n表示堆中的数据个数,这里就是100。是不是比原来数组存储的方式高效了很多呢? 2.高性能定时器 假设我们有一个定时器,定时器中维护了很多定时任务,每个任务都设定了一个要触发执行的时间点。定时器每过一个很小的单位时间(比如1秒),就扫描一遍 任务,看是否有任务到达设定的执行时间。如果到达了,就拿出来执行。 但是,这样每过1秒就扫描一遍任务列表的做法比较低效,主要原因有两点:第一,任务的约定执行时间离当前时间可能还有很久,这样前面很多次扫描其实都是 徒劳的;第二,每次都要扫描整个任务列表
7、,如果任务列表很大的话,势必会比较耗时。 针对这些问题,我们就可以用优先级队列来解决。我们按照任务设定的执行时间,将这些任务存储在优先级队列中,队列首部(也就是小顶堆的堆顶)存储的是 最先执行的任务。 这样,定时器就不需要每隔1秒就扫描一遍任务列表了。它拿队首任务的执行时间点,与当前时间点相减,得到一个时间间隔T。 这个时间间隔T就是,从当前时间开始,需要等待多久,才会有第一个任务需要被执行。这样,定时器就可以设定在T秒之后,再来执行任务。从当前时间点到 (T-1)秒这段时间里,定时器都不需要做任何事情。 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/
8、geektime/数据结构与算法之美/29堆的应用:如何快速获取到Top10最热门的搜索关键词?.html2019/1/15 15:36:04 当T秒时间过去之后,定时器取优先级队列中队首的任务执行。然后再计算新的队首任务的执行时间点与当前时间点的差值,把这个值作为定时器执行下一个任务 需要等待的时间。 这样,定时器既不用间隔1秒就轮询一次,也不用遍历整个任务列表,性能也就提高了。 堆的应用二:利用堆求Top K 刚刚我们学习了优先级队列,我们现在来看,堆的另外一个非常重要的应用场景,那就是“求Top K问题”。 我把这种求Top K的问题抽象成两类。一类是针对静态数据集合,也就是说数据集合事
9、先确定,不会再变。另一类是针对动态数据集合,也就是说数据集合事先并 不确定,有数据动态地加入到集合中。 针对静态数据,如何在一个包含n个数据的数组中,查找前K大数据呢?我们可以维护一个大小为K的小顶堆,顺序遍历数组,从数组中取出取数据与堆顶元素比 较。如果比堆顶元素大,我们就把堆顶元素删除,并且将这个元素插入到堆中;如果比堆顶元素小,则不做处理,继续遍历数组。这样等数组中的数据都遍历完 之后,堆中的数据就是前K大数据了。 遍历数组需要O(n)的时间复杂度,一次堆化操作需要O(logK)的时间复杂度,所以最坏情况下,n个元素都入堆一次,所以时间复杂度就是O(nlogK)。 针对动态数据求得Top
10、 K就是实时Top K。怎么理解呢?我举一个例子。一个数据集合中有两个操作,一个是添加数据,另一个询问当前的前K大数据。 如果每次询问前K大数据,我们都基于当前的数据重新计算的话,那时间复杂度就是O(nlogK),n表示当前的数据的大小。实际上,我们可以一直都维护一个K大小 的小顶堆,当有数据被添加到集合中时,我们就拿它与堆顶的元素对比。如果比堆顶元素大,我们就把堆顶元素删除,并且将这个元素插入到堆中;如果比堆顶 元素小,则不做处理。这样,无论任何时候需要查询当前的前K大数据,我们都可以里立刻返回给他。 堆的应用三:利用堆求中位数 前面我们讲了如何求Top K的问题,现在我们来讲下,如何求动态
11、数据集合中的中位数。 中位数,顾名思义,就是处在中间位置的那个数。如果数据的个数是奇数,把数据从小到大排列,那第$fracn2+1$个数据就是中位数;如果数据的个数是偶数 的话,那处于中间位置的数据有两个,第$fracn2$个和第$fracn2+1$个数据,这个时候,我们可以随意取一个作为中位数,比如取两个数中靠前的那个, 就是第$fracn2$个数据。 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/geektime/数据结构与算法之美/29堆的应用:如何快速获取到Top10最热门的搜索关键词?.html2019/1/15 15:36:04 对于一组静
12、态数据,中位数是固定的,我们可以先排序,第$fracn2$个数据就是中位数。每次询问中位数的时候,我们直接返回这个固定的值就好了。所以, 尽管排序的代价比较大,但是边际成本会很小。但是,如果我们面对的是动态数据集合,中位数在不停地变动,如果再用先排序的方法,每次询问中位数的时 候,都要先进行排序,那效率就不高了。 借助堆这种数据结构,我们不用排序,就可以非常高效地实现求中位数操作。我们来看看,它是如何做到的? 我们需要维护两个堆,一个大顶堆,一个小顶堆。大顶堆中存储前半部分数据,小顶堆中存储后半部分数据,且小顶堆中的数据都大于大顶堆中的数据。 也就是说,如果有n个数据,n是偶数,我们从小到大排
13、序,那前$fracn2$个数据存储在大顶堆中,后$fracn2$个数据存储在小顶堆中。这样,大顶堆中的 堆顶元素就是我们要找的中位数。如果n是奇数,情况是类似的,大顶堆就存储$fracn2+1$个数据,小顶堆中就存储$fracn2$个数据。 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/geektime/数据结构与算法之美/29堆的应用:如何快速获取到Top10最热门的搜索关键词?.html2019/1/15 15:36:04 我们前面也提到,数据是动态变化的,当新添加一个数据的时候,我们如何调整两个堆,让大顶堆中的堆顶元素继续是中位数呢? 如果新加入
14、的数据小于等于大顶堆的堆顶元素,我们就将这个新数据插入到大顶堆;如果新加入的数据大于等于小顶堆的堆顶元素,我们就将这个新数据插入到 小顶堆。 这个时候就有可能出现,两个堆中的数据个数不符合前面约定的情况:如果n是偶数,两个堆中的数据个数都是$fracn2$;如果n是奇数,大顶堆有$fracn 2+1$个数据,小顶堆有$fracn2$个数据。这个时候,我们可以从一个堆中不停地将堆顶元素移动到另一个堆,通过这样的调整,来让两个堆中的数据满足上 面的约定。 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/geektime/数据结构与算法之美/29堆的应用:如何
15、快速获取到Top10最热门的搜索关键词?.html2019/1/15 15:36:04 于是,我们就可以利用两个堆,一个大顶堆、一个小顶堆,实现在动态数据集合中求中位数的操作。插入数据因为需要涉及堆化,所以时间复杂度变成 了O(logn),但是求中位数我们只需要返回大顶堆的堆顶元素就可以了,所以时间复杂度就是O(1)。 29|堆的应用:如何快速获取到Top10最热门的搜索关键词? file:/F/temp/geektime/数据结构与算法之美/29堆的应用:如何快速获取到Top10最热门的搜索关键词?.html2019/1/15 15:36:04 实际上,利用两个堆不仅可以快速求出中位数,还可
16、以快速求其他百分位的数据,原理是类似的。还记得我们在“为什么要学习数据结构与算法”里的这个问题 吗?“如何快速求接口的99%响应时间?”我们现在就来看下,利用两个堆如何来实现。 在开始这个问题的讲解之前,我先解释一下,什么是“99%响应时间”。 中位数的概念就是将数据从小到大排列,处于中间位置,就叫中位数,这个数据会大于等于前面50%的数据。99百分位数的概念可以类比中位数,如果将一组数据 从小到大排列,这个99百分位数就是大于前面99%数据的那个数据。 如果你还是不太理解,我再举个例子。假设有100个数据,分别是1,2,3,100,那99百分位数就是99,因为小于等于99的数占总个数的99%
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 29 应用 如何 快速 获取 Top10 热门 搜索关键词
链接地址:https://www.31doc.com/p-5530017.html