面试案例-用Redis统计独立用户访问量

概述

以PDD为例,PDD有数亿的用户,那么对于某个网页,怎么使用Redis来统计一个网站的用户访问数呢?

使用Hash

哈希是Redis的一种基础数据结构,Redis底层维护的是一个开散列,会把不同的key映射到哈希表上,如果是遇到关键字冲突,那么就会拉出一个链表出来。

当一个用户访问的时候,如果用户登陆过,那么我们就使用用户的id,如果用户没有登陆过,那么我们也能够前端页面随机生成一个key用来标识用户,当用户访问的时候,我们可以使用HSET命令,key可以选择URI与对应的日期进行拼凑,field可以使用用户的id或者随机标识,value可以简单设置为1。

当要统计某一个网站某一天的访问量的时候,就可以直接使用HLEN来得到最终的结果了。

使用Hash法

优点

简单,容易实现,查询也是非常方便,数据准确性非常高。

缺点

占用内存过大。随着key的增多,性能也会下降。小网站还行,PDD这种数亿PV的网站肯定受不了。

使用Bitset

对于一个32位的int,如果只用来记录id,那么只能够记录一个用户,但如果转成2进制,每位用来表示一个用户,那么就能够一口气表示32个用户,空间节省了32倍!

对于有大量数据的场景,如果使用bitset,那么可以节省非常多的内存。对于没有登陆的用户,也可以使用哈希算法,把对应的用户标识哈希成一个数字id。bitset非常的节省内存,假设有1亿个用户,也只需要100000000/8/1024/1024约等于12兆内存。

Redis已经提供了SETBIT的方法,使用起来非常的方便,如下示例,

我们在item页面可以不停地使用SETBIT命令,设置用户已经访问了该页面,也可以使用GETBIT的方法查询某个用户是否访问。最后通过BITCOUNT可以统计该网页每天的访问数量。

使用bitset

优点

占用内存更小,查询方便,可以指定查询某个用户,数据可能略有瑕疵,对于非登陆的用户,可能不同的key映射到同一个id,否则需要维护一个非登陆用户的映射,有额外的开销。

缺点

如果用户非常的稀疏,那么占用的内存可能比使用Hash方法更大。

使用HyperLogLog

对于PDD这种多个页面都可能非常多访问量的网站,如果所需要的数量不用那么准确,可以使用概率算法,事实上,对一个网站的UV的统计,1亿跟1亿零30万其实是差不多的。在Redis中,已经封装了HyperLogLog算法,他是一种基数评估算法。这种算法的特征,一般都是数据不存具体的值,而是存用来计算概率的一些相关数据。

当用户访问网站的时候,可以使用PFADD命令,设置对应的命令,最后只要通过PFCOUNT就能顺利计算出最终的结果,因为这个只是一个概率算法,所以可能存在0.81%的误差。

使用HyperLogLog

优点

占用内存极小,对于一个key,只需要12kb。对于PDD这种超多用户的特别适用。

缺点

查询指定用户的时候,可能会出错,毕竟存的不是具体的数据。总数也存在一定的误差。

本文标题:面试案例-用Redis统计独立用户访问量

文章作者:王洪博

发布时间:2019年03月15日 - 11:03

最后更新:2019年12月03日 - 05:12

原始链接:http://whb1990.github.io/posts/87eb1b15.html

▄︻┻═┳一如果你喜欢这篇文章,请点击下方"打赏"按钮请我喝杯 ☕
0%