一聚教程网:一个值得你收藏的教程网站

最新下载

Redis如何实现UA池 Redis实现UA池代码实例

时间:2019-11-28 14:22:24 编辑:袖梨 来源:转载

本篇文章小编给大家分享一下Redis实现UA池代码实例,小编觉得挺不错的,现在分享给大家供大家参考,有需要的小伙伴们可以来看看。

背景

最近的一个需求,有模拟请求的逻辑,要求每次请求的请求头中的User Agent要满足下面几点:

每次获取的User Agent是随机的。

每次获取的User Agent(短时间内)不能重复。

每次获取的User Agent必须带有主流的操作系统信息(可以是Uinux、Windows、IOS和安卓等等)。

这里三点都可以从UA数据的来源解决,实际上我们应该关注具体的实现方案。简单分析一下,流程如下:

Redis如何实现UA池 Redis实现UA池代码实例

在设计UA池的时候,它的数据结构和环形队列十分类似:

Redis如何实现UA池 Redis实现UA池代码实例

上图中,假设不同颜色的UA是完全不同的UA,它们通过洗牌算法打散放进去环形队列中,实际上每次取出一个UA之后,只需要把游标cursor前进或者后退一格即可(甚至可以把游标设置到队列中的任意元素)。最终的实现就是:需要通过中间件实现分布式队列(只是队列,不是消息队列)。

具体实现方案

毫无疑问需要一个分布式数据库类型的中间件才能存放已经准备好的UA,第一印象就感觉Redis会比较合适。接下来需要选用Redis的数据类型,主要考虑几个方面:

UA

支持这几个方面的Redis数据类型就是List,不过注意List本身不能去重,去重的工作可以用代码逻辑实现。然后可以想象客户端获取UA的流程大致如下:

Redis如何实现UA池 Redis实现UA池代码实例

结合前面的分析,编码过程有如下几步:

准备好需要导入的UA数据,可以从数据源读取,也可以直接文件读取。

因为需要导入的UA数据集合一般不会太大,考虑先把这个集合的数据随机打散,如果使用Java开发可以直接使用Collections#shuffle()洗牌算法,当然也可以自行实现这个数据随机分布的算法, 这一步对于一些被模拟方会严格检验UA合法性的场景是必须的 。

导入UA数据到Redis列表中。

编写RPOP + LPUSH的Lua脚本,实现分布式循环队列。

编码和测试示例

引入Redis的高级客户端Lettuce依赖:


  io.lettuce
  lettuce-core
  5.2.1.RELEASE

编写RPOP + LPUSH的Lua脚本,Lua脚本名字暂称为L_RPOP_LPUSH.lua,放在resources/scripts/lua目录下:

local key = KEYS[1]
local value = redis.call('RPOP', key)
redis.call('LPUSH', key, value)
return value

这个脚本十分简单,但是已经实现了循环队列的功能。剩下来的测试代码如下:

public class UaPoolTest {

  private static RedisCommands COMMANDS;

  private static AtomicReference LUA_SHA = new AtomicReference<>();
  private static final String KEY = "UA_POOL";

  @BeforeClass
  public static void beforeClass() throws Exception {
    // 初始化Redis客户端
    RedisURI uri = RedisURI.builder().withHost("localhost").withPort(6379).build();
    RedisClient redisClient = RedisClient.create(uri);
    StatefulRedisConnection connect = redisClient.connect();
    COMMANDS = connect.sync();
    // 模拟构建UA池的原始数据,假设有10个UA,分别是UA-0 ... UA-9
    List uaList = Lists.newArrayList();
    IntStream.range(0, 10).forEach(e -> uaList.add(String.format("UA-%d", e)));
    // 洗牌
    Collections.shuffle(uaList);
    // 加载Lua脚本
    ClassPathResource resource = new ClassPathResource("/scripts/lua/L_RPOP_LPUSH.lua");
    String content = StreamUtils.copyToString(resource.getInputStream(), StandardCharsets.UTF_8);
    String sha = COMMANDS.scriptLoad(content);
    LUA_SHA.compareAndSet(null, sha);
    // Redis队列中写入UA数据,数据量多的时候可以考虑分批写入防止长时间阻塞Redis服务
    COMMANDS.lpush(KEY, uaList.toArray(new String[0]));
  }

  @AfterClass
  public static void afterClass() throws Exception {
    COMMANDS.del(KEY);
  }

  @Test
  public void testUaPool() {
    IntStream.range(1, 21).forEach(e -> {
      String result = COMMANDS.evalsha(LUA_SHA.get(), ScriptOutputType.VALUE, KEY);
      System.out.println(String.format("第%d次获取到的UA是:%s", e, result));
    });
  }
}

某次运行结果如下:

第1次获取到的UA是:UA-0

第2次获取到的UA是:UA-8

第3次获取到的UA是:UA-2

第4次获取到的UA是:UA-4

第5次获取到的UA是:UA-7

第6次获取到的UA是:UA-5

第7次获取到的UA是:UA-1

第8次获取到的UA是:UA-3

第9次获取到的UA是:UA-6

第10次获取到的UA是:UA-9

第11次获取到的UA是:UA-0

第12次获取到的UA是:UA-8

第13次获取到的UA是:UA-2

第14次获取到的UA是:UA-4

第15次获取到的UA是:UA-7

第16次获取到的UA是:UA-5

第17次获取到的UA是:UA-1

第18次获取到的UA是:UA-3

第19次获取到的UA是:UA-6

第20次获取到的UA是:UA-9

可见洗牌算法的效果不差,数据相对分散。

小结

其实UA池的设计难度并不大,需要注意几个要点:

一般主流的移动设备或者桌面设备的系统版本不会太多,所以来源UA数据不会太多,最简单的实现可以使用文件存放,一次读取直接写入Redis中。

注意需要随机打散UA数据,避免同一个设备系统类型的UA数据过于密集,这样可以避免触发模拟某些请求时候的风控规则。

需要熟悉Lua的语法,毕竟Redis的原子指令一定离不开Lua脚本。

网站留言

热门栏目