Redis-v1 连接器
Redis-v1 连接器
上级文档: Connectors
BitSail Redis连接器支持写 Redis 库,主要功能点如下:
- 支持批式写入Redis
- 支持写入多种格式
依赖引入
<dependency>
<groupId>com.bytedance.bitsail</groupId>
<artifactId>connector-redis</artifactId>
<version>${revision}</version>
</dependency>
Redis写入
支持数据类型
目前支持以Redis中的String, Set, Hash, Sorted Set四种格式写入。 每种格式对要写入的数据的具体要求如下:
| 数据类型 | 要求的列数 | 第一列 | 第二列 | 第三列 |
|---|---|---|---|---|
| String | 2 | key | value | |
| Set | 2 | key | 要插入到Set中的value | |
| Hash | 3 | key | hash中的key | hash中的value |
| Sorted Set (Zset) | 3 | key | score | 要插入到Set中的value |
主要参数
写连接器参数在job.writer中配置,实际使用时请注意路径前缀。示例:
"writer": {
"class": "com.bytedance.bitsail.connector.redis.sink.RedisSink",
"redis_data_type": "hash",
"redis_host": "localhost",
"redis_port": 6379,
"columns": [
{
"index": 0,
"type": "string"
},
{
"index": 1,
"type": "string"
},
{
"index": 2,
"type": "string"
}
]
}
必需参数
| 参数名称 | 是否必填 | 参数枚举值 | 参数含义 |
|---|---|---|---|
| class | 是 | Redis写连接器类型, com.bytedance.bitsail.connector.legacy.redis.sink.RedisOutputFormat | |
| redis_host | 是 | Redis连接地址 | |
| redis_port | 是 | Redis连接端口 | |
| columns | 是 | 写入列数据字段,字段的类型可以是binary、string或者其他基本格式,binary类型指代的是byte[]格式。 |
可选参数
| 参数名称 | 是否必填 | 参数枚举值 | 参数含义 |
|---|---|---|---|
| writer_parallelism_num | 否 | 指定redis写并发 | |
| client_timeout_ms | 否 | Redis的连接/请求超时, 默认60000ms | |
| ttl | 否 | 写入数据的ttl, 默认-1表示不设置 | |
| ttl_type | 否 | "DAY", "HOUR", "MINUTE", "SECOND" | 上面指定的ttl单位, 默认"DAY" |
| write_batch_interval | 否 | Redis指令攒批写入的大小, 默认50 | |
| redis_data_type | 否 | "string" "set" "hash" "sorted_set" "mhash" | 写入Redis的数据格式, 默认 string |
| password | 否 | Redis连接密码 | |
| connection_pool_max_total | 否 | 连接池最大可分配实例 | |
| connection_pool_max_idle | 否 | 连接池最大空闲实例 | |
| connection_pool_min_idle | 否 | 连接池最小空闲实例 | |
| connection_pool_max_wait_time_ms | 否 | 连接池最大等待时间 | |
| max_attempt_count | 否 | 重试器最大重试次数 |
相关文档
配置示例文档:Redis-v1 连接器示例
