В продолжение постов о настройке и использовании Redis репликации с использованием Redis Sentinel — пример работы из Python.
Предыдущие и последующие посты серии:
- Redis: репликация, часть 1 — обзор. Replication vs Sharding. Sentinel vs Cluster. Топология Redis.
- Redis: репликация, часть 2 — Master-Slave репликация, и Redis Sentinel
- Redis: репликация, часть 4 — написание Ansible роли
Список всех клиентов, в частности Python — redis.io/clients.
Тут используем redis-py.
Сначала пример без Sentinel — просто посмотрим, как работает клиент.
Затем — пример работы через Sentinel.
Рабочее окружение aka Redis replication и сам Redis Sentinel настроены во второй части, тут — только примеры работы из Python.
Содержание
redis-py и Redis
Устанавливаем на Debian:
[simterm]
root@redis-0:/home/admin# apt install python-redis
[/simterm]
Можно из pip — но лучше из нормального репозитория.
Проверяем:
[simterm]
root@redis-0:/home/admin# python
Python 2.7.13 (default, Sep 26 2018, 18:42:22)
[GCC 6.3.0 20170516] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> import redis
>>> r = redis.Redis(host='localhost', port=6379, db=0)
>>> r.get('test')
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/usr/lib/python2.7/dist-packages/redis/client.py", line 880, in get
return self.execute_command('GET', name)
File "/usr/lib/python2.7/dist-packages/redis/client.py", line 573, in execute_command
return self.parse_response(connection, command_name, **options)
File "/usr/lib/python2.7/dist-packages/redis/client.py", line 585, in parse_response
response = connection.read_response()
File "/usr/lib/python2.7/dist-packages/redis/connection.py", line 582, in read_response
raise response
redis.exceptions.ResponseError: NOAUTH Authentication required.
[/simterm]
Работает, окей.
В документации находим авторизацию:
[simterm]
>>> help(redis.Redis)
[/simterm]
Добавляем пароль:
[simterm]
>>> r = redis.Redis(host='localhost', password='foobared', port=6379, db=0)
>>> r.get('test')
'test'
[/simterm]
Okay.
redis-py и Redis Sentinel
Тепреь запускаем Sentinel инстансы, если ещё не запущены — и пробуем работать через Redis Sentinel cluster client.
Напомню конфигурацию Sentinel на Redis хостах:
sentinel monitor redis-test 52.58.69.184 6379 2 sentinel down-after-milliseconds redis-test 6001 sentinel failover-timeout redis-test 60000 bind 0.0.0.0 sentinel auth-pass redis-test foobared
После запуска Sentinel-инстанса — он конфиг немного обновляет, и сейчас на хосте redis-1 (который играет роль первого слейва) он выглядит так:
[simterm]
admin@redis-1:~$ cat /etc/redis/sentinel.conf sentinel myid e3e62e6577aa975f93346dad3d4f8e25833fd8f1 sentinel monitor redis-test 52.29.101.118 6379 2 sentinel down-after-milliseconds redis-test 6001 bind 0.0.0.0 sentinel failover-timeout redis-test 60000 # Generated by CONFIG REWRITE port 26379 dir "/home/admin" sentinel auth-pass redis-test foobared sentinel config-epoch redis-test 1 sentinel leader-epoch redis-test 1 sentinel known-slave redis-test 52.58.69.184 6379 sentinel known-slave redis-test 35.159.18.26 6379 sentinel known-sentinel redis-test 172.31.46.202 26379 e0fe655c59aa3cc32eab1c0858c52418700abe79 sentinel known-sentinel redis-test 172.31.41.39 26379 07a450af0d2f178410b78ee0f5ae99ce1cd0ac62 sentinel current-epoch 1
[/simterm]
Статус Sentinel-кластера сейчас:
[simterm]
root@redis-0:/home/admin# redis-cli -p 26379 info sentinel # Sentinel sentinel_masters:1 sentinel_tilt:0 sentinel_running_scripts:0 sentinel_scripts_queue_length:0 sentinel_simulate_failure_flags:0 master0:name=redis-test,status=ok,address=52.58.69.184:6379,slaves=2,sentinels=3
[/simterm]
И используем redis-py:
[simterm]
>>> from redis.sentinel import Sentinel
>>> sentinel = Sentinel([('localhost', 26379)], socket_timeout=0.1)
[/simterm]
Получаем адрес мастера:
[simterm]
>>> sentinel.discover_master('redis-test')
('52.58.69.184', 6379)
[/simterm]
И слейвов:
[simterm]
>>> sentinel.discover_slaves('redis-test')
[('52.29.101.118', 6379), ('35.159.18.26', 6379)]
[/simterm]
Для работы с мастером используем метод master_for():
| master_for(self, service_name, redis_class=<class ‘redis.client.StrictRedis’>, connection_pool_class=<class ‘redis.sentinel.SentinelConnectionPool’>, **kwargs)
| Returns a redis client instance for the «service_name« master.
[simterm]
>>> master = sentinel.master_for('redis-test', socket_timeout=0.1)
[/simterm]
Но если сейчас обратиться к мастеру — он ответит, что мы не авторизованы:
[simterm]
>>> master.set('test-key', 'test-value')
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/usr/lib/python2.7/dist-packages/redis/client.py", line 1072, in set
return self.execute_command('SET', *pieces)
File "/usr/lib/python2.7/dist-packages/redis/client.py", line 573, in execute_command
return self.parse_response(connection, command_name, **options)
File "/usr/lib/python2.7/dist-packages/redis/client.py", line 585, in parse_response
response = connection.read_response()
File "/usr/lib/python2.7/dist-packages/redis/sentinel.py", line 55, in read_response
return super(SentinelManagedConnection, self).read_response()
File "/usr/lib/python2.7/dist-packages/redis/connection.py", line 582, in read_response
raise response
redis.exceptions.ResponseError: NOAUTH Authentication required.
[/simterm]
Поэтому при создании master — добавляем password:
[simterm]
>>> master = sentinel.master_for('redis-test', socket_timeout=0.1, password='foobared')
[/simterm]
Повторяем:
[simterm]
>>> master.set('test-key', 'test-value')
True
[/simterm]
Кроме того — можно получить весь конфиг мастера:
[simterm]
>>> master.config_get()
{'appendonly': 'no', ... 'slave-announce-port': '0'}
[/simterm]
Или в более читабельном виде:
[simterm]
>>> for i in master.config_get(): ... print(i) ... appendonly requirepass daemonize protected-mode zset-max-ziplist-entries zset-max-ziplist-value dir slave-serve-stale-data cluster-require-full-coverage slowlog-log-slower-than masterauth rdbchecksum ...
[/simterm]
Проверяем добавленный ключ на слейве:
[simterm]
admin@redis-1:~$ redis-cli -a foobared get test-key "test-value"
[/simterm]
Работа со слейвом из redis-py аналогична мастеру:
[simterm]
>>> slave = sentinel.slave_for('redis-test', socket_timeout=0.1, password='foobared')
>>> slave.get('test-key')
'test-value'
[/simterm]
Смена мастера и failover Sentinel
Ещё раз проверим мастер сейчас:
[simterm]
>>> sentinel.discover_master('redis-test')
('52.58.69.184', 6379)
[/simterm]
И в конце-концов попробуем то, ради чего всё затевалось — останаливаем мастер-ноду Redis на redis-0, который сейчас является мастером:
[simterm]
root@redis-0:/home/admin# systemctl stop redis-server
[/simterm]
Или:
[simterm]
root@redis-0:/home/admin# redis-cli -a foobared DEBUG sleep 600
[/simterm]
(если убить процесс с помощью kill — Sentinel просто перезапустит её).
Проверяем логи Sentinel:
[simterm]
10633:X 01 Apr 13:46:10.430 # +sdown master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:10.486 # +odown master redis-test 52.58.69.184 6379 #quorum 2/2
10633:X 01 Apr 13:46:10.486 # +new-epoch 1
10633:X 01 Apr 13:46:10.486 # +try-failover master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:10.488 # +vote-for-leader e3e62e6577aa975f93346dad3d4f8e25833fd8f1 1
10633:X 01 Apr 13:46:10.492 # 07a450af0d2f178410b78ee0f5ae99ce1cd0ac62 voted for e3e62e6577aa975f93346dad3d4f8e25833fd8f1 1
10633:X 01 Apr 13:46:10.492 # e0fe655c59aa3cc32eab1c0858c52418700abe79 voted for e3e62e6577aa975f93346dad3d4f8e25833fd8f1 1
10633:X 01 Apr 13:46:10.559 # +elected-leader master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:10.559 # +failover-state-select-slave master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:10.611 # +selected-slave slave 52.29.101.118:6379 52.29.101.118 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:10.612 * +failover-state-send-slaveof-noone slave 52.29.101.118:6379 52.29.101.118 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:10.664 * +failover-state-wait-promotion slave 52.29.101.118:6379 52.29.101.118 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:11.498 # +promoted-slave slave 52.29.101.118:6379 52.29.101.118 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:11.498 # +failover-state-reconf-slaves master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:11.557 * +slave-reconf-sent slave 35.159.18.26:6379 35.159.18.26 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:12.550 * +slave-reconf-inprog slave 35.159.18.26:6379 35.159.18.26 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:12.550 * +slave-reconf-done slave 35.159.18.26:6379 35.159.18.26 6379 @ redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:12.632 # -odown master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:12.632 # +failover-end master redis-test 52.58.69.184 6379
10633:X 01 Apr 13:46:12.632 # +switch-master redis-test 52.58.69.184 6379 52.29.101.118 6379
10633:X 01 Apr 13:46:12.632 * +slave slave 35.159.18.26:6379 35.159.18.26 6379 @ redis-test 52.29.101.118 6379
10633:X 01 Apr 13:46:12.632 * +slave slave 52.58.69.184:6379 52.58.69.184 6379 @ redis-test 52.29.101.118 6379
10633:X 01 Apr 13:46:18.647 # +sdown slave 52.58.69.184:6379 52.58.69.184 6379 @ redis-test 52.29.101.118 6379
[/simterm]
Проверяем в Python:
[simterm]
>>> sentinel.discover_master('redis-test')
('52.29.101.118', 6379)
[/simterm]
Мастер обновился — 52.29.101.118 — это хост redis-1.
Проверяем на нём статус:
[simterm]
admin@redis-1:~$ redis-cli -a foobared info replication # Replication role:master connected_slaves:1 slave0:ip=35.159.18.26,port=6379,state=online,offset=76847,lag=0 ...
[/simterm]
Проверяем статус Redis-ноды на redis-0, который сейчас стал слейвом:
[simterm]
root@redis-0:/home/admin# redis-cli -a foobared info replication # Replication role:slave ...
[/simterm]
И пробуем добавить ключ с Python-консоли на redis-0, используя созданный ранее объект master:
[simterm]
>>> master.set('test-key2', 'test-value2')
True
[/simterm]
Проверяем:
[simterm]
admin@redis-2:~$ redis-cli -a foobared get test-key2 "test-value2"
[/simterm]
Готово.
