Архів теґу: AI

llama.cpp: метрики та моніторинг з VictoriaMetrics
0 (0)

21 Серпня 2026

Є у нас сервер, на якому будемо запускати self-hosted LLM. Довго вибирали на чому саме запускати моделі – vLLM, SGLang, або llama.cpp, і врешті-решт зупинились саме на llama.cpp – принаймні на даний момент. В пості NixOS: знайомство, установка пакетів та конфігурація системи як раз описана установка Node Exporter на NixOS, де у нас будуть запускатись… Read More: llama.cpp: метрики та моніторинг з VictoriaMetrics0 (0) »

Loading

LiteLLM: метрики, traces та дебаг exception_class=”ValueError”
0 (0)

12 Серпня 2026

Виникла на днях цікава ситуація з LiteLLM, коли з одного боку метрики показують, що було багато помилок “від провайдера”, а з іншого – в трейсах і алертах помилка була тільки один раз. Довелось трохи покопатись і розібратись з деякими нюансами того, як LiteLLM взагалі рахує метрики і що вона дійсно пише в метрики і трейси.… Read More: LiteLLM: метрики, traces та дебаг exception_class=”ValueError”0 (0) »

Loading

LiteLLM: OpenRouter та налаштування Fallbacks
0 (0)

31 Липня 2026

OpenRouter на днях анонсував 50% знижки на OpenAI, і вирішили спробувати його. Переключення будемо робити на LiteLLM, на яку вже йдуть запити від всіх наших сервісів – тому переключення буде доволі простим. До OpenRouter в LiteLLM налаштуємо fallbacks напряму до OpenAI – на ті випадки, коли реквести до OpenRouter фейляться. Підключення OpenRouter до LiteLLM Взагалі… Read More: LiteLLM: OpenRouter та налаштування Fallbacks0 (0) »

Loading

LiteLLM: моніторинг з VictoriaMetrics – алерти та Grafana
0 (0)

17 Липня 2026

Це друга частина матеріалу про моніторинг LiteLLM – у попередній ми розібрали загальну інтеграцію з VictoriaStack, а також подивилися, які метрики й трейси отримуємо від LiteLLM (див. LiteLLM: метрики, traces та інтеграція з VictoriaMetrics Stack). Тепер перейдемо до практичної частини – що відстежувати та як це можна організувати. Втім, хоча LiteLLM у нас уже працює… Read More: LiteLLM: моніторинг з VictoriaMetrics – алерти та Grafana0 (0) »

Loading

LiteLLM: метрики, traces та інтеграція з VictoriaMetrics Stack
0 (0)

9 Липня 2026

Третя частина по запуску LiteLLM – AI Gateway або LLM Proxy, і нарешті добираємось до моніторингу. В першій частині знайомились з LiteLLM в цілому (див. LiteLLM: AI Gateway для LLM – overview можливостей), в другій – запустили в Kubernetes і підключили VictoriaTraces та VictoriaMetrics для збору трейсів метрик (див. LiteLLM: AI Gateway в Kubernetes та… Read More: LiteLLM: метрики, traces та інтеграція з VictoriaMetrics Stack0 (0) »

Loading

Claude Code: моніторинг з OpenTelemetry та VictoriaMetrics
5 (1)

18 Червня 2026

Поки роблю LiteLLM (див. LiteLLM: AI Gateway для LLM – overview можливостей), то з’явилась ідея окрім сервісів типу нашого Backend API – помоніторити і Claude Code девелоперів. Чисто інтересу заради – аби побачити що там взагалі є і хто як використовує нашу Anthropic Organization, бо у багатьох там підписка за 200 баксів, яку оплачує проект … Read More: Claude Code: моніторинг з OpenTelemetry та VictoriaMetrics5 (1) »

Loading

LiteLLM: AI Gateway для LLM – overview можливостей
0 (0)

4 Червня 2026

В попередніх постах по OpenTelemetry і VictoriaTraces (див. OpenTelemetry: OTel Collectors в Kubernetes та інтеграція з VictoriaMetrics stack  та VictoriaTraces: Tracing, Observability та OpenTelemetry) розбирали загальні концепції того, що таке observability та як працювати з трейсами. Але взагалі на проекті ця тема з’явилась коли ми зрозуміли, що використання LLM стає важливою частиною нашого продукту –… Read More: LiteLLM: AI Gateway для LLM – overview можливостей0 (0) »

Loading

Hermes Agent: запуск AI Agent у FreeBSD Jail з Bastille
5 (1)

3 Травня 2026

По самому Hermes Agent і його можливостям буду писати окремо, сьогодні – як запустити його на FreeBSD. Вчора погрався на своєму Arch Linux – тепер хочеться вже більш production setup. Крутити буду на моєму NAS з FreeBSD, запускати там, звісно, вже тільки у FreeBSD Jail, бо NAS – це доступ до важливих даних і бекапів.… Read More: Hermes Agent: запуск AI Agent у FreeBSD Jail з Bastille5… »

Loading

Claude Code: створення Kubernetes debugging AI Agent для VictoriaMetrics
5 (5)

30 Квітня 2026

Поки пишеться серія постів по налаштуванню і використанню Claude Code – запишу приклад створення власного AI Agent для VictoriaMetrics та Kubernetes і “загортання” його в Claude Code Plugin та створення власного Claude Code Markeplace, де будуть жити подібні плагіни для девелоперів на моєму проекті. Загальна ідея: мати агента, якого девелопери можуть підключити собі до Claude… Read More: Claude Code: створення Kubernetes debugging AI Agent для VictoriaMetrics5 (5) »

Loading

Arize Phoenix: сервіс моніторингу LLM – запуск в Kubernetes
0 (0)

23 Жовтня 2025

Прийшла задачка підняти для проекту цікавий сервіс Arize Phoenix для моніторингу і тюнингу використання LLM. За сам сервіс багато не скажу, бо не користувався, але його запуск вийшов доволі цікавим. Що будемо робити – спочатку з Helm запустимо тестовий варіант, подивитись як воно взагалі виглядає, потім зробимо повноцінну автоматизацію – Terraform для всяких сікретів, Helm… Read More: Arize Phoenix: сервіс моніторингу LLM – запуск в Kubernetes0 (0) »

Loading