Архів категорії: Проблеми та рішення

RTFM: злам TeamUpdraft (UpdraftPlus) та WordPress з блогом RTFM
0 (0)

20 Жовтня 2026

Ранок 19-го жовтня почався не з кави – але адреналіну вистачило. Перше, що я побачив, коли прокинувся – це алерти в Telegram, що на RTFM “щось пішло не так”: Спершу не придав особливої уваги, бо якісь повідомлення про помилки PHP іноді бувають, зробив собі чаю, сів за комп’ютер, відкрив https://rtfm.co.ua, і… Упс. “There has been… Read More: RTFM: злам TeamUpdraft (UpdraftPlus) та WordPress з блогом RTFM0 (0) »

Loading

LiteLLM: PostgreSQL Failed Requests, AWS RDS та “ручний дебаг”
0 (0)

7 Жовтня 2026

Трохи нестандартний вийшов матеріал 🙂 Нестандартний в тому плані, що він насправді якраз “стандартний” – стандартний в тому, як схожі пости писались раніше, в часи мамонтів – ще до LLM і AI-агентів: сьогодні дебажив одну проблему, і вирішив робити це без використання AI взагалі, чисто в “ручному режимі” – з гуглінгом і читанням документації. Надихнув… Read More: LiteLLM: PostgreSQL Failed Requests, AWS RDS та “ручний дебаг”0 (0) »

Loading

AI: контроль витрат LLM з LiteLLM Budgets та OpenAI Limits
0 (0)

24 Вересня 2026

Головна ціль, для якої ми на проекті запроваджували LiteLLM AI Gateway (див. LiteLLM: AI Gateway для LLM – overview можливостей) – це контроль доступів і витрат, бо зараз ми не можемо включити автопоповнювання нашого акаунту в OpenAI або OpenRouter: наш стартап в стадії розробки і експериментів, девелопери активно використовують AI-агентів для роботи – можуть щось… Read More: AI: контроль витрат LLM з LiteLLM Budgets та OpenAI Limits0… »

Loading

LiteLLM: дебаг AI Cost Monitoring з VictoriaMetrics
0 (0)

16 Вересня 2026

Трапився доволі цікавий випадок відносно моніторингу вартості LLM через LiteLLM при кількох провайдерах. Що маємо: LiteLLM: AI Gateway, всі наші сервіси працюють через нього, він проксює запити до провайдерів, генерує метрики і трейси, контролює доступи, витрати тощо OpenAI та OpenRouter: зараз два основних провайдери, на які LiteLLM передає запити частина клієнтів (наших сервісів) працюють через… Read More: LiteLLM: дебаг AI Cost Monitoring з VictoriaMetrics0 (0) »

Loading

LiteLLM: Custom Callback та LLM Evaluations з Judge LLM
0 (0)

11 Вересня 2026

Коротко про те, що взагалі робимо зараз на проекті: у нас є окремий hardware сервер (hostname == “Matrix”), на якому з llama.cpp запускаємо свої self-hosted моделі. В нашому Kubernetes є LiteLLM AI Gateway для наших клієнтів – Backend API і інших сервісів проекту. Клієнти відправляють запити до OpenAI/Anthropic/OpenRouter до LiteLLM, а LiteLLM передає їх до… Read More: LiteLLM: Custom Callback та LLM Evaluations з Judge LLM0 (0) »

Loading

LiteLLM: Traffic Mirroring та Batch Completions і трафік до двох провайдерів
0 (0)

21 Серпня 2026

Готуємось до запуску self-hosted LLM, і на етапі тестування загальна ідея така, що будемо слати запити від клієнтів одночасно і до “дефолтної production моделі” типу GPT-5.6 – і до моделі на нашому власному сервері. А після отримання відповідей – будемо виконувати порівняння з Phoenix чи Opik, і потроху тюнити наші “власні” модельки. Всі запити у… Read More: LiteLLM: Traffic Mirroring та Batch Completions і трафік до двох… »

Loading

LiteLLM: метрики, traces та дебаг exception_class=”ValueError”
0 (0)

12 Серпня 2026

Виникла на днях цікава ситуація з LiteLLM, коли з одного боку метрики показують, що було багато помилок “від провайдера”, а з іншого – в трейсах і алертах помилка була тільки один раз. Довелось трохи покопатись і розібратись з деякими нюансами того, як LiteLLM взагалі рахує метрики і що вона дійсно пише в метрики і трейси.… Read More: LiteLLM: метрики, traces та дебаг exception_class=”ValueError”0 (0) »

Loading

NixOS: знайомство, установка пакетів та конфігурація системи
5 (4)

5 Серпня 2026

З’явився у нас новий інстанс, hardware server, на якому будуть наші self-hosted LLM. На сервері буде NixOS – вибір не мій, але система цікава, давно про неї чув – і зараз є чудова нагода з нею познайомитись. Що треба зробити особисто мені – це поки що тільки налаштувати моніторинг: стандартні CPU/RAM/диски, метрики NVIDIA і пізніше… Read More: NixOS: знайомство, установка пакетів та конфігурація системи5 (4) »

Loading

VictoriaTraces: Recording Rules, метрики та алерти з trace spans
0 (0)

22 Травня 2026

VictoriaTraces – як і VictoriaLogs – підтримує Recording Rules (див. VictoriaMetrics: Recording Rules для логів AWS Load Balancer) для трейсів, бо по факту трейси – це ті ж самі логи, просто інакше структуровані. А раз є Recording Rules – то ми можемо з логів створювати метрики для алертів та Grafana dashboards. Хоча насправді це не… Read More: VictoriaTraces: Recording Rules, метрики та алерти з trace spans0 (0) »

Loading

Arch Linux: DNS-детектив – VPN, systemd-resolved та Unbound
0 (0)

21 Травня 2026

Давно гемороївся  з проблемою доступу до AWS EKS із офісу – нарешті психанув, і розібрався 🙂 В чому проблема: є AWS EKS кластер з Public і Private endpoint для API. При роботі з офісного ноутбука іноді запити до нього проходять нормально – а іноді відвалюються з помилкою “i/o timeout“: $ kk get pod […] Get… Read More: Arch Linux: DNS-детектив – VPN, systemd-resolved та Unbound0 (0) »

Loading