31 - Сбор, анализ и отправка Pod логов в ElasticSearch, используя Fluentd. EFK Stack

[@user-yt6lj6kl3z]

Ставлю лайк, пишу коммент. Надеюсь, ты сможешь набрать подписчиков, потому что контент просто шикарный. Полезный и понятный. Бывает иногда, что ты повторяешь слово "например" по несколько раз подряд в течение минуты, это слегка отвлекает, но возможно только я такой :) Спасибо за контент!

[@BAKAVETS]

Спасибо большое за обратную связь! 🙏

[@BlackPlombeer]

Спасибо, Антон! Есть что стоящее посмотреть и тем более применить в работе. 👍

[@ne_gachi]

очень вовремя, как раз изучаю эту тему)

[@holydrug]

Спасибо за плейлист большое по куберу!

[@NikitaGalkin]

Отличный контент! Можно еще видео про jaeger 😎?

[@yure-ua-devops]

Благодарю за ролик. Все очень разжёвано, но достаточно в меру.

[@denisb6662]

В чем отличие Fluentd+Elasticsearch от связки Prometheus+Grafana? Почему ты решил использовать для анализа логов именно Fluentd? А что ты думаешь о Grafana Loki vs Fluentd+Elasticsearch?

[@bloodraven9622]

Так Prometheus же метрики отправляет, а не логи.

[@denisb6662]

​@@bloodraven9622 Ну да, я уже разобрался в разнице между метриками и логами. Просто когда начинал смотреть это видео, был совсем новичком в этих вопросов, и решительно не мог понять, зачем устанавливать так много программ для мониторинга и логгирования кластера. Целых 2 программы на мониторинг и целых 3 программы на логгирование, каждая с кучей настроек, в каждой из которой надо разбираться. Prometheus и grafana для сбора информацию о времени, когда работали поды, была ли их работа успешно завершена, или поды вылетели с ошибкой. Отслеживает падения программ, а также потребляемые ими ресурсы, нагрузку на процессор, потребляемую память, нагрузку на диск. Позволяет оповещать о падении программ, а также о их перегрузке. Fluentd, elasticsearch, kibana - для сбора и вывода логов запущенных программ. А есть еще и локи, который является заменой Fluentd, elasticsearch, kibana. Без поиска по сообщениям. Попробовал его установить, и столкнулся с тем, что он тоже очень не просто устроен, и устанавливает целую кучу сущностей наподобие data-loki-read-0, data-loki-read-1, data-loki-write-0. При хранении данных на диске сервера требует целых 6 pvc на 10Гб каждый.)

[@andrewmarkov952]

По идее graylog лучше хотя бы в том что нет проблем с аутентификацией и пермишнами, ролями юзеров

[@denisb6662]

Не смог установить себе elasticsearch и kibana, при попытке установки через helm все время 403 ошибка. Возможно потому что их забанили в России. Попробовал opensearch, не смог его нормально соединить с fluent-bit и fluentd. В конце концов поставил loki и grafana, установились легко и работают хорошо.

[@michaelkaka95]

Попробуй vector или fluent-bit

[@andrewmarkov952]

Graylog не подходит кстати только елка?

[@BAKAVETS]

Можно использовать graylog: github.com/fluent/fluentd-kubernetes-daemonset/blob/master/fluentd-daemonset-graylog-rbac.yaml

[@kukuhaplivet3468]

Спасибо за курсы, Антон. Хотел бы у вас спросить про курсы KodeCloud. Мне как начинающему DevOps подойдут эти курсы для понимания основ или есть варианты получше?

[@BAKAVETS]

KodeCloud курсы я использовал, только для подготовки к Kubernetes сертификатам, остальный не пробовал, но по идее они должны быть хорошие.

[@bandirom]

Все супер! настроил парсинг логов для Spring Boot, но вот как сделать так, чтобы соединение https внутри кластера (xpack) работало корректно. На стороне fluentd получаю: "The client is unable to verify that the server is Elasticsearch. Some functionality may not be compatible if the server is running an unsupported product." ошибку. Использовал bitnami elasticSearch/kibana helm charts Буду рад если подскажешь :) Спасибо

[@dimetime89]

я начал врубаться как оно работает, спасибо! есть вопрос: а как парсить логи, когда один под хреначит и json и json в jsone? вроде как есть плагин специальный (json-in-json), но не будет ли ошибок?

[@BAKAVETS]

Если настроить правильно, ошибок быть не должно.

[@igorgladkov8270]

на оператора переходит... чекайте сообщений