VMUG VMware's EVALExperience

В начале 2015 года для участников VMUG Advantage подписки стала доступна новая программа    - VMware's EVALExperience.

Заплатив две сотни мертвых американских президентов кроме всяких скидок на обучение, курсы, книги, экзамены в рамках EVALExperience предоставляется доступ к всяким полезным лицензионным ключам на продукты компании VMware.

В списке присутствуют все самое вкусное:

• VMware vCenter Server™ 5 Standalone for vSphere 5
• VMware vSphere® with Operations Management™ Enterprise Plus
• VMware vCloud Suite® Standard
• VMware vRealize™ Operations Insight™
• VMware vRealize Operations™ 6 Enterprise
• VMware vRealize Log Insight™
• VMware vRealize Operations for Horizon®
• VMware Horizon® Advanced Edition
• VMware Virtual SAN™

Естественно, все это закрыто унылым "для домашнего использования, не для коммерческих целей и т.п". 

Процесс доступа ко всему этому счастью достаточно простой: регистрация на vmug.com, покупка VMUG Advantage, на почту приходит письмо с ссылкой на https://vmugadvantage.onthehub.com для подтверждения регистрации на EVALExperience,  подтверждаем, логинимся здесь и получаем картинку с доступными продуктами. Дальше как в магазине: выбираем, покуем за 0 $, получаем ссылку на загрузку и ключик. 

Mac OS X logs in VMware Log Insight

Сегодня возникла необходимость посмотреть на логи MacBook. Т.к. во всяких viewer*ах для просмотра логов в Mac OS X я не силен, пришлось действовать по проверенной схеме и подключить VMware Log Insight, который всегда под рукой.

Проверенная и описанная ранее схема не работает т.к. делалась под Windows. Устанавливать дополнительный софт желания тоже особо не было. Получилось так:

1. Размещение и назначение логов в Mac OS:

AFS - /Library/Logs/AppleFileService/

SMB\CIFT - /var/log/samba/

NFS -  /var/log/system.log

Apache - /var/log/httpd/

ipfw - /var/log/system.log

Directory Service - /Library/Logs/DirectoryService/

DHCP\DNS\SLP - /var/log/system.log

Software Update - /Library/Logs/Software Update.log

Kernel Panic - /Library/Logs/panic.log - не знаю, не встречал =)

APP Crash Logs - /Library/Logs/CrashReporter/

ppp -  /var/log/system.log

lookupd -  /var/log/lookupd.log

У меня болел WI-FI, поэтому мне был необходим - /var/log/wifi.log

2. Формирование UDP пакетов

Эту несложную задачу мы традиционно отдадим в руки NetCat:

nc -u loginsightIP 514

3. Небольшой скрипт (vmlog.sh) для отправки содержимого логов на LogInsight

server="172.16.56.128"

port="514"

prio="150"

date=`date "+%b %d %H:%M:%S"`

host=`dashka`

while read -r message

do

echo "<$prio>$date $host $message" | nc -w 1 -u $server $port

done

где: формат date может меняться в зависимости от правил формирования лога.

4. Отправка содержимого wifi.log по назначению

>cat /var/log/wifi.log | ./vmlog.sh

Получаем такой результат:

Как писать фильтры для поиска информации по логам я уже писал здесь

Решение для offline выгрузки логов получилось универсальным для любой системы где есть NetCat.

Логи Android тоже можно выгружать, но об этом как-нибудь потом, а сейчас смотреть презентацию всяких новых штук от одного вендора на букву А

P.S> в чем была ошибка с подключением wifi я очень быстро нашел.

VMware Log Insight offline logs analysis

Бекапы делают трусы (с)

...а лог коллекторы настраивают неудачники, у которых все постоянно ломается. Настоящим инженерам, руководствующимся в своей практике лучшими рекомендациями вендоров, лог сервера не нужны.

Log Insight дело хоть и полезное, но не дешевое. Убедить кошелек купить его, на случай если вдруг что-то поломается, сложно. Вот и вспоминают о нем, когда уже сломалось и надо быстро проанализировать и починить вчера.

При всем этом, Log Insight предназначен для онлайн агрегирования логов из добавленных источников, но никак не для offline анализа не инспектируемых логов. Говоря по-простому: если вы предварительно добавили ESXi хосты, vCenter, то на Log Insight попадут только логи с момента добавления, и если после добавления что-то сломалось, то вся аналитическая мощь Log Insight к вашим услугам. Если не добавили, то, естественно, ковырять вам логи в поисках счастья  в текстовом редакторе. Попробуем эту несправедливость исправить.

На старте есть самая отвратительная ситуация: централизованное логирование на хостах настроено не было (даже в виде vSphere Syslog Collector). В наличие у нас есть стандартный набор логов, хранившийся в /scratch/log. А это куча лог файлом непонятного назначения. Разобраться с назначением каждого из логов можно здесь.

Для эффективного анализа всего это мусора на понадобится:
VMware Log Insight - 1 шт.
Datаgram SyslogAgent - 1 шт.
vm c Windows на борту - 1 шт.

1. Выгружаем логи из /scratch/log на vm c Windows.
2. Настраиваем Datаgram SyslogAgent:

Datаgram SyslogAgent имеет одну особенность. Если мы сразу настроим его на уже заполненные файлы с логами, он ничего не отправит на Log Insight, поэтому в начальных настройках указываем пустые файлы с необходимыми нам именами.

Создаем новое Application, выбираем тип лога Static, указываем путь к пустому файлу.

Если получаем ошибку, значит все идет хорошо:

Добавляем парсинг даты и времени и для удобства идентификации имя процесса:

3. Рестартуем лог агента. Ждем пока агент обработает пустой файл.

4. Копипастим в пустой файл содержимое реального лога, анализ которого хотим провести.

5. Идем на Log Insight и видим дивное диво: Log Insight скушал наши 21388 offline событий:

Теперь в их можно эффективно искать, фильтровать и анализировать. О создании фильтров я писал здесь на примере анализа курсов валют НБРБ.

Однако, как оказалось, Log Insight и сам молодец. В горе мусора, которую мы в него загрузили, он смог самостоятельно найти errors, warnings специфические для ESXi. Эти находки он нам и показал на вкладке VMware - vSphere General- Problems:

Менюшечка эта совершенно интерактивная, а значит, выбрав для необходимого типа ошибок пункт Interactive Analytics:

мы получим всю информацию по всем ошибкам данного типа:

 P.S> желтенький треугольник с восклицательным знаком, присутствующий на многих картинка, обозначает, что одна или несколько нод кластера  Log Insight в данный момент недоступна. Но об этом потом ;)

VMware vCenter Log Insight делегирование прав

Что всегда компания VMware умела делать "хорошо" ? именно то, что написано в теме.

VMware vCenter Log Insight не стал исключением, благо хотя бы в 1.5 была добавлена интеграция с ActiveDirectory. Но на этом с настройками для удобного управления правами и доступом было покончено. В версии 2.0 ничего не изменилось.
Мы имеем целых 2 различных типа доступа: Normal и admin

Методом исключений предполагаем, что те, кто попадает под гордое название "Admin" совсем "ненормал". Группы отличаются лишь отсутствием вкладки Administration для группы Normal User. Т.е., как и ожидалось, делегирования прав нет. Можно, конечно, настраивать вид с помощью "Dashboards", однако это никак не спасает от самой возможности смотреть все. Наличие большого числа Content Packs для различных устройств и сервисов усугубляет печальность ситуации.
Интеграция с AD проходит достаточно просто и прозрачно (необходимо и достаточно учетной записи с правами только на чтение)
До интеграции с AD:

...после:

печали добавляет как отсутствие поиска по AD, так и отсутствие проверки наличия группы\пользователя в AD.

Достаточно странное исполнение с учетом позиционирования продукта. =(

VMware vCenter Log Insight Agent

Совсем недавно VMware выкатила в публичный доступ v.2.0 Log Insight. Оно стало быстрее, толще, умнее. О всех новых плюшечках и рюшечках можно почитать здесь. Вскоре последовал давно ожидаемый Windows Content Pack, а вместе с ним и VMware vCenter Log Insight Agent. Появилась надежда, что больше колдовать с Datagram SyslogAgent не придется.
Некое смятение в ощущение полной и нераздельной радости внесло емкое сообщение при инсталляции агента:

Разумная политика VMware нелюбви с некрофилам идет в разрез с удовлетворение хотелок пользователей. К сожалению, даже port, созданный средствами ThinApp не заведется на w2k3 и хр.

Скачать Windows Content Pack можно здесь. Установка достаточно прозрачна и происходит через меню Log Insight>Content Packs>Import Content Pack

После импорта вы получите доступ к всяческой служебной информации с описанием ошибок, уведомлений и т.п.

Дальше необходимо установить VMware-vCenter-Log-Insight-Agent-2.0.3-1879692 на сервера с Windows, указав при этом адрес Log Insight server.

Если все прошло хорошо (для дружбы агента и сервера используется порт за номером 9000), то вскоре вы увидите:

а потом и вот такую красоту

и всякие разные другие красивости и полезности.

Наибольший интерес представляет поле "Agent Configuratiom" в меню Agents. Естественно, за нас подумали и про автоматизацию настроек клиентов. Только вот нигде не написали про синтаксис этого Agent Configuratiom. Но тут все просто, примерно так:

[server]

proto=cfapi

hostname=192.168.3.244

port=9000

; Force reconnect agent every 30 minutes.

reconnect=30

[storage]

max_disk_buffer=200

[logging]

; The level of debug messages to enable: 0..2

debug_level=0

[winlog|Application]

channel=Application

[winlog|Security]

channel=Security

[winlog|System]

channel=System

и т.д. в зависимости от ваших хотелок.

ну и напоследок: 

 логи агента хранятся c:\ProgramData\VMware\Log Insight Agent\log\

VMware Log Insight VS НБРБ

Тема  VMware Log Insight - Горе от ума вызвала интерес у читателей, поэтому следует продолжение.

Анализ с использованием LI литературной классики - это, конечно, увлекательно и интересно, но полезность таких действий стремится к 0.

Ниже я постараюсь в деталях рассказать об использовании VMware Log Insight в собственных меркантильных целях.

Как известно, курс белорусского рубля параметр очень динамичный, а отслеживание его ежедневных мелких флуктуаций занятие утомительное. Меня интересует курс BYR к доллару США (USD), евро (EUR), российскому рублю (RUB). Точнее не сам курс, а достижение им верхних и нижних порогов, которые я рассчитал исходя из своего корыстного интереса (к данной теме методика расчета не имеет никакого отношения)

Дано: источник курсов валют, VMware Log Insight
Необходимо: получить систему уведомлений о превышении курсом заранее установленных порогов.

Реализация поставленной задачи under cut

VMware Log Insight - Горе от ума

Про тестирование VMware Log Insight я уже писал, писал и про использование этого продукта для не совсем типичных, предусмотренных компанией VMware, задач. Настало время пойти дальше и воспользоваться возможностями Log Insight для совершенно абсурдных задач:

Взглянем на бессмертное произведение Александра Сергеевича Грибоедова "Горе от ума" сквозь призму Log Insight.

Для эксперимента использовался VMware-vCenter-Log-Insight-1.5.0-1435442 и "Горе от ума" в переводе А.С.Вагапова. Искренне надеюсь, что ни VMware, ни А.С. Грибоедов не упрекнут меня в нарушении лицензионных прав.

"Горе от ума" это 5200 событий в Log-Insight.

Загрузка "Горе от ума" размером 219 КВ в Log-Insight (2 vcpu, 4 Gb RAM, поднят на VMware Workstation) длилось ровно 3 минуты.

Молодая и веселая служанка Лиза сказала, если верить Log-Insight, 85 реплик (по крайней мере, именно столько реплик отдельно выделено автором)

Софья Павловна Фамусова была более многословна - 164

Г-н Саша Чацкий трындел, не умолкая, и переговорил обеих девиц.

далее мы узнаем кто чаще всего с кем появлялся совместно в актах и на основе статистики предположим, у кого с кем шашни =)

VMware vCenter Log Insight syslog collector for Windows

Я уже писал про VMware vCenter Log Insight здесь. Про то как он интегрируется с VMware vCenter и VMware vCenter Operations, про то как он кастомизуется, анализирует, строит отчеты, алертует и т.п.

Сегодня мы будем использовать его совсем для другого...

vCenter Log Insight. Private.

А вокруг только и разговоров, что о vCenter Log Insight. Как оно бесконечно прекрасно тюнится и делает жизнь администраторов светлой и радостной. (с)

Профильные ресурсы просто переполнены инструкциями и мануалами по новой игрушке от VMware - vCenter Log Insight. Продукт еще в Beta, но уже заставляет обратить на себя внимание.

- vCenter Log Insight это не очередной logserver. Точнее и он тоже, но ключевым тут является не сбор и хранение, а управление, аналитика, визуализация, структурирование событий от виртуальной инфраструктуры (приложения, vm, хосты, сетевые устройства, межсетевые экраны, ос, СХД).
- поставляется в виде Virtual Appliance, интегрируется с VMware vCenter и VMware vCenter Operations. Второй вариант интересней, т.к. позволяет находить причины проблем отраженных  в Operations искать напрямую в логах.

Все дальнейшее строго ИМХО, основанное на 2-х недельном ковырянии в продукте.

Ресурсы:

Начинал с 2 хостов закончил на 30 - существенной разницы в потребляемых ресурсах не заметил. Добрые люди рассказывали о развертывании на 600+ хостов.

conf vm: 2vcpu, 8gb ram

утилизация в режиме сбора событий:
2-5% СЗГб 5-10% memory, lan (av) 5-10 Kbps (в пиках 100), disk: latency(av) 30, usage(av) 400 Kbps

утилизация в режиме формирования замысловатых выборок по событиям:
10-50% СЗГб 20-80% memory, disk: latency(av) 45, usage(av) 5000 Kbps - все, естественно, зависит от сложности сортировки и количества событий

Положительные моменты:
- заявленная работа в режиме реального времени, почти так и работает...
- удобная и полноценная возможность кастомизации "My Content"
- возможность добавления нескольких vCenter в одном инстансе vCenter LI
- удобная организация fields для группировки и просмотра события по типу, источнику, категории
- предусмотренная из коробки удобная и работающая возможность замены сертификатов
- почти безграничные возможности кастомизации Dashboard.
- возможность группировки алертов по различным тегам (источник, тип события и т.п.) с последующим созданием для таких групп различных типов реакций: отправка сообщения по почте, повторные уведомления и т.п.

"НЕположительные" моменты:
- нет интеграции с LDAP - просто ужасно для продукта, который позиционируется для корпоративного рынка.
- нет возможности самому раскрашивать алерты в графике на Dashboard

Других минусов на данный момент тестирования не заметил.
Списки будут дополняться.