jezahost
  • cloud-init
  • cloudbase-init
  • proxmox
  • debian
  • windows-server

Три тихих сбоя cloud-init на Proxmox

Hostname сбрасывается после смены пароля, пароль Windows попадает не тому пользователю, а в образе Debian cloud-init так и не запустился. И ни одной ошибки.

cloud-init обычно остаётся незаметной частью подготовки VM: он запускается один раз, делает своё дело и уходит с дороги. Когда он падает с шумом, его чинят. Проблемы ниже из другой категории. Ничто не записало ошибку в лог, ничто не завершилось с ненулевым кодом, и каждую из них заметили не сразу, потому что VM выглядела нормально.

1. Сменили пароль в панели, потеряли hostname

Симптом. Клиент сбрасывает пароль root через наш портал. VM перезагружается. Hostname вернулся к значению по умолчанию из шаблона, а /etc/hosts перезаписан. Сама смена пароля при этом прошла успешно.

Причина. Proxmox не хранит instance ID для cloud-init. Он вычисляет его как хеш сгенерированных user-data и network-data. Измените что угодно, что попадает в эти файлы, включая пароль, и хеш изменится. cloud-init видит новый instance ID, решает, что работает на новой машине, и заново запускает все per-instance модули: set_hostname, update_etc_hosts, генерацию ключей SSH и всё остальное.

Второй сюрприз, связанный с первым: Proxmox записывает manage_etc_hosts: true в свои сгенерированные user-data. cloud-init объединяет конфигурацию в порядке system config, vendor-data, user-data, и побеждает последний. Поэтому всё, что шаблон задавал для /etc/hosts, каждый раз перекрывается, и именно поэтому этот файл тоже постоянно менялся.

Решение. Перестать поручать Proxmox генерацию метаданных. Мы передаём собственный snippet meta-data через cicustom с фиксированным instance-id для каждой VM. Смена пароля и сетевых настроек по-прежнему идёт через обычные поля Proxmox; закреплена только идентичность. Модули первой загрузки выполняются один раз, при первой загрузке, и больше никогда. Hostname остаётся на месте.

2. Windows: пароль достаётся не тому пользователю

Симптом. После переустановки на некоторых VM с Windows Server пароль клиента оказывался установлен на Administrator, а не на настроенного администратора. Не на всех. Тот же шаблон, те же метаданные, разный результат.

Причина. cloudbase-init был установлен как служба с типом Automatic. После sysprep Windows выполняет проход specialize, а затем загружается. Службы Automatic могут стартовать раньше, чем specialize полностью завершится. Первый запуск: cloudbase-init создаёт настроенного пользователя со случайным паролем, как и положено, когда пароль ещё не применён. Перезагрузка. Второй запуск: пользователь «уже существует», поэтому плагин SetUserPassword применяет пароль из метаданных к запасному имени учётной записи из своего конфига, а им был Administrator. Какой из запусков случался первым, зависело от тайминга.

Решение. Тип запуска службы Manual и SetupComplete.cmd, который явно запускает cloudbase-init. SetupComplete.cmd гарантированно выполняется после specialize, так что первый запуск всегда только один. В конфиге также указан нужный пользователь. После подготовки VM наш портал читает лог cloudbase-init через guest agent и проверяет, к какой учётной записи был применён пароль, так что регрессия проявится как проваленная проверка, а не как растерянный клиент.

3. Debian «genericcloud»: cloud-init отключает сам себя

Симптом. Новый шаблон Debian, собранный из официального qcow2 genericcloud. VM загружается. Hostname неверный, пароль не задан, диск не расширен. cloud-init status показывает disabled. Ошибок нигде нет.

Причина. Образ genericcloud поставляется с урезанным ядром без sr_mod и ahci. Proxmox передаёт конфигурацию cloud-init на виртуальном CD-ROM. Нет драйвера CD-ROM, значит, устройство так и не появляется, datasource NoCloud ничего не находит, а генератор cloud-init совершенно правильно решает, что datasource нет, и отключает себя. Всё дальнейшее работает так, как задумано, и именно поэтому никто не жалуется.

Решение. Использовать образ generic, в котором есть полный набор драйверов. Он немного больше. Как вариант, можно оставить genericcloud и переключить datasource на такой, которому не нужен CD-ROM, но для шаблона это больше движущихся частей, чем стоят лишние несколько сотен мегабайт.

Что их объединяет

Во всех трёх случаях «сломавшийся» компонент вёл себя ровно так, как описано в документации. Proxmox превращает хеш своей конфигурации в instance ID. Windows рано запускает автоматические службы. cloud-init отключает себя, если нет datasource. Ошибки жили в зазорах между слоями, и ни у одного из слоёв не было способа об этом узнать. Если после подготовки VM «работает, но немного не так», первый вопрос не «что выдало ошибку», а «какой компонент принял разумное решение на основе того, чего он не мог видеть».