Не помогают эти глифы. А через nk_font_cyrillic_glyph_ranges() ничего не работает. Только через
if (nk_button_label(ctx, u8"Кнопка")).
Без nk_font_cyrillic_glyph_ranges это не может работать априори, потому что у тебя в шрифте не будет русских символов(глифов), и вместо каждого из них будет "?".
При этом диапазоны глифов нужно выставлять непосредственно перед сборкой атласа шрифтов.
А nk_button_label вообще вызывается в цикле отрисовки, и естественно там нужно писать u8 потому что весь текст в imgui/nuklear в UTF-8, это очевидно и написано в любой issue по кириллице на гитхабе.
Насчет качества, imgui поддерживает растеризацию через FreeType библиотеку, не знаю как насчет nuklear, хотя это и изначально паста imgui, имхо она поддерживается хуже.
А стандартный растеризатор stb_truetype (который вшит в nuklear_font.c) достаточно ограничен, его писал син баррет как можно компактнее, и там нет например поддержки хинтинга (улучшений когда размер шрифта маленький), это не было реализовано из-за патентов, а сейчас он уже меньше ею занимается.
В общем, мой совет перейти на imgui, не вижу смысла писать софты на C либе, которая уже не развивается, и комуна у нее беднее.