HWND hwnd = ::GetConsoleWindow(); // находим окно консоли
DWORD style = ::GetWindowLongW(hwnd, GWL_STYLE); // получаем текущий стиль окна
style &= ~(WS_MAXIMIZEBOX | WS_MINIMIZEBOX); // убираем кнопку разворачивания и сворачивания из стиля
::SetWindowLongW(hwnd, GWL_STYLE, style); // применяем новый стиль
::SetWindowPos(hwnd, NULL, 0, 0, 0, 0, SWP_NOSIZE | SWP_NOMOVE | SWP_FRAMECHANGED); // триггерим обновление окна