Где-то неверно реализовано сравнение (нужно смотреть куда бросает студия).
Обычно ты реализуешь оператор меньше/больше так bool КакойТоТип::operator</>(const КакойТоТип& other) const.
Студия в отладке проверяет что этот оператор верно работает, т.е. если a < b, то b никогда не < a, в твоем случае что-то неправильно реализовано, так что оно возвращает что a одновременно и больше и меньше b, вот и ассерт.