Ты с рендер стейтом проебался
Скорее всего где-то стоит смена фильтрации текстур на LINEAR вместо NEAREST, а фактически всё должно рендерится с NEAREST фильтрацией
Хотя, если посмотреть на то что текстурные координаты тоже уезжают, может и антиалиасинг быть какой-нибудь вроде MSAA, хз