Решить уравнение в целых числах: x^2-6xy+13y2=100

x^2 - 6xy + 13y^2 = 100.

Выделим полный квадрат в левой части уравнения, считая, что -6 * х * у - это удвоенное произведение двух чисел : 

-6 * х * у = -2 * (х ) * (3 * у). Отсюда следует, что первое число х, а второе 3 * у.

x^2 - 2 * (x) * (3 * y) + (3 * y)^2 - (3 * y)^2 + 13 * y^2 = 100,

(x - 3 * y)^2 + 4 * y^2 = 100, (x - 3y)^2 = 100 - 4 * y^2.

В целых числах решение:  8^2 = 100 - 6^2

4y^2 = 36, y^2 = 9, y= +-3, x - 3*3 = 8, x = 9 + 8 = 17.

Проверка: 17^2 -6*17*3 + 13 * 9 = 289 - 306 + 117 = 100.