объясните что такое отображение плоскости на себя

Это любая функция двух переменных, область определения которой - плоскость и множество значения которой - тоже плоскость.

Если на примере одного измерения, то отображение прямий на прямую это функция в которой и область определения и множество значений - прямая. Например, линейная,  кубическая и т.д. А вот, например, синус отображает всю прямую в отрезок [-1,1], а логарифм отображает луч(полупрямую) (0, бесконечность) на всю прямую, а y=x^2 прямую на луч и т.д.

Причём, обрати внимание, не график функции, это так, картинка, а функция.

Ну ещё, например, как про плоскость. Допустим, она резиновая, так вот, любая её трансформация - это и есть функция(процесс трансформации), где-то она сжимается, где-то растягивается, где-то немного скручивается, но внешне остаётся такой же плоскостью.