В прямоугольный треугольник с катетами 6 см и 10 см вписан имеющий с ним общий угол прямоугольник наибольшей площади.

Обозначим, через x и y стороны прямоугольника. Тангенс угла треугольника равен: 6 : 10 = 3/5. Тогда y = (10 - x) * 3/5. Площадь S равна:

S = x * y = 3/5 * x * (10 - x).

Исследуем полученную функцию.

S\' = (6x - 3/5x^2)\' = 6 - 6/5 x.

6 - 6/5x = 0;

x = 5.

Тогда y = (10 - 5) * 3/5 = 3.