укажите функцию которая удовлетворяет уравнению y"+xy`+y=xcosx

В моих терминах можно просто сказать u = 0

Просто я решил пойти чуть дальше и найти хотя бы одно нетривиальное u, но это непринципиально

можно другое решение?

Можно, конечно

Можете его написать?

Обратим внимание, что справа стоит xy' а слева xcos(x). Чтобы избавиться от этих проблемных членов, представим ТогдаФактически, мы угадали частное решение. Теперь найдем общее решение однородного уравнения. На самом деле нет, не найдем, просто найдем частное, но нам же задача ставится только функцию подобрать. Сделаем замену p = x^2, тогдаГде обратный штрих означает производную по p. Подставим все и получимЧастным решением последнего уравнения будет