При каких значениях параметра λ функция f(x,y,z) = x^2+5y^2+λz^2+4xy+8yz является строго выпуклой вниз?

для каждой переменной по очереди проверяем условие выпуклости вниз. Строгая выпуклость при лямда >0 2й метод: когда вторая производная по каждой переменной больше нуля.