Составить алгоритм через теорему Виета

Ну так для этого нет алгоритма, просто перебераешь числа по порядку

как это сделать?

В голове цифирки перебераешь

1,2,3,4

И т.д. пока не подойдет

Пусть уравнение имеет вид ax^2+px+qТогда будет такой алгоритм1. Сделаем уравнение приведенным т.е. разделим его на a, получим 2. По теореме Виета и3. Методом перебера подберём подходящие корни.