Очень нужна UDF-функция, помогите написать, если если есть возможность сделать полностью задание

вы вместо умножения, сделали сложения перед вычислением корня

хотелось бы узнать у вас, может есть пособие по которому вы учили VBA? Посоветуйте)

Да, Вы правы, сложение, это описка. Надеюсь, Вы смогли исправить.

По VBA в принципе любая книга подойдет, но мне нравятся больше других книги В. А. Биллига (конкретно и понятно, пусть и старые версии), и Джона Уокенбаха (это профессиональная титаническая вещь)

Подозреваю, что Вас "убила" возможность выкинуть на лист рабочей книги содержимое двумерного массива одним присваиванием ))) Но это далеко не все, что может VBA...

Рабочая книга Excel-2003 во вложении