Как правильно записать угол АЕО или ОЕА

если это не случай с векторами, то без разницы

С точки зрения обозначений это один тот же угол. Определяющим фактором конкретного угла является его вершина, в названии она должна быть посередине.