sum(ak*p^k) - это многочлен степени k?
Уточни вопрос. Если так как ты его написал, то подставь числа, и H(p) и реши в Mathcad. А чтобы преобразовать из операторной формы в обычную нужно домножть обе часть на знаменатель дробей, слевабудет линейное уравнение относительно F(p) - f(p), справа Н1 и Н2 вместе со своими производными, они же известны..