А)0,2с2d • 5,4c3d3; 
б) -5а2b •  (-6ab2)
решить ели вам не сложно

Int (x^2+2x-1)*cos 3x dx = Int x^2*cos 3x dx + 2*Int x*cos 3x dx - Int cos 3x dx = A
Решаем каждый интеграл по отдельности. Первый - 2 раза по частям.
Int x^2*cos 3x dx = 1/9*Int (3x)^2*cos 3x dx = |3x = y, dy = 3dx| =
= 1/27*Int y^2*cos y dy = |u=y^2, dv=cos y dy, du = 2y dy, v=sin y| =
= 1/27*(y^2*sin y - 2*Int y*sin y dy) = |u=y, dv=sin y, du=dy, v=-cos y| =
= 1/27*y^2*sin y - 2/27*(-y*cos y + Int cos y dy) =
= y^2/27*sin y + 2y/27*cos y - 2/27*sin y = x^2/3*sin 3x + 2x/9*cos 3x - 2/27*sin 3x

Int x*cos 3x dx берется точно также, только один раз по частям.
Int x*cos 3x dx = |y = 3x| = 1/9*Int y*cos y dy = |u=y, dv=cos y, du=dy, v=sin y| =
1/9*(y*sin y - Int sin y dy) = x/3*sin 3x + 1/9*cos 3x

Int cos 3x dx = 1/3*sin 3x
Подставляем все это в интеграл
A = x^2/3*sin 3x+2x/9*cos 3x-2/27*sin 3x+2x/3*sin 3x+2/9*cos 3x-1/3*sin 3x+C =
= sin 3x*(x^2/3 + 2x/3 - 2/27 - 1/3) + cos x*(2x/9 + 2/9) + C =
= 1/3*sin 3x*(x^2 + 2x + 1) + x/9*cos x*(2x + 2) - 2/27*sin 3x + C

Методом неопределенных коэффициентов
x/[(x-1)^2*(x^2-x+1)] = A1/(x-1) + A2/(x-1)^2 + (A3*x+A4)/(x^2-x+1) =
Приводим к общему знаменателю и получаем
  x^3*(A1+A3) + x^2*(-2A1+A2-2A3+A4) + x*(2A1-A2+A3-2A4) + (-A1+A2+A4)
=
                       (x-1)^2*(x^2-x+1)
Система
{ A1 + A3 = 0
{ -2A1 + A2 - 2A3 + A4 = 0
{ 2A1 - A2 + A3 - 2A4 = 1
{ -A1 + A2 + A4 = 0

{ A3 = -A1
{ A2 + A4 = A1
{ -2A1 + A1 + 2A1 = 0
{ 2A1 - A1 - A1 - A4 = 1
A1 = 0, A3 = 0, A4 = -1, A2 = A1 - A4 = 0 -(-1) = 1
Подставляем в интеграл
Int x/[(x-1)^2*(x^2-x+1)] dx = Int [1/(x-1)^2 - 1/(x^2-x+1)] dx =
= -1/(x-1) - 2/корень(3)*arctg [(2x-1)/корень(3)] + C