Разложите на множители выражение: (xy+y²)(x²+²+xy)(y²+4y)

Если первое число - первое слагаемое- принять за х , то
второе слагаемое будет (27- х), а второе число (27- х) :2, т.к. его удваивали

Во втором случае действий над этими числами   уменьшаемое  будет 3х,  а второе - вычитаемое - будет 3х-11 ( чтобы найти неизвестное вычитаемое нужно из уменьшаемого вычесть разность)
Приравняем выражения, обозначающие второе число:
(27 - х):2= 3х - 11    умножим на 2 обе части уравнения, чтобы избавиться от дроби. 
27 - х = 6х - 22
7х= 49
х=7  первое  число
(27-7):2=10 второе число

Решение через систему уравнений: примем первое число у, второе -х
|х+2у=27
|3х-у=11 умножим на 2 и сложим

|х+2у=27
|6х-2у=22
  7х=49
х=7
у=(27-7):2=10

y=(x+3)^2 * (x-1)+2, такое ведь условие? (х-1) - это множитель, а не степень?

Найдем производную данной функции:

y' = 2(х+3)(х+1) + (х+3)^2 = 2(х^2 + 4x + 3) + x^2 + 6x + 9 = 2x^2 + 8x + 6 + x^2 + 6x + 9 = 3x^2 + 14x + 15.

Приравняем производную к 0:

3x^2 + 14x + 15 = 0;

D = 196 - 12*15 = 16;

х = -3 или х = -1 целая 2/3.

х = -3 - точка максимума.
Найдем значение функции на концах отрезка и в точке х = -3:
у(-3) = (-3+3)^2 * (-3-1) + 2 = 2.

у(-4) = (-4+3)^2 * (-4-1) + 2 = -3.

у(-2) = (-2 + 3)^2 * (-2-1) + 2 = -1.

Значит, наибольшее значение функции на отрезкке [-4; -2] = у(-3) = 2.