Найти площадь криволинейной трапеции и начертить график.

Ограничена линиями y = (1-x) * (x-5 ) , графиком y=x и осью 0x

Если корни многочлена с меньшей степенью совпадают с корнями многочлена большей степени - то многочлен большей степени делится на многочлен меньшей степени

Для примера  x^2 - 2x + 1 делится на x-1 (корень 1)

x-1=0 x=1

(x -1)^2 = 0 x=1

и не делится на х+1

Так и здесь найдем корни многочлена второй степени и подставим в многочлен 5-й степени, если и там будут корни, то значит делится, если нет - то не делится

x^2 - 3x - 18 = 0

D = 9 + 72 = 81

x12=(3+-9)/2 = 6  -3

(x+3)(x-6) = 0

подставляем найденные значения в x^5 − 4x^4 − 13x^3 + 216 = 0

1. х=-3

(-3)^5 - 4 *(-3)^4 - 13*(-3)^3 + 216 = -243 - 324 + 351 + 216 = - 567 + 567 = 0 да корень

2. х=6

6^5 - 4*6^4 - 13*6^3 + 216 = 7776 - 5184 - 2808 + 216 = 7992 - 7992 = 0

да корень

Значит многочлен пятой степени делится на многочлен второй степени без остатка

(x^5 − 4x^4 − 13x^3 + 216) / ( x^2 − 3x − 18) = x^3 - x^2 + 2x - 12

Точно не знаю, я еще такого не решал , но судя по твоим вопросам можно попробовать выделить неполный квадрат.  
у²-3у - 1  = у² - 2 *1,5 у + (1,5)² - 3,25=  (у-1,5)²- 3,25
если  у² -3у -1 =  11 ,  следовательно  :
(у-1,5)² - 3,25=11
(у-1,5)²= 11+3,25
(у-1,5)²=14,25

Теперь выделим неполный квадрат из второго выражения:
8у²- 24у - 9 = 8 (у²- 3у -  9/8 ) = 8(у²-3у -1,125) = 
= 8 ( у² -3у + 2,25  - 3,375) = 8 (( у-1,5)²  - 3,375 ) =
= 8(у-1,5)² - 8 * 3,375 = 8(у-1,5)² - 27

если (у-1,5)²=14,25 , то из второго выражения получается:
8*14,25  -27 = 114-27 =  87

ответ: если у²-3у-1=11 , то  8у²-24у -9 = 87.