НАДО
5.Закончи вынесение за скобку
(а+b) +х(а+b)2 +у(а+b)3= (а+b)(……);

2х+3х+7х = 360
х = 360 / 12 = 30
меньшая из сторон, равная 16, -- это хорда, стягивающая меньшую дугу, 
т.е. центральный угол в этом равнобедренном треугольнике = 2*30 = 60 градусов 
высота (биссектриса и медиана), проведенная к этой стороне, разобьет центральный угол пополам и получится прямоугольный треугольник с катетом, 
равным 16/2 = 8, лежащим против угла в 30 градусов)))
тогда радиус (--это гипотенуза)) = 8*2 = 16
или можно было иначе: в равнобедренном треугольнике угол при вершине = 60, значит другие два угла по (180-60)/2 = 120/2 = 60
т.е. треугольник не только равнобедренный, но и равносторонний...
радиус = меньшей из сторон = 16

Скорее всего тут надо аналитически, там более до 10 класса вроде как не изучают производные) Квадрат числа - всегда не отрицателен (больше или равен 0) и довольно большой. Поэтому надо бы взять минимальный возможный вариант для х^2 - это 0.

Во-первых, упростим:

Тогда, если х=0, то:

(  так как при умножении на 0 будет 0)

Ну, если y - любое, то можно взять минус бесконечность.
Соответствеено и ответ будет минус бесконечность..

(Но если честно, странно, что пример можно успростить ещё..Может, вы не так списали?..)