Докажите, что при любых значениях m и k выражение m²-6mk+11k² принимает положительные значения.

Воспользуемся равенством

tg α – tg β = tg (α – β) (1 + tg α tg β).

Получаем:

tg x tg 2x tg 3x = tg 3x – tg x + tg 4x – tg 2x,
tg x tg 2x tg 3x = tg 2x (1 + tg x tg 3x) + tg 2x (1 + tg 2x tg 4x),
tg 2x (1 + tg x tg 3x – tg x tg 3x + 1 + tg 2x tg 4x) = 0,
tg 2x = 0 или tg 2x tg 4x = –2.

С первым понятно, что делать. Второе:

tg 2x tg 4x = –2,

tg 2x · 2 tg 2x / (1 – tg² 2x) = –2,
tg² 2x = tg² 2x – 1.

Это равенство невозможно.

Все решения получаются из уравнения tg 2x = 0, то есть 2x = πn, x = πn/2. Значения с нечётными n не подходят (tg x и tg 3x не существуют) , значит, ответ x = πk. Возможно так

Наши действия: 1) ищем производную;
                            2) приравниваем её к 0 и решаем уравнение;
                            3) смотрим, какие корни попали в указанный промежуток и ищем значения функции в этих точках и на концах промежутка;
                             4) пишем ответ.
Поехали?
1) у' = 3x^2 +2x -8
2) 3x^2 +2x -8 = 0
x1= -2 ( входит в промежуток)           x2 = 4/3 (не входит в промежуток)
3)у(-3) = (-3)^3 + (-3)^2 -8*(-3) -8 = -27 +9 +24 -8 = -2
    y(0) = 0^3 +0^2 -8*0 -8 = -8
    y(-2) = (-2)^3 +(-2)^2 -8*(-2) -8 = -8 +4 +16 -8 = 4
4) ответ: max y = y(-2) = 4