с задачей
а)y=3 x 5-x3+2, [-1;1]​

ответ: Нет.

Из условия следует, что f(x) = (x – a)(x – b), где a ≠ b.

Пусть искомый многочлен f(x) существует.

Тогда, очевидно f(f(x)) = (x – t1)²(x – t2)(x – t3).

Заметим, что t1, t2, t3 — корни уравнений f(x) = a и f(x) = b, при этом корни этих уравнений не совпадают, поэтому можно считать, что уравнение f(x) = a имеет один корень x = t1.

Рассмотрим уравнение f(f(f(x))) = 0. Его решения, очевидно, являются решениями уравнений f(f(x)) = a и f(f(x)) = b. Но уравнение f(f(x)) = a равносильно уравнению f(x) = t1 и имеет не более двух корней, а уравнение f(f(x)) = b — не более четырех корней (как уравнение четвертой степени).

То есть уравнение f(f(f(x))) = 0 имеет не более 6 корней.

Ну тут все просто)
Так как это не система, мы можешь подобрать любые числа, подчиняющиеся данным условиям)
а) x=3, y=1
Проверка:
3-1=2 и 3+1=не равняется 8, не является решением второго, но является решением первого уравнения
б) x=6, y=2
Проверка:
6-2=не равняется двум и 6+2=8,  не является решением первого, но является решением второго
в) x=5, y=3
Проверка:
5-3=2 и 5+3=8, являются решением и первого, и второго уравнения
г) x=8, y=2
Проверка:
8-2=не равняется двум и 8+2=не равняется 8, значит не является решением ни первого уравнения ни второго