решить предел. Я знаю, что нужно делить на макимальное со степенью число, в данном случае это будет n в степени три вторых А вот как дальше делать? Ну, поделила, а не выходит.

Поясню на первом примере.
5%2 действительно есть 1. Как мы это получили? Операция % читается как "взятие остатка от деления 5 на 2". Значит, пытаемся 5 поделить на 2. Сколько раз 2 укладывается в 5? Правильно, 2. Почему 2? Потому что 2 * 2 = 4 - недобор, а 2 * 3 = 6 - уже перебор. Следовательно, сколько осталось от 5 при таком делении? Ну, 4 у нас уже есть. Осталось 1 целое, что мы и получаем.

А вот если мы 5 разделим на 5, то получаем, что 5 1 раз укладывается в 5. При этом при делении у нас ничего не остаётся. То есть, 0.

Если мы делим меньшее число на большее, то в остатке получаем всегда меньшее, то есть, 5 % 15 = 5.
Аналогично, 10 % 100 = 10

P(x) = (a+b)*x^5 + ab*x^2 + 1
x^2 - 3x + 2 = (x - 1)(x - 2)
Если наш многочлен P(x) делится на x^2-3x+2, то x1=1 и x2=2 - его корни.
{ P(1) = (a+b)*1 + ab*1 + 1 = a + b + ab + 1 = 0
{ P(2) = (a+b)*32 + ab*4 + 1 = 32a + 32b + 4ab + 1 = 0
Подставляем ab из 1 уравнения во 2 уравнение
32a + 32b + 4(-a - b - 1) + 1 = 0
28a + 28b - 3 = 0
28(a + b) = 3
b = 3/28 - a
Подставляем в 1 уравнение
3/28 + a(3/28 - a) + 1 = 0
Умножим все на 28
3 + 3a - 28a^2 + 28 = 0
28a^2 - 3a - 31 = 0
D = 3^2 - 4*28(-31) = 9 + 3472 = 3481 = 59^2
a1 = (3 - 59)/56 = -56/56 = -1; b1 = 3/28 - a = 3/28 + 1 = 31/28
a2 = (3 + 59)/56 = 62/56 = 31/28; b1 = 3/28 - 31/28 = -28/28 = -1
ответ: a и b равны -1 и 31/28