по какой формуле вычисляется это (либо же по какой последовательности),а если решите буду вообще вам благодарен) P.S a=3 b=5

Чтобы система имела множество решений , надо чтобы последняя строка была нулевой, то есть

Решим однородную систему    .  

За базисные неизвестные примем "х" и "у" . Свободное неизвестное - "z" .

Пусть  "z" принимает произвольные числовые значения,

обозначим z=C . Тогда множество решений системы имеет вид:

 .

Запишем частное решение при  С=1 :    .