После строительства дома осталось некоторое количество плиток. их можно использовать для выкладывания прямоугольный площадки на участке рядом с домом. если укладывать в ряд по 10 плиток, то для квадратной площадки плиток не хватает. при укладывании по 7 плиток в ряд остаётся один неполный ряд, а при укладывании по 8 - тоже остаётся неполный ряд, в котором на 5 плиток меньше, чем в неполном ряду при укладывании по 7.сколько всего плиток осталось после строительства дома?

В квадрате из 10 плиток должно быть 100  плиток.     Следовательно,  количество плиток меньше 100.

Разница  5 плиток возникает после 5 ряда. Накопление  разницы объясняется  разницей плиток в рядах  на 1 плитку.

Объяснение: 
         Ряды  по "8".                                       Ряды по "7"
8 плиток - полный ряд "8"                   1 ряд "7"+1 во втором ряду.
16  плиток  2 полных ряда "8"            2 ряда "7" +2 в третьем ряду
 и  так далее … .
В  неполном ряду  "7"  должно  быть  + 6 плиток.  В  неполном ряду "8"  +1 плитка.  Тогда выполняется условие  6-1=5
7*5=35+6= 41  плитка ˂100
8*5=40+1= 41  плитка ˂100

Есть  второй  ответ - 97 плиток.

Решается через неравенство   7а+6<100;    a <13,4;   отсюда,  а=13,   13*7+6=97,  проверка:   12*8+1=97

Все условия  задачи, в том числе ограничение в 100 плиток  выполнены.