После строительства дома осталось некоторое количество плиток. их можно использовать для выкладывания прямоугольной площадки на участке рядом с домом. если укладывать в ряд по 10 плиток, то для квадратной площадки плиток не хватит. при укладывании по 7 плиток в ряд, остается один неполный ряд, а при укладывании по 8 - тоже остается неполный ряд, в котором на 5 плиток меньше, чем в неполном ряду при укладывании по 7. сколько всего плиток осталось после строительства дома?

Разница  5 плиток возникает после 5 ряда. Накопление  разницы объясняется  разницей плиток в рядах  на 1 плитку.
Объяснение: 
         Ряды "8".                                       Ряды "7"
8 плиток - полный ряд "8"                   1 ряд "7"+1 во втором ряду.
16  плиток  2 полных ряда "8"            2 ряда "7" +2 в третьем ряду
 и  так далее  ... .

В  неполном ряду  "7"  должно  быть  + 6 плиток.  В  неполном ряду "8"  +1 плитка.  Тогда выполняется условие  6-1=5

7*5=35+6= 41  плитка
8*5=40+1= 41  плитка

Всё логично  и  понятно.

Есть  второй  ответ - 97 плиток.

Решается через неравенство   7а+6<100;    a <13,4;   отсюда,  а=13,   13*7+6=97,  проверка:   12*8+1=97

Все условия  задачи, в том числе ограничение в 100 плиток  выполнены.