Решить, можно даже не подставлять

Процент - это сотая часть числа 
40% = 40/100 = 4/10 = 0,4

Пусть у Елдоса было х марок, тогда у Антона было 36 - х марок. Если Елдос
отдаст Антону 40% из своих марок х - 0,4х, то у Антона будет 36 - х + 0,4х марок. При этом у Елдоса окажется в два раза меньше марок. Уравнение:
(х - 0,4х) * 2 = 36 - х + 0,4х
2х - 0,8х = 36 - 0,6х
1,2х + 0,6х = 36
1,8х = 36
х = 36 : 1,8 
х = 20 (марок) - было у Елдоса
36 - 20 = 16 (марок) было у Антона
ответ: 20 марок и 16 марок.

Проверка:  0,4 * 20 = 8 марок (40%)
20 - 8 = 12 марок станет у Елдоса
16 + 8 = 24 марки станет у Антона
24 : 12 = 2 (раз) - у Елдоса в два раза меньше 

Не знаю как зовут первого мальчика, допустим, Потап

х марок у Потапа
36-х  марок у Антона
х - 0,4х = 0,6х  марок осталось у Потапа, когда он отдал 40%
36 - х + 0,4х = 36 - 0,6х  марок стало у Антона

(36-0,6х) : 0,6х = 2
36-0,6х = 2 * 0,6х
36-0,6х = 1,2х
1,2х+0,6х = 36
1,8х = 36
х = 36: 1,8
х = 20 - марок у Потапа
36-20= 16 - марок у Антона
ответ: 20 марок у Потапа, 16 марок у Антона

Проверка:
20 - 0,4*20 = 20-8 = 12 марок у Потапа, когда он отдал 8 марок Антону
16+8 = 24 марки стало у Антона, когда он получил 8 марок от Потапа
24:12 = 2 - верно