Виразити у через х і х через у з рівнянь:
1) х + у = 10, 2) 2х – у = 5, 3) у – х = -6, 4) х – 5у = 8,
5) 5у – 6х = 0, 6) 4х + 3у = -11, 7) 5у + 9х = -2, 8) х – 56у = -3.

Обозначим выпадение орла О, решки Р. Выпишем все возможные элементарные события:
(1)
ОООР (2)
ООРО (3)
ООРР (4)
ОРОО (5)
ОРОР (6)
ОРРО (7)
ОРРР (8)
РООО (9)
РРОО (10)
РОРО (11)
РООР (12)
РРРО (13)
РОРР (14)
РРОР (15)
(16)
Итого, их 16. 
Значит n=16 - число всех событий. Это можно подсчитать еще следующим образом: 2 в степени 4=16, т.к. подбрасывают двустороннюю монету 4 раза.
Орел выпадает более 2-х раз, значит 3 и  4 раза. Это происходит в (1), (2), (3), (5) и (9) случаях. Всего 5 раз.
Значит m= 5 - число благоприятных событий. 
Искомая вероятность вычисляется по формуле: 
р=m/n=5/16=0,3125
ответ: 5/16 или 0,3125

Решение
Пусть первое число будет равно х, и пусть оно на у меньше второго числа, тогда второе число получается х+у, тогда третье число получается второе число плюс у, т.е х+у+у = х+2у. Так как квадрат второго числа на 36 больше произведения первого и третьего чисел, то составляем уравнение:
(х+у)² - 36 = х * (х+2у)
х²+2ху+у²-36=х²+2ху
у²=36
у=6 или -6, но так как каждое следующее число больше предыдущего, то -6 не подходит.
Значит у=6, т.е. первое число х, второе х+6, третье х+2*6=х+12.
Таким образом наибольшее число больше чем наименьшее на 12, т.е. (х+12)-х=12.
ответ: 12