Точки A, B лежат на одной окружности. Отрезки AB и CH пересекаются в точке M. Лежит ли точка H на данной окружности, если AM=5 м, MB=6 м,CM=8 м, MH=4 м?

Объем - это площадь основания на высоту. Площадь основания есть площадь ромба, а высоту можешь найти исходя из того, что диагональные сечения есть прямоугольники, ширина обеих - высота, а длины равны длинам соответствующих диагоналей. Произведение диагоналей находишь из определения площади ромба. S= произведение диагоналей делённое пополам, то есть ab/2. Отсюда ab=60. Это же произведение можно ещё представить, как (96/h) *(40\h) = 3840/(h^2), где h - высота

3840/h^2 = 60, откуда h^2 = 64, откуда h=8.

Объем равен 30*8 = 240

Точка О2 - центр вписанной окружности в  тр-ник АВС. Точка О1 - центр заданной окружности. 
Около тр-ка АВС опишем окружность.
АО2, ВО2 и СО2 - биссектрисы соответствующих углов.
Продолжим отрезок СО2 до пересечения его с описанной окружностью в некой точке К. 
∠АО2К=∠А/2+∠С/2, т.к. ∠АО2К является внешним к тр-ку АСО2.
∠ВАК=АВК=∠С/2, т.к. оба опираются на те же дуги, на которые опираются равные углы из вершины тр-ка АВС. КА=КВ по этой же причине.
Заметим, что в тр-ке АКО2 ∠КАО2=∠АО2К, значит он равнобедренный.
КА=КО2=КВ, значит точка К - центр описанной около тр-ка АВО2 окружности.
Тр-ник АВС - равнобедренный. В нём СМ - биссектриса и высота. В прямоугольном тр-ке АСМ ∠А+∠С=90°. Заметим, что и  в тр-ке АСК ∠САК=90°, значит ∠CВК=90°. СА и CВ - касательные к окружности с центром в точке К. Точки А и В лежат на этой окружности. Но СА и CВ - касательные к заданной окружности, значит точки К и О1 совпадают. 
О1О2 - радиус заданной окружности, значит центр вписанной в тр-ник АВС окружности лежит на данной окружности.
Доказано.