На стороне bc отмечена точка k так, что bk=4kc, а на стороне ad лежит точка p так, что 2ap=pd. выразите вектор kp через векторы a=ab и b=ad

Если прямая (DC),  параллельна какой-нибудь прямой (AB), расположенной в плоскости (α), то она параллельна самой плоскости. Если плоскость  проходит через прямую (DC), параллельную другой плоскости (α), и пересекает эту плоскость, то линия пересечения (EF) параллельна первой прямой (DC).
Расстояние от прямой DC до плоскости α - это перпендикуляр из любой точки этой прямой на плоскость α.
Итак, в прямоугольном треугольнике АЕD катет АЕ равен по Пифагору
АЕ=√(AD²-DE²)=√(36²-18²)=18√3. 
Угол между двумя пересекающимися плоскостями равен углу между прямыми, по которым они пересекаются с любой плоскостью, перпендикулярной их линии пересечения. То есть угол между плоскостью α и плоскостью квадрата - это угол EAD, cинус которого равен отношению противолежащего катета к гипотенузе: Sinβ=ED/AD=18/36=1/2. Значит угол между плоскостями равен 30°.
Площадь проекции квадрата на плоскость α - это площадь прямоугольника AEFB, равная S=AB*AE=36*18√3=648√3см²

Объем - это площадь основания на высоту. Площадь основания есть площадь ромба, а высоту можешь найти исходя из того, что диагональные сечения есть прямоугольники, ширина обеих - высота, а длины равны длинам соответствующих диагоналей. Произведение диагоналей находишь из определения площади ромба. S= произведение диагоналей делённое пополам, то есть ab/2. Отсюда ab=60. Это же произведение можно ещё представить, как (96/h) *(40\h) = 3840/(h^2), где h - высота

3840/h^2 = 60, откуда h^2 = 64, откуда h=8.

Объем равен 30*8 = 240