1. Найти AC -? треугольник
2. Найти CF - ? трапеция

Нужно делить на СООТВЕТСТВУЮЩУЮ сторону треугольника. Если дано, что треугольники АВС и ОРТ, подобны, то вначале надо определить какие стороны являются соответствующими (и то же самое с углами: соответствующие углы у подобных треугольников равны). Как правило в учебниках, при записи подобных треугольников соответствие определяется по положению буквы в записи треугольника. Хотя, в новых учебниках это явно не сказано. Например, если сказано, что треугольники АВС и ОРТ подобны, то подразумевается, что угол А равен углу О, угол В равен Р, и С равен Т. И тогда стороне АВ соответствует  сторона ОР, стороне ВС соответствует РТ и стороне АС соответствует OТ. Т.е. при такой записи, будет AB/OP=BC/PT=AC/OT. И в вашей задаче, если AB=8, то чтобы определить коэффициент подобия, надо знать длину именно ОР. И если сказано, что она 4, то да, треугольник ABC подобен треугольнику ОРТ с коэффициентом подобия 2.

PΔ=36, треугольник правильный, значит сторона треугольника равна :
36:3=12.
Опустим высоту в треугольнике до пересечения с окружностью. Соединим полученную точку с одной из оставших вершин заданного треугольника. Получим прямоугольный треугольник, гипотенуза которого является диаметром окружности. Угол между высотой треугольника и его стороной равен 30°. Высота в правильном треугольнике является и биссектрисой и медианой. 60°:2=30°.
Вычислим диаметр окружности:
d=12:cos30°=12:(√3/2)=24/√3=24·√3/√3·√3=24√3/3=8√3.
Диагональю квадрата является диаметр окружности. Обозачим сторону квадрата через а.
По теореме Пифагора: a²+a²=d², 2a²=(8√3)².
                                       2a²=64·3,
                                       a²=32·3=16·2·3,
                                       a=√16·6=4√6.
a=4√6.