Під час пострілу з пружинного пістолета вертикально вгору куля масою 20 г. піднялася на висоту 5 м. знайдіть жорсткість пістолета, якщо вона була стиснута на 10 см . Масою пружини знехтувати

Задача - вранье.
Составитель задачи ничего не понимает в физике.
Плотность планеты не так важна, как модуль упругости и прочность вещества плантеы.
"Остается шаром" - э это означает абсолютную жесткость материала планеты. Если планета одородна в своем объеме.
Учитывая порочность условия, решать задачу не буду, но как бы я решил эту задачу, если в нее добавить слов 5-6 условия, могу.
Объем шара М=4/3*pi*R^3, масса шара  M=ro*V, невесомость на эваторе будет если g*R = V^2/R, где g - это гравитация на поверхности планеты, она равна центростремительному ускорению на поверхности. у эватора.

Учителю по физике - двойка, за неумение формулировать задачи.

По формуле, если речь идёт о гравитационном притяжении, F = Gm1m2/R^2. Если уменьшить расстояние между шарами в 3 раза, то можно выписать эту формулу два раза, подставив вместо R в первом случае R1 = R, а во втором R2 = R/3. Далее надо разделить вторую формулу на первую. Гравитационная постоянная постоянна всегда, а если постоянны ещё и массы, то всё сократится, кроме расстояний. Получится отношение (1 / (R/3)^2) / (1 /R^2), или, переворачивая дроби, R^2 / (R/3)^2. Далее по правилам возведения в квадрат дроби (той, которая стоит в знаменателе основной дроби) , для возведения её в квадрат, нужно возвести в кваддрат как числитель, так и знаменатель дроби, т. е. будет (R/3)^2 = (R^2)/9. Видим, что и R^2 тоже сокращается, остаётся дробь 1 / (1/9), которая по правилам действия с дробями превращается в число 9. Что же такое в данном случае 9? Это отношение той силы взаимодействия между шарами, которая стала, когда расстояние между шарами сократили в 3 раза к первоначальной (потому что мы разделили вторую формулу на первую) , это как раз то, что нам нужно, значит новая сила будет больше старой силы в 9 раз.
Вот так решается задача алгебраически, с чисел. Главное знать простейшие действия с дробями, формулу и то, что одинаковые буквы в числителе и знаменателе дробей сокращаются, а также - физический смысл математической модели.