Шар массой m, движущийся со скоростью v, налетает на покоящийся шар и после столкновения отскакивает от него под углом 90 градусов к первоначальному направлению движения со скоростью v1=2v: 3. найти массу второго шара.

Пусть первый шар движется в направлении оси Y, после отскока он движется в направлении оси X. Пусть линия соударения проходит под углом φ к оси Y и вектору V.
Сумма проекций импульсов тел до соударения на ось X (или Y) равна сумме проекций импульсов тел после соударения на ось X (или Y).
Проекции импульсов на ось Y до и после удара:
m*V = m2*V2*sinφ   (1)
Проекции импульсов на ось X до и после удара:
m*V1=m2*V2*cosφ°    (2)

V2 выражаем из (1) и подставляем в (2):
V2=m*V / (m2*sinφ)                        
m*V1 = m2*m*V*cosφ/(m2*sinφ)
V1 = V/tgφ
φ=arctg(V/V1)= arctg(3/2)=56,3°

Если соударение абсолютно упругое, то изменение кинетической энергии первого шара полностью переходит в кинетическую энергию другого шара.

m*V²/2 - m*V1²/2 = m2*V2²/2

дальше пока не получается...