По теореме Виета 2x^2+x-10=0
х^1=-5 ; х^2=2

Пусть х (г) - масса маленькой коробки конфет, тогда 1,2х - масса большой коробки. Составим уравнение по условию задачи
(3 * 1,2х + 2 * х) - (2 * 1,2х + 3 * х) = 50
(3,6х + 2х) - (2,4х + 3х) = 50
5,6х - 5,4х = 50
0,2х = 50
х = 50 : 0,2
х = 250 (г) - масса маленькой коробки конфет
1,2 * 250 = 300 (г) - масса большой коробки конфет 
ответ: 250 г и 300 г.

Проверка: (3 * 300 + 2 * 250) - (2 * 300 + 3 * 250) = 50
                 (900 + 500) - (600 + 750) = 50
                 1400 - 1350 = 50
                  50 = 50

Пусть масса маленькой х, тогда большой 1,2х
масса 3 больших 3*1,2х, двух маленьких 2х, а двух больших 2*1,2х и трех маленьких 3х. Уравнение 3*1,2х+2х=2*1,2х+3х+50
                                         3,6х+2х=2,4х+3,х +50
                                           5,6х=5,4х+50
                                            5,6х-5,4х=50
                                               0,2х=50  
                                               х=250 весит маленькая коробка
                                             1,2*250= 300 весит большая