Tg п/3×сtg п/3 -3
п-число пи, а 3 это под пи​

Решение:
а²-ах+а+7=0
Решим данное уравнение и найдём корни этого уравнения:
а²-ах+(а+7)=0 это при пведённое квадратное уравнение, решаем из формулы решения квадратного уравнения x²+px+q=0 где х1,2=-p/2+-√(p²/4-q)
х1,2=а/2+-√(а²/4-а-7)
х1=а/2+√(а²/4-а-7)
х2=а/2-√(а²/4-а-7)
Возведём корни в квадрат и приравняем к 10 (согласно условия задачи)
[а/2+√(а²/4-а-7)]² + [a/2-√(a²/4-a-7)]²=10
[a²/4 +2*a/2*√(a²/4-a-7) + (a²/4-a-7)] + [a²/4-2*a/2*√(a²/4-a-7)+(a²/4-a-7)]=10
a²/4 +a√(a²/4-a-7)+a²/4-a-7+a²/4 -a√(a²/4-a-7)+a²/4-a-7=10
4a²/4-2a-14=10
a²-2a-14=10
а²-2а-14-10=0
а²-2а-24=0
а1,2=1+-√(1²+24)=1+-√(1+24)=1+-√25=1+-5
а1=1+5=6
а2=1-5=-4

ответ: При а=-4 и а=6 сумма квадратов корней данного уравнения равна 10

Нужно вспомнить теорему Виета.
Согласно теореме Виета: х1+х2=а
х1*х2=свободный член, где х1 и х2 - корни уравнения квадратичного
х1^2+x2^2= а2-2(а+7)
По условию эта сумма квадратов равна 10, откуда получаем квадратичное уравнение а2-2а-14=10, корнями которого являются числа 6 и -4.
Нашли так. Вернемся к теореме Виета:
х1+х2=2
х1*х2=-24.. Вышло два корня:6, -4.
При решении квадратичного уравнения нужно помнить, что дискриминант должен быть положительным либо равным 0.
а2-4(а+7) больше либо равно 0. 
При а = 6 дискриминант исходного уравнения отрицательный:
х2-6х+13=0
D=36-52=-16, т.е. при а=6 - дискриминант отрицательный и корней уравнение не имеет
При а=-4:
х2+4х+3=0
D=16=4*3=4-положительный, т.е.при а = -4 положительный.
Т.Е. делаем вывод, что нам подходит а=-4