cos^2(3x)+2a*sin(3x)-2a>a^2,
1-sin^2(3x)+2a*sin(3x)-2a-a^2>0,
-sin^2(3x)+2a*sin(3x)-a^2-2a+1>0,
sin^2(3x)-2a*sin(3x)+a^2+2a-1<0,
sin(3x)=t,
t^2-2a*t+a^2+2a-1<0,
t^2-2a*t+a^2+2a-1=0,
D1=(-a)^2-1*(a^2+2a-1)=a^2-a^2-2a+1=-2a+1,
1) D1<0, -2a+1<0, -2a<-1, a>1/2,
нет решений;
2) D1=0, a=1/2,
3) D1>0, a<1/2,
t1=-(-a)-√(-2a+1)=a-√(1-2a),
t2=-(-a)+√(-2a+1)=a+√(1-2a),
a-√(1-2a)<t<a+√(1-2a),
{sin3x>a-√(1-2a), (система)
{sin3x<a+√(1-2a);
3.1) a-√(1-2a)>1,
-√(1-2a)>1-a,
√(1-2a)<a-1,
{1-2a≥0, a-1>0, 1-2a<a^2-2a+1;
{a≤1/2, a>1, a^2>0; - нет решений (т.е. при любом а a-√(1-2a)≤1, и неравенство sin3x>a-√(1-2a) имеет решения);
3.2) a+√(1-2a)<-1,
√(1-2a)<-a-1,
{1-2a≥0, -a-1>0, 1-2a<a^2+2a+1;
{a≤1/2, a<-1, a^2+4a>0;
{a≤1/2, a<-1, a(a+4)>0;
a<-4 - неравенство sin3x<a+√(1-2a) не имеет решений.
3.3)-4<a<1/2
cos^2(3x)+2a*sin(3x)-2a>a^2,
1-sin^2(3x)+2a*sin(3x)-2a-a^2>0,
-sin^2(3x)+2a*sin(3x)-a^2-2a+1>0,
sin^2(3x)-2a*sin(3x)+a^2+2a-1<0,
sin(3x)=t,
t^2-2a*t+a^2+2a-1<0,
t^2-2a*t+a^2+2a-1=0,
D1=(-a)^2-1*(a^2+2a-1)=a^2-a^2-2a+1=-2a+1,
1) D1<0, -2a+1<0, -2a<-1, a>1/2,
нет решений;
2) D1=0, a=1/2,
нет решений;
3) D1>0, a<1/2,
t1=-(-a)-√(-2a+1)=a-√(1-2a),
t2=-(-a)+√(-2a+1)=a+√(1-2a),
a-√(1-2a)<t<a+√(1-2a),
{sin3x>a-√(1-2a), (система)
{sin3x<a+√(1-2a);
3.1) a-√(1-2a)>1,
-√(1-2a)>1-a,
√(1-2a)<a-1,
{1-2a≥0, a-1>0, 1-2a<a^2-2a+1;
{a≤1/2, a>1, a^2>0; - нет решений (т.е. при любом а a-√(1-2a)≤1, и неравенство sin3x>a-√(1-2a) имеет решения);
3.2) a+√(1-2a)<-1,
√(1-2a)<-a-1,
{1-2a≥0, -a-1>0, 1-2a<a^2+2a+1;
{a≤1/2, a<-1, a^2+4a>0;
{a≤1/2, a<-1, a(a+4)>0;
a<-4 - неравенство sin3x<a+√(1-2a) не имеет решений.
нет решений;
3.3)-4<a<1/2