У выражение нужно!
(-2 1/2a^3b^2)^3(0,4a^2b)^2

1)

а) (√а+1)/(а-1)=(√а+1)/(√а+1)(√а-1)=1/(√а-1)

б) (13-√13)/√13=√13-1

в)
(а-2√(3а)+3)/(а-3)=(√а-√3)²/(а-3) можно оставить так
или так:
(а-2√(3а)+3)/(а-3)=(√а-√3)²/((√а)²-(√3)²)=(√а-√3)²/(√а-√3)(√а+√3)=(√а-√3)/(√а+√3)
или так:
(√а-√3)/(√а+√3)=(√а-√3)(√а+√3)/(√а+√3)(√а+√3)=(а-3)/(√а+√3)²
как больше нравится

2)
а) 3/(2√6)=(3√6)/(2*6)=(3√6)/(4*3)=√6/4

10/(√14-2)=10(√14+2)/(√14-2)(√14+2)=10(√14+2)/(14-4)=√14+2

3)
а) √5b^2,если b≤ 0

√5b^2=-b√5,  b≤0

б) √(12а⁴)=√(3*4а⁴)=2а²√3

в) √(-а^5)=√(-а*а⁴)=а²√(-а), только если a≤0

г)
√((-а^3)(b^6)) ,если b>0

√((-а³)(b^6))=a*b³√(-а) только если a≤0

Y=(9x+1) / (9x^2+x)                                                   ОДЗ:   9x^2+x неравен 0
преобразуем знаменатель:                                         x(9x+1) неравен 0
y=(9x+1) / (x(9x+1))                                                  x неравен 0 или 9x+1 неравен 0 
сократим 9х+1, получится функция вида y=1/x.                      x неравен -1/9
составим таблицу:
x=1 y=1
x=2 y=0,5
x=4 y=0,25
x=-1 y=-1
x=-1/9 y=-9 ( эта точка на графике будет не закрашена,т.е.выколотая)
x=-2 y=-0,5
дальше строишь гиперболу. и через выколотую точку и вторую ветвь проводишь прямую. 
далее поставляешь в y=kx значение y и x:
-9=k*(-1/9)
решаешь, и получается k=81. вроде,так.