Как избавиться от двойной (сложной) иррациональности? типа: я помню, есть формула для избавления от сложной иррациональности, но я уже забыл ее.

Ну,тут все просто..

есть формула разложения двойного радикала(во вложении)
если это уравнение то возвести обе части в нужную степень 2 раза
удачи! :)

Нашёл  в  интернете.
V(A  +  VB)  =  V( (A  +  V(A^2  -  B) ) / 2)  +  V ( (A  -  V(A^2  -  B) ) /2)
где  A  >  0,  B  >  0,    A^2  -  B^2  >  0.
Но  к  этому  примеру,  почему- то  не  подходит.
  Например.  V(8  +  V39)  =  V( (8  +  V(64  -  39))/2)  +  V( (8  -  V(64  -  39))/2)  =
                                        =  V(8 + 5/2)  +  V(8  -  5/2)  =  V10.5  +  V5.5