При каком значении х вектор a {3; -x; 1} перпендикулярен вектору b {6; 2; 0}?

Рассмотрите такой вариант:
Условие перпендикулярности - скалярное произведение векторов равно нулю. Тогда:
3*6+((-x)*2)+1*0=0 
18-2x=0
x=9
A{3;9;1}, B{6;2;0}.