Косинус угла между векторами х(1,0,0) и у(0,1,0) равен

 скалярное произведение  a · b = ax · bx + ay · by + az · bz = 1 · 0 + 0 · 1 + 0 · 0 = 0 + 0 + 0 = 0
длины векторов
|a| = √ax2 + ay2 + az2 = √12 + 02 + 02 = √1 + 0 + 0 = √1 =  1
|b| = √bx2 + by2 + bz2 = √02 + 12 + 02 = √0 + 1 + 0 = √1 =  1
угол между векторами
cos α = a · b/|a||b|
cos α = 0 = 0/1 ·  1