Знайти кут між діагоналями паралелограма побудованого на векторах а(2;-1) і б (2;-3)

Даны две точки A и B, имеющие конкретные координаты.

Точка М имеет переменные координаты х и у: М(х; у).

Если обе части заданного выражения BM²- AM² = 2AB² разделить на 2AB², то получим уравнение:

(BM²/2AB²) - (AM²/2AB²) = 1.

Если в этом уравнении разнести координаты по х и по у, то получится уравнение гиперболы.

Выразим отрезки АМ, ВМ и АВ через координаты.

АМ = √((хМ - хА)² + (уМ - уА)²).

ВМ = √((хМ - хВ)² + (уМ - уВ)²).

АВ = √((хВ - хА)² + (уВ - уА)²).

Заданное множество точек соответствует уравнению:

((хМ - хА)² + (уМ - уА)²) - ((хМ - хВ)² + (уМ - уВ)²) =

= 2*((хВ - хА)² + (уВ - уА)²).

Если бы были известны координаты точек, то можно было бы  определить уравнение для конкретных условий.

Раз уж первую задачу решили правильно, её расписывать не буду.
2) В прямоугольном треугольнике катет равен среднему пропорциональному гипотенузы и проекции этого катета на гипотенузу. Другими словами, квадрат катета равен произведению гипотенузы на проекцию катета.
АВ²=АН·АС=10·40=400,
АВ=20 - это ответ.

3) Точка, равноудалённая от сторон треугольника является центром вписанной в него окружности. Он, в свою очередь, лежит на пересечении биссектрис треугольника, значит АО - биссектриса угла АВС. ∠АВС=2∠АВО=2·39=78°.
В тр-ке АОС ∠ОАС+∠ОСА=(∠ВАС+∠ВСА)/2=(180-∠АВС)/2=(180-78)/2=51°.
∠АОС=180-(∠ОАС+∠ОСА)=180-51=129° - это ответ.

PS. Так как точка О не является центром описанной вокруг треугольника окружности, нельзя говорить о том, что угол АВС вписанный и, тем более, что угол АОС центральный и что он равен двум вписанным.