На прямой отметили несколько точек , в том числе точки а и в.рассматриваются всевозможные отрезки с концами в отмеченных точках.вася подсчитал, что точка а находится внутри 50 из этих отрезков, а точка в внутри 56 отрезков.сколько точек было отмечено? (концы отрезка не являются его внутренними точками.)

Пусть точка В расположена на прямой правее точки А. (Для случая, когда это не так, будут справедливы аналогичные рассуждения).

Пусть слева от А находится m точек, а справа - n точек (включая В). Так как каждый отрезок, содержащий А, имеет начало слева от неё, а конец - справа, то по комбинаторному правилу умножения всего есть m*n таких отрезков. По условию m*n = 50.

Пусть между А и В лежит х точек. Тогда слева от В  находится (m+х+1) точек (включая А), а справа - (n-х-1) точек. (m+х+1)*(n-х-1) = 56.

Систему из указанных двух уравнений решаем в целых числах путём подбора:
5*10 = 50,  8*7 = 56,
m=5, n=10, х=2.
Всего на прямой m + n +1 = 16 точек.