Можно ли отметить на плоскости пять точек, не лежащих на одной прямой, так, чтобы расстояние между каждыми двумя из них выражалось целым числом?

Можно.
Возьмем прямоугольник со сторонами 6 и 8. Его диагональ равна 10.
Пять точек - это вершины прямоугольника и точка пересечения диагоналей.

Например, ромб, составленный из пифагоровых треугольников.