Окружность с центррм в начале координат проходит через точку p ( 8,6 ). найдите ее радиус.

Если выполнить чертеж то можно выделить прямоугольный треуголник с катетами 6 и 8 в котором нужно найти гипотенузу. 
Найдем по теореме Пифагора.

Радиус окружности равен 10

Раз центр находится в начале координат и нам известна точка  Р( 8,6 ) на окружности

то радиусом окружности будет отрезок с координатами О(0,0) Р(8,6)
находим его длину  r = √[(x1 - x2)^2 + (y1 - y2)^2] = √[(0 - 8)^2 + (0 - 6)^2] = √(64 + 36) = √100 = 10