Имеет ли смысл вычисление значения высоты попадания мячика в мишень с точностью 13 знаков после запятой? до какой точности целесообразно округлить полученное значение?

Конечно же, не имеет. Во-первых, невозможно учесть сопротивление воздуха, отклонение траектории из-за ветра, некруглости мячика, его вращения в полете, неизвестно точное значение силы тяжести в данном месте, расстояние до мишени и разность высот также измерены с невысокой точностью. Поэтому расчет с точностью до 1 мм - это предел разумного значения величины, который все равно на практике никогда не будет достигнут.