Может ли равнодействующая двух сил 10 и 14h, положенных к одной точке, быть равной нулю?

Никак. Равенство 0 получается, когда модуль одной равен модулю другой и они противоположно направлены. А у нас 14≠10