Пусть а и b - катеты, с - гипотенуза. По теореме Пифагора а²+b²=с². Пусть меньший катет равен (5х) см, а больший - (12х) см. Составим и решим уравнение (5х)²+(12х)²=26², 25х²+144х²=676, 169х²=676, х²=676:169, х²=4. Значит, х=2 (-2 не подходит по условию). Следовательно, меньший катет равен 10 см.