Пригласил царь на новых родственников своих трех сыновей, да свою родню, общим числом 156 человек. оказалось, что родственники боярской невесты составляют 25% от числа гостей, родни купеческой дочери в 4 1/3 раза больше, в родственников царской семьи – 108 человек. сколько было на родственников царевны – лягушки?

Царской родни было 108 человек, это не гости, значит, гостей 156 - 108 = 48.
Родственников боярской дочери 25% от 48 = 48/4 = 12.
Родственников купеческой дочери в 4 1/3 = 13/3 раз больше, 12*13/3 = 52.
Но 52 больше, чем всего гостей, 48, поэтому что-то не сходится.

Если же считать и царскую родню гостями, то все равно не сходится.
Тогда родни боярской дочери было 25% от 156 = 39.
А родни купеческой дочери 39*13/3 = 169 - это больше, чем 156.

Так что в задаче явная ошибка.