Первый катер был в пути 2+3 часа и за это время (V-W)*5 км. Второй же за 3 часа км. Расстояние между ними через 3 часа после выхода второго будет (V-W)*5+(V+W)*3. Раскроем скобки, чтобы сократить выражение:
(V-W)*5+(V+W)*3 = 5V - 5W + 3V + 3W = 8V - 2W