Я короче придумал, как надо...
-Будем вести отсчет от положения, когда палуба вообще недформирована, т.е. это будет уровень x=0. Положительный x вниз.
-Масса пушки m, масса снаряда m0. До выстрела снаряд сидит в пушке, и в место крепления пушки к палубе действует сила (m+m0)*g.
-В момент выстрела t=0 (счиатем, что пушка лупит строго вертикально вверх) снаряд вылетает из пушки со скоростью v0. По закону сохранения количества движения: m0 * v0 = m * v*, где v* - это начальная скорость, с которой в момент выстрела пушка толкает палубу в противоположном от выстрела направлении. Т.е.