STASSY:
Задачу можно решить почти без вычислений, используя систему центра масс (CЦМ). Так как M>>m, СЦМ связана с массивным телом и имеет скорость 3v. В СЦМ шарик движется до удара со скоростью v - 3v = -2v, навстречу массивному телу, а после удара его скорость 2v. Возвращаясь в систему отсчета наблюдателя, получим скорость шарика 2v + 3v = 5v.
Изменение кинетической энергии m*(5v)2/2 - mv2/2 = 12mv2.