Здравствуйте, dar777!
На моё неискушённый взгляд, задачу можно решить так.
Предположим, что
Тогда из условия равновесия тела массой
получим, что
Из условия равновесия тела массой
получим, что
или
Значит, в отсутствие трения сдвигающая сила, действующая на тело массой
равна нулю, то есть
поэтому и при наличии трения она будет равна нулю. При этом тела по-прежнему будут находиться в покое. Следовательно,
Учитывая сообщение администратора раздела в мини-форуме консультации, замечу, что предложенное мной решение относится к случаю, когда система изначально находилась в равновесии. Сказались привычка решать школьные задачи по механике, в которых всё обусловлено, и нелюбовь к задачам повышенной трудности и плохо обусловленным.
Об авторе:
Facta loquuntur.