Здравствуйте, Евгений!

Рассмотрим вторую задачу.

Вы написали в тексте вопроса

объясните пожалуйста откуда береться соотношение с sinβ и sin⊥, а также неравенство с ними

Дело в том, что из закона преломления света, который утверждает, что

1) луч падающий, луч преломлённый и перпендикуляр, восставленный к границе двух сред в точке падения луча, лежат в одной плоскости;
2) отношение синуса угла падения к синусу угла преломления для двух данных сред есть величина постоянная, называемая относительным показателем преломления второй по ходу луча среды относительно первой,

следует, что если свет переходит из среды, оптически более плотной, в оптически менее плотную, то угол преломления больше угла падения. При увеличении угла падения угол преломления тоже увеличивается. При некотором предельном угле падения преломлённый луч будет скользить вдоль границы раздела двух сред. При угле падения, большем предельного, свет не пройдёт во вторую прозрачную среду, а полностью отразится. Это явление называется полным отражением света.

Угол падения, при котором преломлённый луч скользит вдоль поверхности раздела сред, называется предельным углом полного отражения. Из закона преломления следует, что синус этого угла равен (как указано выше) показателю преломления второй по ходу луча среды относительно первой.

Применим теперь эти общие положения к рассматриваемой задаче.

В решении сказано: "Наблюдатель внутри корабля сможет увидеть лишь те лучи, для которых sin [$945$] < 1/n_ст (если sin [$945$] > 1/n_ст, то такой луч испытает полное внутреннее отражение и не попадёт к наблюдателю)".

Здесь я бы в первом неравенстве заменил знак "<" на знак "[$8804$]". Показатель преломления стекла относительно воздуха, который в условии задачи не указан, что создаёт неоднозначность в ответе, для кварцевого стекла равен n_ст = 1,459 (см., например, здесь). Следовательно, стекло по отношению к воздуху является оптически более плотной средой. Если луч переходит из стекла в воздух, то стекло является по ходу луча первой средой, а воздух второй. Поэтому при переходе из стекла в воздух синус предельного угла [$945$]_пр полного отражения равен показателю преломления воздуха относительно стекла, или величине, обратной показателю преломления стекла относительно воздуха, т. е. sin [$945$]_пр = 1/n_ст = 1/1,459 [$8776$] 0,6854 (тогда [$945$]_пр [$8776$] 43[$186$] 16'). Лучи, падающие под бОльшими углами, в воздух не перейдут, а испытают полное внутреннее отражение. Поэтому наблюдатель такие лучи увидеть не сможет. Он сможет увидеть только те лучи, о которых говорится в решении.

Далее в решении говорится: "Для угла [$946$] имеем соотношение n_вsin [$223$] = n_стsin [$945$], sin [$946$] = n_ст/n_в [$183$] sin [$945$], ...".

Здесь рассматривается преломление света на границе раздела воды и стекла. Луч падает из воды под углом [$946$] и преломляется на границе раздела под углом [$945$]. Согласно закону преломления, можно записать sin [$946$]/sin [$945$] = n_ст/n_в, или n_вsin [$223$] = n_стsin [$945$], или sin [$946$] = n_ст/n_в [$183$] sin [$945$], о чём и говорится в решении.

Далее в решении говорится: "Так как |sin [$945$]| < 1/n_ст, то |sin [$946$]| < 1/n_в. Поэтому наблюдатель сможет видеть только те объекты, свет от которых попадает на иллюминатор с углом падения [$946$] [$8804$] arcsin (1/n_в)".

Выше было указано, что sin [$945$]_пр = 1/n_ст и наблюдатель может видеть только те лучи, для которых sin [$945$] [$8804$] 1/n_ст [$8776$] 0,6854. Следовательно, из этого выражения и выражения sin [$946$] = n_ст/n_в [$183$] sin [$945$] следует
sin [$946$] [$8804$] n_ст/n_в [$183$] 1/n_ст,
sin [$946$] [$8804$] 1/n_в = 1/1,4 [$8776$] 0,7143,
[$946$] [$8804$] arcsin 1/n_в [$8776$] 45[$186$] 35'.
Если угол падения луча на поверхность раздела воды и стекла превышает указанное значение, то наблюдатель внутри корабля не сможет его увидеть в иллюминатор.

Далее в решении сказано: "Из рис. 242 ясно, что радиус R круга на дне, доступного наблюдению, будет R [$8776$] h [$183$] tg [$946$], и искомая площадь (h [$183$] tg [$946$] >> D/2) равна S = пR² [$8776$] пh²/(n_в - 1) [$8776$] 82 м²".

Иллюминатор на рис. 242 изображён в виде прямоугольника. Внизу прямоугольника к его вертикальной оси симметрии проведён луч под углом [$946$], максимальное значение угла [$946$] составляет 45[$186$] 35' (при превышении этого угла наблюдатель всё равно ничего больше не увидит), для которого tg [$946$] [$8776$] 1,021. Продолжите теперь левую боковую сторону прямоугольника, изображающего иллюминатор, до пересечения с горизонтальной линией, изображающей дно, и проведите через нижнюю левую вершину прямоугольника отрезок, параллельный лучу, о котором говорится в начале этого абзаца. Этот отрезок пересечёт дно на расстоянии R = D/2 + h [$183$] tg [$946$] = 0,4/2 + 5 [$183$] 1,021 [$8776$] 5,31 (м). Соответственно, искомая площадь круга составит S = пR² = п [$183$] (5,31)² [$8776$] 89 (м²).

Некоторое расхождение полученного значения площади с тем, которое указано в ответе, вызвано уже упомянутой неопределённостью с коэффициентом преломления стекла. Мы не знаем, какое значение этого коэффициента брал в расчёт составитель задачи.

С уважением.