Условие : Угол отклонения луча на выходе призмы σ = 20°
Вычислить прeлoмляющий yгoл θ пpизмы.

Решение: Я нашёл несколько учебно-методических решебников с задачами, похожей на Вашу. Если следовать их рекомедациям, тогда Ваша задача решается просто. Цитирую статью "Геометрическая оптика" Ссылка1 : "В задачах с призмами поворот света призмой можно рассматривать как 2 последовательных преломления света на плоских гранях призмы при входе света в призму и при его выходе. Особый интерес представляет частный случай призмы с малым углом δ при вершине. Такую призму называют тонкой призмой. Обычно рассматриваются задачи, в кот-х свет падает на тонкую призму почти перпендикулярно её поверхности. При этом за 2 преломления лучи света поворачивают на малый угол
α = δ·(n-1) в плоскости перпендикулярной ребру призмы в сторону утолщения призмы. Угол поворота не зависит от угла падения света в приближении малых углов падения."

Тот же алгоритм рекомендован и в статье "Геометрическая Оптика. Задачи и Решения" Ссылка2 (стр 56). Имена переменных, соответствующие углам, в этих пособиях отличаются от букв σ и θ Вашей задачи. Чтоб не запутаться, заменим чужие буквы словами:
УголОтклонения = (n-1)·ПреломляющйУгол
Применяя Ваши имена углов, получаем простую формулу:
σ = (n-1)·θ    (1)
Зная Показатель преломления стекла n = 1,5 , получаем искомое значение:
θ = σ / (n-1) = 20 / (1,5 - 1) = 20 / 0,5 = 40° - совсем простое Решение, но слишком НЕточное, потому что формула (1) рекомендована для малых углов, для которых
sin(α) ≈ α , а в Вашей задаче углы НЕ есть малые.
Чертим призму. Луч от от источника S входит в призму согласно Условию под прямым углом, значит, НЕ преломляясь.
На выходе из призмы проведём перпендикуляр AP к грани BC призмы.
Применим закон преломления Снелла sin(β) / sin(SCA) = n
Заметим, что ∠SCA = θ , а β = θ + σ
Значит, надо решить уравнение sin(θ + σ) / sin(θ) = n
Решать это уравнение Вы можете любым удобным Вам способом (в тч используя OnLine-калькуляторы). Я люблю вычислять в популярном приложении Маткад (ссылка3) . Маткад избавляет меня от частых ошибок. Маткад-скриншот с чертежом, Решением и Проверкой прилагаю. Я добавил в скрин подробные комментарии зелёным цветом.
Ответ: прeлoмляющий yгoл пpизмы равен θ = 31°