Опечатка,
.../(5*10^-3) это в миллиметрах
А если в формулу подставить правильное значение
5e-6 (м)
то получим значение угла для второго порядка
f= arcsin(2*656e-9/5e-6)= 0,265509 (рад)= 15,2 (градуса)
____
кстати arcsin(262.4*10^-6) это не 0.15 градусов, 0.015.
По мнению виндоусовского калькулятора.
Вообще то для нахождения арксинуса малых углов инженерный колькулятор и не нужен.
Пройдет любой калькулятор, типа такого каким продавцы пользуются
(262.4*180/3.142)/1000 000= 0,0150 (градусов)
а в радианах само малое число и есть
262.4*10^-6 (рад)