Здравствуйте, Веселов Дмитрий Валерьевич.
Задача о частице в потенциальной яме подробно разобрана в "Квантовой механике" Ландау Лифшица.
Уравнение Шредингера для частицы в бесконечно глубокой одномерной потенциальной яме:

-h^2/2m*ψ''=E*ψ с условиями, что волновая функция вне ямы равна 0. Пусть частица двигается вдоль оси x. Начало и конеци ямы имеют координаты 0 и l.
Краевые условия:
ψ(x)=0 при x<0 и x>a. На границе ψ(x) непрерывна.
Решения этого уравнения (в чем легко убедиться)
ψn(x)=Сn*sin[(Pi*n/a)*x].
Постоянные Cn находятся из условия нормировки функций ψn(x): ∫ψn(x)^2dx=1. Сn=sqrt(2/a).
Для основного состояния n=1.
ψ(x)=sqrt(2/a)*sin[(Pi/a)*x].
Вероятность нахождения частицы в крайней четверти ямы равна ω=∫ψ(x)^2dx, с пределами интегрирования от 0 до a/4 (или от 3/4a до a).
ω =∫ψ^2(x)dx=2/a*∫sin[(Pi/a)*x]^2dx=2/a*∫(1-cos[(2*Pi/a)*x])/2dx=1/a*∫(1-cos[(2*Pi/a)*x])dx=1/a*(x-sin[(2*Pi*x)/a])| (от 0 до a/4)=1/a*[a/4-a/(2*Pi)]=1/4-1/(2*Pi)=
=0,1