Здравствуйте, Дроздова Елена Владимировна!
В условии опечатка/ошибка: вместо "обращена пропорционально" следует: "обратно пропорциональна".
Произведение ширины b сечения на куб его высоты h прямо пропорционально той самой жёсткости, максимум которой предстоит найти.
Прежде всего, ясно, что диагональ вырезаемого прямоугольника равна d - больше, чем d, она быть не может, а уменьшение неминуемо приведёт к потере жёсткости. В таком случае b^2 + h^2 = d^2 (1). При этом условии надо найти максимум произведения b*h^3. Для упрощения выкладок будем искать максимум квадрата этого произведения m = (b*h^3)^2 = b^2*h^6, или, заменив b^2 = d^2 - h^2: m = (d^2 - h^2)*h^6, а после раскрытия скобок: m = d^2*h^6 - h^8 (2). Продифференцировав (2) по h и приравняв производную нулю, получаем: 6*d^2*h^5 - 8*h^7 = 0 (3), или, сокращая на 2*h^5: 3*d^2 - 4*h^2 =0 (4), откуда h = d*(SQRT(3))/2, и на основании (1) b = d/2. (Из тригонометрии легко найти, что угол м-ду диагоналями вырезаемого прямоугольника равен 60° - практически удобная рекомендация для разметки).