Здравствуйте, Анна Витальевна!
Дана правильная 6-угольная пирамида, вписанная в сферу радиусом R = 1.
Вычислить сторону основания "a" и боковое ребро "b" при наибольшей боковой поверхности пирамиды.

Решение : Я начертил пирамиду, вписанную в сферу для наилучшего представления связей всех элементов пирамиды и сферы. Рисунок прилагаю ниже.

Аннотирую статью из школьной геометрии "Правильная пирамида" Ссылка : Основание правильной 6-угольной пирамиды - правильный 6-угольник.
Все стороны и углы основания равны м-ду собой.
Все рёбра и двугранные углы пирамиды также равны м-ду собой.
Треугольники, образующие боковые стороны одинаковы, соответственно, у них одинаковые площади, стороны и высоты.
Вершина пирамиды проектируется в точку пересечения диагоналей основания 6-угольника.
ME = h - апофема,
Площадь боковой поверхности правильной пирамиды :
Sб = (1/2)·P_осн·h , где P_осн - периметр основания, h - апофема.

Добавим к этому, что основание пирамиды состоит из 6 равно-сторонних треугольников со стороной "a". Значит, радиус основания равен AO = PQ = a .

Искать наибольшую боковую поверхности пирамиды, мне думается, проще всего в зависимости от высоты CO = z м-ду центрами сферы и основания.
В прямоугольном треугольнике AOC известна единичная гипотенуза AC = CM = 1
Тогда a = AO = [$8730$](AC² - CO²) = [$8730$](1 - z²)
Высота OE треугольника POQ равна [$8730$](a² - (a/2)²)
Дальнейшие вычисления я сделал в приложении Маткад (ссылка) . Маткад-скриншот прилагаю. Я добавил в него подробные комментарии зелёным цветом.

Ответ : a = 0,93 ; b = 1,42 .
Проверочные вычисления показали, что при z = 0,372 боковая поверхность пирамиды имеет наибольшую площадь 4,43 ед площади.