Здравствуйте, Тимофеев Алексей Валентинович!
Поступим от противного - возьмём окружность и впишем в неё треугольник. Очевидно, что сторона треугольника является хордой. Найдём зависимость её длины от расстояния до центра. Можно поступить так:
Пусть начало координат находится в центре окружности, а ось абсцисс параллельна хорде. В этом случае концы хорды (они же 2 вершины треугольника) будут иметь координаты (x, y) и (-x, y), при этом длина ходы (стороны треугольника) l=2x, а расстояние от цента y. Согласно уравнению окружности с центром в начале координат
x²+y²=r²
расстояние от центра до стороны треугольника y=[$8730$](r²-x²)=[$8730$](r²-l²/4), где l - длина стороны треугольника и r - радиус описанной окружности.
Таким образом (зная, что l>0), чем больше длина стороны, тем ближе она к центру.

Здравствуйте, Тимофеев Алексей Валентинович!
Собственно говоря, никакой системы координат не нужно. Если из центра описанной окружности O радиуса R на сторону длиной a опустить перпендикуляр длиной d, то его основание является серединой соответствующей стороны. По теореме Пифагора получаем, что
d=[$8730$](R²-(a/2)²).
Ну, а далее как в первом ответе.