В данном случае f(x) - бесконечно малая функция более высокого порядка при стремлении x к рассматриваемому значению, чем g(x). Если я не ошибаюсь, это записывается так: f(x)=o(g(x)). То есть используется символ "о", но не символ "О", который имеет другой смысл. Запись f(x)=O(g(x)), как я понимаю, указывает, что существует такая константа C, что |f(x)|[$8804$]C|g(x)|.

Поэтому я предлагаю Вам сверить записанное Вами условие с первоисточником задачи. Исходя из своего понимания символов "о" и "О", я не вижу правильного ответа среди предложенных вариантов.

Более подробное объяснение, чем отличаются символы o-малое и O-большое, и почему из одного следует другое,
на случай, если объяснения, данного в ответе недостаточно.

(1) f(x) = o(g(x)) при x->a означает, что для любого ε > 0 найдется окрестность точки a, такая, в ней что |f(x)/g(x)| < ε.
Условия f(x) = o(g(x)) при x->a и lim f(x)/g(x) = 0 при x->a это одно и то же.

(2) f(x) = O(g(x)) при x->a означает, что в некоторой окрестности точки a выполняется условие |f(x)/g(x)| < С.
Из f(x) = O(g(x)) не следует даже, что предел отношения f(x)/g(x) существует; нужно только, чтобы это отношение было ограничено в какой-то окрестности ночки a. Например, любая из функций f(x), g(x) в точке а может иметь разрыв.

Условие (1) более сильное, т.е., из (1) следует (2). Действительно, достаточно выбрать какое-нибудь ε>0 и соответствующую окресность точки a и положить C = ε, при этом условие (2) будет выполнено.

Желаю успехов.

Андрей Владимирович! Огромное Вам спасибо за разъяснение. В первоисточнике непонятно напечатано О. Там ни маленькое, ни большое, а какое-то среднее.

Переадресовываю это Вам:

Гордиенко Андрей Владимирович:
Андрей Владимирович! Огромное Вам спасибо за разъяснение. В первоисточнике непонятно напечатано О. Там ни маленькое, ни большое, а какое-то среднее.