Здравствуйте, Кусмарцев Андрей Валерьевич.

Имеем
n²/(3n² + 5n +11) = (n²/n²)/((3n² + 5n +11)/n²) = 1/(3 + 5/n + 11/n²);
при n → ∞
1/(3 + 5/n + 11/n²) → 1/(3 + 5/∞ + 11/∞) = 1/3,
то есть
a = lim _{n → ∞} n²/(3n² + 5n + 11) = 1/3.

Находим зависимость N(ε), воспользовавшись определением предела последовательности:
|x_n – a| = |1/3 – 1/(3 + 5/N + 11/N²) | = |((3 + 5/N + 11/N²) – 3)/(3(3 + 5/N + 11/N²))| =
=|(5N + 11)/(9N² + 15N + 33)| = (5N + 11)/(9N² + 15N + 33) < ε. (1)

Из выражения (1) при ε = 0,1 находим
(5N + 11)/(9N² + 15N + 33) < 0,1,
5N + 11 < 0,1(9N² + 15N + 33),
5N + 11 < 0,9N² + 1,5N + 3,3,
0,9N² – 3,5N – 7,7 > 0,
D = (-3,5)² – 4 ∙ 0,9 ∙ (-7,7) = 12,25 + 27,72 = 39,97, √D = √(39,97) ≈ 6,32,
N₁ ≈ (3,5 – 6,32)/(2 ∙ 0,9) < 0,
N₂ ≈ (3,5 + 6,32)/(2 ∙ 0,9) ≈ 5,5,
то есть, начиная с n = 6, члены последовательности будут отличаться от числа a = 1/3 меньше, чем на величину ε = 0,1.

Для проверки достаточно вычислить соответствующие члены последовательности, используя, например, электронную таблицу MS Excel:
n x_n |x_n – 1/3|
1 0,05263 0,280702
2 0,12121 0,212121
3 0,16981 0,163522
4 0,20253 0,130802
5 0,22523 0,108108
6 0,24161 0,091723

С уважением.