Здравствуйте, meleniumfox.
Только лишь для улучшения статистики и по совету мудрого Андрея Владимировича...
Решаем...
Решение 1 (соответствует педагогическим принципам):
Решаем методом аналогий - ищем аналогичную задачу и повторяем записи... только не забываем, что даже в аналогичных задачах хитрые преподы обязательно воткнут какую-нибудь гадкую подлость для студента, чтоб его унизить и завалить на экзамене.
Итак, находим, например, где-нибудь в интернете... - удивительно, но долго искать не приходится: прямо с этой страницы нажимаем стрелочку назад и попадаем на Вашу же похожую задачу про пять зарядов в квадрате.
Записываем "Дано"... так,...и тут... - и тут натыкаемся на первую подлость препода - заряды в вершинах квадрата теперь отрицательные... эх, что же делать? Соображаем, что отрицательные заряды также отталкиваются друг от друга, как и положительные, поэтому стрелочки на рисунке, которые показывают силы, нисколько не изменятся. На рисунке изменятся только "+"-ы на "-"-сы и в центре квадрата "-" поменяется на "+". И всё. И это единственная хитрость вашего преподавателя, который так лихо закрутил сюжет задачи.
Далее все переписываем до последней, практически, строчки решения (дальше там уже только звездочки и смайлик).
Ах, да... поскольку заряды отрицательные, не забываем ставить прямые скобки - модули зарядов: в законе Кулона заряды берутся по модулю.
Ну и всЁ
Цифры из вашего "дано", подставляются уже в последнюю строку вашего решения:
q₅=0,96|Q|=0,96*|-5*10^-7|Кл=4,8*10^-7Кл.
*******
Решение 2 (соответствует Правилам Портала):
Дано:
Q₁=Q₂=Q₃=Q₄=Q=-5*10^-7Кл
Найти: q₅
Решение:
Поскольку все заряды в вершинах одинаковы, достаточно рассмотреть действие кулоновских сил со стороны всех остальных зарядов лишь на один из них (например, на 4-й) (см.рис.):

Итак,
согласно закону Кулона
1) F₃=F₁=k*(Q/a)²
Далее в решении жирным шрифтом обозначены вектора
Тогда сумма векторов F[sub]1[/sub] и F[sub]3[/sub] (по теореме Пифагора) по величине равна
mod(F[sub]1[/sub]+F[sub]3[/sub])=F₁*[$8730$]2
2) F₂=k*(Q/a[$8730$]2)²=(1/2)k(Q/a)²=(1/2)F₁
Тогда равнодействующая трех сил, действующих со стороны зарядов в вершинах 1,2,3 на заряд в вершине 4
R=F[sub]1[/sub]+F[sub]2[/sub]+F[sub]3[/sub]
величина которой
R=mod(F[sub]1[/sub]+F[sub]2[/sub]+F[sub]3[/sub])=F₁[$8730$]2+F₁/2)=F₁*([$8730$]2+0,5)[$8776$]1,91F₁
3) Чтобы система находилась в равновесии, необходимо, чтобы сила F[sub]5[/sub], действующая на заряд в вершине 4 со стороны заряда q₅, помещенного в центр квадрата, по величине была равна равнодействующей R,
т.е.
F₅=R=1,91F₁
F₅=2k*(q₅*Q)/a²=1,91kQ²/a²
[$8658$]
2q₅=1,91Q
[$8658$]
q₅=0,96Q=0,96*|-5*10^-7|Кл=4,8*10^-7Кл

p/s: Надеюсь, не смотря ни на что, всё у вас будет хорошо.
Удачи