Помогаю: Если Вы совсем не знаете тему, читайте абзац "
Как составить уравнение плоскости по 3м точкам ?" в учебной статье "Уравнени плоскости"
Ссылка .
Затем выбираете из 4х заданных Вам точек любые 3, например A, B, C и составляете уравнение плоскости, на которой лежат эти точки.
Общее уравнени плоскости имеет вид : A·x + B·y + C·z + D = 0 . Но в процессе решения Вашей задачи нельзя использовать уравнение в таком популярном виде, потому что буквы A, B, C, D уже заняты именами точек в Условии задачи, а путаница нам совсем не нужна.
Значит, составьте уравнени плоскости в виде : a·x + b·y + c·z + d = 0 .
Затем вместо x, y, z подставьте в это уравнение координаты Вашей 4й точки D(1; 5; 0) .
Если равенство a·1 + b·5 + c·0 + d = 0 НЕ нарушится, значит 4я точка принадлежит плоскости a·x + b·y + c·z + d = 0 .
Сообщите, что у Вас получится?