Рисунок тоже прикрепляю во вложении.

У меня нет навыков графического построения в задачах по Оптике. За 70 лет я лишь пару лет назад был вынужден решить свою Оптик-задачу, чтоб узнать Диоптрии в куче своих старых очков и грамотно выбирать очки для наилучшего сохранения остатков моего зрения.
Месяца 3 назад я ещё поизучал оптику, чтоб ответить на пару консультаций (жалко было просителей).
Но Ваша задача - слишком сложна. Я могу попытаться решить её т-ко методом Аналитической геометрии (темы: Прямая на плоскости, Пересечение прямых) с применением формулы линзы и Маткад-помощника. Устроит ли Вас такой вариант? Как Вы будете сдавать преподавателю копии Маткад-формул?
И самое главное: Судя по приложенному Вами чертежу, он по всей вероятности олицетворяет изображение на плоскости, а не проекцию 3х-мерного изображения на плоскость. Уверены ли Вы, что композитор задачи подразумевает, будто изображение плоское?

P.S: Вы писали: "Помогите, вообще нет идей" - "инженерная мысль работает 24 часа в сутки" - и в этой шутке есть большая доля Истины. Я чистил картошку на кухне и мои мысли как-то подсознательно анализировали варианты, как помочь Вам?

Выше-упомянутый метод Аналитической геометрии предполагает составление и решение очень громоздкой системы уравнений для 4х точек Источника, 4х тчк Изображения, координат и формулы линзы, направления оси линзы, уравнений доп-условия перпендикулярности 2х сторон… - более 10 уравнений! Я даже не на 100% уверен, будто Маткад справится с этой громадой.

Но вспомнился совет моего давнего учителя: "Чтоб перехитрить противника, представь себя на его месте". Наш с Вами "условный противник" - изобретатель Ваших заумных задач - будем надеяться, что он вероятно имеет у себя Правильное Решение, то есть он взял координаты чертежа не с потолка, а сделал построение изображения с реального квадрата. Тогда у нас есть зацепка надеяться на успех в упрощённом процессе Решения (такой метод выручал меня на производстве неоднократно).

Суть метода в том, чтобы упростить обрабатываемую фигуру и решать Вашу задачу не для квадрата, а для его части, прямоугольного треугольника (или даже для одной его стороны). Возможно, Вам повезёт, и после Решения треугольника, 4я точка квадрата получится автомати простейшим до-строением ("надурнячка", как говорится). Попробуйте эту идею самостоятельно. Если не одолеете, то "звоните".

Конечно, метод аналитической геометрии только лучше. Лично я пробовал выразить соотношения длин сторон изображения квадрата и связать их с поворотом исходного предмета вокруг главной оптической оси.

Я не понял Ваше "я пробовал выразить соотношения длин сторон изображения квадрата и связать их с поворотом исходного предмета вокруг главной оптической оси" потому что вращение вокруг оптической оси приводит к 3х-мерному изображению, и оно намного сложнее 2х-мерного, показанного на Вашем чертеже. Может, Вы вращали вокруг центра линзы в пределах плоскости?
Я пока побуду в пассивном ожидании Ваших ответов на ВСЕ мои выше-вопросы.

Можно видеть что главная оптическая ось может быть направлена по разному. Вследствие этого стороны квадрата могут составлять некоторый угол с осью. Но у нас всё происходит только на плоскости.
Я пробовал ввести следующие переменные - фокусное расстояние, расстояние от оптического центра до центра квадрата и угол, который составляют стороны квадрата с главной оптической осью. К сожалению это не увенчались успехом (3 квадратные уравнения). Надеюсь смог объяснить

Ваша попытка "расстояние от оптического центра до центра квадрата" - ошибочна, тк центр квадрата Вам не даст ничего полезного. Нужно строить по точкам-вершинам. Посмотрите решения похожих задач с построениями треугольника и стрелки:
ПостроениИзображения вЛинзе Ссылка1 \ "Задание EF17760 : Равнобедренный прямоугольный треугольник ABC …"

ГеометричОптика.Задачи+Решения Ссылка2 \ стр=71 : "Построение изображения предмета. Пусть предметом для линзы является стрелка АВ…
На основании построений можно сделать два важных наблюдения: • линза отображает прямую линию в прямую;
• угол между предметом и главной оптической осью отличен от угла между осью и изображением предмета."

"3 квадратные уравнения" - я уже писал Вам : более 10 уравнений! Зачем Вам нужна столь сложная задача? Может быть отменим эту непрактичную затею и переключимся на более простые и полезные задачи?

Возможно, удобнее делать по-другому, но мне кажется, что уравнения будут симметричнее, если рассматривать следующую картинку. Мы вводим нужные неизвестные, вычисляем координаты точек и находим соответствующие координаты точек-изображений. Дальше находим их отношения (расстояний между точками) и решаем уравнение. Только в ручную это делать слишком трудно...

Например, координаты самой правой точки квадрата (начало координат - оптический центр линзы)
,
Координаты самой левой точки квадрата:
,
И возможно, решать уравнения с такими "похожими" слагаемыми будет проще.

Задача очень сложная, решить её сходу и за сегодняшний день не удалось (у нас уже вечер). Поэтому, к концу суток я планирую сделать половину решения, удовлетворяющую частичному Условию. Часа ч-з 4 я покажу его Вам. Заодно я подумаю, как применить Ваше предложение.

P.S: Не удалось решить систему уравнений. Прокрутка Изображения и Исходной фигуры помогла НЕдостаточно. Голова уже болит. Продолжу завтра.

Уважаемый автор, полагаю, что прямой угол в фигуре "Изображение" находится на расстоянии d=2F - фокусное расстояние. Точнее, вершина прямого угла находится в двойном фокусе. Далее, надо полагать, что одна из сторон этого самого прямого угла лежит вдоль главной оптической оси, а вторая, соответственно, ей перпендикулярна. Далее, сама плоскость линзы будет Перпендикулярна этой самой главной оптической оси... Т.е., рисунок, который вы исполнили двумя постами выше, где главная опт.ось лежит в горизонте, не может быть хоть сколько нибудь похож на правду.

Первое впечатление от Вашей задачи - она НЕрешаемая традиционными методами, в которых ГОО (Главная оптическая ось) расположена на оси абсцисс. Ведь если сторона D'C' изображения вертикальна (чертёж прилагаю), тогда и сторона DC оригинала должна быть вертикальной. Но у квадрата-оригинала противоположные стороны - параллельны. Значит, стороны AB и A'B' тоже должны быть вертикальны, что противоречит Условию.

Я больше пол-дня искал в интернете решения задачи, похожей на Вашу, но в огромной куче находок нет построения квадрата ч-з линзу, потому что Ваша задача высокого уровня сложности - она НЕ для школьников и студентов, для её решения надо использовать наклонную ГОО с неизвестным углом наклона. Для этого надо решить громадную систему уравнений с 12 неизвестными (4 пары координат оригинала, 3 параметра Линзы, угол наклона). Это - непосильная задача для моей устаревшей Маткад-версии.

Но что делать, если я нарисовался на странице Вашей Консультации? Всю трудовую жизнь мне поручали технические задачи, которые коллеги считали НЕрешаемыми. А говорить начальнику, что задача невыполнима, мотивирую это своей интуицией, нельзя, тк он сразу заподозрит спеца в некомпетентности, лени… Как получить убедительные факты неоправданной сложности? Надо сделать хоть что-нибудь упрощённо-посильное, временно игнорировать какой-то второстепенный, противоречащий системе параметр.

В Вашей задаче временно игнорируем вершину D', решаем построение для треугольника A'B'C', а в конце, после преодоления главного барьера - упрощённой системы уравнений - проверим, вписывается ли точка D' в Условие?
Я полагаю, Вы уже знаете главную формулу линзы для точки 1/F = 1/d + 1/f , где F - фокусное расстояние, d и f - расстояния от центра линзы до оригинала и изображения.
Маткад-скриншот с вычислениями и чертежом прилагаю . Я добавил в скрин подробные комментарии зелёным цветом. Как видим, Маткад решил задачу построения треугольника ABC, но 4х-угольник-оригинал ABCD не есть точный квадрат, он искажён на 18% по неравенству сторон квадрата. Для полного, точного решения надо решать гораздо более трудоёмкую задачу с наклонной ГОО.

Перед началом любой работы надо оценить её трудоёмкость с целесообразностью. Если на решение упрощённой треуголь-задачи я затратил 2 дня (помимо интернет поисков, за это время я мог бы решить ~ 4 задачи обычной сложности), то решение квадрата потребует обновлять Маткад-версию и возиться ещё 2…3 дня, что не есть разумно, тк эта редкая задача НЕ имеет практической пользы.

Судя по Вашему "вообще нет идей!", Ваш преподаватель ничему не учит Вас, не снабжает ни лекциями, ни методичками, но при этом мучит Вас задачами повышенной сложности. Почему Вы идёте у него на поводу? - я не знаю, это не моё дело. Но если я продолжу помогать Вам, тогда и я буду на поводу у Вашего недобросовестного препода.

Если Вы всё-таки решитесь продолжить уточнённое Решение, тогда я напутствую Вас облегчающим советом: Вместо наклона ГОО гораздо легче использовать наклон исходной картинки вращением изображения вокруг точки A. Вам поможет формула пересчёта исходных координат из системы XOY в систему X'OY' , повёрнутую на угол β :
x` = x·cos(β) + y·sin(β)  ,  y` = y·cos(β) - x·sin(β) = Удачи!