#include<cmath>
#include<cstdlib>

#include<stdio.h>
#include<iostream>
#include<cmath>
#include<cstdlib>

using namespace std;

int main()
{
    const int N = 3;
    const double eps = 0.01;
    double A[N][N], b[N], x[N];
    int i,j;
    double temp;
    bool nevyazka;
    for (i = 0; i < N; i++)
        for (j = 0; j < N; j++)
            cin >> A[i][j];
    for (i = 0; i < N; i++)
    {
        cin >> b[i];
        x[i] = 0;
    }
    do
    {
        nevyazka = false;
        for (i = 0; i < N; i++)
        {
            temp = b[i];
            for (j = 0; j < N; j++)
                if (j!=i)
                    temp -= A[i][j] * x[j];
            temp /= A[i][i];
            if (abs(x[i] - temp) > eps)
                nevyazka = true;
            x[i] = temp;
        }
    } while (nevyazka);
    for (i = 0; i < N; i++)
        cout << x[i]<<endl;

    //system("pause");
    cout << "pause";  // для отладки
    cin >> i;
}
Вы под дебагером пробовали пройтись по коду?