Trong các bộ số \((x,y,z)\) thỏa mãn đề bài  xét bộ số \((x,y,z)\) sao cho \(x+y+z=min\) và giả sử \(z=max(x,y,z)\)

Xét phương trình bậc hai ẩn \(t\) là :

\(t^2+x^2+y^2+z^2-2(xy+xz+xt+yz+yt+zt)-4xyzt-4=0 (1)\)

\(\Leftrightarrow t^2-2t(x+y+z+2xyz)+x^2+y^2+z^2-2(xy+yz+zx)-4=0\)

Ta có \(\bigtriangleup'=4[x^2y^2z^2+xyz(x+y+z)+xy+yz+zx+1]\) là số chính phương theo đề bài nên có hai nghiệm nguyên dương \(t_1,t_2\)

Ta có thể viết lại phương trình ẩn \(t\) như sau:

\((x+y-z-t)^2=4(xy+1)(zt+1)\)

\((x+z-y-t)^2=4(xz+1)(yt+1)\)

\((x+t-y-z)^2=4(xt+1)(yz+1)\)

Từ đó ta thu được \(xt+1\geq 0, yt+1\geq 0, zt+1\geq 0\) mà do bộ số \((1;1;1)\) không thỏa nên ta dễ thấy \(t\geq0\)

Xét \(t>0\) ta cọi phương trình ẩn \(t\) là phương trình ẩn \(z\) thì ta có \(x^2y^2t^2+xyt(x+y+t)+xy+yt+tx+1\) là số chính phương hay \((x,y,t)\) là một bộ nghiệm thỏa mãn mà do \(x+y+z=min\) nên \(x+y+t \geq x+y+z\Leftrightarrow t \geq z\) vậy \(t_1t_2 \geq z^2\)

 Mặt khác \(t_1t_2=x^2 +y^2 +z^2 - 2(xy+yz+zx)-4=z^2-x(2z-x)+y(2z-y)-2xy-4 <z^2\)

Suy ra mâu thuẫn nên ta có \(t=0\) hay \(x^2+y^2+z^2-2(xy+yz+zx)=4\) là số chính phương . Điều phải chứng minh