Dễ thấy c là số chẵn và c > 0.

Ta có \(\overline{ab0}=c[4(a+b)^2-1]\vdots 10\). Do c chẵn và c khác 0 nên c không chia hết cho 5. Từ đó \(4(a+b)^2-1\vdots 5\Rightarrow \) \((a+b)^2\) tận cùng bằng 4 hoặc 9.

Lại có \((a+b)^2=\frac{\overline{abc}}{4c}<\frac{1000}{8}=125\) nên \((a+b)^2\in\) {4; 9; 49; 64}.

+) \((a+b)^2=4\Rightarrow \) a = b = 1 hoặc a = 2; b = 0.

 Với a = b = 1 thì \(\overline{11c}=16c\Rightarrow 15c=110\). (vô lí)

Với a = 2; b = 0 thì \(\overline{20c}=16c\Rightarrow 15c=200\). (vô lí)

+) \((a+b)^2=9\Rightarrow a+b=3\Rightarrow \) a = 1; b = 2 hoặc a = 2; b = 1 hoặc a = 3; b = 0.

Với a = 1; b = 2 thì \(\overline{12c}=36c\Rightarrow 35c=120\). (vô lí)

Với a = 2; b = 1 thì \(\overline{21c}=36c\Rightarrow 35c=210\Rightarrow c=6\).

Với a = 3; b = 0 thì \(\overline{30c}=36c\Rightarrow 35c=300\). (vô lí)

+) \((a+b)^2=49\Rightarrow 196c=\overline{abc}\).

Suy ra \(c\leq 5\). Do đó c = 2 hoặc c = 4.

Với c = 2 thì \(\overline{ab2}=392\Rightarrow a=3;b=9\). (vô lí)

Với c = 4 thì \(\overline{ab4}=784\Rightarrow a=7;b=8\). (vô lí)

+) \((a+b)^2=64\Rightarrow 256c=\overline{abc}\).

Suy ra \(c\leq 3\Rightarrow c=2\). Khi đó \(\overline{ab2}=512\Rightarrow a=5;b=1\). (vô lí)

Vậy \(\overline{abc}=216\).

Bài 11

Ta có : \(\overline{abc} =(a+b)^2 . 4c\) \(\Rightarrow c \) chẵn

\(\Rightarrow (a+b)^2.4c \geq 8(a+b)^2\)

mà \(\overline{abc} \leq 1000 \Rightarrow (a+b)^2 \leq 125\)\(\Rightarrow a+b\leq 11\)

từ gt \(\Rightarrow 100a+10b=c[4(a+b)^2-1] \vdots 5\)

dễ thấy (c,5)=1 do c khác 0 và c chẵn \(\Rightarrow 4(a+b)^2-1 \vdots 5\)

\(\Rightarrow -4(a+b)^2+1+ 5(a+b)^2-5 \vdots 5\) \(\Rightarrow (a+b)^2-4\vdots 5 \Rightarrow (a+b+2)(a+b-2) \vdots 5\)

\(\Rightarrow a+b+2\vdots 5\) hoặc \(a+b-2 \vdots 5\)

\(\Rightarrow a+b=2;3;7;8\)

+) nếu a+b=2 \(\Rightarrow \overline{abc}=16c \Rightarrow 16c\geq 100\) mà \(1\leq c\leq 9 \) và c chẵn nên c=8

\(\Rightarrow \overline{abc}=128\)( ktm)

+) nếu a+b=3\(\Rightarrow \overline{abc}=36c \Rightarrow 100a+10b=35c \vdots 7\Rightarrow 10a+b \vdots 7\)

mà a+b=3 \(\Rightarrow 10a+b=12,21,30\) ta thấy chỉ \(21\vdots 7 \Rightarrow\overline{abc}=216\)(tm)

+) nếu a+b=7\(\Rightarrow \overline{abc}=196c \leq 999 \Rightarrow c=2,4\)(do c chẵn và khác 0)\(\Rightarrow \overline{abc}=392,784\)(ktm)

+) tương tự vs a+b=8 ta cũng thấy ktm

Vậy\(\overline{abc}=\)216

Bài toán 12. Tìm các số nguyên dương \(a,b,c\): \(a^2(b+c)+b^2(c+a)+c^2(a+b)\) là số nguyên tố.

Ta có \(a^2(b+c)+b^2(c+a)+c^2(a+b)=(a+b)(b+c)(c+a)-2abc\).

Trong ba số a, b, c tồn tại hai số cùng tính chẵn, lẻ. Giả sử hai số đó là a, b. Khi đó a + b chẵn

\(\Rightarrow (a+b)(b+c)(c+a)\vdots 2\Rightarrow (a+b)(b+c)(c+a)-2abc\vdots 2\) là số nguyên tố khi và chỉ khi \((a+b)(b+c)(c+a)-2abc=2\)

\(\Rightarrow a^2(b+c)+b^2(c+a)+c^2(a+b)=2\). (vô lí do a, b, c > 0).
Vậy không tồn tại a, b, c thỏa mãn.

Xét 3 số \(a;b;c\) có 3 số chẵn suy ra \(a^2(b+c)+b^2(a+c)+c^2(a+b)=2\) loại do a;b;c nguyên dương
3 só \(a;b;c\) có 1 chẵn 2 lẻ giả sử a chẵn b;c lẻ suy ra \(a^2(b+c)\) chẵn, \(b^2(a+c)\) lẻ \(c^2(a+b)\) lẻ nên \(a^2(b+c)+b^2(a+c)+c^2(a+b)\) chẵn 
suy ra loại
3 số \(a;b;c\) 2 chẵn 1 lẻ giả sử a;b chẵn c lẻ suy ra \(a^2(b+c)\) và \(b^2(a+c)\) chẵn \(c^2(a+b)\) chẵn nên \(a^2(b+c)+b^2(a+c)+c^2(a+b)\) chẵn 
suy ra loại
3 số \(a;b;c\) ko có số nào chẵn nên \(b+c;a+b;a+c\) chẵn suy ra  \(a^2(b+c)+b^2(a+c)+c^2(a+b)\) chẵn 
suy ra loại
Vậy ko có a;b;c thỏa mãn