Dễ thấy c là số chẵn và c > 0.

Ta có $\overline{ab0}=c[4(a+b)^2-1]\vdots 10$. Do c chẵn và c khác 0 nên c không chia hết cho 5. Từ đó $4(a+b)^2-1\vdots 5\Rightarrow$ $(a+b)^2$ tận cùng bằng 4 hoặc 9.

Lại có $(a+b)^2=\frac{\overline{abc}}{4c}<\frac{1000}{8}=125$ nên $(a+b)^2\in$ {4; 9; 49; 64}.

+) $(a+b)^2=4\Rightarrow$ a = b = 1 hoặc a = 2; b = 0.

 Với a = b = 1 thì $\overline{11c}=16c\Rightarrow 15c=110$. (vô lí)

Với a = 2; b = 0 thì $\overline{20c}=16c\Rightarrow 15c=200$. (vô lí)

+) $(a+b)^2=9\Rightarrow a+b=3\Rightarrow$ a = 1; b = 2 hoặc a = 2; b = 1 hoặc a = 3; b = 0.

Với a = 1; b = 2 thì $\overline{12c}=36c\Rightarrow 35c=120$. (vô lí)

Với a = 2; b = 1 thì $\overline{21c}=36c\Rightarrow 35c=210\Rightarrow c=6$.

Với a = 3; b = 0 thì $\overline{30c}=36c\Rightarrow 35c=300$. (vô lí)

+) $(a+b)^2=49\Rightarrow 196c=\overline{abc}$.

Suy ra $c\leq 5$. Do đó c = 2 hoặc c = 4.

Với c = 2 thì $\overline{ab2}=392\Rightarrow a=3;b=9$. (vô lí)

Với c = 4 thì $\overline{ab4}=784\Rightarrow a=7;b=8$. (vô lí)

+) $(a+b)^2=64\Rightarrow 256c=\overline{abc}$.

Suy ra $c\leq 3\Rightarrow c=2$. Khi đó $\overline{ab2}=512\Rightarrow a=5;b=1$. (vô lí)

Vậy $\overline{abc}=216$.

Bài 11

Ta có : $\overline{abc} =(a+b)^2 . 4c$ $\Rightarrow c$ chẵn

$\Rightarrow (a+b)^2.4c \geq 8(a+b)^2$

mà $\overline{abc} \leq 1000 \Rightarrow (a+b)^2 \leq 125$$\Rightarrow a+b\leq 11$

từ gt $\Rightarrow 100a+10b=c[4(a+b)^2-1] \vdots 5$

dễ thấy (c,5)=1 do c khác 0 và c chẵn $\Rightarrow 4(a+b)^2-1 \vdots 5$

$\Rightarrow -4(a+b)^2+1+ 5(a+b)^2-5 \vdots 5$ $\Rightarrow (a+b)^2-4\vdots 5 \Rightarrow (a+b+2)(a+b-2) \vdots 5$

$\Rightarrow a+b+2\vdots 5$ hoặc $a+b-2 \vdots 5$

$\Rightarrow a+b=2;3;7;8$

+) nếu a+b=2 $\Rightarrow \overline{abc}=16c \Rightarrow 16c\geq 100$ mà $1\leq c\leq 9$ và c chẵn nên c=8

$\Rightarrow \overline{abc}=128$( ktm)

+) nếu a+b=3$\Rightarrow \overline{abc}=36c \Rightarrow 100a+10b=35c \vdots 7\Rightarrow 10a+b \vdots 7$

mà a+b=3 $\Rightarrow 10a+b=12,21,30$ ta thấy chỉ $21\vdots 7 \Rightarrow\overline{abc}=216$(tm)

+) nếu a+b=7$\Rightarrow \overline{abc}=196c \leq 999 \Rightarrow c=2,4$(do c chẵn và khác 0)$\Rightarrow \overline{abc}=392,784$(ktm)

+) tương tự vs a+b=8 ta cũng thấy ktm

Vậy$\overline{abc}=$216

Bài toán 12. Tìm các số nguyên dương $a,b,c$: $a^2(b+c)+b^2(c+a)+c^2(a+b)$ là số nguyên tố.

Ta có $a^2(b+c)+b^2(c+a)+c^2(a+b)=(a+b)(b+c)(c+a)-2abc$.

Trong ba số a, b, c tồn tại hai số cùng tính chẵn, lẻ. Giả sử hai số đó là a, b. Khi đó a + b chẵn

$\Rightarrow (a+b)(b+c)(c+a)\vdots 2\Rightarrow (a+b)(b+c)(c+a)-2abc\vdots 2$ là số nguyên tố khi và chỉ khi $(a+b)(b+c)(c+a)-2abc=2$

$\Rightarrow a^2(b+c)+b^2(c+a)+c^2(a+b)=2$. (vô lí do a, b, c > 0).
Vậy không tồn tại a, b, c thỏa mãn.

Xét 3 số $a;b;c$ có 3 số chẵn suy ra $a^2(b+c)+b^2(a+c)+c^2(a+b)=2$ loại do a;b;c nguyên dương
3 só $a;b;c$ có 1 chẵn 2 lẻ giả sử a chẵn b;c lẻ suy ra $a^2(b+c)$ chẵn, $b^2(a+c)$ lẻ $c^2(a+b)$ lẻ nên $a^2(b+c)+b^2(a+c)+c^2(a+b)$ chẵn 
suy ra loại
3 số $a;b;c$ 2 chẵn 1 lẻ giả sử a;b chẵn c lẻ suy ra $a^2(b+c)$ và $b^2(a+c)$ chẵn $c^2(a+b)$ chẵn nên $a^2(b+c)+b^2(a+c)+c^2(a+b)$ chẵn 
suy ra loại
3 số $a;b;c$ ko có số nào chẵn nên $b+c;a+b;a+c$ chẵn suy ra  $a^2(b+c)+b^2(a+c)+c^2(a+b)$ chẵn 
suy ra loại
Vậy ko có a;b;c thỏa mãn