$\left\{\begin{matrix} 23a^{2}+b^{2}=25ab+71a-27b+28,,,(1)) & \\ 24b^{2}+73b=25ab+25a-133,,,(2)& \end{matrix}\right.$
-------------------------------------
Bài giải
Hệ đã cho tương đương với
$\left\{\begin{matrix} 23a^{2}+b^{2}-71a+27b=25ab+28,,,, (3) & \\ 24b^{2}+73b-25a+161=25ab+28,,,(4) & \end{matrix}\right.$
Trừ (3) cho (4) vế theo vế, ta có
$23a^{2}-23b^{2}-46a-46b-161=0$
$\Leftrightarrow a^{2}-b^{2}-2a-2b-7=0$
$\Leftrightarrow (a -1)^{2}-(b+1)^{2}-7=0,,,(5)$
Từ (2) ta có
$24b^{2}+73b-25ab-25a+133=0$
$\Leftrightarrow (24b^{2}+48b+24)-(25ab+25a-25b-25)+84=0$
$\Leftrightarrow 24(b+1)^{2}-25(b+1)(a-1)+84=0 $ (6)
Từ (5) và (6) ta có hệ đã cho tương đương với
$\left\{\begin{matrix} (a -1)^{2}-(b+1)^{2}-7=0 & \\ 24(b+1)^{2}-25(b+1)(a-1)+84=0 & \end{matrix}\right.$
Đặt
$\left\{\begin{matrix} x=a-1 & \\ y=b+1 & \end{matrix}\right.$
Ta có
$\left\{\begin{matrix} x^{2}-y^{2}-7=0 & \\ 24y^{2}-25xy+84=0 ,,,,(*) & \end{matrix}\right.$
$\Leftrightarrow \left\{\begin{matrix} y^{2}x^{2}-y^{4}-7y^2=0& \\ (24y^{2}+84)^{2}=(25xy)^{2} \end{matrix}\right.$
$\Leftrightarrow \left\{\begin{matrix} 625x^{2}y^{2}-625y^{4}-4375y^2=0 & \\ 576y^{4}+7056+4032y^{2}=625x^{2}y^{2} & \end{matrix}\right.$
Trừ (7) cho (8), ta có
$49y^{4}+343y^{2}-7056=0$
Giải phương trình ta được
$y^{2}=9$ và $y^{2}=-16$ (loại)
$\Rightarrow y=\pm 3$
Xét y=3 thay vào (*) ta được $216-75x+84=0\Rightarrow x=4$
Với $\left\{\begin{matrix} x=4 & \\ y=3 & \end{matrix}\right. \Leftrightarrow \left\{\begin{matrix} a=5 & \\ b=2 & \end{matrix}\right.$
Xét y=-3 thay vào (*) ta được $216+75x+84=0\Rightarrow x=-4$
Với $\left\{\begin{matrix} x=-4 & \\ y=-3 & \end{matrix}\right. \Leftrightarrow \left\{\begin{matrix} a=-3 & \\ b=-4 & \end{matrix}\right.$
Vậy hệ có 2 nghiệm là (5,2) và (-3,-4)