Bài 8:Cho hai dãy số $(x_n);(y_n)$ thỏa mãn
\[\left\{ {\begin{array}{*{20}{c}}
{{x_1} = - 1}\\
{{y_1} = 1}
\end{array}} \right.\]
Và
\[\left\{ {\begin{array}{*{20}{c}}
{{x_{n + 1}} = - 3x_n^2 - 2{x_n}{y_n} + 8{y^2}_n}\\
{{y_{n + 1}} = 2x_n^2 + 3{x_n}{y_n} - 2{y^2}_n}
\end{array}} \right.\]
Tìm tất cả các số nguyên tố $p$ sao cho $x_p+y_p$ không chia hết cho $p$
Theo công thức truy hồi của hai dãy $(x_n);(y_n)$ ta có nhận xét: $${x_n} + 2{y_n} = {\left( {{x_{n - 1}} + 2{y_{n - 1}}} \right)^2} = ... = {\left( {{x_1} + 2{y_1}} \right)^{{2^{n - 1}}}} = 1\,\,\,\,\,\,\,\left( 1 \right)$$
Ta có: ${y_{n + 1}} = \left( {2{x_n} - {y_n}} \right)\left( {{x_n} + 2{y_n}} \right)$. Giả sử tồn tại số tự nhiên $k$ sao cho $2{x_k} = {y_k} \Rightarrow {y_{k + 1}} = 0$.
Khi đó: $\left\{ \begin{array}{l}
{x_{k + 2}} = - 3x_{k + 1}^2\\
{x_{k + 2}} = 1
\end{array} \right.$, vô lí. Vậy ${y_{n + 1}} = \left( {2{x_n} - {y_n}} \right)\left( {{x_n} + 2{y_n}} \right) \ne 0\,\,\,\forall n$
Suy ra: $$\dfrac{{{x_{n + 1}}}}{{{y_{n + 1}}}} = - \dfrac{{\left( {3{x_n} - 4{y_n}} \right)\left( {{x_n} + 2{y_n}} \right)}}{{\left( {2{x_n} - {y_n}} \right)\left( {{x_n} + 2{y_n}} \right)}} = \dfrac{{4{y_n} - 3{x_n}}}{{2{x_n} - {y_n}}}$$
Đặt: $${u_{n + 1}} = \dfrac{{{x_{n + 1}}}}{{{y_{n + 1}}}} \Rightarrow {u_1} = - 1,\,\,{u_{n + 1}} = \dfrac{{4 - 3{u_n}}}{{2{u_n} - 1}} \Rightarrow {u_{n + 1}} + 2 = \dfrac{{{u_n} + 2}}{{2{u_n} - 1}} \Rightarrow \dfrac{1}{{{u_{n + 1}} + 2}} = 2 - \dfrac{5}{{{u_n} + 2}}$$
Lại đặt: ${v_n} = \dfrac{1}{{{u_n} + 2}} \Rightarrow {v_{n + 1}} = 2 - 5{v_n}$. Từ đây dễ dàng tìm được CTTQ của $(v_n)$:
$${v_n} = \dfrac{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}}{3} \Rightarrow \dfrac{1}{{{u_n} + 2}} = \dfrac{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}}{3} \Rightarrow {u_n} = \dfrac{{1 - 4{{\left( { - 5} \right)}^{n - 1}}}}{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}} = \dfrac{{{x_n}}}{{{y_n}}}\,\,\,\,\,\left( 2 \right)$$
Từ (1) và (2) suy ra:$${x_n} = \dfrac{{1 - 4{{\left( { - 5} \right)}^{n - 1}}}}{3},\,\,{y_n} = \dfrac{{1 + 2{{\left( { - 5} \right)}^{n - 1}}}}{3} \Rightarrow {x_n} + {y_n} = \dfrac{{2 - 2{{\left( { - 5} \right)}^{n - 1}}}}{3}$$
Nếu $p = 2 \Rightarrow {x_2} + {y_2} = 4\,\, \vdots \,\,2$, không thoả.
Nếu $p = 3 \Rightarrow {x_3} + {y_3} = - 16$ không chia hết cho 3, suy ra $p=3$ thoả.
Tương tự thì $p=5$ cũng thoả.
Xét $p > 5 \Rightarrow {\left( { - 5} \right)^{p - 1}} \equiv 1\left( {\bmod p} \right) \Rightarrow {x_p} + {y_p} \equiv 0\left( {\bmod p} \right)$.
Vậy $\boxed{p = \left\{ {3,5} \right\}}$.