Ta có: $$ P \le \dfrac{a^2+2}{b^2+1}+\dfrac{b^2+2}{c^2+1}+ \dfrac{c^2+2}{a^2+1} = Q $$ Đặt $ \begin{cases} x = a^2+1 \\ y = b^2+1 \\ z =c^2 + 1 \end{cases} \Rightarrow x,\ y,\ z \in [1;2] $ và: $$ Q = \frac{x+1}{y} + \frac{y+1}{z} + \frac{z+1}{x} $$ Không mất tính tổng quát giả sử: $y$ nằm giữa $x$ và $z$, khi đó ta có: $(x-y)(z-y) \le 0 \Leftrightarrow \frac{x}{y} + \frac{y}{z} \le 1 + \frac{x}{z} $.
Do đó ta có: $$ \begin{aligned} Q & \le \frac{z}{x} + \frac{x}{z} + 1 + \frac{1}{x} + \frac{1}{y} + \frac{1}{z} \\ & \le \frac{z}{x} + \frac{x}{z} + \frac{1}{x} + \frac{1}{z} + 2 \end{aligned} $$ Ta sẽ chứng minh: $$ \begin{aligned} & \frac{z}{x} + \frac{x}{z} + \frac{1}{x} + \frac{1}{z} \le 4 \\ \Leftrightarrow & x^2 + z^2 + x + z \le 4xz \end{aligned} $$
Mặt khác do $(x-1)(x-2) \le 0 \Leftrightarrow x^2 + 2 \le 3x$, tương tự $z^2+2 \le 3z$ nên ta cần chứng minh: $$ 4(x+z ) \le 4xz + 4 \Leftrightarrow (x-1)(z-1) \ge 0 \text{(đúng)} $$ Do đó ta có: $Q \le 6$. Mà $P \le Q \Rightarrow P \le 6$.
Dấu "=" xảy ra khi và chỉ khi: $ (a;b;c) = (1;0;0)$ và các hoán vị hoặc (0;0;0).
Kết luận: P đạt giá trị lớn nhất là 6 khi và chỉ khi $(a;b;c)=(1;0;0)$ và các hoán vị hoặc (0;0;0)
Nguồn: Duynhan
Phấn đấu vì tương lai con em chúng ta!