Bài 2 : Cho x,y là các số dương thỏa mãn $\frac{1}{xy}+\frac{1}{x}+\frac{1}{y}=3$. Tìm max của
$P=\frac{3y}{x(y+1)}+\frac{3x}{y(x+1)}+\frac{1}{x+y}-\frac{1}{x^2}-\frac{1}{y^2}$
Đặt $\frac{1}{x}=a,\frac{1}{y}=b\Rightarrow a+b+ab=3$
Và $P=\frac{3a}{b+1}+\frac{3b}{a+1}+\frac{ab}{a+b}-a^2-b^2=\frac{3(a^2+b^2)+3(a+b)}{ab+a+b+1}+\frac{ab}{a+b}-(a+b)^2+2ab$
Thay $a+b+ab=3$ vào ta có
$P=\frac{3(a+b)^2-6ab+3(a+b)}{ab+a+b+1}+\frac{ab}{a+b}-(a+b)^2+2ab=\frac{3(a+b)^2-6(3-a-b)+3(a+b)}{4}+\frac{3-a-b}{a+b}-(a+b)^2+2(3-a-b)$
Đặt $a+b=t$$\Rightarrow P=\frac{3t^2-6(3-t)+3t}{4}+\frac{3-t}{t}-t^2+2(3-t)=\frac{-t^2}{4}+\frac{t}{4}+\frac{1}{2}+\frac{3}{t}=f(t)$
Từ giả thiết áp dụng AM-GM ta có $a+b+ab=3\leqslant a+b+\frac{(a+b)^2}{4}\Rightarrow t=a+b\geqslant 2$
Xét $f(t)=\frac{-t^2}{4}+\frac{t}{4}+\frac{1}{2}+\frac{3}{t}, t \in \left [2;+3 \right )$ ta có
$\Rightarrow f'(t)=\frac{-t}{2}+\frac{1}{4}-\frac{3}{t^2}=\frac{-2t^3+t^2-12}{4t^2}<0$
$\Rightarrow f(t) \leqslant f(2)=\frac{3}{2}$
Đẳng thức xảy ra khi $a=b=1$ hay $x=y=1$