Đặt y=3-x, bài toán trở thành tìm min \(P=x^4+y^4+6x^2y^2\), trong đó x và y là các số thực thỏa mãn hệ \(\int^{x+y=3}_{x^2+y^2=5}\Rightarrow\int^{x^2+y^2+2xy=9}_{x^2+y^2\ge5}\) \(\Rightarrow\left(x^2+y^2\right)+4\left(x^2+y^2+2xy\right)\ge5+4.9=41\)
\(\Rightarrow5\left(x^2+y^2\right)+4\left(2xy\right)\ge41\)
Lại có \(16\left(x^2+y^2\right)^2+25\left(2xy\right)^2\ge40\left(x^2+y^2\right)\left(2xy\right)\) (theo bất đẳng thức cosi) (1)
Dấu bằng xảy ra khi \(4\left(x^2+y^2\right)=5\left(2xy\right)\)
Cộng 2 vế của (1) với \(25\left(x^2+y^2\right)^2+16\left(2xy\right)^2\) ta có
\(41\left(\left(x^2+y^2\right)^2+\left(2xy\right)^2\right)\ge\left(5\left(x^2+y^2\right)+4\left(2xy\right)\right)^2\ge41^2\)
\(\Rightarrow\left(x^2+y^2\right)^2+\left(2xy\right)^2\ge41\Leftrightarrow x^4+y^4+6x^2y^2\ge41\)
Vậy min =41, dấu bằng xảy ra khi x=1 hoặc x=2
