Dễ dàng dự đoán được dấu "=" xảy ra khi \(a=b=c=\frac{1}{3}\)Nhận thấy các đại lượng trong căn và mẫu đồng chưa bậc nên suy nghĩ đầu tiên là đồng bậc. Để ý đến giả thiết a+b+c=1 ta thấy \(a^2+abc=a^2\left(a+b+c\right)+abc=a\left(a+b\right)\left(a+c\right)\)

\(c+ab=a\left(a+b+c\right)+ab=\left(a+c\right)\left(b+c\right)\)

Hoàn toàn tương tự ta có \(b^2+abc=b\left(b+a\right)\left(b+c\right);c^2+abc=c\left(c+b\right)\left(c+a\right)\)

\(b+ac=\left(a+b\right)\left(b+c\right);a+bc=\left(a+b\right)\left(b+c\right)\)

Khi đó bất đẳng thức cần chứng minh trở thành

\(\frac{\sqrt{a\left(a+b\right)\left(a+c\right)}}{\left(a+c\right)\left(b+c\right)}+\frac{\sqrt{b\left(b+c\right)\left(b+a\right)}}{\left(a+b\right)\left(a+c\right)}+\frac{\sqrt{c\left(c+a\right)\left(c+b\right)}}{\left(b+a\right)\left(b+c\right)}\le\frac{1}{2\sqrt{abc}}\)

hay \(\frac{a\sqrt{bc\left(a+b\right)\left(a+c\right)}}{\left(a+c\right)\left(c+b\right)}+\frac{b\sqrt{ab\left(b+c\right)\left(a+b\right)}}{\left(a+b\right)\left(a+c\right)}+\frac{c\sqrt{ab\left(a+b\right)\left(b+c\right)}}{\left(c+b\right)\left(b+a\right)}\le\frac{1}{2\sqrt{abc}}\)

Quan sát bất đẳng thức trên ta liên tưởng đến bất đẳng thức Cauchy, để ý là

\(bc\left(a+b\right)\left(a+c\right)=c\left(a+b\right)\cdot b\left(a+c\right)=b\left(a+b\right)\cdot c\left(a+c\right)\)

Trong 2 cách viết trên ta chọn cách viết thứ nhất vì khi sử dụng bất đẳng thức Cauchy dạng \(2\sqrt{xy}\le x+y\)thì không tạo ra các đại lượng có chứa các bình phương. Khi đó áp dụng bất đẳng thức Cauchy ta được

\(\sqrt{bc\left(a+b\right)\left(a+c\right)}\le\frac{b\left(a+c\right)+c\left(a+b\right)}{2}=\frac{ab+2bc+ca}{2}\)

Áp dụng tương tự ta được

  \(\frac{a\sqrt{bc\left(a+b\right)\left(a+c\right)}}{\left(c+a\right)\left(c+b\right)}+\frac{b\sqrt{ac\left(b+c\right)\left(a+b\right)}}{\left(a+b\right)\left(a+c\right)}+\frac{c\sqrt{ab\left(a+c\right)\left(b+c\right)}}{\left(b+c\right)\left(b+a\right)}\)\(\le\frac{a\left(ab+2bc+ca\right)}{2\left(c+a\right)\left(c+b\right)}+\frac{b\left(ab+bc+2ac\right)}{2\left(a+b\right)\left(a+c\right)}+\frac{c\left(2ab+bc+ca\right)}{2\left(b+c\right)\left(b+a\right)}\)

Phép chứng minh sẽ hoàn tất nếu ta chỉ ra được \(\frac{a\left(ab+2bc+ca\right)}{2\left(c+a\right)\left(c+b\right)}+\frac{b\left(ab+bc+2ac\right)}{2\left(a+b\right)\left(a+c\right)}+\frac{c\left(2ab+bc+ca\right)}{2\left(b+c\right)\left(b+a\right)}\le1\)

hay \(a\left(ab+2bc+ca\right)\left(a+b\right)+b\left(b+c\right)\left(ab+bc+2ca\right)+c\left(c+b\right)\left(2ab+bc+ca\right)\)\(\le\left(a+b\right)\left(b+c\right)\left(c+a\right)\)

Vế trái của bất đẳng thức là bậc bốn còn vế phải là bậc ba nên ta có thể đồng bậc là

\(a\left(ab+2bc+ca\right)+b\left(b+c\right)\left(ab+bc+2ac\right)+c\left(c+b\right)\left(2ab+bc+ca\right)\)

\(\le\left(a+b\right)\left(b+c\right)\left(c+a\right)\left(a+b+c\right)\)

Triển khai và thu gọn ta được \(a^3\left(b+c\right)+b^3\left(c+a\right)+c^3\left(a+b\right)+a^2b^2+b^2c^2+c^2a^2+5\left(a^2bc+ab^2c+abc^2\right)\)

\(\le a^3\left(b+c\right)+b^3\left(a+c\right)+c^3\left(a+b\right)+2\left(a^2b^2+b^2c^2+c^2a^2\right)+4\left(a^2bc+ba^2c+abc^2\right)\)

hay \(abc\left(a+b+c\right)\le a^2b^2+b^2c^2+c^2a^2\), đây là một đánh giá đúng

Dấu đẳng thức xảy ra tại \(a=b=c=\frac{1}{3}\)

Đặt \(\sqrt{a^2-1}=x;\sqrt{b^2-1}=y;\sqrt{c^2-1}=z\)ta viết lại thành x²+y²+z²=1.Bất đẳng thức cần chứng minh tương đương với

\(\left(x+y+z\right)\left(\frac{1}{\sqrt{x^2+1}}+\frac{1}{\sqrt{y^2+1}}+\frac{1}{\sqrt{z^2+1}}\right)\le\frac{9}{2}\)

Theo bất đẳng thức Cauchy-Schwarz ta có

\(\frac{x}{\sqrt{x^2+1}}+\frac{y}{\sqrt{y^2+1}}+\frac{z}{\sqrt{z^2+1}}\le\sqrt{\Sigma\frac{3x^2}{2x^2+y^2+z^2}}\le\sqrt{\frac{3}{4}\Sigma\left(\frac{x^2}{x^2+y^2}+\frac{x^2}{x^2+z^2}\right)}=\frac{3}{2}\)

\(\Leftrightarrow\)\( {\displaystyle \displaystyle \sum } \)\(\frac{y+z}{\sqrt{x^2+1}}\le\sqrt{\Sigma\frac{3\left(y+z\right)^2}{2x^2+y^2+z^2}}\le\sqrt{3\Sigma\left(\frac{y^2}{x^2+y^2}+\frac{z^2}{x^2+z^2}\right)}=3\)

Dấu đẳng thức xảy ra khi \(a=b=c=\frac{2}{\sqrt{3}}\)

Ta xét phương trình \(4x-5y-6xy+7=0\Leftrightarrow2x\left(2-3y\right)=5y-7\)

\(\Leftrightarrow2x=\frac{5y-7}{2-3y}\Leftrightarrow x=\frac{5y-7}{4-6y}\)

Để x nguyên thì \(\frac{5y-7}{4-6y}\)nguyên hay \(5y-7⋮4-6y\)

\(\Leftrightarrow6\left(5y-7\right)⋮4-6y\Leftrightarrow30y-42⋮4-6y\)

\(\Leftrightarrow-22-5\left(4-6y\right)⋮4-6y\)

Mà \(-5\left(4-6y\right)⋮4-6y\)nên \(-22⋮4-6y\)hay \(4-6y\inƯ\left(22\right)=\left\{\pm1;\pm2;\pm11;\pm22\right\}\)

Mà 4 - 6y chẵn nên \(4-6y\in\left\{\pm2;\pm22\right\}\)

Lập bảng:

Vậy phương trình có 2 nghiệm \(\left(x,y\right)\in\left\{\left(1;1\right);\left(-1;-3\right)\right\}\)