x² - 2(m-1)x + m² -3 = 0 (1)

(1) có 2 nghiệm khi Δ = [ -2(m-1)]² - 4 . 1. (m² -3) ≥ 0

<=> 4m² - 8m + 4 - 4m² +12 ≥ 0

<=> -8m + 16 ≥ 0

<=> m ≤ 2

Theo định lý Vi-ét:

S= x₁ + x₂ = -b/2.a = m -1

P= x₁.x₂ = c/a = m² -3

Ta có : x1 là nghiệm của (1) nên

x₁² - 2(m-1) x₁ + m² -3 = 0

<=> x₁² = -2(m-1) x₁ - m² + 3 

Từ đó: 

x₁² - 2(m-1) x2 ≤ 3m² + 8

<=> -2(m-1) x₁ - m² + 3 - 2(m-1) x₂ ≤ 3m² + 8

<=> - 2(m-1)(x₁ + x₂)  - 4m² -5 ≤ 0

<=> -2(m² - 2m +1)  - 4m² -5 ≤ 0

<=> -6m^₂ + 4m -7 ≤ 0  (đúng với mọi m ϵ R)

Vậy m ≤ 2 thì thỏa