1. Datos del problema:
Se presenta una ecuación con términos cuadráticos y una función de ángulo compuesto.
$$ (\sin 2x + \sqrt{3} \cos 2x)^2 - 5 = \cos \left( \frac{\pi}{6} - 2x \right) $$

2. Fórmulas y propiedades:

• Transformación de $a\sin \theta + b\cos \theta$: $A\sin(\theta + \phi)$, donde $A = \sqrt{a^2 + b^2}$.
• Identidad de ángulo compuesto: $\cos(\alpha - \beta) = \cos \alpha \cos \beta + \sin \alpha \sin \beta$.
• Identidad pitagórica: $\sin^2 \theta + \cos^2 \theta = 1$.

3. Desarrollo paso a paso:
Primero, simplificamos la expresión dentro del paréntesis multiplicando y dividiendo por $2$:
$$ \sin 2x + \sqrt{3} \cos 2x = 2 \left( \frac{1}{2} \sin 2x + \frac{\sqrt{3}}{2} \cos 2x \right) $$
Reconociendo que $\cos(\pi/3) = 1/2$ y $\sin(\pi/3) = \sqrt{3}/2$:
$$ 2(\cos \frac{\pi}{3} \sin 2x + \sin \frac{\pi}{3} \cos 2x) = 2 \sin(2x + \frac{\pi}{3}) $$
Sustituimos en la ecuación original:
$$ [2 \sin(2x + \frac{\pi}{3})]^2 - 5 = \cos \frac{\pi}{6} \cos 2x + \sin \frac{\pi}{6} \sin 2x $$
$$ 4 \sin^2(2x + \frac{\pi}{3}) - 5 = \frac{\sqrt{3}}{2} \cos 2x + \frac{1}{2} \sin 2x $$
Nótese que el lado derecho es $\sin(2x + \frac{\pi}{3})$ multiplicado por $1$:
$$ \frac{1}{2} \sin 2x + \frac{\sqrt{3}}{2} \cos 2x = \sin(2x + \frac{\pi}{3}) $$
Sea $u = \sin(2x + \frac{\pi}{3})$, entonces:
$$ 4u^2 - 5 = u \implies 4u^2 - u - 5 = 0 $$
Factorizando la ecuación cuadrática:
$$ (4u - 5)(u + 1) = 0 $$
Obtenemos dos posibles valores para $u$:
1) $u = \frac{5}{4}$: Imposible, ya que $|\sin \theta| \leq 1$.
2) $u = -1$:
$$ \sin(2x + \frac{\pi}{3}) = -1 $$
El valor general para el cual el seno es $-1$ es $\frac{3\pi}{2} + 2k\pi$:
$$ 2x + \frac{\pi}{3} = \frac{3\pi}{2} + 2k\pi \implies 2x = \frac{3\pi}{2} - \frac{\pi}{3} + 2k\pi $$
$$ 2x = \frac{7\pi}{6} + 2k\pi \implies x = \frac{7\pi}{12} + k\pi $$

4. Resultado final:
$$ \boxed{x = \frac{7\pi}{12} + k\pi, \quad k \in \mathbb{Z}} $$