1. Datos del problema:
Se presenta una ecuación con coeficientes constantes $a$ y $b$, y la variable angular $x$.

2. Fórmulas y propiedades:

• Binomio al cuadrado: $(u + v)^2 = u^2 + 2uv + v^2$.


• Identidad fundamental: $\sin^2 x + \cos^2 x = 1$.


• Seno del ángulo doble: $2\sin x \cos x = \sin 2x$.


• Coseno del ángulo doble: $\cos 2x = \cos^2 x - \sin^2 x = (\cos x - \sin x)(\cos x + \sin x)$.

3. Desarrollo paso a paso:
Primero, expandimos el término de la izquierda:
$$ a(\sin^2 x + 2\sin x \cos x + \cos^2 x) = b \cos 2x $$
Aplicando las identidades mencionadas:
$$ a(1 + \sin 2x) = b \cos 2x $$
Para resolver, podemos expresar $\cos 2x$ y $\sin 2x$ en términos de la tangente del ángulo mitad $t = \tan x$, o buscar una relación directa. Sin embargo, observemos la forma original:
$$ a(\sin x + \cos x)^2 = b(\cos^2 x - \sin^2 x) $$
$$ a(\sin x + \cos x)^2 = b(\cos x - \sin x)(\cos x + \sin x) $$

Factorizamos moviendo todo a un miembro:
$$ (\sin x + \cos x) [a(\sin x + \cos x) - b(\cos x - \sin x)] = 0 $$

Caso 1: $\sin x + \cos x = 0$
Dividiendo entre $\cos x$: $\tan x = -1$.
$$ x = n\pi - \frac{\pi}{4} $$

Caso 2: $a\sin x + a\cos x - b\cos x + b\sin x = 0$
Agrupamos términos con seno y coseno:
$$ (a + b)\sin x = (b - a)\cos x $$
$$ \tan x = \frac{b - a}{b + a} $$
$$ x = \arctan\left(\frac{b - a}{b + a}\right) + n\pi $$

4. Conclusión:
El conjunto solución depende de los parámetros $a$ y $b$.
$$ \boxed{x = n\pi - \frac{\pi}{4} \quad \text{o} \quad x = n\pi + \arctan\left(\frac{b - a}{a + b}\right)} $$