O Problema

Proposta de resolução 1

Sejam \(a\) o lado do quadrado \(DEFG\) e \(b\) o lado do quadrado \(ABCD\). As diferentes posições do quadrado menor podem ser vistas como o resultado de rotações de amplitude \(\theta\) em torno do ponto \(D\). Acima temos duas rotações distintas que resultam em diferentes comprimentos para \(\overline{AG}\) e \(\overline{BF}\). No entanto, a razão entre estes é sempre constante para qualquer rotação \(\theta\).
Vejamos:
- em \(\Delta BFD\), \(\overline{BD}=\sqrt{2}\;b\) e \(\overline{FD}=\sqrt{2}\;a\);
- em \(\Delta AGD\), \(\overline{AD}\;b\) e \(\overline{GD}\;a\);
- \(\measuredangle{BDF}=\measuredangle{ADG}=\theta = \measuredangle{CDE}\).
Assim, os triângulos \(BFD\) e \(AGD\) são semelhantes de razão \(\sqrt{2}\) (caso LAL) e \(\overline{BF}=\sqrt{2}\cdot\overline{AG}=6\).
Proposta de Resolução 2

Sejam \(a\) o lado do quadrado \(DEFG\) e \(b\) o lado do quadrado \(ABCD\). As diferentes posições do quadrado menor podem ser vistas como o resultado de rotações de amplitude \(\theta\) em torno do ponto \(D\).
A rotação do quadrado \(DEFG\) em torno do ponto \(D\) permite concluir que os ângulos \(BDF\) e \(ADG\) são sempre iguais (e iguais ao ângulo \(CDE\)). Pela Lei dos cossenos no \(\Delta BDF\),
\[{{\overline{BF}}^2 = {\left(\sqrt{2}b\right)}² + {\left(\sqrt{2}a\right)}^2 - 2(\sqrt{2}b)(\sqrt{2}a)\cos(\theta)=2\underbrace{\left(b² + a² -2ab\cos(\theta)\right)}_{\text{Lei dos cossenos em {$\scriptsize\Delta ADG$}}}=2\,\overline{AG}^2.}\]
Assim, \(\overline{BF}=\sqrt{2}\cdot\overline{AG}=6\).