Na figura abaixo, tem-se um retângulo ABCD, de lados \overline{AB} = 3 e \overline{AD} = 5, e um triângulo equilátero BEC, construído sobre o lado \overline{BC}.

A medida de \overline{DE} é
Tente a questão primeiro. Use a resolução para conferir o raciocínio, não para substituir sua tentativa.
Na figura abaixo, tem-se um retângulo ABCD, de lados \overline{AB} = 3 e \overline{AD} = 5, e um triângulo equilátero BEC, construído sobre o lado \overline{BC}.

A medida de \overline{DE} é
Olhe o triângulo DCE. Quanto medem DC e CE? E o ângulo em C, somando o ângulo do retângulo com o do triângulo equilátero?

O que a questão quer de verdade: montar o triângulo DCE, achar o ângulo em C e aplicar a lei dos cossenos.
DC = AB = 3 e CE = BC = AD = 5. O ângulo DCE = 90° + 60° = 150°.
Lei dos cossenos com \cos 150° = -\tfrac{\sqrt3}{2}.
A armadilha: usar o cosseno de 150° com sinal positivo, que leva a \sqrt{34 - 15\sqrt3}.
DE^2 \approx 34 + 26 = 60, então DE \approx 7{,}7. Isso é maior que a diagonal DB, que vale \sqrt{34} \approx 5{,}8, como a figura mostra ✓.
Por que as outras tentam: B troca o sinal do cosseno; A usa \sqrt2 no lugar de \sqrt3, confundindo com o cosseno de 135°; C (7) é o que dá com o ângulo de 120°, ou seja, 34 + 15 = 49.
\sqrt{34 + 15\sqrt3}.