まず絶対やっちゃいけないことを主さんはしてます。主さんの書いた図だと角ADBが90度になっていますがある角から対辺に向かって引いた線が対辺と90度になるのは正三角形の時のみです。勝手に90度だろうと決めるのは危険なのでやめましょう。もしこの三角形が正三角形の場合はその解き方で出るはずです。あとは写真に添付した公式を知っていれば解けるはずです。わからないところがあれば教えてください。