ABCA'B'C'OxyzS3S1S1DEFMNPH
Kí hiệu như trên hình vẽ. Dễ dàng tính được $AB = BC = CA = R\sqrt 3 = 3\sqrt 3 $
Ta có DM // AH vì cùng vuông góc với BC => hai tam giác MBD và HBA đồng dạng với nhau
$\dfrac{{{S_1}}}{{{S_{ABH}}}} = \dfrac{{{x^2}}}{{A{B^2}}} \Rightarrow \dfrac{{{S_1}}}{S} = \dfrac{{{x^2}}}{{2.{{(3\sqrt 3 )}^2}}}$
Tương tự với các tam giác còn lại, ta có :
$\dfrac{{{S_2}}}{S} = \dfrac{{{y^2}}}{{2.{{(3\sqrt 3 )}^2}}};\dfrac{{{S_3}}}{S} = \dfrac{{{z^2}}}{{2.{{(3\sqrt 3 )}^2}}}$
$\begin{array}{*{20}{l}}
{ \Rightarrow \dfrac{{{S_1}}}{S} + \dfrac{{{S_2}}}{S} + \dfrac{{{S_3}}}{S} = \dfrac{1}{{2.{{(3\sqrt 3 )}^2}}}({x^2} + {y^2} + {z^2})}\\
{ \Rightarrow \dfrac{{{S_1}}}{S} + \dfrac{{{S_2}}}{S} + \dfrac{{{S_3}}}{S} = \dfrac{1}{{2.{{(3\sqrt 3 )}^2}}}({x^2} + {y^2} + {z^2})}\\
{ \Rightarrow {x^2} + {y^2} + {z^2} = \dfrac{{({S_1} + {S_2} + {S_3}).54}}{S}}
\end{array}$
Mặt khác, dễ thấy ba tam giác MBD , NAE , PCF đồng dạng với nhau (g.g)
suy ra :
$\begin{array}{*{20}{l}}
{\dfrac{{{S_1}}}{{{S_2}}} = \dfrac{{{x^2}}}{{{y^2}}};\dfrac{{{S_2}}}{{{S_3}}} = \dfrac{{{y^2}}}{{{z^2}}};\dfrac{{{S_3}}}{{{S_1}}} = \dfrac{{{z^2}}}{{{x^2}}}}\\
{ \Rightarrow \dfrac{{{x^2}}}{{{S_1}}} = \dfrac{{{y^2}}}{{{S_2}}} = \dfrac{{{z^2}}}{{{S_3}}} = \dfrac{{{x^2} + {y^2} + {z^2}}}{{{S_1} + {S_2} + {S_3}}} = \dfrac{{\dfrac{{54({S_1} + {S_2} + {S_3})}}{S}}}{{{S_1} + {S_2} + {S_3}}} = \dfrac{{54}}{S}}
\end{array}$
Lại có :
$\begin{array}{l}
{S_1} = \dfrac{1}{2}.DM.BM = \dfrac{1}{2}.\sin {60^o}x.cos{60^o}x = \dfrac{{\sqrt 3 {x^2}}}{8}\\
{S_2} = \dfrac{1}{2}.AN.NE = \dfrac{1}{2}.\sin {60^o}y.cos{60^o}y = \dfrac{{\sqrt 3 {y^2}}}{8}\\
{S_3} = \dfrac{1}{2}.PC.PF = \dfrac{1}{2}.\sin {60^o}z.cos{60^o}z = \dfrac{{\sqrt 3 {z^2}}}{8}
\end{array}$
$ \Rightarrow {S_1} + {S_2} + {S_3} = \dfrac{{\sqrt 3 }}{8}({x^2} + {y^2} + {z^2}) = \dfrac{{\sqrt 3 }}{8}.\dfrac{{54}}{S}$
Vậy diện tích phần giao nhau của hai tam giác là : ${S_{MDNEPF}} = S - ({S_1} + {S_2} + {S_3}) = \dfrac{{{{(3\sqrt 3 )}^2}.\sqrt 3 }}{4} - \dfrac{{\sqrt 3 .54}}{{8.\dfrac{{{{(3\sqrt 3 )}^2}.\sqrt 3 }}{4}}}$