由题意知,$F_1$ 和 $F_2$ 是双曲线 $\frac{x^2}{a^2} - \frac{y^2}{b^2} = 1$ 的左、右焦点,设 $|AF_2| = 3k$,$|BF_2| = 7k$,其中 $k > 0$。
根据双曲线的定义,对于点 $A$ 和 $B$ 分别有:
$$|AF_2| - |AF_1| = 2a$$ $$|BF_2| - |BF_1| = 2a$$
因此,可以得到:
$$3k - |AF_1| = 2a$$ $$7k - |BF_1| = 2a$$
由于 $|AF_1| + |BF_1| = |AB|$,我们可以得到:
$$|AF_1| = 3k - 2a$$ $$|BF_1| = 7k - 2a$$
所以:
$$|AB| = |AF_1| + |BF_1| = (3k - 2a) + (7k - 2a) = 10k - 4a$$
又因为 $\angle BAF_2 = 120^\circ$,根据余弦定理,我们有:
$$|AB|^2 = |AF_2|^2 + |BF_2|^2 - 2 \cdot |AF_2| \cdot |BF_2| \cdot \cos \angle BAF_2$$
代入已知的长度和角度,得到:
$$(10k - 4a)^2 = (3k)^2 + (7k)^2 - 2 \cdot 3k \cdot 7k \cdot \cos 120^\circ$$
化简上式:
$$(10k - 4a)^2 = (3k)^2 + (7k)^2 + 3k \cdot 7k$$
$$100k^2 - 80ak + 16a^2 = 9k^2 + 49k^2 + 21k^2$$
$$100k^2 - 80