--------------------------------------------
【解答】
$\scriptsize\sf{ax^2+bx+c=0\ \ \ \cdots\cdots\cdots (*)}$
(1)
(*)が重解をもつときなので、判別式を考えると、
$\scriptsize\sf{\begin{align*}\sf D=b^2-4ac=0\end{align*}}$
これを満たすようなa、b、cの組(a,b,c)は
$\scriptsize\sf{\begin{align*}\sf (1,2,1),\ (1,4,4),\ (2,4,2),\ (4,4,1),\ (3,6,3)\end{align*}}$
の5通りあるので、
$\scriptsize\sf{\begin{align*}\sf \frac{5}{6^3}=\underline{\frac{5}{216}}\end{align*}}$
(2)
・(*)が実数解をもつとき
$\scriptsize\sf{\begin{align*}\sf z_1=z_2=1\end{align*}}$ または $\scriptsize\sf{\begin{align*}\sf z_1=z_2=-1\end{align*}}$ または $\scriptsize\sf{\begin{align*}\sf z_1=1,\ z_2=-1\end{align*}}$
であればよいので、これを満たすようなa、b、cの組(a,b,c)は
$\scriptsize\sf{\begin{align*}\sf (1,2,1),\ (2,4,2),\ (3,6,3)\end{align*}}$
の3通りある。
・(*)が虚数解をもつとき
判別式を考えると、
$\scriptsize\sf{\begin{align*}\sf D=b^2-4ac\lt 0\end{align*}}$
であり、$\scriptsize\sf{\begin{align*}\sf \overline{z_1}=z_2\end{align*}}$ なので、解と係数の関係より
$\scriptsize\sf{\begin{align*}\sf |z_1|^2=z_\overline{z_1}=z_1z_2=\frac{c}{a}=1\ \ \Leftrightarrow\ \ c=a\end{align*}}$
これらより、
$\scriptsize\sf{\begin{align*}\sf D=b^2-4a^2=(b-2a)(b+2a)\lt 0\ \ \Leftrightarrow\ \ b\lt 2a\ \ \left(\because\ a,b\gt 0\right) \end{align*}}$
これを満たさないようなa、bの組(a,b)は
$\scriptsize\sf{\begin{align*}\sf (1,2),\ (1,3),\ (1,4),\ (1,5),\ (1,6), (2,4),\ (2,5),\ (2,6),\ (3,6)\end{align*}}$
の9通りあるので、$\scriptsize\sf{\begin{align*}\sf 6^2-9=27 \end{align*}}$ 通り。
以上より、求める確率は
$\scriptsize\sf{\begin{align*}\sf \frac{3+27}{6^3}=\underline{\frac{5}{36}}\end{align*}}$
(3)
・(*)が実数解をもつとき
2直線L1、L2が一致するので題意を満たさない。
・(*)が虚数解をもつとき
2解を
$\scriptsize\sf{\begin{align*}\sf z_1=\frac{-b+\sqrt{4ac-b^2}\ i}{2a}\ ,\ \ z_2=\frac{-b-\sqrt{4ac-b^2}\ i}{2a}\end{align*}}$
とすると、これらは互いに共役なので、2点P1、P2は実軸について対称である。
また、a、b>0より、複数平面において、P1は第2象限の点、P2は第3象限の点である。
2直線L1、L2のなす鋭角が60°になるのは、
(ア) ∠P1OP2=60° (イ) ∠P1OP2=120°
の2つの場合がある。
(ア)の場合
$\scriptsize\sf{\begin{align*}\sf arg(z_1)=\frac{5}{6}\pi\end{align*}}$ となるので、
$\scriptsize\sf{\begin{align*}\sf b:\sqrt{4ac-b^2}=\sqrt3:1\end{align*}}$
$\scriptsize\sf{\begin{align*}\sf\ \ \Leftrightarrow\ \ b^2=3(4ac-b^2) \end{align*}}$
$\scriptsize\sf{\begin{align*}\sf \ \ \Leftrightarrow\ \ b^2=3ac\end{align*}}$
これを満たすようなa、b、cの組(a,b,c)は
$\scriptsize\sf{\begin{align*}\sf (1,3,3),\ (3,3,1),\ (2,6,6),\ (3,6,4),\ (4,6,3),\ (6,6,2)\end{align*}}$
の6通り
(イ)の場合
$\scriptsize\sf{\begin{align*}\sf arg(z_1)=\frac{2}{3}\pi\end{align*}}$ となるので、
$\scriptsize\sf{\begin{align*}\sf b:\sqrt{4ac-b^2}=1:\sqrt3\end{align*}}$
$\scriptsize\sf{\begin{align*}\sf\ \ \Leftrightarrow\ \ 3b^2=4ac-b^2 \end{align*}}$
$\scriptsize\sf{\begin{align*}\sf \ \ \Leftrightarrow\ \ b^2=ac\end{align*}}$
これを満たすようなa、b、cの組(a,b,c)は
$\scriptsize\sf{\begin{align*}\sf (1,1,1),\ (2,2,1),\ (3,3,3),\ (4,4,4),\ (5,5,5),\ (6,6,6),\ \end{align*}}$
$\scriptsize\sf{\begin{align*}\sf (1,2,4),\ (4,2,1)\ \end{align*}}$
の8通り
以上より、求める確率は
$\scriptsize\sf{\begin{align*}\sf \frac{6+8}{6^3}=\underline{\frac{7}{108}} \end{align*}}$