I(9;3;1) => d(i(Oxz)) = 3 = R =? (S) tiếp xác với (Oxz).

Gọi M (a; 0 ;0) \(\in\) Ox

N (0; 0; b) \(\in\) Oz

MN tiếp xác với (S) tại A nên A là hình chiếu của I lên (Oxz)

Suy ra A (9; 0; 1)

Gọi K là trung điểm MN => K (a/2; 0; b/2)

Gọi H là tâm mặt cầu ngoại tiếp tứ diện OIMN => OH = 13/2 => HK \(\bot\) MN

Gọi T là trung điểm OM => \(\left\{ \begin{array}{l}
OM \bot KT\\
OM \bot HT
\end{array} \right. \Rightarrow OM \bot (KHT) =  > OM \bot HK =  > HK \bot (OMN)\)

Mà IA \(\bot\) (OMN) => HK // IA

Ta có \(\overrightarrow {AI}\) = (0;3;0)

\(\overrightarrow {KH}  = \left( {{x_H} - \frac{a}{2};{y_H} - 0;{z_H} - \frac{b}{2}} \right)\)

\(\overrightarrow {AI}\) cùng phương \(\overrightarrow {KH}\) nên \(\left\{ \begin{array}{l}
{x_H} - \frac{a}{2}\\
{y_H} - c\\
{z_H} - \frac{b}{2}
\end{array} \right.\left( {c \ne 0} \right)\)

=> \(H\left( {\frac{a}{2};c;\frac{b}{2}} \right)\)

\(\begin{array}{l}
OH = \frac{{13}}{2} =  > \frac{{{a^2}}}{4} + {c^2} + \frac{{{b^2}}}{4} = \frac{{169}}{4}(1)\\
HI = OH = \frac{{13}}{2} =  > {\left( {\frac{a}{2} - 9} \right)^2} + {\left( {c - 3} \right)^2} + {\left( {\frac{b}{2} - 1} \right)^2} = \frac{{169}}{4}(2)
\end{array}\)

Từ (1) và (2) suy ra \(\frac{{{a^2}}}{4} + {c^2} + \frac{{{b^2}}}{4} = {\left( {\frac{a}{2} - 9} \right)^2} + {\left( {c - 3} \right)^2} + {\left( {\frac{b}{2} - 1} \right)^2}\)

=> 9a + b + 6c = 91 (3)

\(\begin{array}{l}
\overrightarrow {AM}  = (a - 9;0; - 1)\\
\overrightarrow {AN}  = ( - 9;0;b - 1)
\end{array}\)

A, M, N thẳng hàng \(\frac{{a - 9}}{{ - 9}} = \frac{{ - 1}}{{b - 1}}\)

⇔ (a-2)(b-1) = 9

⇔ ab - a - 9b + 9 = 9

⇔ ab -a - 9b = 0

⇔ a(b-1) = ab

⇔ \(a = \frac{{9b}}{{b - 1}}\)

Từ (3) suy ra

\(\begin{array}{l}
9.\frac{{9b}}{{b - 1}} + b + 6c = 91\\
\frac{{81b}}{{b - 1}} + b + 6c = 91\\
 \Leftrightarrow \frac{{{b^2} + 80b}}{{b - 1}} + 6c = 91 \Leftrightarrow 91 - \frac{{{b^2} + 80b}}{{b - 1}} = \frac{{ - {b^2} + 11b - 91}}{{b - 1}}\\
 \Leftrightarrow c = \frac{{ - {b^2} + 11b - 91}}{{6\left( {b - 1} \right)}}
\end{array}\)

Ta có: \({a^2} + 4{c^2} + {b^2} = 169\)

\(\begin{array}{*{20}{l}}
{ \Leftrightarrow {{\left( {\frac{{9b}}{{b - 1}}} \right)}^2} + 4\left( {\frac{{ - {b^2} + 11b - 91}}{{6\left( {b - 1} \right)}}} \right) + {b^2} = 169}\\
{ \Leftrightarrow 9.81{b^2} + \left( {{b^4} + 121{b^2} + 8281 - 22{b^3} + 182{b^2} - 2002b} \right) + 9{b^2}\left( {{b^2} - 1} \right) = 169.9.{{\left( {b - 1} \right)}^2}}\\
{ \Leftrightarrow 729{b^2} + {b^4} + 121{b^2} + 8281 - 22{b^3} + 182{b^2} - 2022b + 9{b^4} - 18{b^3} + 9{b^2} = 1521{b^2} - 3042b + 1521}\\
{ \Leftrightarrow 10{b^4} - 40{b^3} - 480{b^2} + 1040b + 6760 = 0}\\
{ \Leftrightarrow \left[ {\begin{array}{*{20}{l}}
{b = 1 + 3\sqrt 3  =  > a = \frac{{9\left( {1 + 3\sqrt 3 } \right)}}{{ - 3\sqrt 3 }} = 9 + \sqrt 3 }\\
{b = 1 - 3\sqrt 3  =  > a = \frac{{9\left( {1 - 3\sqrt 3 } \right)}}{{ - 3\sqrt 3 }} = 9 - \sqrt 3 }
\end{array}} \right.}
\end{array}\)

TH1: 

\(\begin{array}{l}
a = 9 + \sqrt 3 ;b = 1 + 3\sqrt 3  =  > \overrightarrow {AM}  = \left( {\sqrt 3 ;0; - 1} \right) =  > AM = 2\\
 =  > \overrightarrow {AN}  = \left( { - 9;0;3\sqrt 3 } \right) =  > AN = \sqrt {108} \\
AM.AN = 2.\sqrt {108}  = 12\sqrt 3 
\end{array}\)

TH2:

\(\begin{array}{l}
a = 9 - \sqrt 3 ;b = 1 - 3\sqrt 3  =  > \overrightarrow {AM}  = \left( { - \sqrt 3 ;0; - 1} \right) =  > AM = 2\\
 =  > \overrightarrow {AN}  = \left( { - 9;0; - 3\sqrt 3 } \right) =  > AN = \sqrt {108} \\
AM.AN = 2.\sqrt {108}  = 12\sqrt 3 
\end{array}\)