Ответ: $\displaystyle \frac{1}{4}$, $\displaystyle \frac{1}{9}$.

Решение:

Обозначим $\displaystyle \frac{a}{b} = x^2$, тогда $\displaystyle \frac{b}{a} = \frac{1}{x^2}$.

По условию $(6a + b)^2 = 25ab$, откуда $\displaystyle \left(6\sqrt{\frac{a}{b}} + \sqrt{\frac{b}{a}}\right)^2 = 25$ или $\displaystyle 6\sqrt{\frac{a}{b}} + \sqrt{\frac{b}{a}} = 5$.

Итак, $\displaystyle 6x + \frac{1}{x} = 5$ и $6x^2 − 5x + 1 = 0$. Поэтому $\displaystyle x_1 = \frac{1}{2}$ и $\displaystyle x_2 = \frac{1}{3}$. Следовательно, $\displaystyle \frac{a}{b}$ равно $\displaystyle \frac{1}{4}$ или $\displaystyle \frac{1}{9}$.