W ciągu geometrycznym:
$$
a_2=a_1q,\quad
a_3=a_1q^2,\quad
a_4=a_1q^3.
$$
1) Korzystamy z warunku $a_3=12$
$$
a_1q^2=12.
$$
2) Korzystamy z warunku $a_2+a_4=40$
$$
a_1q+a_1q^3=40.
$$
Wyłączamy $a_1q$:
$$
a_1q(1+q^2)=40.
$$
3) Podstawiamy $a_1=\dfrac{12}{q^2}$
$$
\frac{12}{q^2}\cdot q(1+q^2)=40.
$$
Upraszczamy:
$$
\frac{12}{q}(1+q^2)=40.
$$
Mnożymy przez $q$:
$$
12(1+q^2)=40q.
$$
$$
12+12q^2=40q.
$$
$$
12q^2-40q+12=0.
$$
Dzielimy przez $4$:
$$
3q^2-10q+3=0.
$$
4) Rozwiązujemy równanie kwadratowe
$$
\Delta=(-10)^2-4\cdot3\cdot3=100-36=64.
$$
$$
q=\frac{10\pm 8}{6}.
$$
$$
q_1=3,\qquad q_2=\frac{1}{3}.
$$
5) Wyznaczamy $a_1$
Dla $q=3$:
$$
a_1=\frac{12}{9}=\frac{4}{3}.
$$
Dla $q=\frac{1}{3}$:
$$
a_1=\frac{12}{\frac{1}{9}}=108.
$$
Odpowiedź:
$$
(a_1,q)=\left(\frac{4}{3},3\right)
\quad \text{lub} \quad
(108,\frac{1}{3}).
$$