godingMath

전설의 수학 문제를 찾아서, 4번째 문제는 공통근 문제입니다. 1971년 동경대 입시 문제로 출제된 이 문제는 공통근에 대한 우리의 고정관념을 멋지게 뒤집는 문제입니다.

실수 \(a,\ b\) 에 대하여, 두 이차방정식 $$x^2+ax+b=0,\ ax^2+bx+1=0$$이 있다.
(1) 두 이차방정식이 실수근 \(\lambda\)를 공통으로 가질 때 \(\lambda\)의 값과 \(a+b\)의 값을 구하시오.
(2) 두 이차방정식이 허근을 공통근으로 가질 때 \(a,\ b\)의 값을 구하시오.

이 문제에는 어떠한 함정이 숨겨져 있을까요? 이 함정을 해결할 수 있는 방법은 무엇일까요? 그리고 이 문제의 배경에는 어떠한 수학적 원리가 숨어있을까요?

전설이라고 부를 수 있는 수학 문제들은 어떤 것일까요? 문제 풀이의 난이도와 관계 없이, 수학 문제를 푸는 재미가 있는 문제, 학문적인 의미를 가지고 있는 문제, 문제 풀이의 원리가 여러 다른 문제에서도 두고 두고 사용되는 문제입니다. “전설의 수학 문제를 찾아서”는 전설이라고 부를 수 있는 수학 문제들을 찾아 풀어보고, 무엇을 배울 수 있는지 그 배경과 의미를 설명하는 연재글입니다.

이 문제가 전설이 된 이유는 우리가 가지고 있는 공통근 문제에 대한 고정 관념을 멋지게 뒤집고 있기 때문입니다. (한편으로, 이 문제가 알려진 1971년 이후에도, 지금도 여전히 같은 고정관념을 가지고 있는 경우가 많다는 것이 조금 의아하기도 합니다.)

평범하지만 아주 많은 계산 과정이 필요한 풀이

많은 참고서와 문제집에서 공통근 문제의 해법으로 두 방정식을 연립하여 “최고차항을 소거”하는 것을 제안하고 있습니다. 이 문제 역시 같은 방법으로 풀어보겠습니다. 먼저 실수  \(\lambda\) 를 공통근으로 가진다면, \(\lambda\) 를 두 방정식에 대입하여,$$\begin{align}\lambda^2+a\lambda+b&=0\qquad(1)\\
a\lambda^2+b\lambda+1&=0\qquad(2)\end{align}$$을 얻을 수 있습니다. 최고차항을 소거하기 위해 $$\begin{align}a\times(1)-(2)&=a\lambda^2+a^2\lambda+ab-(a\lambda^2+b\lambda+1)\\
&=a^2\lambda+ab-b\lambda-1=0\\
&=(a^2-b)\lambda+ab-1=0\end{align}$$$$\therefore\lambda=\frac{1-ab}{a^2-b}\qquad(3)$$입니다. 이 결과를 식(1)에 대입하면$$\left(\frac{1-ab}{a^2-b}\right)^2+a\left(\frac{1-ab}{a^2-b}\right)+b=0$$ 이 되고, 양변에 \((a^2-b)^2\) 을 곱하여 정리하면, $$(1-ab)^2+a(1-ab)(a^2-b)+b(a^2-b)^2=0\qquad(4)$$을 얻을 수 있습니다. 식이 꽤 복잡해졌습니다. 계속해서 진행해보겠습니다. 식(4)를 전개하여 정리하면 $$\require{cancel}1-2ab+\cancel{a^2b^2}+a^3-ab-\cancel{a^4b}+a^2b^2+\cancel{a^4b}-\cancel{2a^2b^2}+b^3=0$$$$\iff\bbox[5px,border:2px solid red]{a^3+b^3-3ab+1=0\qquad(5)}$$을 얻습니다. (나중에 다시 설명하겠지만 이 식은 아주 중요한 의미를 가지는 식입니다. 주목해 주세요!) 이제 다음 단계는 식(5)의 좌변을 인수분해 하는 것입니다. $$\begin{align}a^3+b^3-3ab+1&=(a+b)^3-3ab(a+b)-3ab+1\\
&=\{(a+b)^3+1\}-3ab(a+b+1)\\
&=\{(a+b)^3+1^3\}-3ab(a+b+1)\\
&=(a+b+1)\{(a+b)^2-(a+b)\cdot 1+1^2)-3ab(a+b+1)\\
&=(a+b+1)(a^2+2ab+b^2-a-b-3ab)\\
&=(a+b+1)(a^2+b^2-ab-a-b+1)
\end{align}$$ 따라서 식(4)는 $$(a+b+1)(a^2+b^2-ab-a-b+1)=0$$$$\iff a+b+1=0\text{ 또는 }a^2+b^2-ab-a-b+1=0$$이 됩니다.

\(a+b+1=0\) 일 때

$$b=-a-1$$이므로 이 것을 식(3)에 대입하면, $$\lambda=\frac{1-a(-a-1)}{a^2-(-a-1)}=\frac{\cancel{a^2+a+1}}{\cancel{a^2+a+1}}=1$$

\(a^2+b^2-ab-a-b+1=0\) 일 때

완전 제곱 완성을 사용하여 식을 변형해줍니다. $$\begin{align}a^2+b^2-ab-a-b+1&=\{a^2-(b+1)a\}+b^2-b+1\\
&=\left(a-\frac{b+1}{2}\right)^2-\left(\frac{b+1}{2}\right)^2+b^2-b+1\\
&=\left(a-\frac{b+1}{2}\right)^2-\frac{1}{4}\{(b+1)^2-4b^2+4b-4\}\\
&=\left(a-\frac{b+1}{2}\right)^2-\frac{1}{4}(b^2+2b+1-4b^2+4b-4)\\
&=\left(a-\frac{b+1}{2}\right)^2-\frac{1}{4}(-3b^2+6b-3)\\
&=\left(a-\frac{b+1}{2}\right)^2+\frac{3}{4}(b^2-2b+1)\\
&=\left(a-\frac{b+1}{2}\right)^2+\frac{3}{4}(b-1)^2=0\end{align}$$이 됩니다. 따라서 $$a-\frac{b+1}{2}=0,\ b-1=0$$이므로$$a=1,\ b=1$$을 얻을 수 있습니다. 이것을 식(1)이나 식(2)에 대입하면 $$\lambda^2+\lambda+1=0\iff \lambda=\frac{-1+\sqrt{3}i}{2}$$

문제의 답

지금까지의 결과를 모두 모아 정리하면, \(a+b+1=0\iff a+b=-1\) 일 때 공통근$$\lambda=1$$이 되어 실수가 되고, \(a=1, b=1\)일 때 공통근 $$\lambda=\frac{-1\pm\sqrt{3}i}{2}$$로 허근이 됩니다.

공통근 문제에서 최고차항을 소거하는 이유

답을 구하긴 했지만, 계산 과정이 좀 길었습니다. 이 문제의 풀이가 길어진 가장 큰 이유는 최고차항을 소거하여 얻은 식(3), (4), (5)이 꽤 복잡한 식이 되어 버렸기 때문입니다. 하지만 왜 꼭 굳이 공통근 문제에서는 최고차항을 소거해야 하는 이유는 무엇일까요? 다른 항을 소거할 수 는 없을까요?

공통근 문제에서 최고차항을 소거하는 가장 큰 이유는 두 이차방정식 $$p(x)=0,\ q(x)=0$$에서 최고차항을 소거하면 \(p(x)\) 와 \(q(x)\)의 계수들만을 사용하여 공통근에 대한 조건을 얻을 수 있기 때문입니다. 앞서의 풀이에서는 최고차항을 소거하여 계수들만을 사용하는 식(5)을 얻을 수 있었고, 식(5)의 좌변을 인수분해하여 공통근에 대한 정보를 찾을 수 있었습니다. 혹시 앞서 식(5)가 어떤 식이었는지 기억이 나시나요? 사실 식(5)의 좌변 $$a^3+b^3-3ab+1$$은 종결식(resultant)라는 이름을 가진 식입니다. (종결식의 정의는 이 글의 마지막 부분에서 다시 이야기하겠습니다.) 종결식의 중요한 목적 중 하나는 두 방정식이 공통근을 가지고 있는지를 판별하는 것입니다. 종결식은 다음과 같은 성질을 가지고 있습니다.

두 방정식이 공통근을 가질 때 두 방정식의 종결식의 값은 0이 된다. (역도 성립)

최고차항의 소거가 반드시 필요한 것은 아니다.

하지만 공통근 문제에서 반드시 최고차항을 소거하여 종결식을 구해야 할 필요는 없습니다. 문제의 출제자도 그것을 분명히 의식하고 있었을 것입니다. 공통근 문제라고 해서 반드시 최고차항을 소거해야 할 필요는 없습니다. 두 식을 소거할 때는

가장 간단히 소거할 수 있는 것을 지운다.

라는 것이 가장 자연스러운 흐름입니다.

\(b\) 를 소거했을 때의 풀이

식(1)과 식(2)을 보면 소거할 수 있는 문자는 \(\lambda,\ a,\ b\) 가 있습니다.  \(\lambda\) 를 소거해서 종결식을 얻는 과정과 풀이가 매우 복잡하다는 것은 [평범하지만 아주 많은 계산 과정이 필요한 풀이]에서 이미 확인을 했기 때문에 \(a\) 와 \(b\) 중에서 하나를 골라 소거해 보겠습니다.

두 식을 보면 \(a\) 를 소거하는 것보다 \(b\) 를 소거하는 것이 더 간단해 보입니다. \(a\)는 식(1)의 일차항과 식(2)의 이차항의 계수로 쓰이기 때문입니다. 이제 \(b\) 를 소거했을 때 어떤 결과를 얻을 수 있을지 확인해보겠습니다.

식(1)에서 $$b=-\lambda^2-a\lambda$$를 얻고 이 것을 식(2)에 대입하면 $$a\lambda^2+(-\lambda^2-a\lambda)\lambda+1=0$$$$\iff\cancel{a\lambda^2}-\cancel{a\lambda^2}-\lambda^3+1=0$$$$\therefore \lambda^3-1=(\lambda-1)(\lambda^2+\lambda+1)=0$$을 얻을 수 있습니다.

\(\lambda-1=0\iff \lambda=1\) 일 때

이 것을 식(1)이나 식(2)에 대입하면 $$a+b+1=0\iff a+b=-1$$이 됩니다.

\(\lambda^2+\lambda+1=0\iff \lambda=\frac{-1\pm\sqrt{3}i}{2}\) 일 때

$$\lambda^2=-\lambda-1$$이므로 이 것을 식(1) 에 대입하면 $$-\lambda-1+a\lambda+b=(a-1)\lambda+(b-1)=0$$이 됩니다. \(a,\ b\)는 실수이고, \(\lambda-1\)은 허수이므로 복소수의 상등조건에 의해 $$a-1=0,\ b-1=0\iff a=1,\ b=1$$을 얻을 수 있습니다.

최고차항을 소거했을 때보다 훨씬 짧고 단순한 풀이를 찾을 수 있었습니다.

두 이차식의 종결식과 실베스터 행렬

이 글에서는 두 이차식의 종결식과 실베스터 행렬만을 예로 들어보겠습니다. 두 이차식 $$\begin{align}p(x)&=a_2x^2+a_1x+a_0=a(x-\alpha_1)(x-\alpha_2)\\
q(x)&=b_2x^2+b_1x+b_0=b_2(x-\beta_1)(x-\beta_2)\end{align}$$의 종결식 $$\mathrm{Res}(p(x), q(x))=a_2b_2(\alpha_1-\beta_1)(\alpha_1-\beta_2)(\alpha_2-\beta_1)(\alpha_2-\beta_2)$$로 정의됩니다. 만약 두 이차방정식이 공통근을 갖는다면, 종결식 \(\mathrm{Res}(p(x), q(x))\) 의 네 인수 $$\alpha_1-\beta_1,\ \alpha_1-\beta_2,\ \alpha_2-\beta_1,\ \alpha_2-\beta_2$$ 중 적어도 하나는 0이 되므로, 종결식 $$\mathrm{Res}(p(x), q(x))=0$$ 이 되어야 합니다. (역도 성립합니다.) 그런데 두 다항식의 종결식은 실베스터 행렬의 행렬식과 같다는 놀라운 사실이 증명되어 있습니다. (이 글에서는 증명의 소개 없이 그 결과만을 사용하겠습니다.)  두 이차식 \(p(x)\) 와 \(q(x)\) 의 실베스터 행렬은 4행 4열의 크기를 가지는 행렬로, 성분은 다음과 같이 정의되어 있습니다.. $$\begin{bmatrix}
a_2 & a_1 & a_0 & 0 \\
0     & a_2 & a_1 & a_0\\
b_2 & b_1 & b_0 & 0 \\
0     & b_2 & b_1 & b_0 \end{bmatrix}$$입니다. 따라서 이 문제의 두 방정식의 좌변 $$x^2+ax+b,\ ax^2+bx+1$$의 실베스터 행렬은 $$\begin{bmatrix}
1 & a & b & 0 \\
0     & 1 & a & b\\
a & b & 1 & 0 \\
0     & a & b & 1 \end{bmatrix}$$ 이고, 이 행렬의 행렬식을 구하면 $$a^3+b^3-3ab+1$$입니다. 이 식은 앞서 계산한 식(5)의 좌변과 같습니다. (아래 위젯은 4행 4열의 행렬식 계산기입니다. 실베스터 행렬을 만들어 직접 행렬식을 계산해보세요.)