godingMath

전설의 수학 문제를 찾아서, 5번째 문제는 3차함수의 최대/최소 문제입니다. 1991년 동경대 입시 문제로, 많은 사람들을 놀라게 했던 문제입니다.

구간 \(-\dfrac{7}{4}\leq x \leq 3\) 에서 함수 \(f(x)=x^3-2x^2-3x+4\) 의 최댓값과 최솟값을 구하시오

이 문제는 평범한 문제입니다. 하지만 이 문제는 어려운 문제입니다. 이 문제에 담겨있는 출제자의 의도는 무엇일까요? 그리고 이 문제에서 배울 수 있는 것은 무엇일까요? 

전설이라고 부를 수 있는 수학 문제들은 어떤 것일까요? 문제 풀이의 난이도와 관계 없이, 수학 문제를 푸는 재미가 있는 문제, 학문적인 의미를 가지고 있는 문제, 문제 풀이의 원리가 여러 다른 문제에서도 두고 두고 사용되는 문제입니다. “전설의 수학 문제를 찾아서”는 전설이라고 부를 수 있는 수학 문제들을 찾아 풀어보고, 무엇을 배울 수 있는지 그 배경과 의미를 설명하는 연재글입니다.

출제자가 이 문제 뒤에 숨겨 놓은 것

이 문제는 평범한 문제입니다. 하지만 동시에 어려운 문제입니다. 동경대 지망생들중 대략 2%정도만이 감점을 받지 않는 올바른 답을 적어낸다고 알려져 있습니다. 과연 출제자는 이 문제에 어떠한 수학적 장치를 설치해 놓았을까요? (이 글의 나머지 부분을 읽기 전에 문제를 꼭 풀어보는 것이 좋습니다. 문제를 직접 풀어보시면 출제자의 멋진 의도를 잘 느낄 수 있습니다.)

닫힌 구간이 주어진 함수의 최대 최소

일단 이 문제는 닫힌 구간이 주어진 함수의 최대/최소를 구하는 문제입니다.  닫힌 구간 \([a,b]\)에서 연속인 함수 \(f(x)\)의 최대/최소를 구하는 과정을 교과서에서는 다음과 같은 방법으로 설명하고 있습니다.

구간 \([a,b]\)에서 연속인 함수 \(f(x)\)는 이 구간에서 반드시 최댓값과 최솟값을 가지고, 이 구간내에 존재하는 모든 극값과 양 끝점의 함숫값인 \(f(a)\)와 \(f(b)\) 중에서 가장 큰 값이 최댓값, 가장 작은 값이 최솟값이다.

먼저 극값을 찾기 위해 이 함수의 도함수를 구하면, $$f'(x)=3x^2-4x-3$$입니다. 따라서 함수 \(f(x)\)의 극값을 구하기 위해 방정식 \(f'(x)=0\)의 해를 구하면 $$x=\frac{2\pm\sqrt{13}}{3}$$입니다. \(\alpha=\dfrac{2-\sqrt{13}}{3}\), \(\beta=\dfrac{2+\sqrt{13}}{3}\)라 두면, 함수 \(f(x)\)의 극값은 \(f(\alpha)\), \(f(\beta)\)이고, \(\alpha\)와 \(\beta\) 모두 $$-\frac{7}{4}<\alpha<3,-\frac{7}{4}<\beta<3$$이므로 함수 \(f(x)\)의 최대/최소는 $$f\left(-\frac{7}{4}\right), f(\alpha), f(\beta), f(3)$$ 의 값을 비교하여 구할 수 있습니다.

먼저, \(f(3)\)의 값은 전혀 어렵지 않게 구할 수 있습니다. $$\begin{align}f(3)&=3^3-2\cdot 3^2-3\cdot 3+4\\&=27-18-9+4\\&=4\end{align}$$ 하지만, \(f\left(-\dfrac{7}{4}\right)\) 부터는 계산하는 것이 슬슬 까다로워 시작합니다. $$\begin{align}f\left(-\frac{7}{4}\right)&=\left(-\frac{7}{4}\right)^3-2\left(-\frac{7}{4}\right)^2-3\left(-\frac{7}{4}\right)+4\\&=-\frac{343}{64}-\frac{49}{8}+\frac{21}{4}+4\\&=-\frac{143}{64}\end{align}$$ 이제 \(f(\alpha)\)와 \(f(\beta)\)를 구하려고 하면 계산의 복잡도가 크게 증가합니다. $$\begin{align}f(\alpha)&=f\left(\frac{2-\sqrt{13}}{3}\right)\\
&=\left(\frac{2-\sqrt{13}}{3}\right)^3-2\left(\frac{2-\sqrt{13}}{3}\right)^2-3\left(\frac{2-\sqrt{13}}{3}\right)+4\\&=\frac{38+26\sqrt{13}}{27}\tag{1}\label{eq1}\end{align}$$$$\begin{align}f(\beta)&=f\left(\frac{2+\sqrt{13}}{3}\right)\\
&=\left(\frac{2+\sqrt{13}}{3}\right)^3-2\left(\frac{2+\sqrt{13}}{3}\right)^2-3\left(\frac{2+\sqrt{13}}{3}\right)+4\\&=\frac{38-26\sqrt{13}}{27}\tag{2}\label{eq2}\end{align}$$ 이제 $$4, -\frac{143}{64}, \frac{38+26\sqrt{13}}{27}, \frac{38-26\sqrt{13}}{27}$$ 중에서 가장 큰 값과 작은 값을 찾아야 합니다. 여기에서 \(\sqrt{13}\) 의 근삿값을 사용하여 계산을 하려고 하여도 \(\sqrt{13}=3.605…\)이기 때문에 그 계산도 결코 쉬운 것은 아닙니다. (그리고 논술 시험의 답안에서는 근삿값을 사용하여 크기 비교를 할 때에는 감점을 받지 않도록 풀이를 작성해야 하는 부담도 있습니다.)

자 이제, 이 문제의 출제 의도는 분명해졌습니다. 단순한 문제이지만, 계산이 아주 복잡한 문제, 출제자는 결국 다음과 같은 질문을 하고 있는 것입니다.

복잡한 계산을 줄이려면 무엇을 해야하는가?

문제를 푸는 사람이 해야할 것

이 문제에서 복잡한 계산이 필요한 부분은 크게 2가지입니다. 따라서 문제를 푸는 사람이 신경써야 하는 것들은 다음과 같은 것들입니다.

1. \(f(-\dfrac{7}{4})\), \(f(3)\), \(f(\alpha)\), \(f(\beta)\) 를 쉽게 비교하기
2. \(f(\alpha)\), \(f(\beta)\) 를 쉽게 계산하기

차례대로 살펴보겠습니다.

3차함수의 대칭성을 이용하여 \(f(-\dfrac{7}{4})\), \(f(3)\), \(f(\alpha)\), \(f(\beta)\)를 비교한다.

이 문제에서 출제자가 가장 크게 신경을 쓴 부분입니다. 이 부분을 해결하려면 3차함수의 대칭성(→4등분 법칙)을 이용합니다. 극댓점 \((\alpha, f(\alpha))\)에서의 접선이 함수 \(f(x)\)의 그래프와 만나는 점 중 접점이 아닌 점의 \(x\)좌표를 \(\gamma\), 극솟점 \((\beta, f(\beta))\)에서의 접선이 함수 \(f(x)\)의 그래프와 만나는 점 중 접점이 아닌 점의 \(x\)좌표를 \(\delta\)라 두겠습니다. 또한 \(f”(x)=6x-4\) 이므로 변곡점의 \(x\)좌표는 방정식 \(f”(x)=0\)의 해인 \(\dfrac{2}{3}\)입니다.

3차함수의 대칭성과 4등분 법칙을 사용하면 $$\frac{2}{3}-\alpha:\gamma-\frac{2}{3}=1:2\\\Rightarrow \gamma=2-2\alpha$$입니다. (이 관계는 근과 계수의 관계를 이용하여 얻을 수도 있습니다. 방정식 $$\begin{align}&f(x)=f(\alpha)\\
&\Rightarrow x^3-2x^2-3x+4=f(\alpha)\\
&\Rightarrow x^3-2x^2-3x+4-f(\alpha)=0\end{align}$$ 의 해는 \(x=\alpha\) (중근), \(x=\gamma\) 이고, 이 방정식의 \(x^2\)의 계수는 2이므로 근과 계수의 관계를 사용하면 $$\alpha+\alpha+\gamma=2$$를 얻을 수 있습니다.)

\(\alpha=\dfrac{2-\sqrt{13}}{3}\) 이므로, $$\begin{align}\gamma&=2-2\alpha\\&=2-2\cdot\frac{2-\sqrt{13}}{3}\\&=\frac{2+2\sqrt{13}}{3}\end{align}$$ 입니다. 이제 \(\gamma\)와 구간의 오른쪽 끝인 3과 크기 비교를 하기 위해 두 수를 빼보겠습니다. $$\begin{align}\gamma-3&=\frac{2+2\sqrt{13}}{3}-3\\&=\frac{2\sqrt{13}-7}{3}\\&=\frac{\sqrt{52}-\sqrt{49}}{3}>0\end{align}$$ 입니다. \(\gamma>3\)이므로 \(f(\gamma)>f(3)\)입니다. 그런데 \(f(\gamma)=f(\alpha)\) 이므로 $$f(\gamma)>f(3)\Leftrightarrow f(\alpha)>f(3)$$이 되어 이 함수의 최댓값은 \(f(\alpha)\)입니다.

마찬가지로, 3차함수의 대칭성을 이용하거나 근과 계수의 관계를 이용하면 \(\delta=2-2\beta\)를 얻을 수 있습니다. \(\beta=\dfrac{2+\sqrt{13}}{3}\)이므로 $$\begin{align}\delta&=2-2\beta\\&=2-2\cdot\frac{2+\sqrt{13}}{3}\\&=\frac{2-2\sqrt{13}}{3}\end{align}$$ 입니다. \(\delta\)와 구간의 왼쪽 끝인 \(-\dfrac{7}{4}\)와 크기 비교를 하기 위해 두 수를 빼보면, $$\begin{align}\delta-\left(-\frac{7}{4}\right)&=\frac{2-2\sqrt{13}}{3}+\frac{7}{4}\\&=\frac{29-8\sqrt{13}}{12}\\&=\frac{\sqrt{841}-\sqrt{832}}{12}>0\end{align}$$입니다. 즉, \(-\dfrac{7}{4}<\delta<0\) 이므로 \(f\left(-\frac{7}{4}\right)<f(\delta)\) 입니다. 그런데 \(f(\delta)=f(\beta)\) 이므로, $$f\left(-\frac{7}{4}\right)<f(\delta)\Leftrightarrow f\left(-\frac{7}{4}\right)<f(\beta)$$ 이므로 이 함수의 최솟값은 \(f\left(-\dfrac{7}{4}\right)\)입니다.

차수 내림 (또는 차수 인하)를 사용하거나, 삼차함수의 두 극점을 지나는 직선을 이용하여 \(f(\alpha)\)와 \(f(\beta)\)를 계산한다.

앞서 \(\eqref{eq1}\)에서, $$\begin{align}f(\alpha)&=f\left(\frac{2-\sqrt{13}}{3}\right)\\
&=\left(\frac{2-\sqrt{13}}{3}\right)^3-2\left(\frac{2-\sqrt{13}}{3}\right)^2-3\left(\frac{2-\sqrt{13}}{3}\right)+4\\&=\frac{38+26\sqrt{13}}{27}\end{align}$$라는 것을 구한 적이 있습니다. 이 계산을 직접 할 수 있지만, 나머지 정리를 이용한 차수 내림이라고 부르는 테크닉을 사용하거나 삼차함수의 두 극점을 지나는 직선을 이용하면 더 쉽게 계산할 수 있습니다.

차수 내림 : \(f(x)=g(x)Q(x)+R(x)\)이고 \(g(\alpha)=0\)이면 \(f(\alpha)=R(\alpha)\)이다.

\(f(x)=x^3-2x^2-3x+4\)를 \(f'(x)=3x^2-4x-3\)으로 나눈 몫\(Q(x)\)와 나머지\(R(x)\)는 각각 $$\frac{1}{3}x-\frac{2}{9}, -\frac{26}{9}x+\frac{10}{3}$$입니다. 따라서 $$f(x)=f'(x)\left(\frac{1}{3}x-\frac{2}{9}\right)-\frac{26}{9}x+\frac{10}{3}$$입니다. \(f'(\alpha)=0\)이므로, $$\begin{align}f(\alpha)&=\underbrace{f'(\alpha)\left(\frac{1}{3}\alpha-\frac{2}{9}\right)}_{0}-\frac{26}{9}\alpha+\frac{10}{3}\\&=-\frac{26}{9}\cdot\frac{2-\sqrt{13}}{3}+\frac{10}{3}\\&=\frac{38+26\sqrt{13}}{27}\end{align}$$ 입니다.

삼차함수의 두 극점을 지나는 직선을 사용해도 같은 값을 얻을 수 있습니다.

삼차함수의 두 극점을 지나는 직선 : 삼차함수 \(f(x)\)를 도함수 \(f'(x)\)로 나눈 나머지를 \(R(x)\)라 하면, 삼차함수의 두 극점을 지나는 직선의 방정식은 \(y=R(x)\)

삼차함수의 두 극점을 지나는 방정식은 $$y=R(x)=-\frac{26}{9}x+\frac{10}{3}$$이므로 극점의 좌표를 삼차함수가 아닌 직선의 방정식을 이용해 구할 수 있습니다. $$R(\alpha)=\frac{38+26\sqrt{13}}{27}$$

따라서 함수 \(f(x)\)의 최대/최소는 각각 $$\frac{38+26\sqrt{13}}{27}, -\frac{143}{64}$$