전설의 수학 문제를 찾아서 – 삼차함수의 최대/최소 (1991, 동경대)

전설의 수학 문제를 찾아서, 5번째 문제는 3차함수의 최대/최소 문제입니다. 1991년 동경대 입시 문제로, 많은 사람들을 놀라게 했던 문제입니다.

구간 \(-\dfrac{7}{4}\leq x \leq 3\) 에서 함수 \(f(x)=x^3-2x^2-3x+4\) 의 최댓값과 최솟값을 구하시오

이 문제는 평범한 문제입니다. 하지만 이 문제는 어려운 문제입니다. 이 문제에 담겨있는 출제자의 의도는 무엇일까요? 그리고 이 문제에서 배울 수 있는 것은 무엇일까요? 

전설이라고 부를 수 있는 수학 문제들은 어떤 것일까요? 문제 풀이의 난이도와 관계 없이, 수학 문제를 푸는 재미가 있는 문제, 학문적인 의미를 가지고 있는 문제, 문제 풀이의 원리가 여러 다른 문제에서도 두고 두고 사용되는 문제입니다. “전설의 수학 문제를 찾아서”는 전설이라고 부를 수 있는 수학 문제들을 찾아 풀어보고, 무엇을 배울 수 있는지 그 배경과 의미를 설명하는 연재글입니다.

출제자가 이 문제 뒤에 숨겨 놓은 것

이 문제는 평범한 문제입니다. 하지만 동시에 어려운 문제입니다. 동경대 지망생들중 대략 2%정도만이 감점을 받지 않는 올바른 답을 적어낸다고 알려져 있습니다. 과연 출제자는 이 문제에 어떠한 수학적 장치를 설치해 놓았을까요? (이 글의 나머지 부분을 읽기 전에 문제를 꼭 풀어보는 것이 좋습니다. 문제를 직접 풀어보시면 출제자의 멋진 의도를 잘 느낄 수 있습니다.)

닫힌 구간이 주어진 함수의 최대 최소

일단 이 문제는 닫힌 구간이 주어진 함수의 최대/최소를 구하는 문제입니다.  닫힌 구간 \([a,b]\)에서 연속인 함수 \(f(x)\)의 최대/최소를 구하는 과정을 교과서에서는 다음과 같은 방법으로 설명하고 있습니다.

구간 \([a,b]\)에서 연속인 함수 \(f(x)\)는 이 구간에서 반드시 최댓값과 최솟값을 가지고, 이 구간내에 존재하는 모든 극값과 양 끝점의 함숫값인 \(f(a)\)와 \(f(b)\) 중에서 가장 큰 값이 최댓값, 가장 작은 값이 최솟값이다.

먼저 극값을 찾기 위해 이 함수의 도함수를 구하면, $$f'(x)=3x^2-4x-3$$입니다. 따라서 함수 \(f(x)\)의 극값을 구하기 위해 방정식 \(f'(x)=0\)의 해를 구하면 $$x=\frac{2\pm\sqrt{13}}{3}$$입니다. \(\alpha=\dfrac{2-\sqrt{13}}{3}\), \(\beta=\dfrac{2+\sqrt{13}}{3}\)라 두면, 함수 \(f(x)\)의 극값은 \(f(\alpha)\), \(f(\beta)\)이고, \(\alpha\)와 \(\beta\) 모두 $$-\frac{7}{4}<\alpha<3,-\frac{7}{4}<\beta<3$$이므로 함수 \(f(x)\)의 최대/최소는 $$f\left(-\frac{7}{4}\right), f(\alpha), f(\beta), f(3)$$ 의 값을 비교하여 구할 수 있습니다.

먼저, \(f(3)\)의 값은 전혀 어렵지 않게 구할 수 있습니다. $$\begin{align}f(3)&=3^3-2\cdot 3^2-3\cdot 3+4\\&=27-18-9+4\\&=4\end{align}$$ 하지만, \(f\left(-\dfrac{7}{4}\right)\) 부터는 계산하는 것이 슬슬 까다로워 시작합니다. $$\begin{align}f\left(-\frac{7}{4}\right)&=\left(-\frac{7}{4}\right)^3-2\left(-\frac{7}{4}\right)^2-3\left(-\frac{7}{4}\right)+4\\&=-\frac{343}{64}-\frac{49}{8}+\frac{21}{4}+4\\&=-\frac{143}{64}\end{align}$$ 이제 \(f(\alpha)\)와 \(f(\beta)\)를 구하려고 하면 계산의 복잡도가 크게 증가합니다. $$\begin{align}f(\alpha)&=f\left(\frac{2-\sqrt{13}}{3}\right)\\
&=\left(\frac{2-\sqrt{13}}{3}\right)^3-2\left(\frac{2-\sqrt{13}}{3}\right)^2-3\left(\frac{2-\sqrt{13}}{3}\right)+4\\&=\frac{38+26\sqrt{13}}{27}\tag{1}\label{eq1}\end{align}$$$$\begin{align}f(\beta)&=f\left(\frac{2+\sqrt{13}}{3}\right)\\
&=\left(\frac{2+\sqrt{13}}{3}\right)^3-2\left(\frac{2+\sqrt{13}}{3}\right)^2-3\left(\frac{2+\sqrt{13}}{3}\right)+4\\&=\frac{38-26\sqrt{13}}{27}\tag{2}\label{eq2}\end{align}$$ 이제 $$4, -\frac{143}{64}, \frac{38+26\sqrt{13}}{27}, \frac{38-26\sqrt{13}}{27}$$ 중에서 가장 큰 값과 작은 값을 찾아야 합니다. 여기에서 \(\sqrt{13}\) 의 근삿값을 사용하여 계산을 하려고 하여도 \(\sqrt{13}=3.605…\)이기 때문에 그 계산도 결코 쉬운 것은 아닙니다. (그리고 논술 시험의 답안에서는 근삿값을 사용하여 크기 비교를 할 때에는 감점을 받지 않도록 풀이를 작성해야 하는 부담도 있습니다.)

자 이제, 이 문제의 출제 의도는 분명해졌습니다. 단순한 문제이지만, 계산이 아주 복잡한 문제, 출제자는 결국 다음과 같은 질문을 하고 있는 것입니다.

복잡한 계산을 줄이려면 무엇을 해야하는가?

문제를 푸는 사람이 해야할 것

이 문제에서 복잡한 계산이 필요한 부분은 크게 2가지입니다. 따라서 문제를 푸는 사람이 신경써야 하는 것들은 다음과 같은 것들입니다.

  1. \(f(-\dfrac{7}{4})\), \(f(3)\), \(f(\alpha)\), \(f(\beta)\) 를 쉽게 비교하기
  2. \(f(\alpha)\), \(f(\beta)\) 를 쉽게 계산하기

차례대로 살펴보겠습니다.

3차함수의 대칭성을 이용하여 \(f(-\dfrac{7}{4})\), \(f(3)\), \(f(\alpha)\), \(f(\beta)\)를 비교한다.

이 문제에서 출제자가 가장 크게 신경을 쓴 부분입니다. 이 부분을 해결하려면 3차함수의 대칭성(→4등분 법칙)을 이용합니다. 극댓점 \((\alpha, f(\alpha))\)에서의 접선이 함수 \(f(x)\)의 그래프와 만나는 점 중 접점이 아닌 점의 \(x\)좌표를 \(\gamma\), 극솟점 \((\beta, f(\beta))\)에서의 접선이 함수 \(f(x)\)의 그래프와 만나는 점 중 접점이 아닌 점의 \(x\)좌표를 \(\delta\)라 두겠습니다. 또한 \(f”(x)=6x-4\) 이므로 변곡점의 \(x\)좌표는 방정식 \(f”(x)=0\)의 해인 \(\dfrac{2}{3}\)입니다.

3차함수의 대칭성과 4등분 법칙을 사용하면 $$\frac{2}{3}-\alpha:\gamma-\frac{2}{3}=1:2\\\Rightarrow \gamma=2-2\alpha$$입니다. (이 관계는 근과 계수의 관계를 이용하여 얻을 수도 있습니다. 방정식 $$\begin{align}&f(x)=f(\alpha)\\
&\Rightarrow x^3-2x^2-3x+4=f(\alpha)\\
&\Rightarrow x^3-2x^2-3x+4-f(\alpha)=0\end{align}$$ 의 해는 \(x=\alpha\) (중근), \(x=\gamma\) 이고, 이 방정식의 \(x^2\)의 계수는 2이므로 근과 계수의 관계를 사용하면 $$\alpha+\alpha+\gamma=2$$를 얻을 수 있습니다.)

\(\alpha=\dfrac{2-\sqrt{13}}{3}\) 이므로, $$\begin{align}\gamma&=2-2\alpha\\&=2-2\cdot\frac{2-\sqrt{13}}{3}\\&=\frac{2+2\sqrt{13}}{3}\end{align}$$ 입니다. 이제 \(\gamma\)와 구간의 오른쪽 끝인 3과 크기 비교를 하기 위해 두 수를 빼보겠습니다. $$\begin{align}\gamma-3&=\frac{2+2\sqrt{13}}{3}-3\\&=\frac{2\sqrt{13}-7}{3}\\&=\frac{\sqrt{52}-\sqrt{49}}{3}>0\end{align}$$ 입니다. \(\gamma>3\)이므로 \(f(\gamma)>f(3)\)입니다. 그런데 \(f(\gamma)=f(\alpha)\) 이므로 $$f(\gamma)>f(3)\Leftrightarrow f(\alpha)>f(3)$$이 되어 이 함수의 최댓값은 \(f(\alpha)\)입니다.

마찬가지로, 3차함수의 대칭성을 이용하거나 근과 계수의 관계를 이용하면 \(\delta=2-2\beta\)를 얻을 수 있습니다. \(\beta=\dfrac{2+\sqrt{13}}{3}\)이므로 $$\begin{align}\delta&=2-2\beta\\&=2-2\cdot\frac{2+\sqrt{13}}{3}\\&=\frac{2-2\sqrt{13}}{3}\end{align}$$ 입니다. \(\delta\)와 구간의 왼쪽 끝인 \(-\dfrac{7}{4}\)와 크기 비교를 하기 위해 두 수를 빼보면, $$\begin{align}\delta-\left(-\frac{7}{4}\right)&=\frac{2-2\sqrt{13}}{3}+\frac{7}{4}\\&=\frac{29-8\sqrt{13}}{12}\\&=\frac{\sqrt{841}-\sqrt{832}}{12}>0\end{align}$$입니다. 즉, \(-\dfrac{7}{4}<\delta<0\) 이므로 \(f\left(-\frac{7}{4}\right)<f(\delta)\) 입니다. 그런데 \(f(\delta)=f(\beta)\) 이므로, $$f\left(-\frac{7}{4}\right)<f(\delta)\Leftrightarrow f\left(-\frac{7}{4}\right)<f(\beta)$$ 이므로 이 함수의 최솟값은 \(f\left(-\dfrac{7}{4}\right)\)입니다.

차수 내림 (또는 차수 인하)를 사용하거나, 삼차함수의 두 극점을 지나는 직선을 이용하여 \(f(\alpha)\)와 \(f(\beta)\)를 계산한다.

앞서 \(\eqref{eq1}\)에서, $$\begin{align}f(\alpha)&=f\left(\frac{2-\sqrt{13}}{3}\right)\\
&=\left(\frac{2-\sqrt{13}}{3}\right)^3-2\left(\frac{2-\sqrt{13}}{3}\right)^2-3\left(\frac{2-\sqrt{13}}{3}\right)+4\\&=\frac{38+26\sqrt{13}}{27}\end{align}$$라는 것을 구한 적이 있습니다. 이 계산을 직접 할 수 있지만, 나머지 정리를 이용한 차수 내림이라고 부르는 테크닉을 사용하거나 삼차함수의 두 극점을 지나는 직선을 이용하면 더 쉽게 계산할 수 있습니다.

차수 내림 : \(f(x)=g(x)Q(x)+R(x)\)이고 \(g(\alpha)=0\)이면 \(f(\alpha)=R(\alpha)\)이다.

\(f(x)=x^3-2x^2-3x+4\)를 \(f'(x)=3x^2-4x-3\)으로 나눈 몫\(Q(x)\)와 나머지\(R(x)\)는 각각 $$\frac{1}{3}x-\frac{2}{9}, -\frac{26}{9}x+\frac{10}{3}$$입니다. 따라서 $$f(x)=f'(x)\left(\frac{1}{3}x-\frac{2}{9}\right)-\frac{26}{9}x+\frac{10}{3}$$입니다. \(f'(\alpha)=0\)이므로, $$\begin{align}f(\alpha)&=\underbrace{f'(\alpha)\left(\frac{1}{3}\alpha-\frac{2}{9}\right)}_{0}-\frac{26}{9}\alpha+\frac{10}{3}\\&=-\frac{26}{9}\cdot\frac{2-\sqrt{13}}{3}+\frac{10}{3}\\&=\frac{38+26\sqrt{13}}{27}\end{align}$$ 입니다.

삼차함수의 두 극점을 지나는 직선을 사용해도 같은 값을 얻을 수 있습니다.

삼차함수의 두 극점을 지나는 직선 : 삼차함수 \(f(x)\)를 도함수 \(f'(x)\)로 나눈 나머지를 \(R(x)\)라 하면, 삼차함수의 두 극점을 지나는 직선의 방정식은 \(y=R(x)\)

삼차함수의 두 극점을 지나는 방정식은 $$y=R(x)=-\frac{26}{9}x+\frac{10}{3}$$이므로 극점의 좌표를 삼차함수가 아닌 직선의 방정식을 이용해 구할 수 있습니다. $$R(\alpha)=\frac{38+26\sqrt{13}}{27}$$

따라서 함수 \(f(x)\)의 최대/최소는 각각 $$\frac{38+26\sqrt{13}}{27}, -\frac{143}{64}$$

13 Comments
oldest
newest
Inline Feedbacks
View all comments
익명
5 years ago

미분 잘못 하신 것 같습니다 😀
처음에 도함수가 6x가 아니라 4x가 아닌가요 ㅋㅋㅋㅋ
(그래도 나머지 맥락 흐름 이해하는데는 중요하지는 않습니다만)

.
5 years ago

이런 부분도 있군요..
문제 풀 때 계산이 복잡하면 더러운 문제라고 판단하고 넘어갔는데
이 글이 문제를 여러 가지 방법으로 생각해볼 원동력이 될 것 같아요. 감사합니다.

ㅁㅁ
4 years ago

이 문제와 동일한 아이디어는 아니지만 평가원에서도 사차함수로 낸 문제가 있었던 것 같네요. 단순히 계산하려하면 어려워지는..

박현서
4 years ago

극대극소의 x좌표값과 3,-7/4를 비교하면 쉬운 문제 같은디…

1시5분
4 years ago

님거 삼차함수대칭성 보고 어쩌다 이거보고왔는데 바로 이 아이디어 떠오르더군요 계산도중 2플고루트13분의 3에서 루트13을 3으로보고 계산했다가 엥 했는데 13으로 하니 바로되네요.
이런 삼차함수의 자세한 특징까지는 교과과정에서 제대로 배우지는 않을텐데 말이죠 알아서 추론하라는건가 이정도는 미리 알고있는 학생만 풀었을것같네요 아님 머리가 엄청 좋아서 거기서 시간내로 알아낸다든지

강동현
2 years ago

크게 좋은 풀이는 아닌거 같지만 f(x)에서 x를 -2/3만큼 대칭이동하고 y를 -4 만큼 대칭이동한 후에 27을 곱하니 (3x+2)(3x-7)(3x+5)로 나왔네요. 이때의 3x를 t로 치환하고
그 함수를 g(t)라고 했을 때 g(t)=(t+2)(t-7)(t+5)이고 t범위는 -29/4부터 7까지로 나오게 되어, g(7)과 g(-루트13)을 비교 했을때, -루트 13은 -5와 -2 사이라 g(-루트13)은 0보다 큰값일테고 g(7)=0이니 최댓값은 ‘극댓값 일때이다’ 까지는 알 수 있었네요. 조악하지만 제 풀이를 남겨봤습니다.

ㅇㅇ
2 years ago

최댓값인 f(alpha)을 구할 때 f(-3/2)값에 이차함수의 정적분 넓이 공식을 사용하여 f(beta)-f(alpha)값을 구하고, (f(beta)-f(alpha))/2를 더하여 f(alpha)값을 구할 수 있을 것 같네요.

신경호
11 months ago

루트13 = 3 + A
여기서 0.5 < A < 0.7입니다(루트(3.5*3.5) < 루트13 <루트(3.7*3.7)
그러면 대수학적으로 쉽게 대소 비교를 할 수 있다고 봅니다.
저는 86학번 이공계라서 3차 함수 대칭은 배우지 않았는데 동경대 교수는 차라리 순발력을 보지 않았을까 생각합니다.

ㅇㅇ
11 months ago

이 문제는 무려 시험지의 1번 문제였습니다.
많은 학생들이 가장 먼저 손을 댔다가 데였을 듯 하네요.