역함수의 함정 Ⅱ - 함수와 역함수의 교점

역함수의 함정 Ⅱ, 함수와 역함수의 교점

April 10, 2019 함수 ★★★☆☆

함수 $f(x)$와 $f(x)$의 역함수 $g(x)$의 그래프가 모두 $(a,b)$를 지날 때, 다음 문장은 참일까요? 거짓일까요?

[진실?/거짓?] 함수 $f(x)$와 역함수 $g(x)$의 모든 교점 $(a,b)$는 직선 $y=x$위에 있다.

이 글에서는 함수와 역함수의 교점에 대해 흔히 빠질 수 있는 논리 함정에 대해 이야기 하고, 함수와 역함수의 교점에 대한 중요한 몇가지 성질들에 대해 이야기 합니다.

함수와 역함수의 모든 교점은 직선 $y=x$ 위에 있다 → 거짓

가장 흔하게 볼 수 있는 논리 함정입니다. 함수와 역함수의 교점은 $y=x$위에만 있는 것은 아닙니다.

반례1. $y=-x$

예를 들어, 실수 전체의 집합에서 정의된 함수 $y=-x$의 역함수는 $$x=-y\Leftrightarrow y=-x$$입니다. 함수와 역함수가 결국 같은 함수이기 때문에 두 함수의 그래프도 일치하게 됩니다. 따라서 함수와 역함수의 교점의 개수는 무수히 많고, 모든 교점들은 직선 $y=-x$위에 있게 됩니다. 그러므로 함수와 역함수의 교점 모두가 직선 $y=x$위에 있다고 이야기 할 수 없습니다.

반례2. $y=\dfrac{1}{x}$

함수 $y=\dfrac{1}{x}$도 마찬가지입니다. 이 함수의 역함수는 $$x=\frac{1}{y}\Leftrightarrow y=\frac{1}{x}$$가 되어 함수와 역함수가 같은 함수가 됩니다. 따라서 두 함수의 그래프가 일치하므로 함수와 역함수의 교점의 개수는 무수히 많고, 모든 교점들은 쌍곡선 $y=\dfrac{1}{x}$위에 놓이게 됩니다. 즉, 이 때에도 [반례1]과 마찬가지로 함수와 역함수의 모든 교점이 직선 $y=x$위에 있는 것이 아닙니다.

반례3. 정의역과 공역이 유한집합인 함수

집합 $X={1,2,3}$을 정의역과 공역으로 하는 함수 $f(x)$와 역함수 $g(x)$를 생각해보겠습니다.

$$\begin{array}{cc}
\begin{array}{c|ccc}
x & 1 & 2 & 3\\
\hline
f(x) & 1 & 3 & 2\\
\end{array}
&
\begin{array}{c|ccc}
x &1&2&3\\
\hline
f^{-1}(x)=g(x) &1 & 3 & 2\\
\end{array}
\end{array}$$

두 함수 모두 $(1,1)$, $(2,3)$, $(3,2)$ 를 지납니다. 이 중 $(1,1)$은 직선 $y=x$위의 점이지만, 다른 2개의 교점 $(2,3)$과 $(3,2)$는 $y=x$위의 점이 아닙니다.

반례1,2,3의 공통점

앞에서 예를 든 세 함수의 공통점은 세 함수 모두 증가함수가 아니라는 점입니다. (굳이 감소함수란 표현을 쓰지 않은 이유는 세 번째 함수는 감소함수도 증가함수도 아니지만, 일대일 대응이므로 역함수를 가질 수 있기 때문입니다.) 이 세 함수에서 알 수 있듯이 어떤 함수가 증가함수가 아니라면, 함수와 역함수의 교점은 반드시 $y=x$위에 있는 것은 아닌 것처럼 보입니다.

그렇다면 함수와 역함수의 모든 교점이 직선 $y=x$위에 있을 때는 언제일까요? 앞에서 반례로 사용한 함수와 반대로 어떤 함수가 증가함수라면, 그 함수와 역함수의 모든 교점은 $y=x$위에 있다고 말할 수 있을까요? 이 사실을 확인하기 위해서는 앞서 반례로 든 세 함수에서 (정말 중요한) 공통점을 찾아야 합니다.

함수와 역함수의 교점 $(a,b)$와 점 $(b,a)$의 관계

함수와 역함수의 교점 $(a,b)$과 이 점의 $x$좌표와 $y$좌표를 바꾸어 만든 점 $(b,a$)사이에는 다음과 같은 관계가 있습니다.

[성질1]. 함수와 역함수의 교점이 $(a,b)$이면, $(b,a)$도 두 함수의 교점이다.

$a=b$일 때

먼저 $a=b$일 때 이 성질이 성립하는 것은 당연합니다. $a=b$라면, $$(a,b)=(b,a)$$입니다.

$a\ne b$일 때

그렇다면 $a\ne b$일 때는 어떨까요? 먼저 [반례1]의 함수 $y=-x$와 이 함수의 그래프 위에 있는 점 $(-3,3)$을 예를 들어 이 성질이 성립하는지 확인해보겠습니다. 함수 $y=-x$와 역함수 $y=-x$와 같은 함수이므로 함수 $y=-x$의 모든 점은 함수와 역함수의 교점입니다. 따라서 점 $(3,-3)$은 이 함수와 역함수의 교점입니다. 점 $(3,-3)$의 $x$좌표와 $y$좌표를 바꾼 점은 $(-3,3)$이고 $$3=-(-3)$$이므로 점 $(-3,3)$도 $y=-x$위에 있는 점입니다. 즉, $(-3,3)$은 함수 $y=-x$와 역함수의 교점이므로 두 점 $(3,-3)$, $(-3,3)$은 모두 함수 $y=-x$와 역함수의 교점입니다.

이 사실은 다른 점에서도 성립합니다. $y=-x$위의 임의의 점을 $(a,-a)$ 라 두면, $$a=-(-a)$$이므로 점 $(a,-a)$의 $x$좌표와 $y$좌표를 바꾼 점 $(-a,a)$역시 직선 $y=-x$ 위에 있습니다. 따라서 점 $(a,-a)$과 이 점의 $x$좌표와 $y$좌표를 바꾸어 만든 점 $(-a,a)$ 모두 함수와 역함수의 교점이 됩니다.

다른 함수에서는 어떨까요? [반례3]에서 사용한 함수를 살펴 보겠습니다. $$\begin{array}{cc}
\begin{array}{c|ccc}
x & 1 & 2 & 3\\
\hline
f(x) & 1 & 3 & 2\\
\end{array}
&
\begin{array}{c|ccc}
x &1&2&3\\
\hline
f^{-1}(x)=g(x) &1 & 3 & 2\\
\end{array}
\end{array}$$

두 함수의 교점은 $(1,1)$, $(2,3)$, $(3,2)$입니다. 각 교점의 $x$ 좌표와 $y$좌표를 서로 바꾼 점 $(1,1)$, $(3,2)$, $(2,3)$모두 함수와 역함수의 교점이 된다는 것을 알 수 있습니다. (특히, $(2,3)$과 $(3,2)$ 이 두 점은 직선 $y=x$에 대해 대칭입니다.)

증명

이 사실이 성립하는 이유를 따져보는 것은 어렵지 않습니다. $a=b$일 때는 이 사실이 성립하는 것은 자명하므로, $a\ne b$ 일 때를 살펴보겠습니다.

함수 $f(x)$의 역함수를 $g(x)$로 두고, 다음과 같은 표를 만들어 함수와 역함수가 지나는 점을 발견할 때마다. 각각 $f(x)$열과 $g(x)$열 밑에 표시하겠습니다. 먼저 두 함수의 그래프가 모두 $(a,b)$를 지나므로 $f(x)$열과 $g(x)$열 밑에 $(a,b)$를 기록합니다. $$\begin{array}{c|c}
f(x) & g(x) \\
\hline
(a,b) & (a,b) \\
\end{array}$$ 함수 $f(x)$가 점 $(a,b)$를 지나면 $f(a)=b$이고, $$f(a)=b\Leftrightarrow g(b)=a$$가 되어 역함수 $g(x)$는 점 $(b,a)$를 지나야 합니다. 따라서 $(b,a)$를 $g(x)$열 밑에 새로 기록합니다. $$\begin{array}{c|c}
f(x) & g(x) \\
\hline
(a,b) & (a,b) \\
& \color{red}{(b,a)}
\end{array}$$ 함수 $g(x)$도 점 $(a,b)$를 지나므로 $g(a)=b$이고, $$g(a)=b\Leftrightarrow f(b)=a$$가 되어 함수 $f(x)$의 그래프는 점 $(b,a)$를 지나야 합니다. 따라서 $(b,a)$를 $f(x)$열 밑에 새로 기록합니다. $$\begin{array}{c|c}
f(x) & g(x) \\
\hline
(a,b) & (a,b) \\
\color{red}{(b,a)} & \color{red}{(b,a)}
\end{array}$$ 이제 표를 확인하면, $(a,b)$와 $(b,a)$가 모두 표에 기록되어 있다는 것을 알 수 있습니다. 이 것은 두 함수 $f(x)$와 $g(x)$ 모두 $(a,b)$와 $(b,a)$를 지난다는 것을 의미하므로 점 $(a,b)$와 점 $(b,a)$ 모두 함수와 역함수의 교점이라고 할 수 있습니다. 따라서 점 $(a,b)$가 함수와 역함수의 교점이면 $(b,a)$도 교점이 됩니다.

증가함수와 역함수의 교점의 위치

이제 지금까지 설명한 내용을 바탕으로 증가함수와 역함수의 교점이 어느 곳에 위치하는지 설명할 수 있습니다.

[성질2]. 함수 $f(x)$가 증가함수이면, 함수 $f(x)$와 역함수 $g(x)$의 모든 교점은 직선 $y=x$위에 존재한다.

증명

함수와 역함수의 교점을 $A(a,b)$로 하고, 이 점이 $y=x$위에 있지 않다고 가정하겠습니다. 교점 $A(a,b)$가 직선 $y=x$위에 있지 않으므로 $a\ne b$ 입니다.

$a<b$일 때

[성질1]에 의해 점 $B((b,a)$도 함수와 역함수의 교점이므로 두 점 $A$와 $B$모두 함수 $f(x)$위의 점입니다. 그런데 여기서 이상한 일이 벌어집니다. 증가함수는 $x$가 증가하면 $y$도 증가하는 함수입니다. $$a<b\Leftrightarrow \text{점$A$의 $x$좌표$<$점$B$의 $x$좌표}$$이므로 증가 함수의 정의에 의해 $$\text{점$B$의 $y$좌표$>$점$A$의 $y$좌표}\Leftrightarrow a>b$$가 되어야 합니다. 하지만 이 것은 $a<b$라는 가정과 모순이 됩니다. 따라서 $a<b$일 수 없습니다.

$a>b$일 때

이 경우도 마찬가지 입니다. [성질1]에 의해 점 $B((b,a)$도 함수와 역함수의 교점이므로 두 점 $A$와 $B$모두 함수 $f(x)$위의 점입니다. $$a>b\Leftrightarrow \text{점$A$의 $x$좌표$>$점$B$의 $x$좌표}$$ 이므로 증가 함수의 정의에 의해 $$\text{점$A$의 $y$좌표$>$점$B$의 $y$좌표}\Leftrightarrow b>a$$가 되어야 합니다. 이 것은 $a>b$라는 가정과 모순이 됩니다. 따라서 $a>b$일 수 없습니다.

함정에 빠지는 이유

함수와 역삼수의 교점에 대한 문제를 풀 때 종종 함정에 빠지는 이유는 교과서나 참고서에서 오개념을 갖지 않도록 충분한 설명을 하고 있지 않기 때문입니다. 고1 과정에서 역함수와 함수의 교점을 생각하고 교점 사이의 거리를 계산하거나 하는 문제들은 대부분 무리함수 단원에서 출제가 됩니다.

[문제1]

함수 $f(x)=x^2$ $(x\ge 0)$ 과 역함수 $f^{-1}(x)$의 그래프가 서로 다른 두 점 $P$, $Q$에서 만날 때, 선분 $PQ$의 길이를 구하시오.

교과서나 참고서의 일반적인 풀이

이 문제에 대한 일반적인 풀이는 다음과 같습니다.

함수 $f(x)$의 그래프와 함수 $f^{-1}(x)$의 그래프는 직선 $y=x$에 대해 대칭으므로, 교점 $P$, $Q$의 좌표는 $y=f(x)$와 직선 $y=x$의 교점의 좌표가 같으므로 방정식 $$x^2=x$$을 풀면 $$x^2-x=0\Leftrightarrow x(x-1)=0$$ 따라서 두 점의 좌표는 $(0,0)$, $(1,1)$이다. 따라서 선분 $PQ$의 길이는 $$\sqrt{(1-0)^2+(1-0)^2}=\sqrt{2}$$

이 풀이에서 논리적인 결함이 있는 것은 아니지만 이와 같은 풀이는 함수 $f(x)$와 $f^{-1}(x)$의 교점은 언제나 직선 $y=x$위에 있기 때문에 두 함수의 교점을 구할 때 방정식 $f(x)=f^{-1}(x)$를 푸는 대신 방정식$f(x)=x$를 풀어도 된다라는 잘못된 개념을 가지게 할 수 있습니다.

따라서 함수 $f(x)=x^2$ $(x\ge 0)$은 $x\ge 0$에서 증가하는 함수이므로 이 함수와 역함수의 모든 교점은 반드시 직선 $y=x$ 위에 존재하고, 다른 함수들에 대해선 그렇지 않은 경우도 있다는 것을 충분히 언급해 주어야 함수와 역함수의 교점에 대한 함정 논리에 쉽게 빠지지 않을 것입니다.