역함수의 함정 Ⅱ, 함수와 역함수의 교점

함수 \(f(x)\)와 \(f(x)\)의 역함수 \(g(x)\)의 그래프가 모두 \((a,b)\)를 지날 때, 다음 문장은 참일까요? 거짓일까요?

[진실?/거짓?] 함수 \(f(x)\)와 역함수 \(g(x)\)의 모든 교점 \((a,b)\)는 직선 \(y=x\)위에 있다.

이 글에서는 함수와 역함수의 교점에 대해 흔히 빠질 수 있는 논리 함정에 대해 이야기 하고, 함수와 역함수의 교점에 대한 중요한 몇가지 성질들에 대해 이야기 합니다.

함수와 역함수의 모든 교점은 직선 \(y=x\) 위에 있다 → 거짓

가장 흔하게 볼 수 있는 논리 함정입니다. 함수와 역함수의 교점은 \(y=x\)위에만 있는 것은 아닙니다.

반례1. \(y=-x\)

예를 들어, 실수 전체의 집합에서 정의된 함수 \(y=-x\)의 역함수는 $$x=-y\Leftrightarrow y=-x$$입니다. 함수와 역함수가 결국 같은 함수이기 때문에 두 함수의 그래프도 일치하게 됩니다. 따라서 함수와 역함수의 교점의 개수는 무수히 많고, 모든 교점들은 직선 \(y=-x\)위에 있게 됩니다. 그러므로 함수와 역함수의 교점 모두가 직선 \(y=x\)위에 있다고 이야기 할 수 없습니다.

반례2. \(y=\dfrac{1}{x}\)

함수 \(y=\dfrac{1}{x}\)도 마찬가지입니다. 이 함수의 역함수는 $$x=\frac{1}{y}\Leftrightarrow y=\frac{1}{x}$$가 되어 함수와 역함수가 같은 함수가 됩니다. 따라서 두 함수의 그래프가 일치하므로 함수와 역함수의 교점의 개수는 무수히 많고, 모든 교점들은 쌍곡선 \(y=\dfrac{1}{x}\)위에 놓이게 됩니다.  즉, 이 때에도 [반례1]과 마찬가지로 함수와 역함수의 모든 교점이 직선 \(y=x\)위에 있는 것이 아닙니다.

반례3. 정의역과 공역이 유한집합인 함수

집합 \(X={1,2,3}\)을 정의역과 공역으로 하는 함수 \(f(x)\)와 역함수 \(g(x)\)를 생각해보겠습니다.

$$\begin{array}{cc}
\begin{array}{c|ccc}
x  & 1 & 2 & 3\\
\hline
f(x) & 1 & 3 & 2\\
\end{array}
&
\begin{array}{c|ccc}
x &1&2&3\\
\hline
f^{-1}(x)=g(x) &1  & 3 & 2\\
\end{array}
\end{array}$$

두 함수 모두 \((1,1)\), \((2,3)\), \((3,2)\) 를 지납니다. 이 중 \((1,1)\)은 직선 \(y=x\)위의 점이지만, 다른 2개의 교점 \((2,3)\)과 \((3,2)\)는 \(y=x\)위의 점이 아닙니다.

반례1,2,3의 공통점

앞에서 예를 든 세 함수의 공통점은 세 함수 모두 증가함수가 아니라는 점입니다. (굳이 감소함수란 표현을 쓰지 않은 이유는 세 번째 함수는 감소함수도 증가함수도 아니지만, 일대일 대응이므로 역함수를 가질 수 있기 때문입니다.) 이 세 함수에서 알 수 있듯이 어떤 함수가 증가함수가 아니라면, 함수와 역함수의 교점은 반드시 \(y=x\)위에 있는 것은 아닌 것처럼 보입니다.

그렇다면 함수와 역함수의 모든 교점이 직선 \(y=x\)위에 있을 때는 언제일까요? 앞에서 반례로 사용한 함수와 반대로 어떤 함수가 증가함수라면, 그 함수와 역함수의 모든 교점은 \(y=x\)위에 있다고 말할 수 있을까요? 이 사실을 확인하기 위해서는  앞서 반례로 든 세 함수에서 (정말 중요한) 공통점을 찾아야 합니다.

함수와 역함수의 교점 \((a,b)\)와 점 \((b,a)\)의 관계

함수와 역함수의 교점 \((a,b)\)과 이 점의 \(x\)좌표와 \(y\)좌표를 바꾸어 만든 점 \((b,a\))사이에는 다음과 같은 관계가 있습니다.

[성질1]. 함수와 역함수의 교점이 \((a,b)\)이면, \((b,a)\)도 두 함수의 교점이다.

\(a=b\)일 때

먼저 \(a=b\)일 때 이 성질이 성립하는 것은 당연합니다. \(a=b\)라면, $$(a,b)=(b,a)$$입니다.

\(a\ne b\)일 때

그렇다면 \(a\ne b\)일 때는 어떨까요? 먼저 [반례1]의 함수 \(y=-x\)와 이 함수의 그래프 위에 있는 점 \((-3,3)\)을 예를 들어 이 성질이 성립하는지 확인해보겠습니다. 함수 \(y=-x\)와 역함수 \(y=-x\)와 같은 함수이므로 함수 \(y=-x\)의 모든 점은 함수와 역함수의 교점입니다. 따라서 점 \((3,-3)\)은 이 함수와 역함수의 교점입니다. 점 \((3,-3)\)의 \(x\)좌표와 \(y\)좌표를 바꾼 점은 \((-3,3)\)이고 $$3=-(-3)$$이므로 점 \((-3,3)\)도 \(y=-x\)위에 있는 점입니다. 즉, \((-3,3)\)은 함수 \(y=-x\)와 역함수의 교점이므로 두 점 \((3,-3)\), \((-3,3)\)은 모두 함수 \(y=-x\)와 역함수의 교점입니다.

이 사실은 다른 점에서도 성립합니다. \(y=-x\)위의 임의의 점을 \((a,-a)\) 라 두면, $$a=-(-a)$$이므로 점 \((a,-a)\)의 \(x\)좌표와 \(y\)좌표를 바꾼 점 \((-a,a)\)역시 직선 \(y=-x\) 위에 있습니다. 따라서 점 \((a,-a)\)과 이 점의 \(x\)좌표와 \(y\)좌표를 바꾸어 만든 점 \((-a,a)\) 모두 함수와 역함수의 교점이 됩니다.

다른 함수에서는 어떨까요? [반례3]에서 사용한 함수를 살펴 보겠습니다. $$\begin{array}{cc}
\begin{array}{c|ccc}
x  & 1 & 2 & 3\\
\hline
f(x) & 1 & 3 & 2\\
\end{array}
&
\begin{array}{c|ccc}
x &1&2&3\\
\hline
f^{-1}(x)=g(x) &1  & 3 & 2\\
\end{array}
\end{array}$$

두 함수의 교점은 \((1,1)\), \((2,3)\), \((3,2)\)입니다. 각 교점의 \(x\) 좌표와 \(y\)좌표를 서로 바꾼 점 \((1,1)\), \((3,2)\), \((2,3)\)모두 함수와 역함수의 교점이 된다는 것을 알 수 있습니다. (특히, \((2,3)\)과 \((3,2)\) 이 두 점은 직선 \(y=x\)에 대해 대칭입니다.)

증명

이 사실이 성립하는 이유를 따져보는 것은 어렵지 않습니다. \(a=b\)일 때는 이 사실이 성립하는 것은 자명하므로, \(a\ne b\) 일 때를 살펴보겠습니다.

함수 \(f(x)\)의 역함수를 \(g(x)\)로 두고, 다음과 같은 표를 만들어 함수와 역함수가 지나는 점을 발견할 때마다. 각각 \(f(x)\)열과 \(g(x)\)열 밑에 표시하겠습니다. 먼저 두 함수의 그래프가 모두 \((a,b)\)를 지나므로 \(f(x)\)열과 \(g(x)\)열 밑에 \((a,b)\)를 기록합니다.  $$\begin{array}{c|c}
f(x) & g(x) \\
\hline
(a,b) & (a,b)  \\
\end{array}$$ 함수 \(f(x)\)가 점 \((a,b)\)를 지나면 \(f(a)=b\)이고, $$f(a)=b\Leftrightarrow g(b)=a$$가 되어 역함수 \(g(x)\)는 점 \((b,a)\)를 지나야 합니다. 따라서 \((b,a)\)를 \(g(x)\)열 밑에 새로 기록합니다. $$\begin{array}{c|c}
f(x) & g(x) \\
\hline
(a,b) & (a,b) \\
& \color{red}{(b,a)}
\end{array}$$ 함수 \(g(x)\)도 점 \((a,b)\)를 지나므로 \(g(a)=b\)이고, $$g(a)=b\Leftrightarrow f(b)=a$$가 되어 함수 \(f(x)\)의 그래프는 점 \((b,a)\)를 지나야 합니다. 따라서 \((b,a)\)를 \(f(x)\)열 밑에 새로 기록합니다. $$\begin{array}{c|c}
f(x) & g(x) \\
\hline
(a,b) & (a,b) \\
\color{red}{(b,a)} & \color{red}{(b,a)}
\end{array}$$ 이제 표를 확인하면, \((a,b)\)와 \((b,a)\)가 모두 표에 기록되어 있다는 것을 알 수 있습니다. 이 것은 두 함수 \(f(x)\)와 \(g(x)\) 모두 \((a,b)\)와 \((b,a)\)를 지난다는 것을 의미하므로 점 \((a,b)\)와 점 \((b,a)\) 모두 함수와 역함수의 교점이라고 할 수 있습니다. 따라서 점 \((a,b)\)가 함수와 역함수의 교점이면 \((b,a)\)도 교점이 됩니다.

증가함수와 역함수의 교점의 위치

이제 지금까지 설명한 내용을 바탕으로 증가함수와 역함수의 교점이 어느 곳에 위치하는지 설명할 수 있습니다.

[성질2]. 함수 \(f(x)\)가 증가함수이면, 함수 \(f(x)\)와 역함수 \(g(x)\)의 모든 교점은 직선 \(y=x\)위에 존재한다.

증명

함수와 역함수의 교점을 \(A(a,b)\)로 하고, 이 점이 \(y=x\)위에 있지 않다고 가정하겠습니다. 교점 \(A(a,b)\)가 직선 \(y=x\)위에 있지 않으므로 \(a\ne b\) 입니다.

\(a<b\)일 때

[성질1]에 의해 점 \(B((b,a)\)도 함수와 역함수의 교점이므로 두 점 \(A\)와 \(B\)모두 함수 \(f(x)\)위의 점입니다. 그런데 여기서 이상한 일이 벌어집니다. 증가함수는 \(x\)가 증가하면 \(y\)도 증가하는 함수입니다. $$a<b\Leftrightarrow \text{점$A$의 $x$좌표$<$점$B$의 $x$좌표}$$이므로 증가 함수의 정의에 의해 $$\text{점$B$의 $y$좌표$>$점$A$의 $y$좌표}\Leftrightarrow a>b$$가 되어야 합니다. 하지만 이 것은 \(a<b\)라는 가정과 모순이 됩니다. 따라서 \(a<b\)일 수 없습니다.

\(a>b\)일 때

이 경우도 마찬가지 입니다. [성질1]에 의해 점 \(B((b,a)\)도 함수와 역함수의 교점이므로 두 점 \(A\)와 \(B\)모두 함수 \(f(x)\)위의 점입니다. $$a>b\Leftrightarrow \text{점$A$의 $x$좌표$>$점$B$의 $x$좌표}$$ 이므로 증가 함수의 정의에 의해 $$\text{점$A$의 $y$좌표$>$점$B$의 $y$좌표}\Leftrightarrow b>a$$가 되어야 합니다. 이 것은 \(a>b\)라는 가정과 모순이 됩니다. 따라서 \(a>b\)일 수 없습니다.

함정에 빠지는 이유

함수와 역삼수의 교점에 대한 문제를 풀 때 종종 함정에 빠지는 이유는 교과서나 참고서에서 오개념을 갖지 않도록 충분한 설명을 하고 있지 않기 때문입니다. 고1 과정에서 역함수와 함수의 교점을 생각하고 교점 사이의 거리를 계산하거나 하는 문제들은 대부분 무리함수 단원에서 출제가 됩니다.

[문제1]

함수 \(f(x)=x^2\) \((x\ge 0)\) 과 역함수 \(f^{-1}(x)\)의 그래프가 서로 다른 두 점 \(P\), \(Q\)에서 만날 때, 선분 \(PQ\)의 길이를 구하시오.

교과서나 참고서의 일반적인 풀이

이 문제에 대한 일반적인 풀이는 다음과 같습니다.

함수 \(f(x)\)의 그래프와 함수 \(f^{-1}(x)\)의 그래프는 직선 \(y=x\)에 대해 대칭으므로, 교점 \(P\), \(Q\)의 좌표는 \(y=f(x)\)와 직선 \(y=x\)의 교점의 좌표가 같으므로 방정식 $$x^2=x$$을 풀면 $$x^2-x=0\Leftrightarrow x(x-1)=0$$ 따라서 두 점의 좌표는 \((0,0)\), \((1,1)\)이다. 따라서 선분 \(PQ\)의 길이는 $$\sqrt{(1-0)^2+(1-0)^2}=\sqrt{2}$$

이 풀이에서 논리적인 결함이 있는 것은 아니지만 이와 같은 풀이는 함수 \(f(x)\)와 \(f^{-1}(x)\)의 교점은 언제나 직선 \(y=x\)위에 있기 때문에 두 함수의 교점을 구할 때 방정식 \(f(x)=f^{-1}(x)\)를 푸는 대신 방정식\(f(x)=x\)를 풀어도 된다라는 잘못된 개념을 가지게 할 수 있습니다.

따라서 함수 \(f(x)=x^2\) \((x\ge 0)\)은 \(x\ge 0\)에서 증가하는 함수이므로 이 함수와 역함수의 모든 교점은 반드시 직선 \(y=x\) 위에 존재하고, 다른 함수들에 대해선 그렇지 않은 경우도 있다는 것을 충분히 언급해 주어야 함수와 역함수의 교점에 대한 함정 논리에 쉽게 빠지지 않을 것입니다.

관련 문제

함수와 역함수의 교점이 어떤 관계가 있는지, 더 나아가 함수의 순환 개념에 대해서 생각해볼 수 있는 좋은 문제입니다. 더 자세한 내용은 링크를 클릭하여 관련 글을 확인해주세요~

관련 글

46 Comments
oldest
newest
Inline Feedbacks
View all comments
수학마니아
4 years ago

정말 수준 높은 글입니다. 도움 많이 되었습니다.
이런 글을 많이 볼 수 있었으면 좋겠습니다. 집필을 응원합니다.

ㅇㅇ
4 years ago

감사합니다 헷갈리는 개념이었는데 이해가 됐어요 적게 일하고 많이 버세요 ㅠㅠ

수학강사
4 years ago

정말 큰 도움이 됐습니다!!

수학어려워
4 years ago

헷갈리는 부분을 정확히 알려주신 것 같아요
설명이 너무 장황하지도 않고 우리가 논리적 오류에 빠지는 부분만 집어서 이해할 수 있었던 것 같아요 현재 고1인데 너무 헷갈려서 문제집이나 교과서나 개념서를 봐도 제대로 알 수 없었는데 이 글을 보고 이해했습니다
앞으로 많이많이 올려주세요!!

수학 어려워
4 years ago

아 그리고 반례 1에 y=-x 인 것 같은데 y=x 라고 나와있는 것 같아요

감사해요!
4 years ago

이기적이게도 저 혼자만 알고싶어지는 글들입니다
수능 수학 가형 준비하는 이과생인데 정말 알찬 글들 감사드립니다

조호영
4 years ago

그렇다면, 연속함수 f에 대해 y=x와의 교점에서 미분계수는 -1이겠네요

조호영
4 years ago
Reply to  godingMath

f: 증가함수 -> 미분계수=1
f: 감소함수 -> 미분계수=-1

조호영
4 years ago
Reply to  조호영

교점에서요

조호영
4 years ago
Reply to  godingMath

아 증가함수는 아니네용…
감소함수는 맞ㅣ 않나요?

조호영
4 years ago
Reply to  godingMath

아.. f=f^(-1)일때요.
가장 핵심적인 조건을 빼먹었네요 ㅎㅎ
증가함수, 감소함수일때 y=x와의 교점에서 미분계수가 1,-1인거 증명했습니다.

조호영
4 years ago

‘역함수’ 부분의 총정리를 부탁드립니다…
역함수가 특히나 많이 약한 거 같아서요 ㅠㅠ

조호영
4 years ago
Reply to  godingMath

넵! 감사합니다~
예를 들자면 역함수의 lim시그마나, 역함수 정적분 공식, 부등식 같은 거도 해주시면 더 나을듯합니다.

Hee
4 years ago

진짜 좋은 글이네요….공부 열심히 하겠습니다. 감사해요

Pra
3 years ago

안녕하세요~ 수하에서 역함수 관련의구심이 들어 검색하던 중
좋은 글 보고가네요
고1 뉴비라 아직 완벽히 이해는 안되지만
1.함수와 역함수의 교점이 (a.b)일때 a가b랑 같은 값이 아니라면
(b.a)도 역함수와함수의 교점이고
2.증가함수에서는 교점위치가y=x 위에존재하는것이 맞지만 증가함수가 아니라면 교점위치가y=x위가 아닐수 있으니까
모든 함수의역함수와 그 함수의 교점은” 언제나y=x위에 존재한다”는 틀리다라는거네요…ㅎㅎ
제가 잘이해한건가요?

고2
3 years ago

와 고1때부터 계속 의문이었는데 이 글을 보고 시원하게 해결이 되었습니다 감사합니다

샤샤샤
3 years ago

궁금증 완벽히 해결! 깔끔하고 정확한 설명 감사합니다.

제니아
3 years ago

감소함수일 경우의 역함수교점에 관해 그동안 많은 혼란이 있었는데 깔끔하게 정리 이해가 되어서 정말 감사합니다!
좋은 설명 많은 도움이 되었습니다!

ㅇㅇ
3 years ago

y=-1/x 는 증가함수라고 흔히 생각하고, 역함수가 자기 자신인데도 y=x 와의 교점이 존재하지 않습니다.
이것은 글의 성질 2가 틀린 것 처럼 보이게 하는 예시라서 한번 말씀해주시면 좋겠네요

Last edited 3 years ago by ㅇㅇ
1등급
2 years ago

자세한 설명 덕에 역함수에 관한 오개념 잘 정리할 수 있게 된 것 같아 정말 감사한다는 말씀 전해드리고 싶어요!!

혹시 그러면 연속인 감소함수의 역함수가 존재한다 했을 때, 원함수와 역함수와의 교점은 ‘무조건’ 한 개 이상인 건가요??? 직관적으로도 봤을 때도 그런 것 같고 나름의 증명을 해 보기도 했는데 이에 대한 확답을 다른 곳에서 찾을 수가 없어서 한 번 여쭤봤습니다!

1등급
2 years ago
Reply to  godingMath

으악 친절한 설명 진짜 감사합니다ㅜㅠㅜ

석호영
2 years ago

늘 좋은 팁과 더불어 상세한 증명까지 해주셔서 정말 잘 읽고 있습니다! 그런데 [함정에 빠지는 이유]란에 역삼수라고 오타가 나 있더라구요 혹시나 모르셨을까봐 알려드려요! 잘 읽고 가요 감사함니다!

EC
2 years ago

좋은 글 감사합니다. 잘 읽었습니다.

예비고1
2 years ago

f○f‐¹=f-¹○f 의 반례의 예시를 주실수 있나요

김태양
2 years ago

몇 번을 봐도 정말 잘 쓰신 것 같아요!

세계
1 year ago

정말 완벽한 정리 감사합니다.

세계
1 year ago

이런 내용들 책으로 집필해 주시면 학생들 교육하는데 너무 도움이 될 것 같습니다.

ㅇㅇ
10 months ago

정말 훌륭한 글이네요

.
9 months ago

역함수의 특징이 잘 정리가 안됐었는데 정말 감사합니다!.!

ㄱㅇㅊ
7 months ago

정말 감사합니다. 혼자 독학재수 하고 있는데 진짜 도움 많이 됬어요