godingMath

실수 전체의 집합을 정의역과 공역으로 사용하는 함수 \(y=f(x)\)가 있습니다. 함수 \(y=f(x)\)의 역함수에 대한 다음 문장 중 진실인 것은 무엇일까요?

진실 혹은 거짓?

1. 함수 \(y=f(x)\)가 역함수를 가지려면 함수 \(y=f(x)\)는 실수 전체에서 연속이어야 한다.
2. \(y=f(x)\)가 역함수를 가지려면 함수 \(y=f(x)\)는 증가 또는 감소함수이어야 한다.

이 글에서는 이 문장들의 참거짓을 판단하고, 역함수와 일대일 대응의 논리적 함정에 대해서 이야기 합니다.

1→거짓, 2→거짓

두 문장 모두 거짓입니다. 실수 전체의 집합을 정의역과 공역으로 사용하는 함수 \(f(x)\)에 대해서 다음과 같은 사실이 성립하기 때문입니다.

1. 일대일 대응이 되기 위해서  함수 \(f(x)\)가 반드시 실수 전체에서 연속일 필요는 없다.
2. 하지만 함수 \(f(x)\)가 실수 전체에서 연속이면 일대일 대응이 되기 위해 함수 \(f(x)\)는 반드시 실수 전체에서 증가하거나 감소하는  함수가 되어야 한다.

역함수와 일대일 대응에 대한 문제를 풀다보면 단순해 보이는 문제라도 잘못된 개념으로 인해 바른 답을 구하는 것이 곤란할 때가 종종 있습니다. 역함수와 일대일 대응에 대한 문제를 풀 때에는 문제의 결론을 일반화 시킬 수 있는지, 그 결론이 다른 문제에도 항상 적용 가능한지 주의 깊게 따져보아야 합니다. 그렇지 않으면 잘못된 추론을 할 수 있습니다. 다음 문제는 역함수와 일대일 대응의 정의를 배우면서 흔히 풀어보게 되는 문제입니다. 이 문제는 좋은 문제이지만 한편으로 역함수와 일대일 대응에 대한 잘못된 개념을 갖게 하는 문제이기도 합니다.

[문제1]

실수 전체의 집합을 정의역과 공역으로 하는 함수 $$f(x)=
\begin{cases}
g(x)=x+2 & \text{($x \lt 0$)}\\
h(x)=ax+b & \text{($x\geq 0$)}
\end{cases}$$ 가 역함수를 가질 조건을 구하시오.

풀이1

먼저 일대일 대응이 되기 위해서는 치역과 공역이 같은 집합이 되어야 합니다. 함수 \(f(x)\)의 공역은 실수 전체의 집합 \(\mathbb R\) 이므로, 함수 \(f(x)\)의 치역 역시 \(\mathbb R\) 이 되어야 합니다. 그런데 \(x\lt 0\) 일 때 함수 \(g(x)\)의 치역 \(R_{g}=\{y|y<2\}\) 이고, \(x\geq 0\) 일 때 함수 \(h(x)\)의 치역을 \(R_{h}\) 이라 하면 함수 \(f(x)\)의 치역$$R_{f}=R_{g}\cup R_{h}=\mathbb {R}$$이 되어야 합니다.

또한 함수 \(f(x)\)가 일대일 대응이 되기위해서는 $$R_g\cap R_h=\phi$$가 되어야 합니다. (즉 두 집합 \(R_g\)와 \(R_h\)는 서로소가 되어야 합니다.) 만약 두 집합 \(R_g\)와 \(R_h\) 가 서로소가 아니라면, 두 집합 모두에 속하는 어떤 실수 \(c\)가 존재하게 됩니다. 즉 서로 다른 두 실수 \(x_1\), \(x_2\) (\(x_1<0\), \(x_2\geq 0\))에 대해$$g(x_1)=h(x_2)=c\Leftrightarrow f(x_1)=f(x_2)$$가 성립합니다. 하지만 이 사실은 \(x\)값이 다르면 \(y\) 값도 달라야 한다는 일대일 대응의 조건을 위반하게 됩니다. 따라서 함수 \(f(x)\)가 일대일 대응이 되기 위해서는 두 집합 \(R_g\)와 \(R_h\)는 서로소가 되어야 합니다. 그러므로 $$\begin{align}
R_h&=\mathbb{R} – R_g\\
&=\mathbb{R}-\{y|y<2\}\\
&=\{y|y\geq 2\}\end{align}$$가 되어야 합니다.

이제 \(R_{h}=\{y|y\geq 2\}\)가 되기 위한 \(a\)의 조건을 생각해보겠습니다. 먼저 \(a=0\) 이라면 \(x\geq 0\)에서, 함수 \(h(x)=b\)입니다. 따라서 함수 \(h(x)\)의 치역 \(R_h=\{b\}\)이고, \(\{b\}\ne \{y|y\geq 2\}\)이므로 함수 \(f(x)\)는 실수 전체에서 일대일 대응이 될 수 없습니다.

마찬가지로 \(a\lt 0\) 이라면, \(x\geq 1\) 에서 함수 \(h(x)=ax+b\)는 기울기가 음수인 일차함수가 됩니다. \(h(0)=b\)이고, 기울기가 음수인 일차함수는 감소함수이므로 함수 \(h(x)\)의 최댓값은 \(b\)입니다. 그러므로 함수 \(h(x)\)의 치역은 \(R_{h}=\{y|y\leq b\}\) 입니다. 하지만 \(a\)와 \(b\)의 값과 관계없이 \(\{y|y\leq b\}\ne\{y|y\geq 2\}\) 이므로 함수 \(f(x)\)는 일대일 대응이 될 수 없습니다.

마지막으로 \(a\gt 0\) 이라면,  \(x\geq 0\) 에서 함수 \(h(x)=ax+b\)는 기울기가 양수인 일차함수가 됩니다. 기울기가 양수인 일차함수는 증가함수이고, \(h(0)=b\)이므로 함수 \(h(x)\)의 최솟값은 \(b\)입니다.  따라서 함수 \(h(x)\)의 치역은 \(R_h=\{y|y\geq b\}\) 이므로 \(\{y|y\geq b\}=\{y|y\geq 2\}\) 이려면 \(b=2\)가 되어야 합니다. 따라서 함수가 \(f(x)\)가 일대일 대응이 되기 위한 필요조건은 \(a>0\)이고 \(b=2\) 입니다.

또한 \(a>0\)이고, \(h(0)=b=2\)이면 함수 \(f(x)\)는 실수 전체에서 일대일 대응이 되므로 이 조건은 충분조건이기도 합니다. 따라서 실수 전체에서 함수 \(f(x)\)가 일대일 대응이 되기 위한 (필요충분) 조건은 \(a>0\) 이고 \(b=2\)입니다.

역함수, 일대일 대응의 함정

[문제1]을 풀고 나면, 실수 전체의 집합을 정의역과 공역으로 하는 함수가 일대일 대응이 되기 위해서는 그 함수는 반드시 실수 전체에서 연속이어야 하고, 증가 또는 감소함수이어야 한다고 생각하기 쉽습니다. 분명히 [문제1]에서 함수 \(f(x)\)가 역함수를 가지려면(즉, 일대일 대응이 되기 위해서는) 함수 \(f(x)\)가 실수 전체에서 연속이고, 증가함수가 되어야 합니다.

하지만 [문제1]의 결론을 실수 전체의 집합을 정의역과 공역으로 가지는 다른 모든 함수에도 적용할 수 있을까요? 그렇지 않습니다. 실수 전체에서 연속이 아니고 증가함수도, 감소함수가 아니여도 일대일 대응이 되는 함수가 있기 때문입니다.

연속이 아니어도, 증가/감소함수가 아니어도 일대일 대응이 가능하다.

[문제1]의 함수 \(f(x)\)가 일대일 대응이 되기 위해서 증가 함수이고, 실수 전체에서 연속이 되어야 하는 이유는 함수 \(f(x)\)가 모든 실수를 원소로 가지는 정의역을 2부분 \(x<1\), \(x\geq 1\)로 나누어 사용하고 있기 때문입니다. 모든 실수가 속한 정의역을 2부분으로 나누어 사용하는 함수들은 정의역이 나누어진 경계에서 불연속이 되면, 그 함수가 실수 전체에서 증가하거나 감소한다고 하더라도 실수 전체의 집합을 치역으로 갖는 것이 불가능 해집니다. 이 사실은 그래프를 그려보면 쉽게 확인할 수 있습니다. 다음 그림과 같이 정의역이 나누어진 경계에서 함수가 불연속이 되도록 함수의 그래프를 그려보면 \(y\)축위의 특정한 부분이 치역에서 제외되어 버립니다.

하지만 실수 전체의 집합을 3부분으로 나누어 사용하는 함수는 다릅니다.  실수 전체의 집합을 정의역과 공역으로 하는 어떤 함수 \(g(x)\)의 그래프를 생각해보겠습니다. 이 함수의 그래프는 정의역이 나누어진 경계에서 불연속입니다. 그리고 실수 전체에서 증가함수도, 감소함수도 아닙니다. 하지만 분명히 이 함수는 실수 전체의 집합을 치역으로 하고 있습니다. 또한 \(x\)축에 평행한 직선 \(y=k\)를 그었을 때, \(k\)의 값과 관계없이 이 직선은 항상 함수 \(y=g(x)\)의 그래프와 한점에서 만나게 되므로 함수 \(g(x)\)는 일대일 대응이 됩니다.

이 사실을 응용한 멋진 문제를 하나 살펴보겠습니다. 이 문제는 2019년 3월 교육청 모의고사 나형 21번 문제입니다.

2019년 3월 교육청 모의고사 나형 21번

최고차항의 계수가 양수인 이차함수 \(f(x)\)에 대하여 함수 \(g(x)\)를 다음과 같이 정의하자. $$g(x)=
\begin{cases}
-x+4 & \text{($x \lt -2$)}\\
f(x) & \text{($-2\leq x \leq1$)}\\
-x-2 & \text{($x \gt 1$)}\\
\end{cases}$$ 함수 \(g(x)\)의 치역이 실수 전체의 집합이고, 함수 \(g(x)\)의 역함수가 존재할 때, 다음 중 옳은 것을 모두 고른 것은?

㉠. \(f(-2)+f(1)=3\)
㉡. \(g(0)=-1\), \(g(1)=-3\)이면 곡선 \(y=f(x)\)의 꼭짓점의 \(x\)좌표는 \(\dfrac{5}{2}\)이다.
㉢. 곡선 \(y=f(x)\)의 꼭짓점의 \(x\)좌표가 \(-2\)이면 \(g^{-1}(1)=0\)이다.

풀이

이 문제는 함수 \(g(x)\)가 일대일 대응이 되도록 구간 \([-2,1]\)에서 이차함수 \(f(x)\)가 어떻게 정의되어야 하는지를 묻는 문제입니다. 이 문제에서 함수 \(g(x)\) 는 실 전체의 집합을 3부분으로 나누어 사용하고 있습니다. 이 문제를 풀기 위해 가장 먼저 생각해주어야 하는 것은 구간의 경계에서 함수 \(g(x)\)가 연속이 되어야 하는지를 따져보는 것입니다.  앞서 이야기한 바와 같이 함수 \(g(x)\)는 실수전체의 집합을 3부분으로 나누어 정의하고 있는 함수이므로 구간의 경계에서 불연속이 되어도 일대일 대응이 될 수 있습니다. 따라서 함수 \(g(x)\)가 실수 전체에서 연속이 아니면, 일대일 대응이 되기 위해 실수 전체에서 증가하거나 감소함수가 되어야 할 필요가 없습니다.

㉠의 참/거짓

함수 \(g(x)\)의 정의를 확인하면, \(x\lt -2\)일 때 \(g(x)\gt 6\)이고, \(x>1\) 일 때 \(g(x)\lt -3\)입니다.  실수 전체의 집합을 \(\mathbb{R}\)이라고 하면, 문제의 조건과 같이 \(g(x)\)의 치역이 실수 전체가 되기 위해 필요한 함수값의 범위는 $$\begin{align}&\mathbb{R}- (\{g(x)|g(x)>6\}\cup\{g(x)|g(x)<-3\})\\&=\{g(x)|-3\leq g(x)\leq 6\}\end{align}$$ 입니다.  따라서 \(-2\leq x\leq 1\)에서 \(-3\leq f(x)\leq 6\) 이 되어야 합니다. 또한 이차함수 \(f(x)\)는 실수 전체에서 연속인 함수이므로  \(-2\leq x\leq 1\)에서 \(f(x)\)가 일대일 대응이 되기 위해서는 \(-2\leq x\leq 1\)에서 함수 \(f(x)\)가 증가 하거나 감소해야 합니다. 만약 \(f(x)\)가 \(-2\leq x\leq 1\)에서 증가한다면 $$f(-2)=-3,f(1)=6$$이고, \(f(x)\)가 감소한다면 $$f(-2)=6, f(1)=-3$$이 되어야 합니다. 그런데 어떠한 경우에도 실수 전체에서 함수 \(g(x)\)는 실수 전체에서 일대일 대응이 될 수 있습니다.  \(f(x)\)의 증가/감소와 관계없이 두 경우 모두 $$f(-2)+f(1)=3$$이므로 ㉠은 참입니다.

㉡의 참/거짓

이제 ㉡을 살펴보겠습니다. 문제에서 \(f(x)\)는 최고차항의 계수가 양수이므로 \(f(x)=ax^2+bx+c\), (단, \(a\ge 0\))으로 두고 ㉠과 ㉡의 조건을 대입하면 $$\begin{align}f(-2)+f(1)=3&\Rightarrow (4a-2b+c)+(a+b+c)=3\\
g(0)=-1&\Rightarrow f(0)=c=-1\\
g(1)=-3&\Rightarrow f(1)=a+b+ c=-3\end{align}$$가 됩니다. 이 3개의 식을 연립하면 $$a=\frac{1}{2}, b=-\frac{5}{2}, c=-1$$를 얻을 수 있습니다. 따라서 $$f(x)=\dfrac{1}{2}x^2-\dfrac{5}{2}x-1=\dfrac{1}{2}\left(x-\dfrac{5}{2}\right)^2-\dfrac{33}{8}$$이 되어 곡선 \(y=f(x)\)의 꼭짓점의 \(x\) 좌표는 \(\dfrac{5}{2}\) 입니다. 따라서 ㉡은 참입니다.

㉢의 참/거짓

마지막으로 ㉢을 살펴보겠습니다. 이차함수 \(f(x)\)는 최고차항의 계수가 양수이므로, 꼭지점의 \(x\) 좌표가 \(-2\)라면, \(x\geq -2\)에서 \(f(x)\)는 증가합니다. 만약 정의역이 나누어진 경계에서 일대일 대응이 되기 위해서 연속이 되어야 한다고 생각하면 이 문제를 풀 수 없습니다. 실수 전체에서 연속이라면, 실수 전체에서 증가하거나 감소하는 것이 불가능해지기 때문입니다. 이러한 문제를 극복하기 위해서는 함수 \(g(x)\)가 실수 전체에서 연속이 되어야 한다는 가정을 버려야 합니다. 그런데 앞서 살펴보았듯이 정의역이 3부분으로 나누어진 함수는 정의역이 나누어진 경계에서 불연속이 되어도 일대일 대응이 되는 것이 가능해집니다. 함수 \(f(x)\)가 \(-2\leq x\leq 1\)에서 증가한다면 $$f(-2)=-3, f(1)=6$$이 되어야 하고. 꼭지점의 \(x\) 좌표가 \(-2\)이므로  $$f(x)=a(x+2)^2+b$$라 두면$$\begin{align}&f(-2)=b=-3\\&f(1)=9a+b=6\end{align}$$ 입니다. 따라서 $$a=1, b=-3$$이므로 $$g(0)=f(0)=4-3=1$$입니다. 따라서 $$g^{-1}(1)=0$$이 되어 보기 ㉢은 참입니다.

관련 글

• 역함수의 함정 Ⅱ, 함수와 역함수의 교점