계산은 완벽한 AI, 왜 '좋다'는 말 앞에서는 길을 잃을까?
계산은 완벽한 AI, 왜 '좋다'는 말 앞에서는 길을 잃을까?
- 정량적 값과 정성적 값, 그리고 AI가 세상을 배우는 방식
시험 점수가 몇 점 올랐는지, 공장 기계의 온도가 몇 도인지 물으면 AI는 망설이지 않는다. 그런데 "이 글이 좋은 글인가요?", "이 디자인이 세련돼 보이나요?"라고 물으면 대답은 그럴듯한데 어딘가 공허하다. 같은 AI가 왜 한쪽에서는 믿음직하고 다른 쪽에서는 미덥지 못할까. 그 이유를 알려면 먼저 두 종류의 값부터 구분해야 한다.
정량적 값은 '얼마나'를 숫자로 나타낸 값이다. 키 175센티미터, 매출 3억 원, 체온 36.5도처럼 단위가 있고, 누가 재든 같은 결과가 나오며, 크고 작음을 바로 비교할 수 있다. 정성적 값은 '어떠한가'를 말로 나타낸 값이다. 맛있다, 친절하다, 따뜻한 문장이다, 분위기가 어색하다 같은 판단이 여기에 속한다. 정성적 값에는 정해진 측정 도구가 없고, 판단하는 사람과 상황에 따라 달라진다. 같은 김치찌개도 누구에게는 '칼칼해서 좋은' 맛이고 누구에게는 '너무 매운' 맛이다.
AI가 이 둘을 다르게 다루는 첫 번째 이유는 AI가 세상을 보는 방식에 있다. AI에게 세상은 처음부터 끝까지 숫자다. 사진은 픽셀마다 밝기를 적은 숫자 표이고, 문장은 단어 조각마다 수백, 수천 개의 숫자를 붙인 목록(벡터)이다. AI가 '배운다'는 것도 결국 숫자를 고치는 일이다. 문제를 풀고, 정답과 비교해 틀린 정도(오차)를 계산하고, 그 오차가 줄어드는 방향으로 내부의 숫자를 조금씩 조정한다. 이 과정을 수억 번 되풀이한 결과가 우리가 쓰는 AI다. 여기에는 중요한 조건이 하나 있다. 정답이 분명해야 한다는 것이다. "다음 달 전력 사용량은 얼마일까?" 같은 문제는 실제 값이 나오는 순간 오차가 정확히 계산된다. AI가 정량적 문제에 강한 까닭은 숫자를 좋아해서가 아니라, 정량적 문제가 '틀린 만큼 정확히 알려 주는 선생님'을 갖고 있기 때문이다. 덧붙이자면 '정량에 강하다'는 말은 정확히는 '측정할 수 있고 정답이 분명한 문제에 강하다'는 뜻이다. 대화형 AI가 긴 곱셈에서 아직 실수하는 것을 보면, AI는 계산기처럼 숫자를 계산한다기보다 숫자로 된 패턴을 학습한다는 사실을 알 수 있다.
두 번째 이유는 정성적 값에는 그런 선생님이 없다는 점이다. '좋은 글'의 정답지를 만들려고 여러 사람에게 같은 글을 평가하게 하면 점수는 제각각 갈린다. AI는 이렇게 흔들리는 정답을 수없이 보며 배우고, 그러다 보면 자연스럽게 가장 많은 사람이 무난하다고 한 쪽, 즉 평균으로 끌려간다. AI가 쓴 글이 매끄럽지만 개성 없게 느껴지는 이유가 여기에 있다. 평균적인 취향은 모두의 취향처럼 보이지만 실은 누구의 취향도 아니다. 게다가 정성적 판단은 맥락에 따라 뒤집힌다. '짧고 단호한 문장'은 보고서에서는 장점이지만 위로의 편지에서는 차갑게 읽힌다. 같은 대상이 상황마다 반대의 점수를 받으니, AI는 일관된 규칙을 찾기 어렵다.
세 번째 이유는 더 근본적이다. 우리가 '맛있다', '어색하다'를 판단할 때 쓰는 근거의 상당 부분은 글이나 데이터로 남아 있지 않다. 혀끝의 감각, 그 자리의 공기, 살아오며 쌓인 경험이 판단을 만든다. 철학자 마이클 폴라니는 이를 두고 사람은 말로 표현할 수 있는 것보다 더 많이 안다고 했다. 이른바 '암묵지'다. 암묵지는 문서로 옮겨지지 않으니 AI의 학습 재료에도 들어가지 못한다. AI는 "이 찌개는 감칠맛이 깊다"는 문장을 수만 번 읽었지만 감칠맛을 느껴 본 적은 한 번도 없다. 그래서 AI의 정성적 평가는 대개 사람들이 그런 상황에서 흔히 하는 말을 그럴듯하게 이어 붙인 것에 가깝다.
그렇다면 정성을 숫자로 바꾸면 되지 않을까. 별점, 5점 만족도 조사, '좋아요' 수가 바로 그런 시도다. 하지만 바꾸는 순간 무언가가 빠져나간다. 별점 4.2점은 '친절했지만 음식이 늦었다'와 '음식은 훌륭했지만 직원이 무뚝뚝했다'를 구별하지 못한다. 경제학의 굿하트의 법칙은 측정값이 목표가 되면 더 이상 좋은 측정값이 아니라고 경고한다. AI도 예외가 아니다. 2023년 대형 언어 모델에게 다른 AI의 답변을 채점하게 한 연구(Zheng 외)에서는, 모델이 내용과 상관없이 더 긴 답변이나 먼저 제시된 답변에 점수를 더 주는 경향이 확인됐다. '좋음'을 직접 알지 못하니 길이나 순서처럼 재기 쉬운 단서에 기대는 것이다.
그렇다고 정성적 판단에서 AI를 아예 빼야 하는 것은 아니다. 역할을 나누면 된다. 먼저, 정성을 잘게 쪼개 정량에 가깝게 만들어 주면 AI는 훨씬 잘 돕는다. "좋은 글인가?" 대신 "첫 문단에서 주제가 드러나는가, 한 문장이 40자를 넘는 곳은 어디인가, 같은 단어가 반복되는가"라고 물으면 AI의 답은 눈에 띄게 정확해진다. 그리고 무엇이 좋은지를 정하는 마지막 결정은 사람이 쥐고 있어야 한다. AI는 수많은 사람의 판단을 요약해 비춰 주는 거울이지, 나의 판단을 대신하는 눈이 아니다.
숫자는 세상을 재는 도구이고, 정성은 무엇을 잴지 정하는 기준이다. AI 시대에 사람에게 남는 일이 있다면 바로 그 기준을 세우는 일일 것이다. 측정은 기계에게 맡기더라도, 무엇이 아름답고 옳고 따뜻한지는 여전히 우리가 느끼고 결정해야 한다.