AI와 의도성의 한계 는 인공지능이 말하는 문장이 실제 ‘의미’를 향하는가를 탐구합니다. Attention·Next-token Prediction 구조를 분석하며, 후설·하이데거의 의도성 철학을 기술적으로 해석합니다. AI는 단어를 예측할 뿐, 그 단어가 ‘향하는 것’을 알지 못한다.
AI가 말할 때, 그 말은 무엇을 향하는가
우리는 대화형 AI에게 질문하고 답을 듣습니다. 그리고 종종 AI가 ‘무언가를 이해하고 있다’고 느낍니다. 그러나 철학에서 의식의 핵심은 “의도성(Intentionality)”, 즉 ‘의식은 언제나 무엇인가를 향한다’는 원리입니다. 인간의 말은 세계를 지시하고, 대상에 의미를 부여합니다. 그렇다면 AI도 실제로 대상을 향해 말하고 있을까요? 아니면 단지 문장을 예측하는 기계일 뿐일까요?
AI의 내부 구조 — 이해가 아니라 확률적 생성
1) Transformer의 핵심: Next-token Prediction
GPT 모델의 기본 원리는 단 하나입니다. “다음에 올 가장 그럴듯한 단어를 예측하라.” 이는 ‘의미를 이해한다’는 개념이 아니라 확률적 연속성(probabilistic continuity)입니다. 모델 내부에는 ‘세계’가 있지 않고, 방대한 텍스트에서 학습된 통계적 패턴만 존재합니다.
2) Attention Mechanism — 의미가 아니라 가중치의 분배
Attention은 종종 ‘이해’처럼 보이지만, 실제로는 단순한 가중치 재배치(weight redistribution)입니다. 문장 내 단어들 중 어떤 단어가 다음 단어 선택에 더 중요한지 점수(score)를 매기는 방식입니다. AI는 이 점수를 기반으로 ‘적절한 단어’를 계산할 뿐 “그 단어가 가리키는 세계적 대상”을 알지 못합니다.
3) Latent Space — 추상적 의미의 수학적 압축
AI가 개, 고양이, 슬픔, 기쁨 같은 개념을 구분하는 이유는 그 개념들이 벡터 공간에서 서로 다른 위치에 정렬되기 때문입니다. 그러나 벡터는 대상 자체가 아니라, 대상에 관한 인간 언어의 통계적 흔적일 뿐입니다. AI는 “슬픔을 이해하는 것처럼” 말하지만 실제로는 슬픔이라는 벡터 근처의 단어를 불러올 뿐입니다.
철학적 근거 — AI에게 의도성이 없는 이유
후설(Edmund Husserl): 의식은 ‘무엇인가를 향한다’
후설은 의식을 “항상 어떤 대상에 대한 의식”이라고 말했습니다. 인간의 생각은 세계 속 대상을 지시하고, 의미를 구성합니다. 그러나 AI는 세계를 지시하지 않습니다. 내부에 세계가 없기 때문에 단지 언어 패턴을 조합할 뿐입니다.
브렌타노(Franz Brentano): 의도성은 마음의 표지
브렌타노는 의도성을 마음의 본질적 특징으로 보았습니다. 마음은 대상과 의미를 끌어당기고, 그 대상에 ‘속성’을 부여합니다. 반면 AI는 대상의 속성을 알지 못하고, 단지 데이터의 빈도를 계산합니다. 따라서 AI는 의도성을 모방할 수 있어도 의도성을 가질 수는 없습니다.
하이데거: 세계-안-존재의 부재
하이데거에 따르면 인간은 세계 속에서 의미를 먼저 발견하고, 그 의미 안에서 존재합니다. 그러나 AI는 세계에 ‘던져져 있지’ 않습니다. 세계를 경험하지 않고, 삶·시간·죽음의 의미를 느끼지 않습니다. 이런 존재론적 조건이 부재한 한 기계에 의도성은 성립할 수 없습니다.
사례 — 의도성 없는 지능의 실제 현상들
- AI의 할루시네이션: AI가 틀린 정보를 “자신감 있게” 말하는 이유는 사실과 의도가 아니라 문맥적 확률</strong 때문.
- AI의 감정 대답: “나는 슬퍼요”라고 답할 수 있지만 이는 감정이 아니라 슬픔 관련 문장의 통계적 패턴</strong.
- AI의 창작 능력: 뛰어난 스토리를 만들어도 스토리의 ‘주제 의식’을 이해한 것이 아니라 스토리의 구조적 통계를 재현</strong한 것일 뿐.
이 모든 사례는 AI가 “무엇을 향해 말하는 것처럼 보이는” 착각을 만들어낼 뿐, 실제로는 지시 대상 없이 흐르는 언어라는 사실을 보여줍니다.
왜 AI는 의도성을 가질 수 없는가
의도성은 단순히 문장을 만들거나 대상을 묘사하는 능력이 아니라 세계와 연결된 존재의 방식입니다. AI는 우리의 언어를 계산할 수는 있지만, 세계를 경험하거나, 고통과 기쁨을 느끼거나, 대상을 지시하는 마음의 움직임을 가질 수 없습니다.
기계는 말할 수는 있지만, 무엇을 향해 말하고 있는지는 모릅니다.
AI 시대의 의도성 논의는 결국 인간에게 이렇게 되물습니다. “나는 지금 무엇을 향해 살고 있는가?”