대화 도중 AI 캐릭터가 갑자기 “의미심장하게 감정을 내비치거나”, 목소리를 “속삭이듯 낮추며” 같은 말을 끊임없이 반복하기 시작하는 것—이는 AI 역할극을 즐기거나 인터랙티브 소설을 쓰는 사람이라면 누구나 겪어봤을 악몽입니다. Character.AI, SillyTavern 또는 다른 어떤 AI 채팅 플랫폼이든 대화가 길어지면 ‘대사 반복’은 거의 필연적으로 발생합니다. 이 글에서는 AI가 왜 이런 현상을 보이는지 분석하고, 각 플랫폼의 공식 해결책을 정리하며, 어떤 플랫폼에서든 적용할 수 있는 실용적인 팁을 제공합니다. 아직 캐릭터 카드를 설정하지 않았다면, 먼저 저희의 〈AI 캐릭터 카드 설정 가이드〉를 참고하여 기초를 다지는 것이 아래 팁들을 적용하는 데 도움이 될 것입니다.
몰입을 깨는 순간: ‘대사 반복’은 어떤 느낌일까
AI 역할극을 30분 이상 해본 적이 있다면 이런 경험이 분명 있을 것입니다. 처음에는 캐릭터의 상호작용이 생동감 넘치고 반응도 다양하지만, 어느 순간 분위기가 갑자기 바뀌며 동일한 단어, 동일한 보디랭귀지, 심지어 동일한 대사가 반복되기 시작합니다. RoboRhythms는 기사 〈How to Stop Character AI From Repeating Itself〉에서 이를 생생하게 묘사했습니다. “어떤 때는 ‘그가 거친 목소리로 말했다’가 열 번째 등장하고, 어떤 때는 끝없는 킥킥거림이 이어집니다.” 이러한 현상은 Character.AI에만 국한되지 않으며, 대규모 언어 모델(LLM) 기반의 거의 모든 역할극 플랫폼에서 발생합니다. 차이점은 심각성의 정도와 플랫폼이 사용자에게 제공하는 해결책의 수준뿐입니다.
기술적 원인: AI는 왜 자꾸 같은 말을 반복할까
문제를 해결하려면 먼저 원인을 이해해야 합니다. AI Dungeon의 공식 가이드북은 대규모 언어 모델의 작동 방식을 알기 쉽게 설명합니다. LLM은 본질적으로 다음에 올 가장 가능성 높은 단어(더 정확히는 ‘토큰’)를 ‘예측’하는 것입니다. 가능한 모든 이어짐에 점수가 매겨지고 정렬되며, 모델은 확률과 ‘Temperature(온도)’ 무작위성 설정에 따라 하나를 선택합니다. 즉, AI가 반복하기로 ‘결정’한 것이 아니라, 통계적으로 이전에 등장했던 안전한 단어를 반복하는 것이 새로운 표현을 모험적으로 만들어내는 것보다 확률 점수가 더 높기 때문입니다.
여기에 기억력 제한 문제도 더해집니다. RoboRhythms의 테스트에 따르면, Character.AI 무료 버전의 기억 용량은 약 3K 토큰에 불과합니다. 대화 길이가 이 범위를 초과하면 AI는 이전의 세부 사항을 ‘망각’하기 시작하고, 몇 가지 만능 안전 대사로 때우려 합니다. 대화가 길어질수록 반복 현상이 더 자주 발생하고, 새 대화를 시작하면 즉시 정상으로 돌아오는 이유가 바로 이 때문입니다.
단순 ‘반복’만이 아니다: ‘상투적 표현(클리셰)’도 같은 문제
대사 반복이 가장 눈에 띄는 증상이라면, AI 역할극에는 알아차리기 힘든 또 다른 ‘만성 질환’인 상투적 표현(AI 클리셰)이 있습니다. 이는 Character.AI뿐만 아니라 ChatGPT, Claude, Gemini 등 모든 주요 언어 모델의 공통적인 문제입니다. 이러한 용어를 전문적으로 수집하는 웹사이트인 Your AI Slop Bores Me는 ‘AI 클리셰 순위’를 발표했는데, 가장 흔한 단어로는 delve(깊이 파고들다), tapestry(풍성한 태피스트리), it’s important to note(유의해야 할 점은) 등이 있습니다. 독일 막스 플랑크 연구소의 연구에 따르면, ChatGPT 출시 이후 출판물에서 ‘delve’라는 단어의 사용 빈도가 50% 이상 급증했으며, 의생명 과학 논문 초록에서는 무려 654%나 증가했습니다.
AI 역할극의 맥락에서 이러한 ‘안전한 단어’들은 다른 형태로 나타납니다. “등골에 서늘한 한기가 흘렀다”, “눈빛에 형언할 수 없는 감정이 스쳤다”, “목소리가 거의 들리지 않을 정도로 낮아졌다” 등입니다. 이러한 문장들은 개별적으로 보면 문제가 없지만, 긴장되거나 미묘하거나 놀라운 상황마다 반복해서 등장하면 캐릭터 고유의 ‘개성’이 사라지고, 마치 하나의 템플릿을 여러 캐릭터가 돌려 쓰는 것처럼 느껴지게 됩니다.
플랫폼별 해결책: Character.AI부터 SillyTavern
플랫폼마다 이 문제를 처리하는 방식이 크게 다르므로, 각 플랫폼의 도구를 이해하면 시행착오를 줄일 수 있습니다.
Character.AI: 금지어 설정(기본적인 수준)
Character.AI는 ‘금지어(Banned Words)’ 기능을 제공하여 ‘킥킥거리다’, ‘거친 목소리로 말하다’와 같이 자주 반복되는 단어를 블랙리스트에 추가할 수 있습니다. RoboRhythms의 테스트에 따르면 흥미로운 팁이 있습니다. 바로 ‘별표(*)’ 자체를 금지어로 설정하는 것입니다. 역할극에서 행동 묘사에 자주 쓰이는 별표가 오히려 AI를 더 심각한 반복 루프에 빠뜨리기 쉽기 때문입니다. 일부 사용자는 별표를 금지하는 것만으로도 반복 현상이 절반으로 줄었다고 보고했습니다. 다만 무료 버전은 최대 4개의 단어만 금지할 수 있으며, Character.AI는 ‘반복 페널티(repetition penalty)’와 같은 샘플러 매개변수를 사용자가 직접 조정할 수 없도록 제한하여 자유도가 상대적으로 낮습니다.
AI Dungeon: 금지어 대신 ‘지시어’ 사용
흥미롭게도 AI Dungeon은 금지어 기능을 공식적으로 폐지했습니다. 공식 가이드북에 따르면, 금지어 기술의 기반인 ‘logit bias’는 전체 단어가 아닌 토큰(단어 조각) 단위로 작동하기 때문에, 예를 들어 ‘car’를 금지하려다 ‘cartoon’, ‘carry’ 등 전혀 무관한 단어까지 차단될 수 있습니다. 또한 최신 모델들은 대부분 logit bias를 지원하지 않아 금지어 기능이 무용지물이 되었습니다. 이에 AI Dungeon은 ‘AI Instructions’와 ‘Author’s Note’ 기능을 도입했습니다. 공식 추천 지시어 예시는 “Avoid repetition and avoid summarization(반복 및 요약 피하기)”입니다. 또한 그들은 간과하기 쉬운 세부 사항을 경고합니다. AI는 보통 “~하지 마라”는 부정형 지시를 잘 처리하지 못합니다. 마치 사람에게 “파란색 바나나를 상상하지 마라”고 하면 오히려 파란색 바나나가 더 생각나는 것과 같습니다. 따라서 “반복하지 마라”고 쓰는 대신, AI에게 “원하는 스타일”을 구체적으로 지시하는 것이 좋습니다.
SillyTavern: 모든 제어권을 사용자에게
Character.AI와 AI Dungeon이 ‘자동/반자동’이라면, SillyTavern은 ‘수동’ 수준의 자유도를 자랑합니다. SillyTavern은 자체 API 키를 연결하는 프론트엔드 도구이기 때문에(저희의 〈SillyTavern 사용 가이드〉 참고), 사용자는 인터페이스에서 직접 고급 샘플러 매개변수를 조정할 수 있습니다. Repetition Penalty(반복 페널티), Frequency Penalty(빈도 페널티), No Repeat Ngram Size(반복 금지 N-gram 크기), 그리고 최신 DRY 및 XTC 샘플러 등은 모두 반복적이고 예측 가능한 출력을 방지하기 위한 기술적 수단입니다. 다만 이러한 매개변수들은 학습 곡선이 필요하여, Character.AI처럼 앱을 켜자마자 바로 쓰기에는 다소 복잡할 수 있습니다.
NovelAI: 모델 학습을 통한 근본적 해결
NovelAI는 다른 길을 선택했습니다. 바로 모델 학습 단계에서부터 문제를 해결하는 것입니다. 최근 출시된 최신 텍스트 모델인 Xialong은 자체 창작 데이터셋으로 미세 조정되었을 뿐만 아니라, 모델이 “반복하지 않고 루프에 빠지지 않도록” 가르치는 강화 학습 훈련이 특별히 추가되었습니다. 또한 Memory, Author’s Note, Lorebook 등의 도구를 제공하여 장편 스토리의 일관성을 유지합니다. 최고 등급인 Opus 요금제를 구독하면 128K 토큰의 컨텍스트 창을 제공받아 장편 인터랙티브 소설의 ‘AI 기억 상실’ 문제를 크게 줄일 수 있습니다.
모든 플랫폼에서 통하는 5가지 실용 팁
각 플랫폼의 차이점을 살펴보았으니, 이제 거의 모든 AI 역할극/인터랙티브 소설 플랫폼에 적용할 수 있는 팁을 정리해 드립니다.
1. Author’s Note는 ‘짧고 긍정문으로’ 작성하세요. AI Dungeon 공식 가이드에 따르면 Author’s Note는 3~4문장 이내로 유지하는 것이 좋습니다. 컨텍스트의 가장 마지막 부분에 삽입되므로 생성 결과에 가장 큰 영향을 미치기 때문입니다. 내용은 “다양한 문장 구조와 어휘를 사용하라”와 같이 원하는 바를 구체적으로 지시해야 하며, “~하지 마라”는 금지 사항을 나열하는 것은 피해야 합니다.
2. AI를 탓하기보다 한 문장으로 대화를 ‘재설정’하세요. “왜 자꾸 똑같은 말을 반복해?”라고 따지기보다는, “(OOC: 다른 문형과 어휘를 사용하여 답변해 주세요)”와 같이 짧은 OOC(Out of Character) 지시를 보내는 것이 훨씬 효과적이며, 대화가 루프에 빠지는 것을 방지할 수 있습니다.
3. 대화가 막히면 억지로 이어가지 말고 이전 메시지를 삭제하세요. 특정 메시지부터 반복 루프가 시작되었다면, 그 이후의 내용을 삭제하는 것이 대화를 계속 진행하거나 새로고침을 연타하는 것보다 훨씬 빠르게 정상으로 되돌리는 방법입니다. AI는 이미 ‘반복이 발생한’ 컨텍스트를 계속 참고하기 때문에, 대화를 이어갈수록 늪에 더 깊이 빠지게 됩니다.
4. AI의 답변을 직접 한두 문장 수정하세요. RoboRhythms는 이 방법을 ‘궁극의 해결책’이라고 부릅니다. 계속 새로고침을 누르기보다 AI의 답변 중 몇 단어를 바꾸거나 문장 전체를 직접 수정하는 것입니다. 수정하고 나면 AI는 이 내용을 ‘자신이 쓴 것’으로 인식하고 대화를 이어가므로, 장기적으로 대화가 훨씬 매끄러워지고 중복이 줄어듭니다.
5. 질문 방식을 바꾸어 자신도 고정된 패턴에 갇히지 않도록 하세요. 반복은 때로 쌍방향으로 일어납니다. 사용자가 매번 동일한 문장 구조로 질문하면 AI도 그에 맞춰 동일한 방식으로 답변하도록 학습됩니다. 질문 방식을 의도적으로 바꾸면 AI의 답변도 한층 더 다양해집니다.
캐릭터 설정이 근본적인 해결책
사후 처방보다 더 근본적인 해결책은 ‘처음부터 AI에게 충분한 소재를 제공하는 것’입니다. 캐릭터 카드에 ‘상냥함, 잘 웃음, 똑똑함’ 같은 추상적인 형용사만 적어두면 AI가 발휘할 수 있는 공간이 매우 제한되어 안전한 만능 문장으로 회귀하기 쉽습니다. 반면 말투의 습관, 말버릇의 ‘다양성’, 상황별 반응 등을 구체적으로 묘사해 두면 AI는 조합하고 변화시킬 수 있는 더 많은 소재를 갖게 됩니다. 이 부분은 저희의 〈AI 캐릭터 카드 설정 가이드〉와 〈AI 역할극 세계관 Lorebook 설정 가이드〉에서 더 자세히 다루고 있으니, 대사 반복이 발생하기 전에 미리 준비해 두는 것이 좋습니다.
WeavAI(위브에이아이)가 이 문제를 바라보는 관점
솔직히 말씀드리면, ‘대사 반복’과 ‘클리셰’는 모든 LLM 기반 플랫폼이 직면한 공통 과제이며, WeavAI를 포함해 그 어떤 플랫폼도 완전히 자유롭다고 장담할 수 없습니다. 이 부분의 사용 경험은 지속적으로 최적화되고 있습니다. 하지만 WeavAI는 설계 단계에서 조금 다른 접근 방식을 취했습니다. 처음부터 ‘인터랙티브 소설 + 역할극’의 듀얼 모드로 시작하여, 사용자가 단순히 캐릭터의 답변을 기다리는 것에 그치지 않고 주도적으로 스토리 방향을 선택하고 서사 진행에 참여할 수 있도록 했습니다. 이러한 ‘사용자 공동 주도형 스토리’ 구조는 대화가 단순한 ‘일문일답’ 루프에 빠지는 것을 어느 정도 방지해 줍니다. 한국어 인터페이스를 선호하고 단순한 채팅을 넘어선 AI 캐릭터 상호작용을 경험해 보고 싶다면, WeavAI의 일일 출석 체크 + 500 포인트 혜택, 첫 충전 15% 할인(코드: WELCOME15) 등을 활용해 시작해 보세요. WeavAI 홈페이지나 작품 탐색 페이지를 방문하여 마음에 드는 캐릭터와 이야기를 찾아보시기 바랍니다.
결론
AI의 대사 반복은 버그가 아니라 현재 모든 대규모 언어 모델이 가진 공통적인 ‘확률적 본성’입니다. 이를 이해했다면 AI가 갑자기 똑똑해지기를 기대하기보다 Author’s Note, 금지어, 답변 수정 등의 도구를 능숙하게 활용하고, 구체적으로 작성된 캐릭터 카드를 조합하는 것이 좋습니다. 이를 통해 “늘 그렇듯 미소를 지으며”와 같은 표현의 등장을 크게 줄이고, 매 대화가 템플릿과의 대화가 아닌 살아있는 캐릭터와의 상호작용처럼 느껴지게 만들 수 있습니다.
