2026.02.11 / JUN.NXP
이번 포스트에서는 LLM의 추론 능력을 강화하고 보다 복잡한 과업을 수행하게 하는 두 가지 핵심 프롬프트 엔지니어링 기법인 ReAct와 CoT 프롬프팅에 대해 알아봅니다.
핵심 요약 (Executive Summary)
현대 프롬프트 엔지니어링의 핵심은 LLM이 단순히 텍스트를 생성하는 수준을 넘어, 인간과 유사한 논리적 사고 과정을 거치고 외부 환경과 상호작용하게 만드는 데 있다.
- CoT (Chain-of-Thought, 사고의 연쇄, 생각의 사슬): 모델이 문제를 해결할 때 중간 추론 단계를 거치도록 유도하여 내부적인 논리 구조를 강화하는 기법
- ReAct (Reasoning and Acting, 추론과 행동 결합): 추론과 행동을 결합하여 모델이 외부 도구와 데이터를 활용하고 그 결과를 관찰하여 다음 단계로 나아가는 동적인 문제 해결 기법
- 핵심 가치: 이들 프롬프팅 기법들은 모델의 정확성을 높이고, 환각 현상을 줄이며, 답변의 근거를 투명하게 제시함으로써 AI 에이전트의 신뢰성과 활용도를 극대화
ReAct와 CoT 비교
| 기술 이름 | 정의 | 핵심 구성 요소 |
| ReAct (Reasoning and Acting) | 언어 모델이 사용자의 쿼리에 대해 추론하고 행동을 취할 수 있도록 하는 프롬프트 프레임워크 | Think(사고), Act(행동), Observe(관찰), Respond(응답) |
| CoT (Chain-of-Thought) | 중간 추론 단계를 포함하는 예시를 제공하여 모델이 논리적이고 구조적인 방식으로 문제에 접근하도록 안내하는 기술 | 자기 일관성(Self-consistency), 액티브 프롬프팅(Active-prompting), 멀티모달 CoT |
1. CoT (Chain-of-Thought) 프롬프팅 개요
CoT는 모델에게 문제 해결 과정을 단계별로 보여주는 예시를 제공함으로써, 모델이 새로운 문제에 직면했을 때 더 구조적이고 논리적으로 접근하도록 학습시키는 기술이다.
1.1 주요 특징 및 중요성
- 인간과 유사한 추론: 학생에게 “소리 내어 생각하기”를 가르치는 것과 유사하게, 모델이 최종 답변에 도달하기 전 중간 단계를 거치도록 유도한다.
- 정확성 향상: 복잡한 문제를 작은 단위로 세분화함으로써 수학적 문제나 논리 퍼즐 등에서 더 높은 정확도를 얻을 수 있다.
- 설명 가능성 강화: 모델이 답변에 도달한 과정을 투명하게 보여주므로 사용자가 오류를 식별하고 결과를 신뢰하기 용이하다.
1.2 CoT의 주요 구현 기법
- 자기 일관성(Self-consistency): 여러 개의 추론 경로를 생성한 후 가장 일관된 답변을 선택한다.
- 능동적 프롬프팅(Active-prompting): 모델이 명확하지 않은 부분에 대해 질문하거나 추가 정보를 요청할 수 있게 한다.
- 멀티모달 CoT: 텍스트 외에 이미지, 비디오 등 다양한 데이터를 결합하여 추론 능력을 확장한다.
2. ReAct (Reasoning and Acting) 프롬프팅 개요
ReAct는 “추론(Reasoning)”과 “행동(Acting)”의 합성어로, LLM이 사용자 질의에 대해 사고할 뿐만 아니라 외부 자원을 활용해 직접 행동할 수 있도록 하는 프레임워크다.
2.1 작동 메커니즘: 생각-행동-관찰 루프
ReAct는 다음과 같은 반복적인 프로세스를 통해 실시간으로 정보를 수집하고 문제를 해결한다.
| 단계 | 설명 | 비고 |
| Think (사고) | 문제에 대한 생각이나 가설을 생성한다. | CoT와 유사한 과정 |
| Act (행동) | 웹 검색, 데이터베이스 접근 등 특정 도구 사용을 결정하고 입력을 지정한다. | 외부 세계와의 상호작용 |
| Observe (관찰) | 실행한 행동으로부터 피드백(검색 결과, 데이터 등)을 받는다. | 실제 데이터 확보 |
| Respond (응답) | 관찰된 정보를 바탕으로 최종 답변을 제공하거나 다음 단계의 사고로 이어진다. | 동적 피드백 루프 |
2.2 ReAct의 주요 장점
- 동적 문제 해결: 외부 리소스와 상호작용하며 새로운 정보에 적응해야 하는 복잡한 작업에 적합하다.
- 할루시네이션 감소: 모델의 내부 지식에만 의존하지 않고 실제 데이터를 기반으로 추론을 접지(Grounding)함으로써 정보의 정확성을 높인다.
- 신뢰성 증대: 모델이 외부 소스와 상호작용하는 과정을 사용자가 직접 확인할 수 있어 투명성이 보장된다.
3. ReAct와 CoT의 비교 및 통합 활용 전략
두 기법은 모두 모델의 추론 능력을 강화하지만, 그 지향점이 다르다.
CoT와 ReAct의 활용 목적 비교
| 구분 | CoT | ReAct |
| 주요 초점 | 내부적 논리 추론 (Internal Reasoning) | 외부적 상호작용 (External Interaction) |
| 작동 방식 | 단계별 사고 과정 생성 | 사고, 행동, 관찰의 반복적 루프 |
| 강점 | 복잡한 수학/논리 퍼즐, 상세 설명 생성 | 실시간 정보 검색, 데이터 기반 의사결정 |
3.1 시너지 효과: ReAct + CoT
ReAct와 CoT를 결합하면 더욱 강력한 AI 에이전트를 구축할 수 있다. 두 기법의 통합을 통해 모델은 **심층적인 내부 추론(CoT)**과 역동적인 세계 상호작용(ReAct) 능력을 동시에 갖추게 된다. 이는 답변의 정확도와 신뢰도를 극대화하는 결과를 낳는다.
결론 및 시사점
ReAct와 CoT 같은 프롬프트 엔지니어링 기술은 단순한 응답 생성을 넘어, 조직의 비즈니스 프로세스를 혁신할 수 있는 AI 에이전트 개발의 근간이 된다.
- 정확성 및 신뢰성: 단계별 추론과 데이터 접지를 통해 보다 인간에 가까운 정확하고 신뢰할 수 있는 상호작용이 가능해진다.
- 활용 분야의 확장: 질문 답변, 사실 검증, 복잡한 다단계 계획 수립(여행 계획, 코드 디버깅 등) 및 의사결정 지원 시스템 등 다양한 영역에서 활용될 수 있다.
- 조직적 가치: 이러한 기술을 이해하고 적용하는 것은 조직 내 AI 에이전트의 성능을 최적화하고 가치 창출을 가속화하는 핵심적인 요소가 될 것이다.
참고자료 및 다운로드
ReAct 대 CoT: 프롬프트 엔지니어링 기술 비교표 (다운로드)
https://docs.google.com/spreadsheets/d/1s8rAsOFlH3BTAQY0uAATOpduxlEhpShOsV9VVqflgzI/edit?usp=sharing
ReAct 대 CoT: 프롬프트 엔지니어링 기술 개요 슬라이드 (다운로드)
https://drive.google.com/file/d/1JbbXy4EUz-LfW7RRwF7OYhDgzJ1XxoE2/view?usp=sharing
