[COEX AI Summit 참관 보고서]생성형 AI를 넘어, 행동하는 에이전트(Agent) 시대로의 전환

1. 개요

이번 AI Summit의 핵심 의제는 단순 텍스트 생성 중심의 LLM(거대언어모델)에서, 자율적인 계획 수립과 도구 활용이 가능한 'AI 에이전트(Agent)'로의 기술 패러다임 전환이었다. 이에 따라 에이전트의 성능을 좌우하는 데이터 전처리(Preprocessing) 기술과 도메인 지식의 구조화(Ontology)가 필수적인 선결 과제로 부상하고 있음을 확인했다.

2. 핵심 기술 트렌드: AI 에이전트와 아키텍처의 진화

2.1. 에이전트 개발 프레임워크의 표준화 (LangGraph) 기존의 단순 선형적(Chain) LLM 호출 방식은 복잡한 업무 처리에 한계가 있다. 이에 따라 순환(Loop) 구조와 조건부 분기 처리가 가능한 'LangGraph'가 에이전트 개발의 핵심 프레임워크로 자리 잡고 있다. 향후 복잡한 비즈니스 로직을 AI에 이식하기 위해서는 LangGraph 기반의 상태 관리(State Management) 기술 도입이 필수적일 것으로 분석된다.

2.2. 아키텍처 제언: 프롬프트 최적화 에이전트 도입 사용자의 모호한 입력을 그대로 LLM에 전달하는 방식은 답변 품질의 저하를 초래한다. 이를 해결하기 위해 답변 생성 전 단계에 '최적화 에이전트'를 배치하는 멀티 에이전트(Multi-Agent) 파이프라인 구축을 제안한다.

• 설계 방안: 1단계 (Input): 사용자 질의 입력 2단계 (Optimization): 사용자의 의도를 분석하여 LLM이 이해하기 최적화된 형태로 프롬프트를 재구성하는 전문 에이전트 가동 3단계 (Execution): 최적화된 프롬프트를 기반으로 답변 생성 및 도구 수행 4단계 (Output): 최종 결과값 반환

3. 데이터 전략: ML 기반의 자동화된 전처리

3.1. 데이터 처리의 문제점과 ML의 역할 기업이 보유한 이커머스 로그 및 행동 데이터 등 방대한 원천 데이터(Raw Data)에서 유의미한 인사이트를 도출하기 위해서는 고비용의 전처리 과정이 요구된다. 기존의 수동적 방식에서 탈피하여, 머신러닝(ML) 모델이 데이터의 노이즈를 제거하고 핵심 지표를 자동 추출하는 파이프라인 구축이 시급하다.

3.2. 산업 사례 분석: Deskroom 의사결정 최적화 솔루션 기업 Deskroom의 사례는 데이터 전처리의 기술적 방향성을 제시한다. 해당 기업은 방대한 고객 데이터를 ML 엔진에 통과시켜 '의사결정에 즉시 활용 가능한 데이터(Actionable Data)'로 변환하는 자동화 솔루션을 제공하고 있다. 이는 AI 도입의 성공 여부가 'AI 모델 자체'보다 'AI에 주입되는 데이터의 품질'에 달려 있음을 시사한다.

 

4. 기반 기술의 고도화 및 융합

에이전트 시스템의 정확도와 신뢰성을 높이기 위해 다음과 같은 기반 기술들의 융합이 가속화되고 있다.

• 온톨로지(Ontology) 기반 RAG 고도화: 단순 키워드 매칭 방식의 검색 증강 생성(RAG)이 갖는 환각 현상을 줄이기 위해, 데이터 간의 의미와 관계를 정의한 온톨로지를 구축하여 검색의 맥락 이해도를 높이는 기술이 도입되고 있다.
• 비정형 데이터 자산화 (OCR): 문서, 도면 등 비정형 데이터를 AI가 학습 가능한 텍스트로 변환하는 OCR 기술은 데이터 파이프라인의 입구 역할을 수행한다. 최근에는 단순 텍스트 인식을 넘어 문서의 구조적 맥락까지 파악하는 형태로 진화했다.
• 노코드(No-Code) 확장성: 개발자가 아니더라도 자연어로 에이전트의 로직을 설계할 수 있는 노코드 툴의 발전은 현업 전문가(Domain Expert)의 지식을 AI 시스템에 내재화하는 데 기여하고 있다.

결론 및 향후 추진 전략

AI SUMMIT을 통해 확인한 AI 기술의 지향점은 '생성'을 넘어선 '문제 해결'이다. 이에 따라 다음과 같은 기술 도입 전략을 제언한다.

• 추진 전략 1 (Agent 기술 내재화): LangGraph 기반의 에이전트 설계 역량을 확보하여, 단순 질의응답을 넘어 사용자의 의도를 파악하고 스스로 프로세스를 최적화하는 '지능형 에이전트' 시스템을 구축해야 한다.
• 추진 전략 2 (데이터 파이프라인 고도화): 고성능 에이전트의 기반이 되는 양질의 데이터 확보를 위해, ML 기반의 자동 전처리 시스템과 OCR을 활용한 비정형 데이터 자산화 프로세스를 정립해야 한다.

결론적으로 향후 AI 서비스의 경쟁력은 "얼마나 정교한 에이전트 아키텍처를 설계하느냐"와 "얼마나 정제된 데이터를 공급하느냐"에 의해 결정될 것이다.