내부 업무망 전용 LLM과 검색-증강-생성(RAG) 구축으로 정확도 향상 및 정보유출 차단
한국도로교통공단이 생성형 인공지능(AI)을 활용한 업무지원 시스템을 도입하며 공공부문 AI 전환(AX)에 속도를 낸다.
한국도로교통공단은 30일부터 전 직원을 대상으로 '생성형 AI 기반 업무활용 서비스'를 본격 운영한다고 밝혔다. 이번 서비스는 거대 언어 모델(LLM, Large Language Model)을 기반으로 업무 효율성을 높이고 스마트 근무 환경을 구축하는 데 목적이 있다.
공단은 그래픽 처리 장치(GPU) 및 자체 AI 플랫폼 도입 등 AI 자원을 구축하고, LLM을 외부 인터넷과 분리된 내부 시스템에 직접 탑재해 운영한다. 이를 통해 업무 자료의 외부 유출을 원천 차단하고 보안성을 강화했다.
아울러 검색-증강-생성(RAG, Retrieval-Augmented Generation) 기술을 적용해 AI의 오류 답변(환각 현상)을 최소화하고 정확도를 높였다. RAG는 LLM이 학습하지 못한 질문에 대해 관련 정보를 먼저 검색한 뒤, 그 정보를 기반으로 답변을 생성하는 기술이다.
이번 서비스는 크게 세 가지 기능으로 구성된다. 우선 'AI 기반 질의·응답' 기능을 통해 직원이 자연어로 질문하면 관련 업무 정보를 즉시 제공하는 지능형 검색 환경을 지원한다. 또 'AI 기반 감사문서 요약 및 법령 추천' 기능을 통해 방대한 문서를 자동으로 요약하고 관련 규정을 제시함으로써 감사 업무의 효율성을 높인다.
이와 함께 'AI 기반 보도자료 초안 작성' 기능도 도입됐다. 간단한 정보 입력만으로 기관 맞춤형 보도자료 초안을 생성할 수 있어 홍보 업무의 부담을 줄이고 기획 역량 강화에 기여할 것으로 기대된다.
공단은 이번 생성형 AI 기반 업무활용 서비스 도입에 앞서 사용자 교육과 사전 테스트를 진행했으며, 그 결과 응답자의 82.2%가 업무 효율성 향상에 만족했고 평균 약 30분의 업무 시간 절감 효과가 있는 것으로 나타났다.
김희중 한국도로교통공단 이사장은 "생성형 AI 기반 서비스는 직원의 일상 업무를 지원해 업무효율성을 높이는 데 기여하고, 보안성과 신뢰성을 동시에 확보했다"라며 "앞으로도 공공기관의 AI 기반 업무혁신을 선도하겠다"고 말했다. [파이낸셜신문=황병우 기자]
