이번에 적용된 플랫폼은 레드햇의 '오픈시프트'와 '오픈시프트AI'다. '오픈시프트'는 애플리케이션 배포와 관리를 통합 지원하는 플랫폼으로, 다양한 개발·운영 도구를 제공한다. '오픈시프트AI'는 다수의 GPU 서버를 효율적으로 관리해 거대 언어모델(LLM)과 고성능 AI 추론 환경 구축에 특화된 솔루션으로, 국내에서는 BC카드가 처음 도입했다.
BC카드는 이를 통해 AI 프로젝트 실험과 검증 속도를 높이고, 서비스 안정성과 확장성을 강화할 계획이다. 내부 LLM 프로젝트 배포 주기를 단축하고, 리스크 분석·업무 효율화·내부 지식 검색 등 주요 업무에 AI 적용을 확대한다는 방침이다.
BC카드는 최근 ▲신규 가맹점 업종 분류 자동화 ▲AI 기반 쇼핑정보 추천 ▲구매 패턴 기반 상품 추천 등 10여 종의 AI 서비스를 자체 개발·운영해 왔다. 하지만 AI 프로젝트 증가와 함께 GPU 사용량이 늘어나 학습·추론 속도와 인프라 효율성 개선 필요성이 커졌다.
최원석 BC카드 사장은 "오픈시프트AI 도입으로 GPU 자원 활용 최적화와 LLM 학습·추론 환경 개선이 가능해졌다"며 "핵심 업무 전반에 AI 적용을 확대해 디지털 경쟁력을 강화하겠다"고 말했다.
<저작권자 © ‘재테크 경제주간지’ 머니S, 무단전재 및 재배포 금지>