투이컨설팅(대표 김인현)은 9일 발표를 통해, 트러스트커넥터(대표 윤석빈)와 공동으로 오는 5월 22일 서울 강남 드림플러스 이벤트홀에서 ‘우리 조직에 맞는 엔터프라이즈 LLM’ 세미나를 개최한다고 전했다.

본격적인 생성 AI 시대를 맞아 기업도 자체적인 AI 서비스를 제공하기 위해 sLLM(소형 대규모언어모델)을 구축하려는 움직임이 늘어나고 있다.

반면, 데이터 유출 등 보안 문제, 비싼 API 사용료, 복잡한 인프라 구축, 내부 시스템 연계의 어려움 등 여러 가지 이슈로 인해 도입이 지연되거나 PoC 형태로 진행되고 있는 것이 현실이다.

이번 세미나는 챗(Chat) GPT의 환각(hallucination) 문제를 해결하고 회사 내부 데이터를 sLLM에 연결하는 효과적인 방법 그리고 sLLM 도입 시 발생하는 각종 이슈들을 어떻게 해결할 수 있는지에 대한 현실적인 방안을 모색하기 위해 국내 정상급 AI 전문가들이 한자리에 모여 세션 발표와 패널 토의 형태로 진행된다.

엔비디아 본사에서 H100 GPU 개발에 참여한 한국 개발자 ‘스테판 조(Stephen Cho)’가 영상을 통해 인사말과 함께 최근 주목받는 AI 반도체와 생성 AI에 대한 인사이트를 제시하는 자리도 마련됐다.

- ‘우리 조직에 맞는 엔터프라이즈 LLM’ 세미나 개요 -

이번 행사의 첫 번째 발표는 한국마이크로소프트 이건복 상무가 ‘생성AI 동향과 엔터프라이즈 LLM 구현’이라는 주제 발표를 통해 최근 생성 AI 시장에 대한 주요 현안을 설명하고 기업 대상 엔터프라이즈 LLM 구축 및 활용 사례를 제시한다.

신정규 래블업 대표가 이어받아 ‘우리 조직에 맞는 엔터프라이즈 LLM 구축 방안’에 대해 발표하고 셀렉트스타 황민영 부대표가 ‘엔터프라이즈 LLM 도입 전략: 빅테크 vs. 오픈소스’를 주제로 빅테크와 오픈소스 LLM 도입 시 장단점 분석과 우리 기업에 맞는 효과적인 도입 전략에 대해 전한다.

또한 BI매트릭스 배영근 대표는 ‘엔터프라이즈 LLM : LCNC 적용 사례와 활용 전략’이라는 주제로 담당자가 AI와 대화를 하듯이 기업의 데이터베이스에서 데이터를 조회하고, 이를 바탕으로 노코드 로코드로 AI 서비스를 개발한 실제 적용 사례에 대해 소개한다.

오후 세션에서는 트러스트커넥터 대표 겸 서강대 특임 교수 윤석빈 대표의 사회로 펑션투웰브 박승호 대표, 카이스트(KAIST) 장동인 교수, 티쓰리큐(T3Q) 박병훈 대표 등이 참여, ‘엔터프라이즈 LLM 도입시 발생 이슈와 해결 방안’이라는 주제로 50분 동안 패널 토의를 진행한다.

패널 토의에서는 엔터프라이즈 LLM 도입 필요성과 기존 시스템과의 연계 방안, 인프라, 비용 등에 대한 내용이 심도깊게 다뤄질 예정이다.

패널 토의 이후에는 유엔진 솔루션즈 장진영 대표의 ‘엔터프라이즈 LLM 활용한 비지니스 프로세스 관리 혁신 상세 방안’과 포티투마루 김동환 대표의 ‘언어 인공지능 상용화 사례 및 RAG, LLM 도입 전략’, 법무법인 디엘지 조원희 대표 변호사의 ‘EU AI 법이 국내에 미치는 영향’에 대한 발표가 이어진다.

이번 세미나를 주최한 투이컨설팅 김인현 대표는 “기업용 sLLM의 중요성이 강조되는 최근 추세와는 달리 국내 기업이 이를 어떻게 도입하고 활성화할 방법은 아직 미미하다. 세미나 이후에도 학계 및 업계 전문가들과 함께 생성 AI 시대에 부합하는 LLM 도입 및 활성화 방안에 대해 고민하고 유튜브 채널 ‘투이톡(https://www.youtube.com/@2eTalk)’을 통해서 내용을 공유하겠다”라고 말했다.

이번 세미나 참가 신청은 트러스트커넥터 홈페이지(www.trustconnector.site)에서 할 수 있다.

1차 등록 마감은 4월 30일까지다.

<김동기 기자>kdk@bikorea.net