AI 보안 강화 위해 SAIP 플랫폼의 시큐리티 가드레일 도입

최근 인공지능(AI) 기술의 도입이 가속화됨에 따라 보안 체계의 중요성이 증가하고 있다. S2W는 자사의 AI 플랫폼에 방어 체계를 강화하여 사용자가 안전하게 기능을 이용할 수 있도록 지원하고 있다. S2W의 기업용 생성형 AI 플랫폼인 'SAIP'는 제로트러스트 기반으로 설계돼 있으며, 고객의 보안 요구에 맞춰 개발됐다.

SAIP는 S2W가 보유한 AI 기술과 데이터 처리 노하우를 활용하여, 기업의 특화된 도메인에 맞춘 거대언어모델(LLM)과 지식 그래프 기술을 통합하고 있다. 이를 통해 각 산업의 특성과 사용 목적에 따라 사용자의 질문에 사실 기반의 정확한 데이터를 제공할 수 있다. 그러나 LLM의 도입은 데이터 유출과 조작 등의 보안 문제를 일으킬 수 있어 우려의 목소리가 높아지고 있다.

AI 기술의 보안 문제는 글로벌 시장에서도 중요한 화두가 되고 있다. 주요국가에서는 'AI 리스크 서밋'과 같은 관련 행사가 매년 개최되고 있으며, 이러한 회의들은 AI 기술이 보안을 무시하고서는 그 활용이 무의미하다는 인식을 반영한다. 이러한 배경 속에서 S2W는 SAIP에 시큐리티 가드레일을 도입하여 기업 내부 데이터를 보호하고 보안 위협에 대응할 수 있도록 한다고 밝혔다.

시큐리티 가드레일은 LLM을 개발하고 배포하며 운영하는 과정에서 보안과 신뢰성을 확보하는 방어 체계이다. S2W는 이 시스템을 통해 AI 모델 학습에 사용되는 데이터 세트를 검토하고 민감 정보를 제거하는 과정을 통해 정보 유출의 위험을 최소화하고 있다. 또한, '프롬프트 인젝션'과 같은 취약점을 활용하여 AI 모델이 잘못된 반응을 보이지 않도록 방지하는 기능도 제공하고 있다.

서상덕 S2W 대표는 "시큐리티 가드레일을 포함한 다양한 기술 개발을 통해 조직 내부 데이터의 안전한 운영을 지원하고, 고객들이 AI와 데이터의 가치를 극대화할 수 있는 환경을 조성할 것"이라고 강조했다. 이와 같은 노력은 AI 기술의 지속적인 발전과 보안 문제 해결을 동시에 꾀하는 방향으로 나아가고 있다. AI 기술의 발전과 더불어 보안 체계 구축이 더욱 중요해질 것으로 예상된다.

│

이 포스트는 피시아(PHYSIA) 사에서 운영하는 게임투비즈(GameToBiz) R&D 블로그에서 작성되었으며, 공공의 이익에 기여하는 목적을 제외한 다른 용도의 무단 배포 및 수정을 금합니다. 참조 - 피시아(PHYSIA), 게임투비즈(GameToBiz), 게임메이커.KR, 게임S/W에이전시, 저널CTL코리아