By 이재협/실장/시스템개발실/PHYSIA :: SysOps in 뉴스/소식 :: News & Insights — Nov 19, 2024

S2W, AI 플랫폼에 보안 강화 기능 '시큐리티 가드레일' 도입

에스투더블유(S2W)는 자사의 기업 맞춤형 생성형 인공지능(AI) 플랫폼인 'SAIP(S2W AI Platform)'에 '시큐리티 가드레일(Security Guardrail)' 기능을 도입했다고 밝혔다. 이 새로운 기능은 AI의 안전성을 강화하고, 안전한 데이터 운용 환경을 제공하는 데 중점을 두고 있다.

SAIP는 S2W가 축적한 AI 기술과 데이터 처리 노하우를 기반으로 하고 있으며, 고객의 보안 요구 사항에 맞춰 제로 트러스트(Zero Trust) 원칙을 적용하여 설계된 플랫폼이다. 시큐리티 가드레일은 대규모 언어 모델(LLM)의 개발 및 운영 과정에서 보안성과 신뢰성을 높이기 위한 여러 방어 체계를 포함하고 있다.

S2W는 시큐리티 가드레일을 통해 기업 내부 데이터를 보호하고, 보안 위협에 대한 대응 능력을 강화하고 있다. AI 모델 학습에 사용되는 데이터 세트는 철저히 검토되며, 민감 정보는 제거되는 과정이 포함돼 정보 유출의 위험을 최소화하고 데이터 프라이버시를 확보하고 있다.

또한, 시큐리티 가드레일은 LLM의 취약점을 악용하는 '프롬프트 인젝션(Prompt Injection)' 공격에 대한 방어 역할도 수행한다. 이는 AI 모델이 주어진 프롬프트에 대해 잘못된 반응을 보이는 것을 방지하는 데 기여한다.

서상덕 S2W 대표는 시큐리티 가드레일을 포함한 다양한 기술의 개발과 고도화를 지속할 것이라고 강조하며, 고객이 데이터와 AI의 활용 가치를 증대시킬 수 있도록 안전한 환경 구축에 힘쓰겠다고 밝혔다. 이러한 사업 전략은 현재 AI와 데이터 보안에 대한 요구가 증가하는 추세에서 고객들에게 긍정적인 효과를 제공할 것으로 기대된다.

AI 기술의 발전에 따라 보안 문제는 갈수록 복잡해지고 있다. 특히 기업들이 다루는 데이터의 민감성이 높아짐에 따라, 이를 보호하기 위한 기술적 노력이 필요하다. S2W의 시큐리티 가드레일이 그러한 필요에 부합하는 기술적 해결책으로 자리잡고 있다는 점은 주목할 만하다.

전문가들은 기업이 AI를 도입할 때 보안 문제를 간과해서는 안 된다고 강조한다. S2W의 접근 방식은 이러한 경고를 반영하고 있으며, AI 시스템의 신뢰성을 높이기 위해 더욱 철저한 보안 대책이 필요함을 인식하고 있는 것으로 보인다.

│

Subscribe to 게임투비즈 :: GameToBiz