AI
AI가 고도화되어도 보안 위협은 사라지지 않습니다. 지능이 곧 안전을 보장하지 않기 때문입니다. 모델에게 내리는 지시, 즉 시스템 프롬프트만으로는 이러한 위협을 완전히 막을 수 없습니다. 저희는 시스템 프롬프트의 한계를 넘어선 ‘외부 AI 가드레일’ 도입을 제안합니다.
외부 가드레일은 모델 외부에서 안전 정책을 실행하여 비용 효율성과 운영 통제력을 높이고, 다층 방어를 구축합니다. 이번 발표에서는 5가지 핵심 가드레일을 소개합니다.
신뢰할 수 있는 AI 서비스를 구현하고 싶다면, 모델 밖을 지키는 외부 가드레일 도입을 고민해 보세요.
LINE Plus
Applied ML Dev
2011년 고려대학교에서 박사학위를 취득하였습니다. 이후 2020년까지 LG전자, 2020년부터 2021년까지 Intel Korea에서 근무하였습니다. 2022년부터 LINE Plus에서 Applied ML Dev에서 Lead로 재직 중입니다.
LINE PlusApplied ML Dev
LINE Plus에서 AI Guardrails와 On-device ML을 개발하고 있는 소프트웨어 엔지니어입니다.
최근에는 Topic Control을 중심으로 다국어 AI 안전성 시스템을 설계·학습·배포하고 있으며, 벤치마크와 자동 평가 파이프라인도 직접 구축하고 있습니다.
LINE Android 클라이언트 개발부터 Federated Learning, On-device AI, 생성형 AI까지 폭넓은 경험을 쌓아왔고, 요즘은 특히 “데모에서는 잘 되는 AI”를 “실제 제품 환경에서도 견고하게 동작하는 AI”로 만드는 일에 집중하고 있습니다.
LINE PlusApplied ML Dev
LINE Plus에서 AI Guardrail 프로젝트의 hallucination detection을 담당하는 AI 소프트웨어 엔지니어입니다. RAG·NLI·LLM 기반 검증 구조와 평가·운영 파이프라인을 설계하고 있으며, 이전에는 삼성전자에서 Coding Agent와 LLM 서빙 플랫폼, GPU 추론 최적화를 개발했으며, 인텔코리아에서는 Datumaro, 데이터 프루닝, 멀티모달 데이터셋 관리, 모델 경량화 개발을 수행하며 데이터·플랫폼·모델 전반의 효율화 경험을 쌓았습니다.
LINE PlusSecurity R&D
삼성SDS에서 연구개발 엔지니어(2018–2021)로 동형암호 및 차분 프라이버시를 활용한 프라이버시 보존 머신러닝(PPML)을 전문으로 연구했습니다. 현재는 LINE Plus 에서 보안 리서치 엔지니어(2021–현재)로 근무하며 FIDO2, 기기 무결성 검증(Device Attestation), 프라이버시 강화 기술(PET), AI Guardrails 등 보안 R&D 전반을 담당하고 있습니다.
