LY Corporation Tech-Verse 2026

AI

AI 시대 필수 보안 : '외부 가드레일' 완벽 가이드

시간
1:55 - 2:25 PM JST
언어
KO

서론 :

  1. 보안 패러다임의 전환 및 간단한 공격 사례와 실제 발생 가능한 위협 소개
  2. AI guardrail 및 별도 guardrail이 필요한 이유 소개

본론 : 다양한 공격 방법에 맞서는 guardrail 기술들 소개 및 실제 적용 방법 및 결과 공유

  1. prompt injection 검출
  2. text moderation
  3. off topic detection
  4. person identifiable information 검출
  5. hallucination 검출

결론 : 요약 및 발표 내용을 바탕으로 안전한 AI 서비스를 구축하는 방법 소개


한종우

LINE PlusApplied ML Dev

2011년 고려대학교에서 박사학위를 취득하였습니다. 이후 2020년까지 LG전자, 2020년부터 2021년까지 Intel Korea에서 근무하였습니다. 2022년부터 LINE Plus에서 Applied ML Dev에서 Lead로 재직 중입니다.

장혁재

LINE PlusApplied ML Dev

LINE Plus에서 AI Guardrails와 On-device ML을 개발하고 있는 소프트웨어 엔지니어입니다.
최근에는 Topic Control을 중심으로 다국어 AI 안전성 시스템을 설계·학습·배포하고 있으며, 벤치마크와 자동 평가 파이프라인도 직접 구축하고 있습니다.
LINE Android 클라이언트 개발부터 Federated Learning, On-device AI, 생성형 AI까지 폭넓은 경험을 쌓아왔고, 요즘은 특히 “데모에서는 잘 되는 AI”를 “실제 제품 환경에서도 견고하게 동작하는 AI”로 만드는 일에 집중하고 있습니다.

이수아

LINE PlusApplied ML Dev

LINE Plus에서 AI Guardrail 프로젝트의 hallucination detection을 담당하는 AI 소프트웨어 엔지니어입니다. RAG·NLI·LLM 기반 검증 구조와 평가·운영 파이프라인을 설계하고 있으며, 이전에는 삼성전자에서 Coding Agent와 LLM 서빙 플랫폼, GPU 추론 최적화를 개발했으며, 인텔코리아에서는 Datumaro, 데이터 프루닝, 멀티모달 데이터셋 관리, 모델 경량화 개발을 수행하며 데이터·플랫폼·모델 전반의 효율화 경험을 쌓았습니다.

김영현

LINE PlusSecurity R&D

삼성SDS에서 연구개발 엔지니어(2018–2021)로 동형암호 및 차분 프라이버시를 활용한 프라이버시 보존 머신러닝(PPML)을 전문으로 연구했습니다. 현재는 LINE Plus 에서 보안 리서치 엔지니어(2021–현재)로 근무하며 FIDO2, 기기 무결성 검증(Device Attestation), 프라이버시 강화 기술(PET), AI Guardrails 등 보안 R&D 전반을 담당하고 있습니다.

모든 세션