AI
AIが高度化しても、セキュリティの脅威がなくなることはありません。知能の高さがそのまま安全性を保証するわけではないからです。モデルへの指示、すなわちシステムプロンプトだけでは、こうした脅威を防ぎきることはできません。そこで私たちは、システムプロンプトの限界を超える「外部AIガードレール」の導入をご提案します。
外部ガードレールは、モデルの外部で安全ポリシーを実行することで、コスト効率と運用統制を高め、多層防御を実現します。今回の発表では、5つの主要なガードレールをご紹介します。
信頼できるAIサービスの実現を目指すなら、モデルの外側を守る「外部ガードレール」の導入をぜひご検討ください。
LINE Plus
Applied ML Dev
Jongwoo Hanは、2011年に高麗大学校にて博士号を取得。2011年から2020年までLG Electronics、2020年から2021年までIntel Koreaに勤務。2022年よりLINE Plusに在籍し、現在はApplied ML DevのLeadを務めている。
LINE PlusApplied ML Dev
LINE Plusにて、AI GuardrailsやオンデバイスMLを実際のサービスに組み込むソフトウェアエンジニア。
近年は、TopicControlを中心とした多言語AIセーフティシステムの設計・学習・デプロイに加え、ベンチマークや自動評価基盤の構築にも取り組んでいる。
LINE Androidクライアント開発、federated learning、on-device AI、生成AIまで幅広い経験を持ち、現在は「デモで動くAI」を「プロダクトで使い続けられるAI」へと進化させることに注力している。
LINE PlusApplied ML Dev
LINE PlusでAI Guardrailプロジェクトにおける hallucination detection を担当しているAIソフトウェアエンジニアです。RAG・NLI・LLMベースの検証アーキテクチャと、評価・運用パイプラインの設計を行っています。以前はSamsung Electronicsにて、Coding Agent、LLMサービングプラットフォーム、GPU推論最適化の開発に携わりました。Intel Koreaでは、Datumaro、データプルーニング、マルチモーダルデータセット管理、モデル軽量化の開発を担当し、データ・プラットフォーム・モデル全般の効率化に関する経験を積みました。
LINE PlusSecurity R&D
Samsung SDSにてリサーチエンジニア（2018–2021）として、準同型暗号および差分プライバシーを用いたプライバシー保護機械学習（PPML）を専門に研究。現在はLINE Plusにてセキュリティリサーチエンジニア（2021–現在）として、FIDO2、デバイスアテステーション、プライバシー強化技術（PET）、AIガードレールなど、セキュリティR&D全般を担当しています。
