【解説】企業向け外部AI、サムスンはこう使う…流出遮断5段階

Photo of author

By Global Team

2023年のソースコード流出を受けて全社で遮断していた外部AIを、3年ぶりに全面導入へと転換した。

焦点は遮断ではなく統制だ。企業向けアカウント、AI専用DLP、二重運用体制が安全装置を構成する一方、中小企業にとっては高額な構築費の代わりにサブスクリプションとガバナンスが現実的な代替策となる。

グラフィック=ソリューションニュース
グラフィック=ソリューションニュース

今、何が起きているのか。

サムスンは9日、全関係会社を対象にChatGPT、Gemini、Claudeなどの外部生成AIを今月中に正式導入すると発表した。

開発・購買・製造・物流・マーケティング・販売・サービス・経営支援という、いわゆる8大業務の全工程にAIを適用する「AI大転換」構想の核心的な措置だ。各系列会社の最高経営責任者が自ら革新を主導する。

規模も小さくない。社長団50人余りは今月中に2日間の集中教育「AXブートキャンプ」に入る予定で、役員2300人余りは8月12日まで各回ごとの教育を受ける。全社員教育は年内に終える計画だ。外部AIを全社レベルで使うという宣言にほかならない。

サムスンの関係会社役員たちが、人材開発院の創造館でAI集中教育を受けている。(写真=サムスン電子)

サムスンは、外部生成AIを最初に、そして最も強く封じ込めた当事者でもある。2023年4月、半導体部門の社員が設備ソースコードと会議内容をChatGPTに入力し、情報が外部サーバーへ渡る事故が発生した。

会社は同年5月、社内PCからの生成AIアクセスを全面遮断した。一度入力したデータは回収も削除もできないという警告が、社内アンケート回答者の65%をセキュリティリスクへの同意に導いた。

その鎖を3年ぶりに自ら解いた。会社は今回もセキュリティを軽視していないと強調する。外部AIの全面解禁とセキュリティ体制の高度化を「同時に」達成する方針を明確にした。活用を広げつつ、リスクは統制するという二兎追いの戦略だ。

意味の分析

では、何が変わったのか。3年前と現在の外部AIは同じものではない。

2023年にサムスンが恐れていた対象は、正確には「消費者向け」の生成AIだった。個人が無料で使うチャットボットは、利用者が入力した値をモデル学習に再利用する構造のものが多かった。社員が不用意に貼り付けたソースコード1行がモデルに染み込み、他人への回答に現れるおそれは誇張ではなかった。

いま企業が使う外部AIは性質が異なる。セキュリティ業界によると、有料の企業向け環境では、入力データをサービス事業者の学習データとして使わないことが一般的な契約条件になっている。

データ保持期間をゼロに近づけたり、企業専用領域の中だけでデータが循環するよう隔離する機能も標準に近い。技術的前提が変わり、「使えば即流出」という等式は揺らいだ。

サムスンもその前提の上に立っているとみられる。同社はどの等級のサービスを導入するのかを具体的には明らかにしていない。ただし、外部AIの全面解禁とセキュリティ体制の構築を併記しており、4~5月にはデバイス経験部門の社員2500人を対象に候補サービスを試す概念実証を行っていた。

全社員がすぐに自由に使う方式でもない。運用方針とセキュリティ体制を整えたうえで段階的に開放する計画であり、統制された企業向け環境を前提にしているとの見方が業界では強い。

判断の重みも移った。遮断にかかるコストより、使わないことによるコストの方が大きくなった。競合がAIでレポートを書き、コードを組み、市場を分析する中で、遮断だけを貫けば生産性格差が広がる。

サムスンが社内自社モデル「サムスン・ガウス」と外部の汎用AIを併用する二重運用を選んだ背景がここにある。機密性の高い社内データは自社モデルが担い、最新の汎用機能は外部から取り込む役割分担だ。

この流れはサムスンだけのものではない。国内企業の生成AI活用率は2025年の55.7%から今年は85%前後まで上昇すると業界はみている。遮断が基本だった時代は終わり、「どう安全に使うか」が新たな問いとして浮上した。

最高経営責任者がセキュリティ問題をIT部門に任せず、経営課題として自ら引き受けた点も、今回の発表が示すもう一つのシグナルだ。

分かれる見方

2023年のソースコード流出を受けて全社遮断していた外部AIが、3年ぶりに全面導入へと転換した。

楽観論は明快だ。企業向けアカウントで学習未使用を契約で明記し、データ流出をふるい落とす統制装置を重ねれば、リスクは「管理可能」な水準まで下がる。使わない方がむしろ大きなリスクだという認識が、この立場の出発点にある。

反論は技術の隙間を突く。企業向け契約が入力データの学習利用を止められたとしても、社員の不注意までは契約書で防げない。セキュリティ業界では、従来のデータ損失防止(DLP)体制が生成AIの前で無力になる局面を指摘する。

従来のDLPは、ファイルが添付されて外へ流出する経路を守るよう設計されていた。しかし社員が機密情報をプロンプト入力欄に直接打ち込んだり、コピーして貼り付けたりすれば、ファイルは動かない。監視網に引っかからない「ファイルのない流出」だ。

新たな脅威もある。悪意ある命令を紛れ込ませてAIに内部情報を吐き出させるプロンプト注入攻撃が代表例だ。承認されていない個人アカウントをこっそり使うシャドーITも統制の外にある。ある調査では、社員の半数近くがすでにAIツールを日常的に使っていることが分かった。使うなという指示だけでは流れを戻せないということだ。

とはいえ、むやみに締め付けるのも答えではない。AI専用DLPを扱う業界では、導入初期から遮断中心で運用すると、正常業務まで止める誤検知と社員の反発が噴出するとみている。技術は盾の一部にすぎず、最終的には人とルールが支えなければならないということだ。

示唆

今回の決定の含意は、サムスン一社にとどまらない。遮断こそがセキュリティだという古い等式が揺らいでいるというシグナルだ。

リスクを完全に消すことは、そもそも不可能だ。リスクを見える化し、管理可能な規模まで縮める方向へ、セキュリティの定義そのものが移っている。

大企業が「全面許容」を公式化した事実は、後発企業にとって一種の基準点になる。自社モデルと外部モデルを並行させる二重運用、最高経営陣が直接担うガバナンス、技術と教育を同時に敷く多層防御が、標準文法として定着する可能性が高い。

残る問いは速度と格差だ。資本と人材を備えた大企業は、フルスタックのセキュリティ体制を自ら構築できる。しかしそうでない企業は同じ道を進めない。AI活用の格差がセキュリティ格差へ、さらに競争力格差へとつながる懸念がここで生じる。

解法

本質的な問いに戻ろう。セキュリティを守りながら外部AIを使う道は何か。答えは一つの装置ではなく、幾重もの設計にある。

最も外側の層は契約とアカウントだ。無料の消費者向けではなく企業向けライセンスを導入すれば、入力データの学習利用を防ぎ、データ保持ポリシーを会社が直接管理できる。

出発点ではあるが、ただではない。企業向けアカウントは1人当たり月30~40ドル前後で、社員4000人規模なら年20億ウォンを超える。費用を負担できる組織にとっての最初の選択肢だ。

次の層は入力時点を守る統制だ。ファイルではなくプロンプト画面から情報が漏れる以上、防衛線もその地点へ移さなければならない。

AI専用DLPやセキュアブラウザは、社員が住民登録番号やソースコードを入力しようとする瞬間、それを検知して伏せたり遮断したりする。セキュリティ業界は、最初から遮断モードで運用するなと勧める。まずは1~2のチャネルで何が行き来しているかを観察し、正常と危険を分ける基準が整った後、段階的に遮断へ移る方が誤検知と反発を減らせる。

その内側の層はデータ・ガバナンスだ。どの情報が機密なのかを分類しラベルを付けなければ、どんな統制装置も空回りする。誰がどのデータにアクセスするのかを整理し、権限を最小限に絞る作業は、技術導入より先に必要だ。安全装置は、守る対象が明確であってこそ機能する。

構造設計も欠かせない。サムスン式の二重運用のように、外部へ出してよい作業と絶対に出してはならない作業を分け、機密データは自社モデルや閉域網で処理する方式が有効だ。最も危険なデータをそもそも外部経路に載せないことが、最も確実な統制である。

最後の層は人だ。「CEOのAIリテラシーが成否を分ける」というサムスンの教育哲学は大げさではない。

契約もDLPも、社員のたった一度の不注意の前では無力だ。何を入力してよく、何を入れてはいけないのかを体に染み込ませる教育、そして違反をふるい落とす専任組織が、多層防御の最後の区画を満たす。

問題は中小企業だ。莫大な構築費と専任人材を持たないところで、大企業式のフルスタックセキュリティは絵に描いた餅だ。現実的な道は自前構築ではなく、サブスクリプションだ。

学習未使用を標準で提供する検証済みの企業向けサービスを借り、その上に「入力禁止項目」を明記した内部ガイドライン1枚と短い社員教育を載せるだけでも、事故リスクは大きく下がる。

セキュリティ監査が数十万ウォン、少規模導入が数百ウォン台から始まることを踏まえれば、政府の中小企業向けAI支援事業を併せて活用する方が負担は軽い。

結局、セキュリティの本質はツールではなく、ルールと人にある。遮断の時代から統制の時代へ移る今、外部AIをどう使うかはもはやIT部門だけの宿題ではない。