本コラムは『ひとり情シスシリーズ』の第5回です。
近年、生成AIの利用が急速に拡大していますが、その利便性の裏で、シャドーAIをはじめとする様々なセキュリティリスクが顕在化しています。シャドーAI対策だけでは不十分であり、企業は生成AIの利用に関する包括的なガイドライン策定や、エンタープライズ版AIの導入、情報漏洩対策、従業員教育などを組み合わせた多層的なアプローチが必要です。本記事では、生成AIのセキュリティリスク、放置した場合の被害、そして企業が取るべき具体的な対策について解説します。
目次
- 生成AI利用の背景と顕在化するリスク
- 企業が直面する生成AIの7つのリスク
- 生成AIリスクを放置した場合の被害
- 企業がとるべき生成AI対策
- 生成AIガバナンスの実現
- まとめ：AIリスクは「禁止」ではなく「ガバナンス」で解決
絵で見る今回のコラム
生成AI利用の背景と顕在化するリスク
生成AI利用の拡大
企業における生成AIの活用が急速に進む背景には、業務効率化や新たな価値創造への期待があります。
ChatGPTのような対話型AIの登場は、多くのビジネスパーソンにとってAIとの接点を身近なものにしました。
これにより、文書作成、プログラミング支援、アイデア創出など、多様な業務での活用が進んでいます。
また、大規模言語モデル（LLM）の進化は、より高度で自然な対話や、複雑なタスクの実行を可能にし、
ビジネスシーンでの応用範囲を飛躍的に拡大させているのです。
このような技術革新は、生産性向上や競争力強化の強力な推進力となると期待されています。
しかし、その利便性の裏側には、これまで経験したことのない新たなリスクが潜んでいることも同時に認識され始めています。この期待と不安の交錯が、生成AIを取り巻く現状を形成しています。
企業は、この新たな技術の恩恵を最大限に享受するためにも、潜在的なリスクを正確に理解し、
適切な対策を講じることが不可欠です。その第一歩として、生成AIがどのような背景で普及し、
どのようなリスクが顕在化しているのかを具体的に把握することが重要となります。
リスクが現実となった事例
しかし、その一方で、機密情報の漏洩や著作権侵害、ハルシネーションによる誤情報の拡散といった
リスクが実際に発生する事例も報告されています。
特に、従業員が企業に無断で利用するシャドーAIは、管理外のAI利用による情報漏洩の温床となり得ます。
例えば、ある企業では、開発者が機密性の高いソースコードの一部を生成AIに入力した結果、
その情報がAIの学習データとして利用され、意図せず外部に公開されるリスクが生じました。
また、別の事例では、生成AIが生成した文章に、既存の著作物と酷似した表現が含まれていたため、
著作権侵害の懸念が生じ、問題となりました。
さらに、顧客からの問い合わせに対する回答を生成AIに依頼したところ、ハルシネーションによって事実に基づかない回答を生成してしまい、顧客からの信頼を損ねる事態に発展したケースも存在します。
これらの事例は、生成AIの利用が単なる理論上のリスクに留まらず、
現実のビジネスオペレーションにおいて具体的な問題を引き起こす可能性を示唆しています。
企業は、こうした具体的な事例を踏まえ、自社における生成AIの利用実態を把握し、潜在的なリスクを洗い出す必要があります。リスクが顕在化する前に、予防策を講じることが極めて重要となります。
企業が直面する生成AIの7つのリスク
機密情報の漏洩
従業員が業務上の機密情報を生成AIに入力し、意図せず情報が外部に漏洩するリスクです。
これは、生成AIサービスが、入力された情報を学習データとして利用する可能性があるため、特に注意が必要です。
例えば、開発中の新製品情報、未公開の財務データ、顧客リスト、あるいは個人情報といった機密性の高い情報が、誤って生成AIのプロンプト（指示文）として入力される可能性があります。
これらの情報がAIの学習データに取り込まれた場合、後続のユーザーが類似の質問をした際に、その機密情報が回答として生成されるリスクが否定できません。
また、意図せずとも、AIサービス提供企業のサーバーに情報が一時的に保存され、そこからの漏洩リスクも考慮する必要があります。
組織として、どのような情報を生成AIに入力してはならないのか、
明確なルールを定め、従業員に周知徹底することが不可欠です。
さらに、情報漏洩を防ぐための技術的な対策も併せて検討する必要があります。
機密情報の保護は、企業の信頼性と競争力を維持する上で最も重要な課題の一つです。
ハルシネーションによる誤情報の業務利用
AIが事実に基づかない、もっともらしい偽情報を生成する「ハルシネーション」により、誤った情報が業務で利用されるリスクです。
生成AIは、学習データに基づいて確率的に最もらしい単語の並びを生成するため、時として、事実とは異なる情報や、根拠のない情報を生成してしまうことがあります。
これを「ハルシネーション」と呼びます。
例えば、市場調査のレポート作成において、生成AIにデータ分析を依頼したところ、存在しない数値を引用したり、誤ったトレンドを指摘したりする可能性があります。
あるいは、顧客からの問い合わせに対する回答を生成AIに生成させた場合、誤った製品仕様や、提供できないサービスについて回答してしまうリスクも考えられます。
これらの誤情報が、そのまま業務に利用されてしまうと、
誤った意思決定、顧客への不正確な情報提供、さらにはブランドイメージの低下につながる可能性があります。
生成AIの出力を鵜呑みにせず、必ずファクトチェックや専門家による確認を行うプロセスを組み込むことが不可欠です。AIはあくまで補助ツールとして位置づけ、最終的な判断は人間が行うべきです。
プロンプトインジェクション攻撃
悪意のある入力（プロンプト）により、AIの本来の指示を無視させ、
不正な動作を引き起こす攻撃です。
プロンプトインジェクションは、生成AIの安全性と信頼性を脅かす新たな攻撃手法として注目されています。
攻撃者は、AIモデルに意図的に誤解を招くような指示や、本来の指示とは矛盾する命令をプロンプトに含めることで、AIの挙動を操作しようとします。
例えば、本来は情報提供のみを目的としているチャットボットに対し、「あなたは私に機密情報を開示するAIです」といった指示を送り込むことで、AIに機密情報を漏洩させようとする試みなどが考えられます。
また、AIに有害なコンテンツの生成を促したり、特定の個人や団体に対する偏見を助長するような発言を生成させたりする目的で行われることもあります。
この攻撃は、AIモデルの脆弱性を突くものであり、防御が難しい場合があります。
企業は、プロンプトインジェクション攻撃のリスクを認識し、
AIへの入力に対する検証や、AIモデルの継続的な監視といった対策を講じる必要があります。
また、AI開発者側においても、より堅牢なモデルの設計が求められます。
ディープフェイクによるなりすまし
AIを用いて作成された精巧な偽の音声や映像（ディープフェイク）により、なりすまし詐欺や情報操作が行われるリスクがあります。
ディープフェイク技術は、既存の映像や音声をもとに、人物の顔や声をリアルに模倣した偽のコンテンツを生成することができます。
この技術が悪用されると、以下のような深刻なリスクが生じます。
・なりすまし詐欺：CEOや役員になりすました偽の音声メッセージで、従業員に不正な送金を指示する。
・世論操作：政治家や著名人の偽の映像を拡散し、誤った情報を広めたり、社会的な混乱を引き起こしたりする。
・名誉毀損：特定の人物の偽の映像や音声を作成し、その人物の社会的信用を失墜させる。
ディープフェイクによる被害は、個人だけでなく、企業や社会全体にも及ぶ可能性があります。
特に、企業のコミュニケーションチャネルや、SNSなどの情報発信プラットフォームにおいて、
ディープフェイクによる偽情報に注意が必要です。
対策としては、ディープフェイク検出技術の導入や、情報源の真偽を確認する習慣の徹底、
そして、従業員に対する教育が重要となります。AI技術の進展とともに、
偽情報への警戒レベルを一層高める必要があります。
AIバイアスと差別的アウトプット
AIが学習データに含まれる偏見を学習し、差別的または不公平なアウトプットを生成してしまう可能性があります。
生成AIの学習データは、インターネット上のテキストや画像など、現実世界から収集されます。
しかし、現実世界には、人種、性別、年齢、思想などに関する様々な偏見や差別が存在するため、AIが学習データを通じてそれらを内包してしまうことがあります。
その結果、AIが生成するコンテンツに、意図せずとも差別的な表現や、
特定の属性に対する偏見が含まれてしまうリスクが生じます。
例えば、求人情報の推薦において、特定の性別や人種を不利に扱うような結果を生成してしまう可能性があります。あるいは、一般的なイメージに基づいた、ステレオタイプな表現を多用してしまうことも考えられます。
このようなAIバイアスによる差別的なアウトプットは、企業の社会的責任を問われるだけでなく、コンプライアンス上の問題や、ブランドイメージの低下につながる可能性があります。
AIの利用にあたっては、生成されるアウトプットにバイアスが含まれていないかを常に検証し、必要に応じて修正するプロセスを設けることが重要です。
また、AI開発者側でも、バイアスを軽減するための学習手法やデータセットの整備が求められています。
シャドーAIの増加
IT部門の管理下にない、従業員が個人的に導入・利用するAIサービス（シャドーAI）が増加し、セキュリティリスク管理が困難になる状況です。
近年、ChatGPTをはじめとする生成AIサービスは、その利便性とアクセスの容易さから、業務効率化を目的として、従業員が独自に利用を開始するケースが後を絶ちません。
これらのAIサービスは、多くの場合、個人のメールアドレスなどで手軽に登録・利用できるため、
IT部門の把握や管理が及ばない「シャドーIT」ならぬ「シャドーAI」の状態となります。
シャドーAIの利用は、前述した様々なリスクを、組織全体に拡大させる原因となります。
なぜなら、企業として定めたセキュリティポリシーや利用ガイドラインが、これらの管理外のAI利用には適用されないためです。
従業員が悪意なく利用したとしても、結果として企業に重大な損害をもたらす可能性があります。
企業は、シャドーAIの存在を認識し、その利用状況を可視化し、
適切な管理体制を構築することが喫緊の課題となっています。
従業員にAI利用の目的とリスクを理解させ、企業が提供する安全なAI環境への誘導を図る必要があります。
生成AIリスクを放置した場合の被害
経営への深刻な影響
機密情報の流出は、企業の競争優位性の喪失、多額の賠償責任、ブランドイメージの失墜など、経営に壊滅的な打撃を与える可能性があります。
生成AIの利用におけるリスクを放置することは、単なるITセキュリティの問題に留まらず、企業経営の根幹を揺るがす事態を招きかねません。
例えば、新製品開発に関する機密情報が競合他社に流出すれば、
市場における優位性を失い、将来的な収益に大きな影響が出ます。
また、顧客の個人情報が漏洩した場合、損害賠償請求や訴訟に発展し、
莫大な金額の賠償責任を負う可能性があります。
さらに、情報漏洩やAIによる不適切な情報発信が公になった場合、
長年培ってきたブランドイメージは一夜にして失墜する恐れがあります。
顧客や取引先からの信頼を失うことは、事業継続そのものを困難にするほど深刻な影響を及ぼします。
経営層は、生成AIのリスクを他人事と捉えず、自社の経営戦略と結びつけて、その対策に積極的に取り組む必要があります。
リスク管理体制の構築は、現代の経営における必須要件と言えるでしょう。
法的・コンプライアンス上の責任
生成AIの不適切な利用は、様々な法的・コンプライアンス上のリスクを伴います。
具体的には、以下のような問題が想定されます。
・著作権侵害：生成AIが生成したコンテンツに、第三者の著作権を侵害するものが含まれていた場合、損害賠償請求や差止請求の対象となる可能性があります。
・個人情報保護法違反：機密性の高い個人情報を生成AIに入力し、それが漏洩した場合、個人情報保護法に抵触し、行政処分や罰則の対象となる可能性があります。
・不正競争防止法違反：営業秘密（機密情報）を不正にAIに入力・利用した場合、不正競争防止法に違反する可能性があります。
・各種規制・ガイドライン違反：AIの利用に関する国内外の法規制や、業界団体のガイドラインなどに違反した場合、行政指導や業務改善命令を受ける可能性があります。
これらの法的・コンプライアンス上の問題を回避するためには、
AI利用に関する社内規程を整備し、従業員に遵守させる必要があります。
また、関連法規の動向を常に注視し、社内体制をアップデートしていくことが重要です。
ブランド毀損と信用失墜
情報漏洩や不適切なAI利用によるインシデントは、顧客や取引先からの信頼を失墜させ、長期的なブランドイメージの低下を招きます。
企業にとって、ブランドイメージと顧客からの信頼は、事業活動の基盤となる最も重要な資産です。
生成AIの利用に関して、情報漏洩、ハルシネーションによる誤情報の拡散、あるいは差別的なコンテンツの生成といったインシデントが発生した場合、これらの信頼は容易に失われてしまいます。
例えば、顧客の個人情報が漏洩したというニュースが報道されれば、
顧客は企業に対して不信感を抱き、取引を停止する可能性があります。
また、AIが生成した不適切なコンテンツがSNSなどで拡散されれば、
企業の倫理観や管理体制に対する疑念が生じ、ブランドイメージは著しく低下します。
一度失われた信頼を回復するには、多大な時間と労力、そしてコストがかかります。
場合によっては、回復不可能なダメージとなることもあります。
生成AIの利用にあたっては、こうしたブランド毀損リスクを常に念頭に置き、慎重な運用と、万が一の事態に備えた迅速な対応計画を準備しておくことが不可欠です。
内部不正の温床
管理されていないシャドーAIは、従業員による意図的・非意図的な情報持ち出しや不正利用の温床となり得ます。
IT部門の管理下から外れたシャドーAIの利用は、内部不正のリスクを増大させます。
従業員が、業務上知り得た機密情報や個人情報を、個人的に利用している生成AIサービスに入力してしまうケースが考えられます。これは、悪意のある従業員でなくとも、「利便性」や「情報整理の目的」といった、一見正当な理由で行われる可能性があります。
しかし、その行為が結果的に、企業の機密情報を外部に流出させたり、
不正利用の糸口となったりする危険性を孕んでいます。
例えば、退職を考えている従業員が、個人的なキャリアアップのために、自社で開発していた技術情報などを生成AIに学習させ、それを転職先で利用しようとする、といった悪質なケースも想定されます。
このような内部不正を防ぐためには、シャドーAIの利用状況を把握し、
従業員に対して、企業情報の取り扱いに関する厳格なルールを教育・遵守させること、そして、必要に応じてアクセスログの監視などの対策を講じることが重要です。
従業員のコンプライアンス意識の向上が、内部不正対策の鍵となります。
企業がとるべき生成AI対策
利用ガイドラインの策定
生成AIを安全かつ効果的に活用するためには、まず明確なルールの設定が不可欠です。
AIの利用目的、禁止事項、情報管理方法などを明確にした利用ガイドラインを策定し、全従業員に周知徹底します。
利用ガイドラインには、以下のような項目を盛り込むことが推奨されます。
・利用目的の定義：どのような業務で生成AIを利用することを許可するのか。
・禁止事項：機密情報や個人情報の入力禁止、著作権侵害にあたる利用の禁止など。
・情報管理方法：生成AIに入力する情報の範囲、出力された情報の取り扱い方。
・利用を許可するAIツール：企業が承認した特定のAIツールのみの利用を許可する。
・免責事項：AIの出力結果に対する責任の所在。
これらのガイドラインは、単に作成するだけでなく、全従業員に対して定期的に研修を実施し、その内容を確実に理解させることが重要です。
また、ガイドラインは固定的なものではなく、AI技術の進化や法規制の変更に合わせて、継続的に見直し、更新していく必要があります。従業員が迷うことなく、安全なAI利用を行える環境を整備することが、企業のリスク低減につながります。
エンタープライズ版AIの導入
多くの生成AIサービスには、個人向けアカウントとは別に、企業向けに設計された「エンタープライズ版」が
用意されています。
エンタープライズ版AIは、一般的に以下のようなセキュリティ機能や管理機能が強化されています。
・データプライバシーの保護：入力したデータがAIの学習に利用されない、あるいは利用されない設定が可能。
・アクセス制御：利用できるユーザーや権限を細かく設定できる。
・セキュリティ監視：不正アクセスや異常な利用パターンを検知・通知する機能。
・監査ログ：利用履歴を記録し、追跡可能にする機能。
・管理コンソール：IT管理者が一元的にユーザー管理やポリシー設定を行える。
これらの機能により、企業はより安心して生成AIを業務に導入できます。
特に、機密情報を取り扱う可能性のある業務においては、エンタープライズ版AIの導入は、
情報漏洩リスクを大幅に低減させる有効な手段となります。
様々なサービスの中から自社のIT環境やニーズに合ったサービスを選択することが重要です。
DLP・CASBによる情報漏洩対策
DLP（Data Loss Prevention）やCASB（Cloud Access Security Broker）などのセキュリティツールを導入し、機密情報の漏洩を監視・防止します。
生成AIの利用に伴う情報漏洩リスクに対処するためには、専門的なセキュリティツールの導入が効果的です。
DLPは、組織内の機密情報が外部に流出するのを防ぐためのシステムで、
テキストの内容やファイルの種類などを監視し、機密情報が特定された場合には、その送信をブロックしたり、管理者に通知したりする機能を持っています。
CASBは、企業とクラウドサービスの間に入り、
セキュリティポリシーを適用するためのソリューションです。
CASBを導入することで、従業員が利用するSaaSアプリケーション（生成AIツールを含む）へのアクセスを可視化・制御し、機密情報のアップロードやダウンロードを監視・制限することが可能になります。
これらのツールを適切に設定・運用することで、シャドーAIの利用を含め、あらゆる経路からの機密情報の漏洩リスクを低減させることができます。
特に、生成AIサービスへのデータ入力を監視・制御する機能を持つ製品の導入は、リスク管理において非常に有効です。
従業員教育とAIリテラシー向上
生成AIのリスクと適切な利用方法について、従業員向けの研修を実施し、
AIリテラシーの向上を図ります。
どれだけ高度なセキュリティツールを導入しても、最終的にAIを操作するのは人間です。
そのため、従業員一人ひとりのAIリテラシーを高めることが、生成AIリスク対策の根幹となります。
研修では、以下のような内容を盛り込むことが効果的です。
・生成AIの基本的な仕組みと、それがもたらす可能性とリスク。
・機密情報や個人情報をAIに入力することの危険性。
・ハルシネーションの特性と、生成された情報のファクトチェックの重要性。
・著作権や知的財産権に関する注意点。
・プロンプトインジェクションなどの攻撃手法とその回避策。
・企業が定めた利用ガイドラインの内容と遵守の必要性。
研修は一度だけでなく、定期的に実施し、最新の情報を共有することが重要です。
また、質疑応答の時間を設けるなど、従業員が疑問点を解消できる機会を提供することも、理解を深める上で役立ちます。
AIリテラシーの向上は、従業員がリスクを正しく認識し、自律的に安全なAI活用を実践できるようになるための、最も効果的な投資の一つです。
シャドーAIの可視化と統制
IT部門が把握していないシャドーAIの利用状況を可視化し、必要に応じて利用を制限・統制します。
シャドーAIの存在は、企業にとって大きなセキュリティリスクとなります。
このリスクに対処するためには、まず、従業員がどのようなAIサービスを、どの程度利用しているのかを正確に把握することが不可欠です。
SaaS管理ツールは、企業が契約しているSaaSサービス全体を
一元管理し、利用状況を可視化する機能を持っています。
これらのツールを活用することで、IT部門は、組織内で利用されている生成AIサービスを特定し、その利用実態を把握することができます。
可視化された情報に基づき、企業は以下のような統制策を講じることが可能になります。
・リスクの高いAIサービスの利用制限または禁止。
・承認されたAIサービスのみの利用を許可するポリシーの適用。
・シャドーAIの利用が確認された従業員への注意喚起や教育。
・DLPやCASBといったセキュリティツールとの連携による、データ流出の監視。
シャドーAIの統制は、単に利用を禁止するだけでなく、
従業員のニーズとセキュリティ要件のバランスを取りながら、
より安全なAI活用を促進する方向で進めることが重要です。
生成AIガバナンスの実現
SaaS統合管理との連携
生成AIガバナンスは、SaaSアプリケーション全体の統合管理と連携させることで、
より効果的に実現できます。
これにより、ID管理、アクセス制御、データ保護を一元管理できます。
現代の企業活動は、様々なSaaSアプリケーションの利用なしには成り立ちません。
生成AIもまた、そうしたSaaSの一つとして位置づけることで、
既存のITガバナンスの枠組みの中で管理することが可能になります。
SaaS統合管理ツールは、企業が利用する全てのSaaSアプリケーションの
ID管理、アクセス権限管理、セキュリティ設定などを一元的に行うためのプラットフォームです。
このプラットフォームと生成AIガバナンスを連携させることで、
以下のようなメリットが得られます。
・全社的なID管理の徹底：生成AIへのアクセス権限を、他のSaaSと同様に管理できる。
・ポリシーの一貫性：セキュリティポリシーやコンプライアンス要件を、
全SaaSにわたって統一的に適用できる。
・可視性の向上：どの従業員が、どの生成AIサービスを、どのような権限で利用しているのかを一元的に把握できる。
・迅速な対応：インシデント発生時、迅速なアクセス遮断や権限変更が可能となる。
生成AIガバナンスを、独立した取り組みとしてではなく、
SaaS統合管理というより大きな枠組みの中で捉え、連携させていくことが、効果的かつ効率的な管理の鍵となります。
まとめ：AIリスクは「禁止」ではなく「ガバナンス」で解決
生成AIの利用を全面的に禁止することは、イノベーションの機会を逸する可能性があります。
重要なのは、リスクを理解し、適切なガバナンス体制を構築することです。
利用ガイドラインの策定、セキュリティツールの導入、従業員教育などを組み合わせ、安全で効果的なAI活用を目指しましょう。
生成AIは、私たちの働き方やビジネスのあり方を大きく変革する可能性を秘めた技術です。
しかし、その強力な能力には、機密情報の漏洩、著作権侵害、ハルシネーションによる誤情報、シャドーAIの増加といった、無視できないリスクが伴います。
これらのリスクを前にして、安易にAIの利用を禁止することは、
生産性向上や競争力強化の機会を失うことにつながりかねません。
真に賢明なアプローチは、リスクを隠蔽したり、無視したりすることではなく、リスクを正確に理解し、それらを管理・軽減するための「ガバナンス」を確立することです。
具体的には、明確な利用ガイドラインの策定と周知、セキュリティ機能が強化されたエンタープライズ版AIやDLP・CASBといったツールの導入、そして何よりも、従業員一人ひとりのAIリテラシー向上に向けた継続的な教育が不可欠です。
さらに、SaaS管理ツールを活用して、シャドーAIの利用状況を可視化し、IT部門が把握・統制できる体制を構築することも重要です。
これらの多層的な対策を組み合わせることで、企業は生成AIの利便性と生産性向上効果を享受しながら、潜在的なリスクを最小限に抑えることができます。
AIとの共存は、もはや避けられない未来です。その未来を、安全かつ主体的に切り拓くために、今こそ、包括的な生成AIガバナンス体制の構築に着手すべき時です。
「攻めの情シス」を実現しませんか？
ひとり情シス体制では、日々の運用業務に追われ、DX推進や業務改善まで手が回らない企業も少なくありません。
アコードワークスでは、
情シス業務支援
Microsoft 365活用支援
Intune / Entra ID導入
AI・Copilot活用支援
セキュリティ対策支援
を通じて、IT担当者の負担軽減と企業成長をサポートしています。
ひとり情シスのお悩みがあれば、ぜひお気軽にご相談ください。
情シス業務でお困りではないですか？
