この記事でわかること
生成AIを企業で安全に使うための注意点を、機密情報の入力、生成内容の誤り、著作権、従業員の過度な依存という4つのリスクと、それぞれの対策に分けて解説します。
この記事の要点
- 生成AIの主なリスクは、機密情報の入力、生成内容の誤り、著作権、従業員の過度な依存の4つです。
- 最も効果が大きい対策は、会社として使うプランを指定し、「入力してはいけない情報」を紙1枚のガイドラインにすることです。
- 全面禁止にすると個人のスマートフォンで使われて見えなくなります。使える範囲を決める方が守られます。
生成AIのリスクを正しく理解する
生成AIは便利なツールですが、使い方を間違えると情報漏洩やトラブルの原因になります。沖縄の企業が安全に生成AIを活用するために、知っておくべきリスクと対策を解説します。
リスク1:機密情報の入力
ChatGPTなどに顧客の個人情報や社内の機密情報を入力すると、学習データとして利用される可能性があります。
対策
- 機密情報は生成AIに入力しない
- API版やEnterprise版を利用する(データが学習に使われない)
- 社内ガイドラインを策定する
リスク2:生成内容の誤り(ハルシネーション)
生成AIは事実と異なる情報をもっともらしく出力することがあります。特に数値データや法律関連の情報は要注意です。
対策
- 生成AIの出力は必ず人間がファクトチェックする
- 重要な文書は専門家にレビューしてもらう
リスク3:著作権の問題
生成AIが作成した文章や画像が、既存の著作物と類似する可能性があります。
対策
- そのまま使わず、自社の視点で加筆修正する
- 画像は商用利用可能なサービスを選ぶ
リスク4:従業員の過度な依存
生成AIに頼りすぎると、従業員自身の思考力やスキルが低下する恐れがあります。
対策
- 生成AIは「下書きツール」として位置づける
- 最終判断は必ず人間が行う文化を作る
無料版と法人向けプランの違い
対策として最も効果が大きいのは、使うプランを会社として指定することです。同じサービスでも、契約形態によって入力データの扱いが変わります。
- 個人の無料版 — 各自が勝手に登録して使っている状態。会社が何を入力したか把握できず、最もリスクが高い
- 法人向け・API利用 — 入力内容を学習に使わないと明示されている場合が多く、管理者がアカウントを管理できます
データの扱いは各社の規約で定められ、改定もされます。導入前に、契約するプランの「入力データの利用」に関する記載を必ず確認してください。
社内ガイドラインに書く6項目
「気をつけましょう」では守られません。次の6つを紙1枚にまとめ、全員が見られる場所に置いてください。
- 使ってよいツール(それ以外は禁止と明記する)
- 入力してはいけない情報(顧客名簿、未公開の財務数値、契約書、人事情報、パスワード)
- 入力してよい情報(公開済みの内容、社名を伏せた一般的な相談)
- 出力を使う前の確認手順(誰が、何を見るか)
- 困ったときの相談先(社内の担当者名)
- 禁止事項をやってしまったときの報告先
6番目が抜けている会社が多いのですが、これが最も重要です。報告しても叱られないと分かっていないと、事故が隠れます。
入力してしまったときの対応
ルールを作っても、いつかは起きます。起きたときに慌てないよう、手順を決めておきます。
- 何を入力したかを記録する(画面のスクリーンショット)
- 該当する会話履歴を削除し、可能ならアカウントの学習設定を確認する
- 影響範囲を確認する(顧客情報なら、どの顧客の何が含まれたか)
- 社内の責任者へ報告し、顧客への説明が必要かを判断する
取引先との契約に情報の取り扱い条項がある場合、報告義務が生じることがあります。契約書の確認も対応手順に含めてください。
禁止するより、使える範囲を決める
リスクを理由に全面禁止にすると、従業員は個人のスマートフォンで使い始めます。会社から見えなくなるぶん、状況は悪化します。
「これは入れない」を4〜5個決めて、それ以外は自由に使ってよいとするほうが、実際には守られます。まずは1つの部署で試し、出てきた疑問をガイドラインに足していく進め方が現実的です。
相談する
社内ガイドラインづくりから始めたい会社へ。自分たちで進めたい会社には、担当者と一緒に業務の仕分けと設定を進めるAIコンサルティング(月15万円〜)があります。設定や業務フローの組み替えまで任せたい場合は、CODEVISIONが手を動かして実行するAX支援があります。ガイドラインの策定と運用ルールづくりは、AIコンサルティングの定例の中で一緒に進められます。
自分でAIの使い方から身につけたい方には、本部町で開催する2日間の集中講座MOAI CAMP、社員全体で学ぶ場合はMOAIの法人研修があります。
関連記事
自社のAI導入、何から始める?
6つの質問で、最初に着手する業務を整理します
名前・メール不要。AIで減らせる時間の目安と、コンサルティング・研修・開発・業務代行のどれが合うかをブラウザ上で確認できます。
企業のAI導入は CODEVISIONの4サービス/ 個人のAI学習は AIスクールMOAI


