ChatGPTは危険か——業務利用で避けるべきリスク

「chatgpt 危険性」で検索している人が知りたいのは、単語の定義だけではなく、自社で使える業務、避けるべきリスク、導入順序です。この記事では、ChatGPTは危険か——業務利用で避けるべきリスクを切り口に、中小企業が実務で確認すべき判断材料を整理します。

011. ChatGPTが「危ない」と言われる本当の理由は3つに絞れる

「ChatGPTのリスク11選」「セキュリティ対策7選」という記事は数多くありますが、項目を増やせば増やすほど中小企業の社長は決断しづらくなります。リスクは三つに絞って理解するのが、判断に使える単位です。情報漏洩、誤回答、著作権の三つです。それ以外の細かい話、たとえば乗っ取りや退職者対応は、この三つの派生として後から考えれば足ります。

第一の情報漏洩は、入力した文章や顧客情報がOpenAIのサーバーに渡り、学習データに混ざってしまう可能性のことです。第二の誤回答は、ChatGPTが事実と違うことをもっともらしく書く現象で、専門用語では「ハルシネーション」と呼ばれます。第三の著作権は、生成された文章や画像が既存の作品に似てしまい、商用利用でトラブルになる可能性です。

この三つを分けて理解することの意味は、それぞれ対策の取り方がまったく違うところにあります。情報漏洩は契約プランと社内ルールで防ぐ、誤回答は出力の確認手順で防ぐ、著作権は使い方の節度で防ぐ、と頭の中の引き出しが分かれます。SaaSベンダーの記事に並ぶ十数項目は、結局この三つに紐づくか、もしくは三つの組み合わせの派生でしかありません。社長として今日決めなければならないのは、まずこの三つに対する基本姿勢です。

出典：マネーフォワード「ChatGPTのセキュリティリスクと機密情報漏洩を防ぐ対策」／AI総合研究所「ChatGPTのセキュリティリスク」／よつば総合法律事務所「ChatGPTは危険か」。

022. 情報漏洩リスクの実体——サムスン事例と、無料版の学習仕様

情報漏洩リスクの中身は「入力データが学習対象になる仕様」と「障害や運用ミスによる露出」の二層で考えると分かりやすくなります。多くの人がイメージする「ハッカーに抜かれる」よりも、構造的に意味があるのは前者の学習データ混入のほうです。

韓国のサムスン電子が2023年3月、社内利用を許可してからわずか20日のあいだに3件の情報漏洩を経験した事例は、世界的に知られています。ソースコードのエラー修正のために社内コードをChatGPTに入力した、議事録作成のために録音した社内会議の音声をテキスト化して投入した、というのが原因でした。サムスンはこれを受けて緊急に利用を制限し、後にChatGPT自体の社内利用を全面禁止しました。漏洩したコードや会議内容は、OpenAIのサーバーに渡った時点でその会社の外に出たと評価され、後から取り戻すことはできません。

同じ2023年3月には、OpenAI自身が運営するChatGPTでチャット履歴が他人に見えるという障害も発生しています。OpenAIの公式説明によれば、影響を受けたのはChatGPT Plusの会員の約1.2パーセントで、原因はオープンソースライブラリのバグでした。被害規模そのものは小さいものの、「自分が入れた情報を他人が見るかもしれない」という不安を中小企業の社長に植え付けるには十分な事件でした。

ここで押さえておきたいのは、無料版とPlus（月額20ドル）は、入力データを学習に使う設定が初期状態でオンになっている、ということです。仕様として悪意があるわけではなく、AIの精度を上げるために多くのユーザーの会話を学習データとして取り込む設計になっているだけです。ただし会社の機密や顧客情報を入れた瞬間、その情報はOpenAIが将来の回答生成のために参照しうる素材になります。後述する設定で学習をオフにすることは可能ですが、オフ前に入れた情報は対象外です。

出典：AdGuard「サムスン、ChatGPTの社内利用で情報漏洩」／インターコム「チャットGPTで情報漏洩リスクはある？対策や履歴オフの設定方法」／ChatSense「ChatGPTのセキュリティ事故リスクや対策」。

033. 無料版のデータ学習をオフにする3ステップ

ChatGPTのデータ学習はどこで止められるか？

無料版・Plusでは、画面右上のプロフィールアイコンから「設定」を開き、「データコントロール」を選んで「すべての人のためにモデルを改善する」をオフにすれば、それ以降の入力は学習に使われなくなります。所要時間はおよそ1分、特別な権限も追加費用もいりません。

具体的な手順は次の通りです。第一に、ChatGPTの画面右上にある自分のプロフィールアイコンをクリックします。第二に、開いたメニューから「Settings」または「設定」を選びます。第三に、左側の項目から「Data Controls（データコントロール）」を選び、その中の「Improve the model for everyone（すべての人のためにモデルを改善する）」というスイッチをオフにします。表記は英語と日本語で違いますが、設定画面の位置は同じです。

この設定で気をつけることが二点あります。一点目は、オフにする前に入れた会話はすでに学習対象になっている可能性がある、ということです。設定変更は将来分にのみ効きます。二点目は、過去のチャット履歴をOpenAIの保有データから完全に削除したい場合は、OpenAIのプライバシーポータルから別途申請が必要だということです。一般ユーザーの操作画面からは過去分の削除はできません。

注意すべきは、この学習オフ設定はあくまで「OpenAIがあなたの会話をモデル改善に使わない」という約束であって、入力した情報がOpenAIのサーバーに送られない、という意味ではない点です。会話履歴はサーバー側に残り、改善目的以外、たとえば不正利用の検出や法的要請への対応のために短期間参照される可能性はあります。データが構造的にサーバー外で処理される運用が必要なら、Microsoftが提供するAzure OpenAI Serviceや、ChatGPT Enterpriseの導入を別に検討する話になります。

出典：マネーフォワード「ChatGPTに学習させない（オプトアウト）ための設定方法」／LANSCOPE「ChatGPTに学習させない方法とは？画像付きでオプトアウト手順を解説」／OpenAI Privacy Portal。

044. 誤回答（ハルシネーション）と著作権リスクの線引き

情報漏洩と並んで中小経営者を不安にさせるのが、ChatGPTが事実と違うことを堂々と書く「もっともらしい嘘」の問題、いわゆるハルシネーションです。さらにその先に、生成された文章や画像をそのまま転用したときの著作権リスクが続きます。両方とも、線引きさえ理解すれば実務での回避は難しくありません。

ハルシネーションが特に危ないのは、数字、固有名詞、法律の条文、判例、人物の経歴、URLの六つです。これらをChatGPTが回答に含めてきたら、必ず原典を確認するというルールを社内で決めておくのが基本です。たとえば「補助金の上限額は1,000万円」と言われたら、必ず経済産業省や中小企業庁の公式サイトで確認する。「この法律は2024年に改正された」と言われたら、e-Gov法令検索で実際の条文を見る。社長への提案書に出てくる数字を、その場の思いつきで部下が貼り付けてしまうのが、いちばん多い事故パターンです。

著作権リスクのほうは、AIが生成した文章そのものには、原則として著作権が発生しないという整理が現時点で広がっています。文化庁が公表している資料でも、AI生成物の著作物性は「人間の創作的寄与」があったかどうかで判断するという考え方が示されています。一方で、ChatGPTが既存の小説やブログ記事に酷似した文章を出してきて、それを気づかず転用した場合は、依拠性と類似性の二要件で著作権侵害と判断されうるリスクが残ります。実用上のルールは単純で、生成された文章は下書きとして使い、最終形は自分の言葉に直す。画像生成では実在のロゴや商標、特定の人物の顔は使わない。これだけで中小企業の通常業務での著作権事故はほぼ防げます。

意図的にこの二つを混同して語る議論が世の中には多く、「ChatGPTで作った文章は全部著作権侵害だ」という極論も、逆に「AIが書いたものは何でも自由に使える」という極論も、どちらも正確ではありません。AIの出力をそのまま納品物にしない、原典確認を怠らない、というあたりさわりのない実務感覚が、結局のところいちばん安全です。

出典：文化庁「AIと著作権」／セラク「ChatGPT導入時の権利問題とハルシネーション対策」／よつば総合法律事務所「ChatGPTは危険か？弁護士が徹底解説」。

055. 無料版で踏んでいい線、踏んではいけない線

ここから二つの章は、上位記事の対策羅列を超えて、中小企業の社長が今日決めるべき「線引き」を業務単位で提示します。

「ChatGPTを使っていいのか、いけないのか」という二択ではなく、「どんな業務なら無料版でいいのか」「どんな業務でBusiness以上が必要になるのか」を、実際の仕事の場面で分けて理解するのが現実的です。下調べと文章の下書きまでなら無料版で十分実用になり、顧客名や契約金額が絡む段階に来たらBusiness以上のプランか、もしくはChatGPT自体を使わない選択になります。

判断基準を一つの問いに圧縮するなら「これは公開情報か、または仮名化済みか」です。公開されていて誰でも見られる情報、もしくは「A社」「Bさん」のように仮名化されて特定できない情報なら、無料版でも実害は起きません。逆に、特定の会社名と数字、特定の個人名とその経歴がセットになっている情報は、Free・Plusには入れないというのが安全な線です。

中小企業の社長が陥りがちなのは、「全部Business以上にしないと使ってはいけない」と思い込んで導入そのものを止めてしまうパターンと、「ばれなければいい」と無料版で何でも入れてしまうパターンの両極端です。実態としては、毎週の業務の七割から八割は無料版で安全に処理でき、残りの二割から三割で初めて契約プランや代替手段を考える、というのが多くの会社にとっての現実解になります。

出典：OpenAI公式「ChatGPT料金プラン」／KDDI「ChatGPTに個人情報を入力するリスクとは」。

066. プラン別の「学習デフォルト」を1表で

ChatGPTの料金プランの違いは、機能や速度の差というより「データの扱い」と「組織で使う前提があるかどうか」の差として理解するほうが、経営判断に使えます。次の表は、中小企業の社長が今日把握しておくべき四つのプランを、料金、データ学習のデフォルト、最低契約、業務利用の前提でまとめたものです。

FreeとPlusは、データの扱いという点では同じです。Plus（月額20ドル）はGPT-5など最新モデルへのアクセスや応答速度、画像生成や音声機能の充実が主な差で、入力データの学習仕様はFreeと変わりません。社員が会社の業務でPlusを個人契約で使っているケースを社内で見かけたら、それは情報の扱いとしてはFree利用と同列で、業務情報を入れている時点でリスクは無料版と変わらない、と理解しておく必要があります。

Business（年契約で月額20ドル/人、月契約で月額25ドル/人、最低2席）になって初めて、入力データが学習に使われない構造的な保証が組み込まれます。社員数が二人以上で、業務情報をChatGPTに入れる可能性があるなら、年間で最低480ドルが組織として必要な投資になります。これを高いと見るか、サムスンのような全面禁止に追い込まれるリスクのほうが高いと見るかは経営判断ですが、業務利用を本気で進めるなら避けて通れない費用感です。

Enterpriseは、SSO（シングルサインオン）連携、監査ログ、無制限の高速モデルアクセス、データの保持期間カスタマイズなどが含まれ、本格的なガバナンス運用に入った段階で検討する位置付けです。中小企業の多くは、Business段階で十分に必要な統制レベルを満たせます。

個人Plusで業務情報を入れている社員が一人でもいるなら、その瞬間がBusiness移行を検討する分岐点です。料金差は契約形態と席数によりますが、データの非学習という構造的安心と、誰がいつ何を入れたか把握できる管理コンソールが得られます。

出典：OpenAI公式「ChatGPT料金プラン」／OpenAI公式「ChatGPT Business」／OpenAI公式「ChatGPT Enterprise」。

077. 中小企業の社長が今日決める3つの社内ルール

これまでの章を踏まえて、社員10人前後の会社で社長が今日決めるべき社内ルールを三つに絞ります。長い規定集を作っても誰も読まないので、A4一枚で口頭周知できる単位で書きます。具体的な社内ガイドライン整備の進め方は中小企業のAI利用ガイドラインの作り方で別に整理しています。

第一は、入れてはいけない情報の明示です。顧客の名前、電話番号、住所、取引先名と金額のセット、社員の人事評価、未公表の経営数値の五項目は、ChatGPTの入力欄に貼らないと決めます。例外として、Business以上の契約をして「ここまでは入れていい」と社長が指定した範囲だけ、業務利用が許されます。判断に迷う情報があれば、入れる前に社長に確認するというルールを足せば、グレーゾーンの事故は止まります。

第二は、出力された数字、固有名詞、法律の条文、判例、人物の経歴、URLは必ず原典で確認する、というルールです。ChatGPTが生成した数字をそのまま提案書に貼って、後から数字が間違っていることが発覚するパターンが、社内で最も発生しやすい事故です。原典確認のクセを社員に植え付けるには、毎週一回の振り返りミーティングで「今週ChatGPTから取った数字、原典に当たった？」と聞くだけでも十分効きます。

第三は、個人Plus契約での業務利用の方針決定です。これは「全面禁止する」「Business移行を待つ」「無料版相当として扱い、業務情報は入れさせない」の三択になります。中小企業の現実解としては、社員10人前後ならBusiness契約を導入して個人Plus契約での業務利用は禁止、社員5人以下なら無料版での業務利用に絞って業務情報を入れさせない、という線引きが分かりやすいです。

社内ガイドラインのひな型や、改正個人情報保護法とAIの関係は、関連記事として中小企業のための個情法対応とAIガイドライン、ChatGPT BusinessをPlus月20ドルから切り替える判断で個別に整理しているので、本格的な整備に進むときに併せてお読みください。

出典：個人情報保護委員会「改正個人情報保護法に関する資料」／経済産業省「AI事業者ガイドライン」。

088. まとめ——ChatGPTは「線引き」を決めれば中小企業の現場で十分実用になる

ChatGPTが危ないかどうかは、何を入れて何を入れないかを決めずに使うか、決めて使うかの差です。中小企業の社長が今日から実行できるよう、本記事の骨子を改めて整理します。

1. ChatGPTのリスクは「情報漏洩・誤回答・著作権」の三つだけ。十数項目に細分化する必要はない。
2. 無料版とPlusはデータ学習がデフォルトオン。設定→データコントロールから1分でオフにできる。
3. 顧客名・取引金額・人事情報の三つは無料版に入れない。これだけ守れば事故の大半は防げる。
4. 業務情報を入れるならChatGPT Businessの年契約で月額20ドル/人（最低2席）から。年間480ドル程度の組織投資。
5. 個人Plus契約で業務情報を入れている社員がいたら、その瞬間がBusiness移行の検討タイミング。

「ChatGPTは危ない」という言説の中身を分解すれば、危ないのは仕様そのものではなく、線引きを決めないまま使うことだという結論に落ち着きます。逆に言えば、線引きさえ決めれば、無料版でも中小企業の日常業務、つまり下調べ、文章下書き、提案書の構成案、Excel関数の相談といった七割の仕事は安全にこなせます。残りの三割で初めて、Business契約や代替手段、もしくは「ChatGPTを使わない」という判断を考えればよいだけのことです。

FULLFACTの業務診断では、貴社の業務の中で「ChatGPT無料版で安全に処理できる部分」と「Business以上が必要な部分」「そもそも生成AIに任せず人が判断すべき部分」を、実際の業務を棚卸ししながら一緒に切り分けます。診断自体は無料でお受けいただけます。軽い課題なら数週間で論点が見えることもあり、本格的な体制構築が必要なら腰を据えて磨き込みます。スコープと進め方は貴社のペースで設計します。

09よくある質問

ChatGPT無料版に顧客の名前を入れたらどうなりますか？

無料版とPlusはデフォルトで入力内容がモデルの学習に使われる仕様です。顧客名や電話番号、契約金額をそのまま入力すると、その情報が将来の回答生成に間接的に流用される可能性が残ります。学習オフ設定にしてもオフ以前の入力分は対象外なので、業務情報を入れる前に顧客名は伏字、金額は仮の数字に置き換えるのが安全策です。

無料版とPlusでは情報漏洩リスクに差がありますか？

リスクの構造は同じです。どちらも入力はOpenAIのサーバーに送られ、学習オフ設定をしない限りモデル改善に使われ得ます。Plusの優位は機能と速度、応答品質であり、データの扱いはFreeと同等です。データの非学習が構造的に保証されるのは年契約で月額20ドルからのBusiness以上のプランです。

ChatGPTを社員に使わせる前に、最低限決めるべきことは何ですか？

三つです。第一に入れてはいけない情報の明示、第二に出力された数字や固有名詞は必ず原典で確認するルール化、第三に個人Plus契約での業務利用を社内で許容するかの方針決定です。これだけA4一枚に書いて口頭で周知すれば、社員が無自覚に機密を入力する事故の大半は防げます。

ChatGPTで生成した文章を仕事に使って著作権の問題はありませんか？

AIが生成した文章そのものに、原則として著作権は発生しないと整理されています。一方で、既存の著作物に酷似した生成物をそのまま転用すれば、依拠性と類似性の二要件を満たして著作権侵害になり得ます。文化庁の整理に沿うなら、生成物は下書きとして使い、最終的な表現は人が手を入れる運用が安全です。

ChatGPT Businessにすれば情報漏洩は完全に防げますか？

完全には防げません。Businessはデータが学習に使われない構造的保証を与えますが、社員が誤って機密情報を入力し、自分の画面で見える状態にした事実は残ります。退職時のアカウント引き継ぎ、誤送信、画面盗み見など運用面のリスクは残るため、Business契約は前提条件であり、入れてよい情報の線引きは引き続き必要です。