GPT の課題

ChatGPT(GPT-4 / GPT-4o など)をはじめとする生成 AI を、実際の業務に導入する際に直面する典型的なリスクや課題のことです。

代表的な課題

ハルシネーション：AI が事実ではない誤情報を、自信満々に生成してしまうこと。
情報漏洩・著作権リスク：機密情報を入力してしまったり、他人の著作物をそのまま出力してしまったりする危険性。
その他：学習データの古さ、回答品質のバラつき、利用料金の管理など。

実務における「考え方の軸」と運用ルール

大切なのは「使うリスク」と「使わないリスク(競合に遅れをとる等)」の両天秤で判断することです。課題を完全にゼロにするのは難しいため、以下のような基本ルールを定めて「課題を抑え込みながら活用する」のが現実的です。

機密情報や個人情報の入力禁止。
出力された結果は、必ず人間が事実確認(クロスチェック)する。
著作権の侵害がないかを確認する。

初心者が陥りがちな「両極端の落とし穴」

「リスクが怖いから全く使わない」と導入を遅らせるか、「便利だから」とリスクを無視して全業務を AI 化してしまうか、担当者はこの“両極端”に陥りがちです。Web 担当者には、リスクと効果を正しく社内に説明し、安全かつ効率的に使える「適切な落としどころ(ガイドライン)」を作る役割が求められます。

言葉をよく利用する人

Web 担当者(発注側)
情シス
法務 / 契約担当
AI 活用担当 / プロンプトエンジニア
経営層

会話上での使用例

経営層から生成AI導入のリスクを問われる場面

経営層
GPTを業務に入れたいと思っているが、リスクはどう見ているの。
Web担当者
主にGPTの課題として、誤った内容を自信たっぷりに出してしまう点、機密情報の漏洩、著作権の三つがあります。運用ルールで抑えられますが、ガイドラインの整備は欠かせません。
経営層
ルールを整えれば前に進められるということだね。

情シスとAI利用ガイドラインの叩き台を作る場面

情シス
社内のAI利用ガイドライン、叩き台を一緒に作ってもらえますか。
Web担当者
GPTの課題を踏まえて、機密情報は入力しない、出力は必ず人がクロスチェックする、著作権を確認する、この三つのルールから始めるのがよいと思います。
情シス
まずはその三本柱で文面を起こしてみます。