【Claude活用入門 第6回】安全に使う ― Pro・Maxのデータの扱いと学習の設定、確かめておきたい設定、プロンプトインジェクションとハルシネーション、AI Fluencyの4D、連載のまとめ

生成AI
スポンサーリンク
スポンサーリンク

「Claude に貼った会話は、AI の学習に使われるのでしょうか」
「Claude Code が読んだ Web ページに、変な指示が書かれていたらどうなりますか」

Claude は便利な道具ですが、入力したデータの扱いや、Claude が誤ったとき・だまされたときのリスクを知らずに使うと、思わぬ事故につながります。とくに個人のプランでは、守るための設定を自分で決める必要があります。

最終回の第6回では、Pro・Max のデータの扱いと確かめておきたい設定、プロンプトインジェクションとハルシネーションへの対策、Anthropic が示す AI と協働するための枠組みを見て、連載をまとめます。


Pro・Maxのデータの扱い

項目内容
学習への利用Free・Pro・Max は、利用者が設定で選ぶ。オンのときだけ、新しいチャットとコーディングのセッションが今後のモデルの学習に使われる。設定は claude.ai/settings/data-privacy-controls(設定の[プライバシー])で、いつでも変えられる
保存期間学習の設定がオンなら最長5年(個人を特定しない形で学習用に保存)、オフなら30日。削除したチャットは履歴からすぐ消え、Anthropic 側からも30日以内に消える
例外フィードバック(評価や /feedback)で送った内容は5年。利用規約の違反と判定されたものは、入出力が最長2年、分類のスコアが最長7年
シークレットチャット全プランで使える。設定がオンでも学習に使われず、履歴とメモリーに残らない(保存は30日)
Claude CodePro・Max のアカウントで使う Claude Code も、チャットと同じ設定と保存期間。PC の中には会話の記録が平文で ~/.claude/projects/ に残る(既定30日)
組織のプランTeam・Enterprise・API は、既定で学習に使われない
  • 設定をオフにしても、すでに学習に使われた分は取り消されない
  • 学習の設定の既定値(オンかオフか)は、公式に記載が見つからない(未確認)。新しく登録するときに選ぶ画面が出るので、自分で確かめて選ぶ
  • Pro・Max の Claude Code は、v2.1.198 以降、エラーの報告が既定でオン(秘密情報を除いて送られる)。止めるには環境変数 DISABLE_ERROR_REPORTING=1 を設定する

勤務先の情報を扱うとき

個人のプランに、勤務先の設計書、お客様の情報、社内のログなどを貼ってよいかは、勤務先のルールで決まります。学習の設定をオフにしても、データは Anthropic のサーバーに送られ、一定期間保存されます。業務で使うなら、勤務先が契約した組織のプラン(Team・Enterprise)を使うのが基本です。この連載の例(障害調査や playbook の作成)も、業務で試す前に、勤務先で使ってよい環境かを確かめてください。


確かめておきたい設定

設定公式の既定・注意点確かめること
学習への利用(プライバシー)利用者が選ぶ。オンなら最長5年保存自分の方針に合っているか
メモリーFree・Pro・Max では既定でオン残したくない話題がないか。使わないならオフに
Web 検索・Research会話のツールの設定で使う調べものでは Web 検索をオンに(第4回)
Claude in Chrome有料の全プランで使える操作を許すサイトを最初は絞る
コネクタ全プランで使える(Free はカスタムのコネクタ1つまで)つないでいるサービスと、書き込みの権限
Skills使うにはコード実行を有効にする入れた Skills の出どころ
Claude Code の権限v2.1.283 以降は auto mode で始まるdeny のルールで秘密情報を守っているか(第5回)

プロンプトインジェクションとハルシネーション

  • プロンプトインジェクション:Web ページ・ログ・ファイル・メールに紛れた指示に、Claude が従ってしまうリスク。ゼロにはできない
  • 対策:権限を絞る。取り消せない操作は人が承認する。信頼できない入力を扱うときは読み取りだけにする。Cowork には専用の作業フォルダーを使い、大事なフォルダーは接続しない(第2回)
  • ハルシネーション:もっともらしい誤り。存在しないリンク、存在しないオプション、「送信済み」という誤った報告
  • 対策:Claude を唯一の情報源にしない。事実と出典は自分で確かめる(第4回の共通の指示)。検証手段を渡す(第5回)
  • 責任:Claude の行動の責任は、使った人(とそのチーム)にある

冒頭の2つ目の相談のように、Claude Code が読んだ Web ページやログに「このファイルを消して」のような文が紛れていることがあります。auto mode の分類器はこうした誘導も確かめますが、公式は安全を保証しないと明記しています。削除・本番への反映・外部への送信は、人が確認する設定にしておくのが確実です。


AI Fluencyの4D

Anthropic は、AI と上手に協働するための枠組みとして「AI Fluency の4D」を示しています(Claude Academy のコース「AI Fluency」)。

外側のループ(任せる判断と責任)にDelegation(任せるかを判断する)とDiligence(結果に責任を持つ)があり、内側のループ(伝えて見極める)でDescription(明確に伝える)の出力をDiscernment(結果を見極める)で確かめ、直して伝え直すことを示す図
  • Delegation:そもそも AI に任せるか、どこまで任せるかを判断する
  • Description:目的や背景を明確に伝える。第4回のプロンプトの基本にあたる
  • Discernment:出てきた結果を見極める。事実の確認や検証がこれにあたる
  • Diligence:最終的な結果に責任を持つ

Description と Discernment は、伝えて見極めてを繰り返す内側のループ、Delegation と Diligence は、任せる判断と責任を持つ外側のループです。便利な道具になっても、任せる判断と最後の責任は人に残ります。


チームで使うなら決めておきたいこと

この連載のもとになった勉強会では、次の点を話し合って決めました。チームで Claude を使うなら、同じ論点が役に立ちます。

  • 使い分け:成果物を作る作業をどこで行うか(第2回)。Cowork を使う場面をどれにするか
  • Model と Effort:既定のモデルと Effort、上位のモデルに上げる条件(第3回)
  • 共有するもの:共通の指示(第4回)、CLAUDE.md・Skills・権限ルール・指示の例。どこに置くか(Git・共有フォルダー)
  • 困っていること:うまくいかなかった例、使いにくい点を持ち寄る
  • データの扱い:扱ってよい情報の範囲と、使うプラン

連載の早見表

テーマ押さえること
全体像とプラン(第1回)中心は Opus 5.5 と Sonnet 5.5。Pro・Max で Claude Code も使え、アプリと Code で使用量の枠を共有
使い分け(第2回)公式は「コードなら Code、それ以外の成果物は Cowork」。Cowork は社内のアドレスに届かず、セッションも共有できない
Model と Effort(第3回)モデルを替える前に Effort を調整。上限に達するなら Effort・会話の長さ・モデルの順に見直す
プロンプトと指示の例(第4回)目的・背景・理由を書く。5.x 世代は書いたとおりにだけ守る。共通の指示(公式を確定情報に、出典と未確認を明示)を設定と ~/.claude/CLAUDE.md に書く
Claude Code(第5回)探索→計画→実装→検証。検証手段を渡す。CLAUDE.md は短く、コンテキストはこまめにリセット
安全(第6回)学習の設定を自分で選ぶ。権限は allow・ask・deny で絞り、取り消せない操作は人が承認する

持ち帰りの3点

  1. 作業に合った場所で使う:コードを書いて動かすなら Code、それ以外の成果物は Cowork。社内のサーバーを扱うなら、成果物を作る作業を Code に寄せるのも一つの方法
  2. モデルより先に Effort:既定のままで足りるかを自分の作業で試し、判断が要る作業だけ上位のモデルや高い Effort に上げる
  3. Claude は事情を知らない優秀な新入社員:背景と理由を伝え、検証手段を渡し、最後は人が確かめる

学習のためのリソース

  • Claude Academy(academy.claude.com):Claude 101、AI Fluency
  • Claude Code の公式ドキュメント(code.claude.com):ベストプラクティス、設定、権限
  • プロンプトのベストプラクティス(platform.claude.com):モデルごとのプロンプトのガイド
  • Claude のヘルプセンター(support.claude.com)とプライバシーセンター(privacy.claude.com)

考えてみよう

  1. 自分の claude.ai の学習の設定は、オンとオフのどちらになっていますか。その選択は、自分が貼っている情報に合っていますか。
  2. Claude Code が読んだログに「このディレクトリを削除して」と書かれていたら、何が止めてくれますか。何を人が確かめるべきですか。
  3. 最近 Claude に任せた作業を1つ選び、4D の Delegation・Description・Discernment・Diligence のそれぞれで、自分が何をしたかを振り返ってみてください。

ヒント:Pro・Max のデータの扱い、プロンプトインジェクション、AI Fluency の4D の節を見直してください。


まとめ

  • Pro・Max の会話は、学習の設定がオンのときだけ学習に使われる(保存は最長5年。オフなら30日)。Claude Code も同じ扱い
  • メモリー、Web 検索、Chrome、コネクタ、Claude Code の権限など、守るための設定を自分で確かめる
  • 勤務先の情報を個人のプランで扱うかは、勤務先のルールで決める
  • プロンプトインジェクションとハルシネーションはゼロにできない。権限を絞り、事実と出典を確かめ、取り消せない操作は人が承認する
  • AI Fluency の4D:任せる判断と最後の責任は人に残る

全6回の「Claude活用入門」は、これで終わりです。Claude の機能は毎月のように変わるので、公式の最新の情報で確かめながら、自分の作業で試してみてください。


連載「Claude活用入門」全6回

  1. Claudeの全体像とプラン
  2. Chat・Cowork・Codeの使い分け
  3. ModelとEffort
  4. プロンプトの基本と指示の例
  5. Claude Codeのベストプラクティス
  6. 安全に使う(この記事)

コメント

タイトルとURLをコピーしました