今回はAnthropic社から本日発表されたClaudeのMythosクラスモデルのデータ保持に関する新しい利用規約についての解説となります。
https://support.claude.com/en/articles/15425996-data-retention-practices-for-mythos-class-models
※影響を受けるのは本日発表されたMythos/Fableクラスのモデルだけです。Opus/Sonnet/Haikuモデルには影響ありません。
本日から新しく下記の規約が追加されました。
To ensure we’re responsibly deploying Mythos-class models, we are requiring limited
data retention and review as part of our safety work. Prompts submitted to,
and outputs generated by, Mythos-class models are retained for 30 days for trust
and safety purposes, on every platform where these models are offered.
AWS社のページでも下記の規約に記載がありました。
https://aws.amazon.com/jp/blogs/aws/anthropic-claude-fable-5-on-aws-mythos-class-capabilities-with-built-in-safeguards-now-available/
Data retention
For Fable 5, Mythos 5, and future models on Bedrock with similar or higher capability levels,
Anthropic will require 30-day retention for all traffic on Mythos-class models.
Retaining data for a limited period allows Anthropic to detect patterns of misuse that are not visible from a single exchange.
Once you opt into data retention, your data will leave AWS’s data and security boundary.
こちらの規約について簡単に説明すると、「今後、Mythosクラスのモデルについては、ユーザが入力した情報を強制的に30日間モデルの学習のためにAnthropic社側でデータを保持する」という内容となります。
元々、ClaudeのエンタープライズユーザやAmazon Bedrock経由での利用時は明確に「ユーザが入力した情報はモデル学習には利用しない」と明記されてました。
社内で生成AIの利用要件の一つに、この「ユーザが入力した情報はモデル学習には利用しない」モデルを採択することが必須要件になってる企業も多いと思います。
Anthropic社の規約の中に下記の記載もあります。
ユーザが入力した情報について、Anthropic社側で厳重なセキュリティ管理を行って、会話の内容そのものにもアクセスできないようにしているとのことです。
Anthropic employees cannot access your conversations unless they are flagged for potential serious harm or upon a customer’s written request.
These reviews can only be performed by a small set of approved reviewers through tooling that prevents export, copying, or downloading.
Every instance of access is recorded in a tamper-proof log that reviewers cannot suppress or modify. After 30 days, the data is deleted automatically,
except in the rare cases where it's part of a safety investigation or we're legally required to keep it. Eligible organizations also have the option to
add customer-managed encryption keys and access transparency audit logs.
このデータ保持に関する規約改定を受けて、Mythos/Fable の利用可否については自社、顧客のセキュリティ担当を含めて判断する必要があります。
新しい利用規約を知らないままMythos/Fable を使ってしまうと最悪セキュリティインシデントになる可能性があるので、必ずこのルールは確認をしましょう。
また、Amazon Bedrock経由でClaude Fable 5を呼び出そうとしましたが、データ保持の規約に関するルールに同意するオプションをいれないと使えない制約がありました。
※おまけと宣伝
LLMの入出力データとは機密情報も含む可能性があり、とても厳重なセキュリティ管理を行う必要があります。
先日もAmazon Bedrockでこれらのデータの取り扱いについて解説ブログを上げてました。
興味がある方は下記のブログをご確認お願いします。
https://qiita.com/tkazuaki0820/items/8d15ad8c018da5beadf6