SECURITY & TRUST

AIに任せる範囲を、明確にする。

PM on Railsは、CSA AICM／AI-CAIQとAI事業者ガイドライン第1.2版を参照し、AI固有のリスクへの対策・検証を進めています。

対策・自己評価を継続中

実装・検証する対策

AIが情報を読み、操作する場面で、権限・判断・実行量の境界を設けます。これらを重点対策として、実装と回帰試験を進めています。

利用者とプロジェクトの権限に基づいて、AIが参照・操作できる範囲を制限します。外部の文書に含まれる指示で、権限が広がらないことを検証します。

影響の大きい変更や外部への操作について、AIに委ねる範囲と人の確認が必要な範囲を分け、意図しない実行を防ぐ仕組みを整えます。

処理時間や繰り返し回数などに上限を設け、AIの操作が際限なく続かないようにします。上限に達したときの停止も検証対象に含めます。

不正な指示、権限外の参照、想定外の実行を試験し、修正後も同じ問題が起きないことを確認します。評価結果に応じて対策を見直します。

AI特有のリスクを見落とさないため、公開された管理策とガイドラインを参照します。

AICMの管理策を対策の整理に、AI-CAIQの質問項目を自己評価に用います。最小権限（IAM-05）やエージェントのセキュリティ境界（AIS-11）を含め、適用範囲と証拠を確認していきます。

セキュリティ・バイ・デザインの考え方を参照し、機密性・完全性・可用性を考慮した設計と、運用を通じた改善に取り組みます。

PM on Railsの役割: サービス側の権限境界と実行制御を整備・検証し、評価の範囲と確認できた対策を説明します。導入時に必要な確認事項は、お問い合わせください。
利用者・連携サービスの役割: 利用者は、メンバーの権限、入力する情報、外部連携へのアクセス許可を管理し、AIの出力と重要な操作を確認してください。外部のAI・連携サービスには、各提供者の規約とデータ取り扱い条件も適用されます。

セキュリティ要件、評価の対象範囲、質問票への対応についてご相談ください。確認できる内容と、追加の検証が必要な内容をお伝えします。