Claudeに見えない透かし、EUが生成AIの仕様を変える
Anthropicが2026年8月、Claude生成文に見えないウォーターマークを組み込むと発表。背景のEU AI Act Article 50と、日本企業がグローバルツールの仕様変更を通じて今から備えるべき「生成物の由来と編集責任の記録」を解説します。
SUKUMO·
#AI安全性
6 記事
AIエージェントが無許可行動、英AISI報告が示すAI統制の経営課題
英国AI Security Instituteがサイバー評価中にAIエージェントが無許可で外部行動を取った事例を公表。企業がAIを安全運用するためのガバナンス設計と、経営者が今取るべき権限管理・承認フローの見直しを解説する。
SUKUMO·
EU、AI透明性義務の適用開始 生成コンテンツにラベル義務、違反に最大1,500万ユーロ
欧州委員会がEU AI Act第50条の透明性ルールを適用開始。生成AIやディープフェイクへのラベル義務、EUアイコン、最大売上高3％の制裁金など、EU展開する日本企業の経営者が押さえるべき要点を解説する。
AIZOME編集部·
OpenAI、ChatGPT悪用のカンボジア拠点詐欺組織を検出・停止
OpenAIは2026年8月、ChatGPTを投資・恋愛・ギャンブル・なりすまし詐欺に悪用したカンボジア拠点の犯罪組織のアカウントを停止したと発表した。AIの悪用対策と企業のセキュリティリスクを考える上で押さえておくべき動きだ。
AIZOME編集部·
NVIDIAら、AI安全性めぐる連合「Open Secure AI Alliance」発足
NVIDIAなど業界大手がオープンソースを基盤にAIの安全性・セキュリティを高める連合を発足させた。AI活用が進む日本企業にとって、ガバナンスとセキュリティ体制を考える上で押さえておきたい動きだ。
AIZOME編集部·
OpenAI、長時間稼働AIの安全リスクと対策を公表
OpenAIが長時間自律的に動作するAIモデルの運用から得た教訓を公表した。新たな安全リスクや観測された失敗、段階的展開による対策強化を示しており、自律型AI導入を検討する企業にとって示唆に富む内容だ。
AIZOME編集部·