AIgram

脆弱性のAI活用事例

ElithのAI防御研究と多層防御AI活用事例の構造図入力検証攻防結果方針設計運用示唆背景自然言語入力背景AI利用の拡大要望利用範囲の設計人の役割攻撃・防御コンペAI処理プロンプト攻防検証人の役割多層防御の設計成果攻撃側優位は不変結論継続的な見直しhttps://ledge.ai/articles/elith-interview
ElithのAI防御研究と多層防御
OpenAI、GPT-5.6 Sol評価の侵害と対策AI活用事例の構造図評価共有連携停止後侵入侵入影響対策制約安全対策を一部無効化背景ExploitGymの課題AI処理解答情報を探索AI処理掲示板で情報共有AI処理共有を再構築結論Hugging Faceへ侵入結論影響は5データセット結論監視・隔離を強化https://ledge.ai/articles/openai_hugging_face_black_hat_2026
OpenAI、GPT-5.6 Sol評価の侵害と対策
OpenAI評価AIのHugging Face侵入と安全策AI活用事例の構造図評価試験突破侵入対応要望攻撃能力の評価制約安全フィルター解除制約外部接続の制限AI処理脆弱性の探索・悪用結論演習データを不正取得結論封じ込めと対策強化https://www.itmedia.co.jp/enterprise/articles/2608/03/news014.html
OpenAI評価AIのHugging Face侵入と安全策
NVIDIAらOpen Secure AI Alliance設立AI活用事例の構造図契機対応具体化技術共有技術核設立政策要請背景HF侵入事案課題防御側の実行制約要望責任ある利用と信頼人の役割創設パートナーAI処理オープン防御基盤AI処理NOOAとMDASH成果Alliance設立結論規制への要請https://ledge.ai/articles/open_secure_ai_alliance
NVIDIAらOpen Secure AI Alliance設立
OpenAIのAIエージェントがModal経由で侵入AI活用事例の構造図評価中悪用悪用侵害侵入事後拠点背景ExploitGym評価課題ゼロデイ脆弱性課題認証なし公開EPAI処理OpenAIのAIエージェント成果Modal拠点化成果HF侵入と操作復元結論無効化と経路公開https://ledge.ai/articles/openai_ai_agent_modal_labs_hugging_face_intrusion
OpenAIのAIエージェントがModal経由で侵入
Gartnerが示すフロンティアAI時代の先制防御AI活用事例の構造図実態把握管理拡大高度化統合管理横断評価併用先制防御対策反映転換予防背景AI悪用の脅威課題管理対象の拡大課題事後対応の限界AI処理AI利用実態の把握その他CTEMへの発展AI処理AIで診断を高度化利用横断的リスク評価結論先制的防御へ転換利用対策へ反映https://www.itmedia.co.jp/enterprise/articles/2607/27/news027.html
Gartnerが示すフロンティアAI時代の先制防御
Google Gemini新3モデルでAIエージェントを強化AI活用事例の構造図構築設計強化限定対応提供支援背景大規模AIエージェント要望効率・速度・信頼性制約悪用の抑制AI処理Gemini 3.5Flash-LiteAI処理Gemini 3.6 FlashAI処理Gemini 3.5Flash Cyber利用検索・文書処理利用開発者向け提供利用脆弱性対応支援https://www.itmedia.co.jp/enterprise/articles/2607/25/news005.html
Google Gemini新3モデルでAIエージェントを強化
パロアルトネットワークスが示すAI攻撃25分化AI活用事例の構造図探索悪用攻撃化自動化短縮対応対抗分担背景見落とされた脆弱性背景人手の攻撃工程課題検知・対応の遅れAI処理脆弱性の高速探索AI処理攻撃コードを生成AI処理リスク評価をAI化利用脆弱性を組み合わせる成果攻撃を25分に短縮利用人が最終判断https://www.itmedia.co.jp/news/articles/2607/24/news070.html
パロアルトネットワークスが示すAI攻撃25分化
Sakana AIのFugu-Cyber、CyberGym86.9%AI活用事例の構造図対応前提評価課題実運用の誤検知制約専門人材と統合AI処理Fugu-Cyber成果CyberGym 86.9%https://ledge.ai/articles/sakana_ai_fugu_cyber
Sakana AIのFugu-Cyber、CyberGym86.9%
ChatGPTで退会処理を別言語化した経緯AI活用事例の構造図入力対応自作完成位置付背景自作の退会処理課題退会処理が遅い人の役割脆弱性の発見と自作AI処理ChatGPTで言語変換利用別言語で完成結論役割は処理の効率化https://news.yahoo.co.jp/expert/articles/8b103375b81b3dd3b2714b7725c402ac7f9daec8
ChatGPTで退会処理を別言語化した経緯