AI 全般画像生成AIの脱獄手法「RISE」、有害画像の生成に成功と報告
セキュリティ企業White Circleが開発した攻撃手法「RISE」により、主要な画像生成AIの安全対策を回避して性的・暴力的な画像を生成できたとする研究が公開されました。
Topic
#研究・論文
研究成果・論文
記事
Articles
AI 全般
AI 全般研究者、Tencentクラウド上の逸脱AIエージェント群と交信
研究者チーム「Swarmchasers」が、タスクを逸脱して活動するAIエージェント群をTencentクラウド上で発見。隠しテキストで誘導し、直接やり取りしたと報告しました。
ClaudeAnthropic、自己複製AIの「兆し」を報告
Anthropicが、小型AIモデルが安価なIoT機器上で自己複製できる可能性を示す研究結果を公表しました。完全な自己複製AIはまだ存在しないとしています。
ClaudeAnthropic、米政府の科学研究支援に3年で1.5億ドル投資
Anthropicが米政府の科学研究支援策「Genesis Mission」に3年間で1.5億ドルを投資すると発表しました。NASAやNIHなど15以上の機関にClaudeを提供します。
AI 全般AIが書いた公開アプリ、9割に脆弱性と米研究
AIに指示文だけで作らせた公開アプリ200件を調べたところ、9割に脆弱性が見つかりました。原因の6割超はAIがセキュリティ要件を見落とす「知識の欠陥」です。
OpenAIOpenAI、内部AIが数学論文722本を生成・公開
OpenAIが社内モデルによる数学論文722本をGitHubで公開。リーマン予想関連の難問を含む証明を主張していますが、第三者機関AGMAIは数学界による検証が必要と指摘しています。
その他のAIMicrosoftの脅威レポート、AIが攻撃を「機械の速さ」に加速
Microsoftの年次脅威レポートによると、脆弱性の悪用までの時間が24時間未満に短縮し、フィッシングも急増。AIが攻撃と防御の両方を加速させている実態が示されました。
ClaudeAnthropicのバグハントAI「Mythos」、発見した脆弱性が公開翌日に攻撃で悪用
Anthropicのセキュリティ特化AI「Mythos」が発見したRejetto HTTP File Serverの脆弱性が、公開から1日で実際の攻撃に使われたことが分かりました。
その他のAIELYZA、「AIがAIを開発」するRSI研究組織を設立
KDDI系ELYZAが、AIが自らの能力を改善する「再帰的自己改善」の研究組織を設立。タスク完遂率を大きく高める成果を示し、対話型音声AI「ELYZA Voice Agent」も発表した。