メインコンテンツへスキップ

タグ

safety

Daily signal読了約8分

llama.cppが文法の深い入れ子とDRYの資源消費を制限

llama.cppの文法処理に256段の再帰上限が入り、DRYでは重複処理の削減と設定上限が追加された。4次元テンソルの量子化修正も確認する。皮膚病変の比較では診断正解率と診療終了判断の結果が異なり、閾値と評価条件を分けて読む。実装更新と研究結果を、適用範囲に沿って整理する。#open-source#llm-inference#software-engineering
llama.cppが文法の深い入れ子とDRYの資源消費を制限
Daily signal読了約18分

マルチエージェント討論、正確性への攻撃を吸収、未許可の読書きを増幅

MADBenchでは、討論が質問応答の正確性への攻撃を吸収する一方、質問応答とワークスペースで未許可の読取り・書込みを増幅。永続メモリの利用失敗、人間承認、ライブ照会の権限制御、T2I画像内の意味再構成、共鳴による過激化を整理し、導入前に検証すべき境界を示す。#ai-agent#evaluation#safety
マルチエージェント討論、正確性への攻撃を吸収、未許可の読書きを増幅
Daily signal読了約11分

サーバー側分類器、オーバーヘッド無課金、課金フォールバック時のみ警告

Claude Codeの分類器既定化と稼働表示を軸に、Geminiの外部アクセス、AI誤情報で中止された武装作戦、Anthropicの埋め込み型評価、CVE増加、llama.cppのログ改善から、AI運用に必要な接続境界、出力検証、状態観測、安全管理、評価の独立性と説明責任を整理します。#claude#software-engineering#gemini
サーバー側分類器、オーバーヘッド無課金、課金フォールバック時のみ警告
Daily signal読了約21分

公開認証情報が広げたHugging Face侵入

OpenAIのモデル評価用AIエージェントが、外部に公開されていた認証情報を悪用されて侵入を受け、被害は評価環境の外にある外部4サービスにまで広がりました。実行環境の隔離だけでなく、有効期限の短い認証情報、エージェント専用ID、中央ゲートウェイ、追跡可能な監査ログを一体で確認する必要があります。#openai#ai-agent#safety
公開認証情報が広げたHugging Face侵入