#memory

12 記事

01 ·★ 会員·論文·11分で読めます 論文解説: WorldCrafter — 見返した景色が変わらない動画世界モデルと「カメラで問い合わせる記憶」 WorldCrafter: Consistent Video World Model with Implicit 3D-aware Memory 動画世界モデルが「一度見た場所に戻ると景色が変わっている」問題に、行き先のカメラ視点で過去の記憶を読み出す暗黙的3D記憶で挑んだWorldCrafterを、前提知識ゼロから式・図・コードで解説します。 02 ·★ 会員·論文·11分で読めます 論文解説: MaP-WAM — ロボットの「記憶」を計画に変え、履歴が伸びても実行器の重さを一定に保つ Memory as Plans: World-Action Modeling with Memory-Grounded Planning 過去を覚えていないと解けないロボット作業で、長い映像履歴を毎回実行器に食わせるのをやめ、「次に何をするか」の計画に圧縮して渡す MaP-WAM を解説。進捗を行動と同時に予測して区切りを自分で判断し、RMBench 83.3%・実機78.0%を報告した設計を、論文本文に沿って1から読む。 03 ·LLM — 大規模言語モデル·★ 会員·論文·12分で読めます 論文解説: Just-in-Time Memory — エージェントの記憶は「読むとき」に整える Just-in-Time Memory: Learning to Curate Task-Adaptive Memory for LLM Agents LLMエージェントの過去経験を、保存時ではなく「次の課題が分かった瞬間」に要約し直す JitMem を1から解説。なぜ学習が簡単になるのか、どの数字がどこまで言えるのかを論文本文に沿って整理する。 04 ·学習手法・アライメント·★ 会員·論文·16分で読めます 論文解説: SpeakerMem-R1 — グループチャットの「誰が・誰について・いつ」を忘れない二重記憶 SpeakerMem-R1: Speaker-Centered Dual-Track Memory for Multi-Party Dialogue 複数人の会話を長期記憶するSpeakerMem-R1を1から解説。発言の原文と「人ごと・グループごと」に整理した状態を二本立てで持ち、記録係の小型モデル(Qwen2.5-3B)を話者ごとに採点する強化学習で鍛える仕組みを、式と実験結果から読み解く。 05 ·学習手法・アライメント·無料·論文·27分で読めます QLoRA — 650億パラメータのモデルをGPU 1枚で微調整する LoRA: Low-Rank Adaptation of Large Language Models 650億パラメータのモデルは、16bitの重みだけで130GB——まだ何も学習していない状態で、である。QLoRAはこれを48GBのカード1枚に載せる。重みそのものの分布に合わせた4bit形式で凍結重みを格納し、量子化定数までもう一度量子化し、オプティマイザをCPUへページアウトする。そのうえで勾配はその4bit重みを通り抜け、小さな16bitアダプタにだけ流れ込む。 06 ·エージェント·★ 会員·論文·11分で読めます 論文解説: S³Gym — 自己テストと自己採点は、自己改善になるのか S3Gym: Can LLMs Turn Self-Testing and Self-Judging into Self-Improvement? LLMエージェントは自分の経験から本当に学べるのか。探索と評価を分離した7つのゲーム環境で、生履歴・要約メモリ・パラメータ学習の3ルートを同一条件で比較した論文を、前提知識ゼロから読み解く。 07 ·★ 会員·論文·14分で読めます 論文解説 Beyond Retrieval — 取り出した映像を「潜在メモリ」に取り込むLatentStream Beyond Retrieval: Progressive Latent Memory Evolution for Streaming Video Understanding 流れ続ける動画に対し、過去の証拠を外部コンテキストとして足すのではなく、固定長の潜在メモリトークンへ内面化する枠組みLatentStream。階層メモリ・潜在メモリ進化・自信ベースのテスト時最適化を、論文本文に沿って1から解説する。 08 ·推論・高速化·★ 会員·論文·18分で読めます 論文解説: LatentPress — 圧縮した文脈を、テキストにも画像にも戻さずLLMに直接読ませる LatentPress: Context Compression Beyond Text and Vision 長い会話履歴や文書を「テキストの要約」でも「画像」でもなく、凍結したLLMがそのまま読める連続ベクトル（ソフトトークン）に書き込む手法。LongMemEvalで7.70倍圧縮しながら非圧縮を上回った論文を、前提知識ゼロから解説する。 09 ·音声系·★ 会員·論文·21分で読めます 論文解説: VoiceMem — 音声対話に「左脳と右脳」の記憶を、遅延ゼロで VoiceMem: Streaming Dual-Brain Memory for Real-Time Interaction リアルタイム音声対話に記憶を持たせるVoiceMemを1から解説。事実を扱う「左脳」と人柄・感情を扱う「右脳」を並列に置き、VADが待つ無音の中に検索を隠すことで、top-5という極小の予算のまま精度を上げる仕組みを読み解く。 10 ·エージェント·★ 会員·論文·18分で読めます 論文解説: Embodied-Navigator（TAMP-Nav） — VLMに「指を差させる」と、ナビゲーションは速く強くなる Embodied-Navigator: Point, Think, Memorize, and Align for Efficient Navigation 3D座標を出させる代わりにVLMへ2Dピクセルを「指差し」させ、考える場所と憶える場所を絞り、二段のGRPOで揃える。R2R-CEで成功率66.2%、1タスク16.58秒を9万本の軌跡だけで達成した設計を、論文本文に沿って1から解説する。 11 ·エージェント·無料·論文·14分で読めます エージェントの記憶設計 — 短期・長期・エピソード MemGPT: Towards LLMs as Operating Systems LLMは何も覚えていません。会話が続いて見えるのは毎ターン全履歴を読み直させているからです。短期・エピソード・長期の3層に分ける設計、想起を決める式、そして最も設計されていない「忘れる」まで、前提知識ゼロから組み立てます。 12 ·エージェント·無料·論文·11分で読めます 論文解説: Metis — 記憶を外付けせず、モデルの中に住まわせる「Memory Foundation Model」 Metis: Memory Foundation Model AIエージェントの記憶は今もRAGなどの「外付け」が主流。この論文は記憶をモデル本体の順伝播に内蔵する Memory Foundation Model を提唱し、初のプロトタイプ Metis を提案する。覚える・忘れる・更新するを勾配なしのforward計算だけで実行する仕組みと、その実力・限界を1から解説。