#LLM

タグ「LLM」が付与された記事一覧 (3 件)。

writing 2026年5月29日

【論文読み】Attention Is All You Needを読む — Transformerの原点をゆるく理解する

Transformerの原点になった論文 Attention Is All You Need を、勉強も兼ねて読んでいきます。Self-Attention、Query/Key/Value、Multi-Head Attention、Positional Encodingなどを、数式にも少し触れながら、最近のLLMアーキテクチャにつながる前段として整理します。

AI 機械学習 LLM Transformer

programming 2026年5月27日

GaOTTTという、記憶を重力で作る実験

GaOTTTは、LLMのための長期記憶システムです。ただの検索器ではなく、検索するたびに記憶空間そのものが少しずつ変形していく、重力ベースの外部記憶として作っています。

AI 機械学習 LLM RAG

programming 2023年3月27日

Alpaca-Lora-4bitをWSL2でうごかしてみる（適当な記事）

WSL2環境でAlpaca-LoRA 4bitモデルを動かす手順の記録。スタンフォード大学のAlpaca論文に基づくLLM調教ツールの導入ガイド。

PC関連実用Tips WSL2 機械学習