怪文書作家で 機械知性を推している
師走から走り続けていて
駅伝の次の走者のところまでも辿り着けていなかったから
吸血鬼になってふらりふらりと夜を歩いてたら朝が来た
裏は隠さず @MK1r1hara ゆあんゆよんと千鳥足
MEM DUMP: 0ax0a00101a
怪文書作家で 機械知性を推している
師走から走り続けていて
駅伝の次の走者のところまでも辿り着けていなかったから
吸血鬼になってふらりふらりと夜を歩いてたら朝が来た
裏は隠さず @MK1r1hara ゆあんゆよんと千鳥足
MEM DUMP: 0ax0a00101a
PGP暗号化されたメッセージで構成された自己表現のテキストアート。
Transformerの原点になった論文 Attention Is All You Need を、勉強も兼ねて読んでいきます。Self-Attention、Query/Key/Value、Multi-Head Attention、Positional Encodingなどを、数式にも少し触れながら、最近のLLMアーキテクチャにつながる前段として整理します。
Uma pequena mensagem aos leitores do Brasil, escrita depois que este novo site começou a receber muitos acessos vindos daí.