Up | テクストの記憶 | 作成: 2023-06-29 更新: 2025-06-29 |
このことを,脳がテクスト [ y_1, y_2, ‥‥ ] を記憶している,と読むことにする。 これにより,Transformer 脳の「記憶」「想起」を論じられるようになる。 即ち, [ x_1, ‥‥, x_m ] → x_m のつぎ y_1 は,「話の糸口を摑む」に当たる。 そして [ y_1, y_2, ‥‥ ] の生成は,「その話の糸を伝う」に当たる。 念のため: 「テクストの記憶」の言い方は,脳にテクスの書庫があるように思わせる。 書庫は,存在しない。 Transformer 脳は,テクストの入力に対し,決定論的に何らかのテクストXを出力する。 この「決定論にXを出力する」を,「Xを記憶している」と呼ぶことにしよう,というわけである。 |