T5

日本語の分散表現の計算方法まとめ

Posted on Wed Mar 2 2022 | 2 minutes | 585 words | 近藤綾乃

単語単位の分散表現 Word2vec 自然言語処理における分散表現の一つのオリジナル基本原理くらいは知っていてもいいかもしれない gensimがよく使われる Fasttext で [Read More]

自然言語処理 T5 BERT Sentece Transformers SBERT word2vec fasttext

Posted on Thu Jul 1 2021 | 8 minutes | 3533 words | 近藤綾乃

T5(Text-To-Text Transfer Transformer) とは事前学習における入出力を文に統一してしまうことで、複数の形式の問題に対しても適応できる様式となった。モデルの基本構造としては Transformer が使 [Read More]

自然言語処理 T5 技術