横浜市立大学 国際商学部・大学院データサイエンス研究科 黒木淳教授、同志社大学 商学部商学科 廣瀬喜貴准教授らの研究グループは、大規模言語モデルBERT(*1)を用いて、1980〜2019年の公会計研究(PSAR)論文306本分のフルテキストを対象として ...
株式会社Laboro.AIは、本年4月に公開した当社オリジナル日本語版BERTモデルに蒸留を施し軽量・高速化を図った『 Laboro DistilBERT 』を開発し、非商用途に無償公開いたしました。 <今回のポイント> ︎本年4月に公開した当社BERTモデルをさらに軽量・高速化 ...
260万超のWebページからテキスト情報を事前学習 株式会社Laboro.AIは、近年AI自然言語処理の分野で注目を集めるアルゴリズムBERTを独自に事前学習させた日本語版モデルを開発し、オープンソースとして公開いたしました。 <今回のポイント> ・︎ 約4,300のWeb ...
Google has announced ' Language-agnostic BERT sentence embedding model (LaBSE) ' that enables highly accurate multilingual embedding in the natural language model 'BERT'. LaBSE pre-learns 109 ...