2018年にGoogleが発表した自然言語処理モデル.文中の単語の一部を隠し(マスク),残りの単語からその穴を埋めるように学習することで,双方向の文脈を表現した「意味のベクトル化(表現学習)」を可能にする.(実験医学2026年3月号より)
超長距離文脈を扱うゲノム言語モデル実験医学2026年3月号Transformerのエンコーダ部分のみを使用したモデルを指す.文の分類や感情認識など文全体の理解を必要とするタスクに強みをもつ.(実験医学2025年1月号より)
臨床基盤モデル・マルチモーダル基盤モデルの現在地点実験医学2025年1月号解説は発行当時の掲載内容に基づくものです
本コンテンツは,2018年まで更新されていた同名コンテンツを元に,新規追加・再編集したものです





