特集４　生成ＡＩのコアテクノロジー「Ｔｒａｎｓｆｏｒｍｅｒ」完全理解〜「Ｔｒａｎｓｆｏｒｍｅｒ」完全理解　後編
日経ソフトウェア　第294号　2024.7.1

この記事の情報
掲載誌	日経ソフトウェア　第294号（2024.7.1）
ページ数	21ページ　（全25374字）
形式	PDFファイル形式　（3724kb）
雑誌掲載位置	56〜76ページ目

立山　秀利　前回の前編では、「Ｔｒａｎｓｆｏｒｍｅｒ」の前提知識となる「ニューラルネットワーク」や「自然言語処理」の基礎を解説し、かつ、Ｔｒａｎｓｆｏｒｍｅｒの柱と言える「Ａｔｔｅｎｔｉｏｎ」の仕組みも説明しました。　今回の後編では、Ｔｒａｎｓｆｏｒｍｅｒそのものの仕組みを詳しく解説します。さらにＴｒａｎｓｆｏｒｍｅｒをベースとする「ＧＰＴ」（Ｇｅｎｅｒａｔｉｖｅ　Ｐｒｅ−ｔｒａｉｎｅｄ　Ｔｒａｎ…