機械学習エンジニアのためのtransformers 最先端の自然言語処理ライブラリによるモデル開発

「Ｈｕｇｇｉｎｇ　Ｆａｃｅ　Ｔｒａｎｓｆｏｒｍｅｒｓ」を使った自然言語処理の解説書。２０１７年の登場以来、Ｔｒａｎｓｆｏｒｍｅｒと呼ばれるアーキテクチャを使った大規模なモデルが急速に普及しています。本書では、Ｈｕｇｇｉｎｇ　Ｆａｃｅの開発者らが、「Ｈｕｇｇｉｎｇ　Ｆａｃｅ　Ｔｒａｎｓｆｏｒｍｅｒｓ」を使って、これらの大規模モデルを学習しスケールする方法をわかりやすく紹介します。テキスト分類、固有表現認識、テキスト生成、要約、質問応答といったタスクだけでなく、蒸留、量子化、枝刈り、ＯＮＮＸ　Ｒｕｎｔｉｍｅといったモデルの高速化技術、ラベル付きデータが少ないときに使えるゼロショット学習や少数事例学習、その他、多言語転移やドメイン適応といった類書では扱っていない技術についても解説しています。

目次 : １章　入門Ｔｒａｎｓｆｏｒｍｅｒｓ/ ２章　テキスト分類/ ３章　Ｔｒａｎｓｆｏｒｍｅｒの詳細/ ４章　多言語の固有表現認識/ ５章　テキスト生成/ ６章　要約/ ７章　質問応答/ ８章　Ｔｒａｎｓｆｏｒｍｅｒｓの高速化/ ９章　ラベルのないまたは少ない状況への対応方法/ １０章　Ｔｒａｎｓｆｏｒｍｅｒをゼロから学習する/ １１章　Ｔｒａｎｓｆｏｒｍｅｒの未来

【著者紹介】
ルイス・タンスタール : Ｈｕｇｇｉｎｇ　Ｆａｃｅの機械学習エンジニア。ＮＬＰ、トポロジカルデータ解析、時系列などの領域で、スタートアップや企業向けの機械学習アプリケーションを構築してきた経験がある。理論物理学の博士号を持ち、オーストラリア、アメリカ、スイスで研究職を歴任。現在は、自然言語処理コミュニティのためのツールを開発し、その効果的な使い方を教えることに注力している

レアンドロ・フォン・ウェラ : Ｈｕｇｇｉｎｇ　Ｆａｃｅのオープンソースチームの機械学習エンジニア。ＮＬＰプロジェクトを本番環境へ移行した経験が数年あり、機械学習スタック全体に取り組んできた。Ｔｒａｎｓｆｏｒｍｅｒと強化学習を組み合わせたＴＲＬというＰｙｔｈｏｎライブラリの作者でもある

トーマス・ウルフ : Ｈｕｇｇｉｎｇ　Ｆａｃｅの最高科学責任者兼共同設立者。彼のチームは、ＮＬＰ研究を前に進め、民主化することを使命としている。Ｈｕｇｇｉｎｇ　Ｆａｃｅの共同設立に先立ち、物理学の博士号を取得し、その後法律の学位も取得した。物理学研究者、欧州特許弁護士としての経験がある

中山光樹 : ＯＳＳデベロッパー。専門分野は機械学習と自然言語処理（本データはこの書籍が刊行された当時に掲載されていたものです）