Books

大規模言語モデル入門II-生成型llmの実装と評価

山田育矢

Product Details

ISBN/Catalogue Number
ISBN 13 : 9784297143930
ISBN 10 : 4297143933
Format
Books
Publisher
Release Date
September/2024
Japan
Co-Writer, Translator, Featured Individuals/organizations
:

Content Description

目次 : 第10章 性能評価(モデルの性能評価とは/ 評価指標を用いた自動評価/ LLMを用いた自動評価)/ 第11章 指示チューニング(指示チューニングとは/ 指示チューニングの実装/ 指示チューニングしたモデルの評価)/ 第12章 選好チューニング(選好チューニングとは/ 選好チューニングの実装/ 選好チューニングの評価)/ 第13章 RAG(RAGとは/ 基本的なRAGのシステムの実装/ RAG向けにLLMをチューニングする/ RAGの性能評価)/ 第14章 分散並列学習(分散並列学習とは/ さまざまな分散並列学習手法/ LLMの分散並列学習)

【著者紹介】
山田育矢 : 株式会社Studio Ousiaチーフサイエンティスト・名古屋大学客員教授・理化学研究所AIP客員研究員2007年にStudio Ousiaを創業し、自然言語処理の技術開発に従事。2016年3月に慶應義塾大学大学院政策・メディア研究科博士後期課程を修了し、博士(学術)を取得。大規模言語モデルLUKEの開発者

鈴木正敏 : 株式会社Studio Ousiaソフトウェアエンジニア・東北大学データ駆動科学・AI教育研究センター学術研究員。2021年3月に東北大学大学院情報科学研究科博士後期課程を修了し、博士(情報科学)を取得。博士課程では質問応答の研究に従事。日本語質問応答のコンペティション「AI王」の実行委員。東北大学が公開している日本語BERTの開発者

西川荘介 : LINEヤフー株式会社自然言語処理エンジニア。2022年3月に東京大学大学院情報理工学研究科修士課程を修了。現在は情報検索分野での言語処理に取り組む

藤井一喜 : 東京工業大学情報工学系修士1年・Turing株式会社嘱託研究員。学士、修士課程では大規模モデルの分散並列学習に従事。llm‐up、Swallow Projectにて日本語大規模言語モデルの事前学習を担当

山田康輔 : 株式会社サイバーエージェントAI Labリサーチサイエンティスト・名古屋大学大学院情報学研究科協力研究員。2024年3月名古屋大学情報学研究科博士後期課程を修了し、博士(情報学)を取得。2024年4月より現職。博士後期課程では自然言語処理、特にフレーム意味論に関する研究に従事(本データはこの書籍が刊行された当時に掲載されていたものです)

(「BOOK」データベースより)

Customer Reviews

Comprehensive Evaluation

☆
☆
☆
☆
☆

0.0

★
★
★
★
★
 
0
★
★
★
★
☆
 
0
★
★
★
☆
☆
 
0
★
★
☆
☆
☆
 
0
★
☆
☆
☆
☆
 
0

Book Meter Reviews

こちらは読書メーターで書かれたレビューとなります。

powered by

  • mim42

    前著の続編。技術進化のスピードがとても速い。RLHFがDPOへと進化した経過が、分かりやすい数式で追える。RAGの定量評価周りで登場したトライアングル図が良かった。著者側の評価ツールも実例とともに紹介されていた。

  • しお

    LLMの仕組みを解説する1巻に続いて,LLMの利用にフォーカスを当てた2巻。LLM同士の比較評価や不適切な回答をしないような安全性確保のための工夫や利用場面を想定した選好チューニングについて丁寧な説明がある。実際に動かせるコードがあるのが素晴らしい。RAGの解説もある。

  • ONE_shoT_

    大規模言語モデル入門の続編。性能評価・指示チューニング・選好チューニング・RAG・分散並列学習

  • まっつん

    評価方法と指示チューリング、選好チューリング、RAG、並列計算について書かれています。 LLM開発の要は一冊目でおさえられており、本書は「追加」要素にはなりますが、LLM開発の流れや安全性、有効性を上げるための取り組みを知ることができる良書でした。

  • takao

    ふむ

レビューをもっと見る

(外部サイト)に移動します

Recommend Items