Weights & BiasesがLLMの開発手法にフォーカスしたホワイトペーパーの第2弾をリリース
Weights & Biases Japan
W&B Fully Connected 2023カンファレンスとAI Expo2023秋にて配布予定
Weights & Biases Japan株式会社（以下、W&B Japan）は本日、大規模言語モデル（LLM）の開発手法にフォーカスするホワイトペーパーの第2弾となる「LLMファインチューニングとプロンプトエンジニアリングのベストプラクティス」を公開しました。LLM導入を検討している企業向けに、自社の保持するリソースやビジネスモデルに合わせたLLM開発手法を選択するための実践的ガイドとなっており、第1弾の「LLMをゼロからトレーニングするためのベストプラクティス」を補完する形で、既存のLLMモデルを拡張する形で自社用途に適応する手法について解説しています。本ホワイトペーパーの印刷済み冊子は10月11日に開催されるWandBユーザーカンファレンスFully Connected 2023および、10月24日から26日にかけて開催されるAI Expo 2023秋にて配布予定です。
「LLMファインチューニングとプロンプトエンジニアリングのベストプラクティス」概要と目次：
LLMは汎用的な性質を持っているため、チューニングを行わずに領域固有のタスクに使用することもできますが、特定の領域で高い精度のアウトプットを得るためには、通常ファインチューニングを行うか、汎用LLMを下流のタスクに適応さ せるためのプロンプトエンジニアリングを行う必要があります。このホワイトペーパーでは、LLMを使って特定のユースケースに最適なアプローチを選択する上で、ファインチューニングとプロンプトエンジニアリング両トピックについて、最新の手法の概要とその比較に基づき、それぞれの手法の最も適した応用方法を考察しています。ファインチューニングとプロンプトエンジニアリングの概要から、適切なタスクや導入シチュエーションまで掘り下げていきます。
＜本ホワイトペーパーでカバーする内容＞
・ファインチューニング、PEFT、インストラクションチューニング、インコンテクストラーニングなど、代表的手法の概要
・LLMファインチューニングの代表的手法の概要とその比較
・LLMプロンプトエンジニアリングの代表的手法の概要とその比較
・各手法の具体例、メリット・デメリットの比較、各手法の適用機会
本ホワイトペーパーの入手先
本ホワイトペーパーのダウンロード版PDFはこちらのURLから入手できます：https://wandb.me/llm-finetune
また、印刷済み冊子を10月11日開催されるWandBのユーザーカンファレンス（https://fullyconnected.jp/）および10月24日から26日にかけて開催される秋のAI Expo 2023にて配布予定です。
Weights & Biasesの生成AI/LLMにおける取り組み
Weights & Biasesは、ML開発プロセスを可視化・管理・検証するための実験管理・MLOpsを提供するプラットフォームであるWandBにおいて、LLM開発を支援するPrompts機能やデプロイ後のモデルモニタリング機能をLangChainやLlamaIndexなどの主要なLLMアプリケーション開発フレームワークとのインテグレーションとともに提供しています。またこれまでにもLLMホワイトペーパー第1弾「LLMをゼロからトレーニングするためのベストプラクティス」（https://wandb.me/llm-jpdl）の公開などを通じ、速い速度で拡大しているLLMランドスケープに貢献しています。
日本においては、LLMモデルの日本語性能を評価する「Nejumi LLMリーダーボード」（http://nejumi.ai）も運営し、主要なLLMモデルをJGLUEデータセットを使って順次評価し、結果を公開しています。これまでに評価されたLLMモデルの数は25を超え、国内で最大級のLLM評価リーダーボードに成長しています。本リーダーボードはWandBプラットフォームの機能群をもとに構築されており、LLM開発をリードする先進企業において、既に幅広く応用されています。
国内初のユーザーカンファレンス開催
W&B Japanは10月11日に国内初のユーザーカンファレンス、Fully Connected 2023を開催します。生成AI・LLM・クリエイティビティ・自動運転・ヘルスケア、AIの活用分野として注目を集める各分野を代表するMLエンジニアと研究者たちが、ML開発から実世界のAIアプリケーションを生み出すために、どのような工夫をしているのか。WandBを愛用する登壇者たちから、普段は聞く機会のないML開発・運用のベストプラクティスを学べる貴重なイベントです。Weights & Biasesからは創業時から在籍するプロダクトマネージャーのCarey Phelpsが来日し、
WandBの最新機能と今後のプロダクト・ロードマップを発表します
イベントウェブサイト：https://fullyconnected.jp/
＜Fully Connected 2023 Tokyoタイムテーブル＞
1:30PM 開場
2:00PM 「オープニング」（Weights & Biases シバタ アキラ）
2:05PM 「CyberAgentにおける日本語LLMの開発について」（CyberAgent 石上 亮介様）
2:25PM 「日本経済新聞社におけるWandBの活用例」（株式会社日本経済新聞社 青田 雅輝様）
2:45PM 「Turingにおける自動運転モデルの開発とW&Bの活用」（Turing株式会社 井ノ上 雄一様）
3:10PM 「世界の先端AI企業におけるML開発手法と、Weights & Biasesプロダクトロードマップ」（Weights & Biases Carey Phelps）
3:35PM 「リソースを最適化してAIを加速せよ」（Run:ai Nir Lubliner様）
4:05PM 「Woven By Toyota: より安全な移動のためのML技術の開発」（Woven By Toyota Evan Cushing様）
4:35PM 「Dagster, Weights and Biases」（SyntheticGestalt 神谷 幸太郎様）
4:55PM 「AI DJパフォーマンスを通して考える、創造性とAIの未来」（Qosmo 徳井 直生様）
5:20PM 「LLMおよび言語処理研究でのWandB利用例の紹介」（東北大学 鈴木 潤様）
5:40PM 「LLMの開発は難しい？簡単？Stability AIの現場から」（Stability AI 秋葉 拓哉様）
Weights & Biases Japan株式会社について
Weights & Biases Japan株式会社は、エンタープライズグレードのML実験管理およびエンドツーエンドMLOpsワークフローを包含する開発・運用者向けプラットフォームを販売する日本法人です。WandBは、LLM開発や画像セグメンテーション、創薬など幅広い深層学習ユースケースに対応し、NVIDIA、OpenAI、Toyotaなど、国内外で50万人以上の機械学習開発者に信頼されているAI開発の新たなベストプラクティスです。
Weighs & Biases Japan株式会社は、2023年4月に日本ディープラーニング協会に正会員として入会しました。
URL：https://wandb.jp
