LLM開発のためにMLOpsチームがやるべきこと

概要

  • LLM開発のためにMLOpsチームが取り組むべき課題と検討事項についての勉強会が開催されました。モデル開発、デプロイメント、インテグレーション、モニタリングの各段階での課題と解決策について、具体的な図やツールの紹介が行われました。
 
LLM開発の全体像
 
LLM開発の課題・検討事項
1. モデル開発における課題・検討事項
2. デプロイメントにおける課題・検討事項
 
3. インテグレーションにおける課題・検討事項
 
 
4. モニタリングにおける課題・検討事項
 
 
課題・検討事項をどう解決するか(ツール紹介)
Awesome-LLMOps
tensorchordUpdated Oct 29, 2024