CVPR 2023 速報:CCC Summer 2023 in MIRUチュートリアル(配布版)

  • MIRU2023のチュートリアルで紹介されたcvpaper.challengeの方々によるまとめ。えぐい。
  • CVPR2023で最もアツいトピックは? → “生成モデル”U基盤モデル
  • 基盤モデル + (Visual) Prompt + Zero-shot/In-context learning
    • Prompt: テキスト、点、線、ボックス、スケッチなど多彩な形式。複数形式も。
      • e.g. 茶色い熊の画像と「白熊に置き換えて」というテキストを入力に、シロクマ画像を出力する。
      • e.g. 手書きスケッチをpromptとしてzero-shotで物体検出
        • (絵のうまさによるのでは…?)
      • e.g. Zero-shot セグメンテーション。
        • 論文名『Segment Anything』。かっこいい。
  • 基盤モデルは再学習コストが高いため、少数の質の高いデータでincontext-learning/小規模追加学習が重要 → Data-centric AI の盛り上がり
    • diffusion model の進歩により生成データを使った学習による制度向上が実現可能に
      • ImageNet Top-1 Acc. が向上した例(ほう)
      • 生成モデルを使ってDataをData++
        • Data++はDataよりも、リッチな情報を持ち制御も可能とのこと
        • Dataが持つ data spaceに加え、生成モデルを使うことで latent spaceの両方を使える。
    • 生成モデルを使うのではなく、数式ドリブンなData++も(FDSLというらしい)
      • 様々な振動数の正弦波を合成する感じ
  • 大規模言語モデルの登場などによりかなり世界感変わってきているけど、どこへ向かう?どう生き残っていくべき?というテーマも。
    • 組織の目的やリソースに応じた役割分担
    • 人通りの少ない道をいく
      • 少し前のアイデア再考、適用ドメインの大きな変更、学生期間はとにかく学ぶ
    • コラボする