# 業務報告：AIによるラーメンスープ画像評価・学習データ生成

報告日: 2026-06-18

---

## 1. 背景・目的

店舗から提出されるラーメンスープの動画を、AIで自動評価する仕組みを構築している。

最終ゴールは、**AIが算出した評価データを学習データとして、スープ品質を自動採点するAIモデルを開発する**こと。本フェーズはその第一段階として、評価パイプラインの構築と学習データ生成を行う。

### 当初の課題
初期検証で、動画から1枚の画像を切り出してLLM（大規模言語モデル）に直接「濃度」を判定させたところ、**10件中ほぼ全件が人間の評価と不一致**だった。原因は2つ：
- LLMが画像から濃度（Brix相当）を当てるのは本質的に難しい
- 湯気が多い／構図が不適切な動画では、そもそもスープ表面が見えず判断できない

---

## 2. 採用したアプローチ

「LLMに何でもやらせる」のをやめ、**役割を分離**した。

| 処理 | 担当 | 理由 |
|---|---|---|
| スープ濃度の判定 | 専用の画像AI（3モデル連携）または現場記入のCSV値 | LLMは濃度が苦手。専用モデルの方が高精度 |
| 総合評価（撮影品質・水位・乳化・沸騰状態等） | LLM | 濃度を参考情報として受け取り、総合的に評価 |

さらに、**「スープ表面が読めるか」を判定する可読性レイヤー**を全動画に通し、湯気で見えない動画は評価対象から自動的に外す（＝誤った評価でデータを汚さない）仕組みを実装した。

### 処理の流れ
```
動画 → 湯気除外 → スープ抽出 → 濃度判定（AI or CSV）
                              → 可読性判定 → 読める動画だけLLMで総合評価
                                          → 読めない動画は「判定不可」で記録（LLMに送らず節約）
→ 学習データ（評価済みデータ）として出力
```

---

## 3. 実施内容と成果

### 3.1 処理基盤の高速化
- GPU（NVIDIA RTX 5060）を活用するよう環境を構築。**CPU比で6〜8倍高速化**。
- 全520件の事前処理（濃度判定）が約30分で完了するようになった。

### 3.2 濃度判定AIの精度検証（全520件）
店舗データ全520件について、AIの濃度判定を人間の評価ラベルと突き合わせて精度を測定：

| 指標 | 高信頼と判定した222件 |
|---|---|
| 完全一致 | **77%** |
| ±1段階以内 | **96%** |
| 平均誤差(MAE) | **0.27段階** |

- スープがはっきり見える動画では、AIの濃度判定は人間とほぼ一致する水準に到達。
- さらに統計的なキャリブレーション（補正）を実装し、**大きな誤り（±2段階）をほぼ排除、±1以内を99%**に改善。
- 当初「ほぼ全件不一致」だった状態からの大幅な改善。

### 3.3 無駄なコスト・誤判定の抑制
- 湯気で読めない動画（全体の約26%）は**LLMに送らず自動で「判定不可」**として記録。これにより誤評価とAPI費用の両方を削減。
- 読めるか微妙な動画はLLMに送り、LLM側でも「読めない」と判断すれば再撮影推奨を返す二重チェック構造。

### 3.4 学習データ生成パイプラインの完成
- 全工程を自動化し、再実行可能・中断再開可能・二重課金なしの堅牢な仕組みを構築。
- 10件での実地テストに成功（処理・スキップ・LLM評価すべて正常動作、エラーなし）。

---

## 4. コスト

| 項目 | 金額 |
|---|---|
| LLM評価 1件あたり（実測） | 約 $0.004（約0.6円） |
| 全学習データ生成（約385件送信） | 約 **$1.54（約240円）** |

※ 残り約380件で約235円。湯気で読めない約135件はLLMに送らないため無課金。

---

## 5. 現在のステータス

- ✅ 評価パイプライン構築・検証完了
- ✅ 濃度判定AIの全件精度検証・キャリブレーション完了
- ✅ 全520件の事前処理（濃度判定＋最良フレーム選定）完了
- ✅ 10件でのLLM評価テスト成功
- ⏭ **次：残り約380件のLLM評価を実行 → 学習データ完成（所要約10分／約240円）**

---

## 6. 今後の予定

1. **全件のLLM評価を実行**し、学習データ（約385件の評価済みデータ）を完成させる。
2. その学習データを用いて、**スープ品質を自動採点するAIモデルを開発**する（本来の最終目的）。
3. 必要に応じて、濃度判定AIの苦手な構図（大型寸胴の俯瞰など）への対応や、評価項目（総合スコア）の追加を検討。

---

## 7. 補足：技術資料

再現手順・環境構築・運用上の注意は別紙「引き継ぎ資料.md」に記載。他の担当者が同じ作業を再現できる形で整備済み。
