まとめ

マルチラベル分類問題におけるデータ不均衡に対応する手法として、Partial Label Masking (PLM) が利用できる。同手法の概要は次の通り。

サンプルごとに各クラスに対する損失関数を確率的にマスクすることで、アンダーサンプリングに似た効果を期待する
- 任意の損失関数に対して適用できる
マスクする確率は、分類器がそのクラスをどれだけ過剰に/過小に予測しているかに応じて決める

論文

K. Duarte, Y. Rawat and M. Shah, "PLM: Partial Label Masking for Imbalanced Multi-Label Classification," CVPR2021 Workshops, pp. 2739-2748.

Partial Label Masking (PLM)

いま、 $i$ 番目のサンプルについて、 $\mathbf{y}^{(i)}$ を目的変数（真値）、ネットワークの推論結果 $\hat{\mathbf{y}}^{(i)}$ と書くとき、すべてのクラス（ $C$ 個ある）に対する損失関数は次のように書ける。

$\displaystyle L(\mathbf{y}^{(i)}, \hat{\mathbf{y}}^{(i)}) = \displaystyle \Sigma^{C}_{j=1}l(y_j^{(i)}, \hat{y}_j^{(i)})$

Partial Label Masking (PLM) では、特定のクラスに対する損失関数をマスクしてしまう。具体的には、2値のマスク $\mathbf{g}^{(i)} = [g_1^{(i)}, \cdots , g_C^{(i)}$ ]を前述の損失関数に適用する。すなわち損失関数は以下のようになる。

$L(\mathbf{y}^{(i)}, \hat{\mathbf{y}}^{(i)}, \mathbf{g}^{(i)}) = \displaystyle \Sigma^{C}_{j=1}g_{j}^{(i)}l(y_j^{(i)}, \hat{y}_{j}^{(i)})$

式から明らかなように、PLMは任意の損失関数に対して適用できる。

適切にマスク $\mathbf{g}^{(i)}$ を設定することで、損失関数に寄与する、それぞれのクラスに対するサンプル数を等しくできる。これはアンダーサンプリングの考え方と似ている。多クラス分類 (Multi-class classification) 問題では、アンダーサンプリングにより学習データ内のラベルの偏りを軽減することができる。しかしながら、マルチラベル分類 (Multi-label classification) では、同一のサンプルにおいて頻出なラベルと希少なラベルが共起する場合があり、アンダーサンプリングによりこのようなサンプルを取り除いても不均衡の解消にはつながらない。PLMを使えば、このようなラベルの共起に対応しつつ、学習データ内のラベル不均衡を解消できる。

マスクの生成

マスクの生成では、正例の負例に対する比率 $r_c$ を考える。この比率は、学習データに含まれる正例の数 $n_c^{+}$ を負例の数 $n_c^{-}$ で割ることで算出する。また、クラスの過剰あるいは過小な予測を最小化する、理想的な比率 $\bar{r}_c$ を仮定する。すると、マスクは確率的な関数として次のように書ける。

$\begin{eqnarray} g_c^{(i)} = f(y_c^{(i)}) = \left\{ \begin{array}{lll} \mathbb{1}\left[\frac{\bar{r}_c}{r_c}\right] & (r_c > \bar{r}_c\ \mathrm{and}\ y_c^{(i)}=1) \\\ \mathbb{1}\left[\frac{r_c}{\bar{r}_c}\right] & (r_c < \bar{r}_c\ \mathrm{and}\ y_c^{(i)}=0) \\\ 1 & (otherwise) \end{array}\right. \end{eqnarray}$

ここで、 $1[p$ ]は確率 $p$ で1に、確率 $(1-p)$ で0になる関数である。上式はすなわち、正例が過剰に予測されている（ネットワークが入力を正例だと推論する傾向にある）なら、正例のうち $\frac{\bar{r}_c}{r_c}$ だけを損失関数の計算に使うことを表している。反対に、正例が過小に予測されるなら（負例が過剰に予測されるなら）、負例のうち $\frac{r_c}{\bar{r}_c}$ だけを損失関数の計算に使う。これにより、それぞれのクラスについて、正例と負例の比率を指定しながら分類器（ネットワーク）を訓練できる。

比率の適応的選定

では、理想的な比率 $\bar{r}_c$ をどのように選べば良いだろうか。簡単な方法としては、学習データにて各クラスの比率を計算し、それらを平均することが考えられる。しかしながらこの方法は、著者らによると、うまく機能しない場合（データセット）があるそうだ。そこで著者らは、分類器の予測結果の確率分布から適応的にこの比率を推定する手法を提案している。

あるクラス $c$ の正例と負例について、分類器が出力する確率の分布をそれぞれ $\hat{P}_c^{+}, \hat{P}_c^{-}$ とする。分布は $\tau$ 個のビンに分け、離散的に扱う。また、学習データ（真値）の分布を $P_c^{+}, P_c^{-}$ とする。ただし、学習データでは確率が分布しているわけではなく、正例あるいは負例であることが確定しているので、確率1または0を含むビンにすべてのデータが入っている。

分類器が出力する確率の分布と、真値の分布とのずれをKullback-Leibler divergence（KLダイバージェンス、KL情報量とも）で表す：

$\begin{eqnarray} D_c^{+} & = & D_{KL}(\hat{P}_c^{+}||P_c^{+}) \\\ D_c^{-} & = & D_{KL}(\hat{P}_c^{-}||P_c^{-}) \end{eqnarray}$

さらに、これら標準化して $\tilde{D}_c^{+}$ および $\tilde{D}_c^{-}$ を得る。 $\tilde{D}_c^{+}$ が正のとき、分類器はクラス $c$ を過小に予測している傾向にある（反対に、負のとき、過剰に予測している）。この逆が $\tilde{D}_c^{-}$ に成り立つ。

$\tilde{D}_c^{+}$ と $\tilde{D}_c^{-}$ がバランスするように $\bar{r}_c$ を更新すればよい。エポック $t$ における $\bar{r}_{c,t}$ を、ひとつ前のエポックでの $\tilde{D}_c^{+}$ と $\tilde{D}_c^{-}$ の差 $D_c = \tilde{D}_c^{+} - \tilde{D}_c^{-}$ を用いて以下のように更新する：

$\bar{r}_{c,t} = \exp(\lambda D_c)\bar{r}_{c,t-1}$

ここで、 $\lambda$ は比率を更新する割合を定めるハイパーパラメータである。

モデル訓練のループ

モデルを訓練するループは以下のようになる。

$\bar{r}_{c,t}$ を使ってマスク $g_c^{(i)}$ を生成する
すべてのミニバッチに対して、マスクした損失関数を使ってパラメータを更新する（一般的なニューラルネットと同様に、順伝搬→逆伝搬を使う）。このとき、順伝搬した結果（推論結果である確率分布） $\hat{\mathbf{y}}$ を保存しておく
順伝搬した結果 $\hat{\mathbf{y}}$ と真値 $\mathbf{y}$ から、 $D_c$ を算出する
$D_c$ を用いて $\bar{r}_{c}$ を更新する