Datasets:

WeiChihChen

/

ml2021-reference-corpus

like 0

0_0.wav

好 那 我 們 就 繼 續 講 吧 我 們 就 繼 續 講 吧 好 那 我 們 接 下 來 呢 就 是 要 講 三 個 lifelong learning 的 可 能 解 法

0_1.wav

那 第 一 個 解 法 叫 做 selective synaptic plasticity 那 從 字 面 上 你 可 能 一 下 子 沒 有 辦 法 get 到 說

0_2.wav

這 個 方 法 到 底 想 要 做 什 麼 這 個 synaptic 是 突 觸 的 意 思 就 是 我 們 腦 神 經 中 這 個

0_3.wav

神 經 跟 神 經 之 間 的 連 結 這 個 叫 做 突 觸 plasticity 呢 是 可 塑 性 的 意 思 所 以 簡 單 來 說

0_4.wav

這 個 方 法 想 要 做 的 事 情 就 是 我 們 只 讓 我 們 的 這 個 類 神 經 網 路 中 某 一 些 神 經 元

0_5.wav

或 某 一 些 神 經 元 間 的 連 結 具 有 可 塑 性 selective 的 意 思 就 是 說 只 有 部 分 的 連 結 是 有 可 塑 性 的

0_6.wav

有 一 些 連 結 必 須 被 固 化 它 必 須 不 能 夠 再 移 動 不 能 夠 再 改 變 它 的 數 值 那 像 這 樣 的 方 法 又 叫 做

0_7.wav

regularization based 的 方 法 那 這 個 面 向 這 個 研 究 的 面 向 在 lifelong learning 的 領 域 裡 面 我 覺 得 是 發 展 得 最 完 整 的

0_8.wav

所 以 等 一 下 我 們 會 花 比 較 多 的 時 間 來 講 selective synaptic plasticity 那 另 外 兩 個 面 向 呢 我 們 都 只 用 一 兩 頁 投 影 片 很 快 地 帶 過

0_9.wav

那 你 會 發 現 作 業 裡 面 主 要 的 問 題 也 都 集 中 在 跟 regularization based 有 關 的 方 法 上 面 好 那 我 們 先 來 想 一 下

0_10.wav

為 什 麼 catastrophic forgetting 這 件 事 情 會 發 生 呢 我 們 假 設 有 任 務 一 跟 任 務 二 這 兩 個 任 務

0_11.wav

而 這 兩 個 任 務 呢 我 們 假 設 我 們 的 模 型 只 有 兩 個 參 數 θ1 跟 θ2 那 當 然 一 個 模 型 通 常 有 上

0_12.wav

上 百 萬 上 億 個 參 數 不 過 我 們 假 設 只 有 兩 個 參 數 好 那 這 個 投 影 片 上 這 兩 張 圖 代 表 的 是 任 務 一 跟 任 務 二 的 loss function

0_13.wav

也 就 是 在 任 務 一 上 面 如 果 你 的 θ1 跟 θ2 設 不 一 樣 的 值 你 就 會 有 不 一 樣 的 loss

0_14.wav

那 我 們 用 顏 色 來 代 表 loss 的 大 小 如 果 顏 色 越 偏 藍 色 就 代 表 loss 越 大 顏 色 越 偏 白 色

0_15.wav

不 好 意 思 我 剛 才 說 反 顏 色 越 偏 藍 色 代 表 loss 越 小 顏 色 越 偏 白 色 代 表 loss 越 大 好 所 以 左 右 兩 張 圖 分 別 就 是 任 務 一

0_16.wav

跟 任 務 二 的 loss function 也 就 是 他 們 的 error surface 好 那 我 們 現 在 先 讓 模 型 訓 練 任 務 一

0_17.wav

那 模 型 怎 麼 訓 練 任 務 一 呢 你 要 有 一 個 隨 機 初 始 化 的 參 數 我 們 這 邊 叫 它 θ0 然 後 我 們 會 用 gradient descent 的 方 法

0_18.wav

去 調 整 θ0 的 參 數 那 你 就 按 照 gradient 的 方 向 呢 去 update θ0 的 參 數 得 到 θb

0_19.wav

好 那 假 設 update 夠 多 次 數 你 覺 得 loss 降 得 夠 低 了 那 你 就 等 於 是 把 任 務 一 學 完 了 那 假 設 任 務 一 學 完 後

0_20.wav

我 們 得 到 的 參 數 是 θb 接 下 來 我 們 得 繼 續 解 任 務 二 你 就 把 θb 同 樣 的 參 數 拷 貝 過 來

0_21.wav

拷 貝 到 任 務 二 的 這 個 error surface 上 面 注 意 一 下 雖 然 左 右 兩 邊 error surface 是 不 一 樣 的 但 是 θb 我 們 這 邊 指 的 是 同 一 組 參 數

0_22.wav

θb 是 用 任 務 一 訓 練 出 來 的 參 數 我 們 現 在 把 它 用 在 任 務 二 上 我 們 現 在 把 θb 放 在 任 務 二 上

0_23.wav

繼 續 去 做 訓 練 那 在 任 務 二 上 我 們 有 另 外 一 個 不 一 樣 的 error surface 根 據 這 個 任 務 二 的 error surface

0_24.wav

去 再 update 參 數 那 我 們 可 能 會 把 θb 往 右 上 角 移 那 得 到 θ* θ* 是 訓 練 完 任 務 一

0_25.wav

接 下 來 又 訓 練 完 任 務 二 依 序 訓 練 兩 個 任 務 以 後 所 得 到 的 參 數 現 在 用 θ* 來 代 表 依 序 訓 練 完 兩 個 任 務 以 後 所 得 到 的 參 數

0_26.wav

這 個 θ* 它 在 任 務 二 上 是 在 一 個 error surface 比 較 低 所 以 是 在 一 個 這 個 loss 比 較 低 的 位 置 所 以 它 在 任 務 二 上 會 得 到 好 的 表 現

0_27.wav

但 如 果 你 回 頭 再 把 θ* 拿 回 到 任 務 一 上 去 做 使 用 你 會 發 現 你 並 沒 有 辦 法 得 到 好 的 結 果

0_28.wav

因 為 θ* 只 是 在 任 務 二 上 好 它 在 任 務 一 上 不 見 得 會 有 低 的 loss 那 這 個 就 是 forget 這 件 事 情 產 生 的 原 因

0_29.wav

那 要 怎 麼 解 決 forget 這 個 問 題 呢 對 一 個 任 務 而 言 也 許 有 很 多 不 同 的 地 方 也 許 有 很 多 組 不 同 的 參 數

0_30.wav

都 可 以 給 某 一 個 任 務 低 的 loss 對 任 務 二 而 言 也 許 在 這 個 藍 色 橢 圓 形 的 範 圍 內

0_31.wav

結 果 都 算 是 夠 好 的 也 許 在 這 個 藍 色 橢 圓 形 範 圍 內 loss 都 算 是 夠 低 的 如 果 我 們 θb 移 動 的 方 向

0_32.wav

不 要 往 右 上 移 而 是 只 往 左 邊 移 那 會 不 會 把 新 的 參 數 放 到 任 務 一 上

0_33.wav

就 不 會 有 forget 的 情 形 呢 那 這 個 就 是 我 們 等 一 下 要 跟 大 家 分 享 的 做 法 好 那 怎 麼 做 呢

0_34.wav

所 以 這 邊 的 基 本 的 想 法 是 說 每 一 個 參 數 對 我 們 過 去 學 過 的 任 務 它 的 重 要 性 是 不 一 樣 的

0_35.wav

有 一 些 參 數 也 許 對 我 們 過 去 看 過 的 任 務 特 別 重 要 我 們 就 希 望 在 學 新 的 參 數 的 時 候 那 些 舊 的 參 數

0_36.wav

那 些 重 要 的 參 數 它 的 值 盡 量 不 要 變 新 的 任 務 只 去 改 那 些 對 過 去 的 任 務 不 重 要 的 參 數 就 好

0_37.wav

好 我 們 現 在 假 設 θb 是 在 前 一 個 任 務 所 學 出 來 的 參 數 所 以 θb 在 前 一 個 任 務 上 是 好 的

0_38.wav

那 我 們 會 讓 θb 在 第 二 個 任 務 上 繼 續 做 學 習 那 在 這 個 selective synaptic plasticity 這 樣 的 做 法 裡 面

0_39.wav

我 們 會 給 每 一 個 參 數 一 個 保 鏢 一 個 守 衛 我 們 這 邊 用 bi 來 表 示 那 個 守 衛

0_40.wav

對 每 一 個 參 數 θi 我 們 都 有 一 個 守 衛 bi 這 邊 所 謂 的 每 一 個 參 數 就 是 neural 裡 面 的 每 一 個 weight 跟 它 的 bias

0_41.wav

如 果 你 的 network 有 100 萬 個 參 數 的 話 那 就 有 100 萬 個 bi 的 值 那 它 們 每 一 個 參 數 的 bi 都 是 不 一 樣

0_42.wav

每 一 個 參 數 都 有 一 個 各 自 的 守 衛 這 個 守 衛 代 表 什 麼 這 個 守 衛 代 表 說 這 個 參 數 對 過 去 的 任 務 而 言

0_43.wav

到 底 重 不 重 要 好 所 以 我 們 今 天 呢 在 新 的 任 務 上 我 們 在 update 我 們 的 參 數 的 時 候

0_44.wav

我 們 會 改 寫 loss function 原 來 的 loss function 假 設 寫 成 l(θ) 但 我 們 不 會 直 接 去 minimize l(θ)

0_45.wav

如 果 我 們 直 接 minimize l(θ) 就 會 發 生 catastrophic forgetting 的 情 形 就 會 發 生 災 難 性 的 遺 忘 所 以 我 們 要 做 的 事 情 呢

0_46.wav

是 更 改 我 們 的 loss function 我 們 有 一 個 新 的 loss function 叫 做 l' 這 個 l' 才 是 我 們 真 正 要 去 minimize 的 對 象

0_47.wav

那 這 個 l' 呢 是 原 來 的 loss l 後 面 再 多 加 了 一 項 這 一 項 是 什 麼 東 西 這 一 項 是 我 們 先 σ over

0_48.wav

這 邊 有 個 σ 這 邊 有 個 σ over 所 有 的 i σ over 所 有 的 參 數 那 我 們 把 我 們 要 learn 的 那 個 參 數

0_49.wav

那 個 θi 代 表 我 們 要 optimize 我 們 unknown 的 那 個 參 數 要 找 出 來 的 那 個 參 數 去 減 掉 從 過 去 的 任 務 learn 出 來 的 參 數 θb

0_50.wav

θ 上 標 b 下 標 i 是 θb 就 是 過 去 的 任 務 learn 出 來 的 那 個 模 型 下 標 i 就 是 第 i 個 參 數

0_51.wav

好 那 我 們 要 讓 θi 跟 θ 上 標 b 下 標 i 越 接 近 越 好 所 以 我 們 呢 把 θi 跟 θ 上 標 b 下 標 i 相 減

0_52.wav

然 後 取 它 們 的 平 方 那 我 們 在 前 面 呢 會 乘 上 一 個 數 值 叫 做 bi 這 個 bi 就 是 要 告 訴 我 們 說

0_53.wav

到 底 我 們 有 多 強 烈 地 希 望 θi 跟 θ 上 標 b 下 標 i 越 靠 近 越 好 如 果 bi 的 值 很 大

0_54.wav

就 代 表 說 我 們 希 望 θi 跟 θbi 非 常 靠 近 如 果 bi 的 值 很 小 代 表 我 們 覺 得 θi 沒 有 跟 θbi 很 靠 近

0_55.wav

也 無 所 謂 好 那 這 個 呢 就 是 我 們 要 optimize 這 個 l' 呢 就 是 我 們 真 正 要 optimize 的 對 象 它 裡 面 有 兩 項

0_56.wav

一 個 是 原 來 的 新 的 任 務 的 loss 另 外 一 項 呢 就 是 要 讓 θi 跟 θbi 越 接 近 越 好 但 是 要 注 意 一 下

0_57.wav

我 們 並 不 是 平 等 地 去 看 待 所 有 的 參 數 要 不 要 接 近 這 件 事 我 們 其 實 只 要 求 θ 跟 θbi

0_58.wav

在 某 些 參 數 上 接 近 就 好 並 不 需 要 所 有 參 數 都 接 近 只 要 某 些 參 數 接 近 就 好 那 哪 些 參 數 要 接 近

0_59.wav

就 由 bi 來 控 制 如 果 某 一 個 參 數 i 第 i 個 參 數 它 的 bi 很 大 就 代 表 我 們 希 望 第 i 個 參 數 它 跟 舊 的 參 數

0_60.wav

之 前 的 任 務 learn 出 來 的 那 個 參 數 要 非 常 接 近 反 之 bi 等 於 0 就 代 表 我 們 根 本 不 care 新 的 參 數 跟 舊 的 參 數 到 底 要 不 要 接 近

0_61.wav

好 所 以 如 果 今 天 呢 bi 設 為 0 所 有 的 參 數 它 的 i 所 有 的 參 數 它 的 bi 我 們 都 設 為 0 那 意 味 著 什 麼

0_62.wav

那 意 味 著 就 是 我 們 沒 有 給 我 們 的 θi 任 何 限 制 我 們 完 全 沒 有 要 求 新 的 learn 出 來 的 參 數

0_63.wav

跟 過 去 學 出 來 的 參 數 有 什 麼 樣 的 關 係 那 這 個 時 候 就 是 一 般 的 training 就 會 有 catastrophic forgetting 的 問 題

0_64.wav

但 是 你 可 能 會 想 說 既 然 bi 設 0 是 不 好 的 那 我 們 就 把 bi 給 它 設 一 個 非 常 大 的 值 所 有 的 i

0_65.wav

所 有 的 參 數 都 給 它 一 個 非 常 大 的 bi 那 這 樣 就 不 會 有 forgetting 的 問 題 但 是 你 會 進 入 另 外 一 個 極 端 這 個 極 端 叫 做 intransigence

0_66.wav

這 個 極 這 個 intransigence 的 意 思 就 是 這 個 不 肯 妥 協 不 肯 讓 步 頑 固 的 意 思 所 以 intransigence 的 意 思 是 說

0_67.wav

假 設 你 現 在 bi 非 常 地 非 常 地 大 那 你 最 後 learn 出 來 的 結 果 θi 跟 θb 就 會 非 常 地 接 近

0_68.wav

你 的 新 的 參 數 跟 舊 的 參 數 會 非 常 接 近 那 你 的 模 型 可 能 在 舊 的 任 務 上 不 會 遺 忘 但 新 的 任 務 它 學 不 好

0_69.wav

它 沒 有 能 力 去 把 新 的 任 務 學 好 那 這 種 狀 況 就 叫 做 intransigence 好 講 到 這 邊 我 們 來 看 一 下 有 沒 有 同 學 有 問 題 要 問 的

0_70.wav

好 有 同 學 說 聲 音 還 是 炸 希 望 現 在 有 好 很 多 現 在 希 望 現 在 有 好 很 多 好 有 同 學 問 說

0_71.wav

bi 是 要 人 為 設 定 還 是 可 以 作 為 參 數 的 一 部 分 給 機 器 訓 練

0_72.wav

好 那 再 等 一 下 在 文 獻 上 這 個 bi 都 是 人 為 設 定 的 在 lifelong learning 的 研 究 裡 面

0_73.wav

關 鍵 的 技 術 就 在 於 我 們 怎 麼 設 定 這 個 bi 那 如 果 bi 用 learn 的 到 底 行 不 行 呢 你 可 以 想 見 說 在 這 個 任 務 裡 面

0_74.wav

你 恐 怕 不 能 讓 bi 用 learn 的 如 果 你 讓 bi 自 己 學 它 會 學 出 什 麼 對 它 來 說 它 要 讓 loss 越 小 越 好 嘛 那 怎 麼 讓 loss 最 小

0_75.wav

直 接 bi 等 於 0 loss 就 最 小 了 所 以 如 果 你 讓 bi 直 接 用 learn 的 你 並 沒 有 辦 法 達 到 lifelong learning 的 效 果 所 以 bi 是 人 為 設 的

0_76.wav

但 是 接 下 來 最 關 鍵 的 研 究 問 題 就 是 bi 到 底 要 怎 麼 找 到 呢 我 們 怎 麼 知 道 哪 些 參 數 對 舊 的 任 務 是 重 要 的

0_77.wav

哪 些 參 數 對 舊 的 任 務 是 不 重 要 的 呢 這 個 就 是 研 究 的 重 點 我 們 這 邊 呢 只 跟 大 家 用 提 示 的 方 式

0_78.wav

簡 單 地 跟 大 家 說 bi 設 計 的 大 概 念 是 什 麼 好 那 怎 麼 知 道 某 一 個 參 數 對 某 一 個 任 務 到 底 重 不 重 要 呢

0_79.wav

那 你 可 以 在 訓 練 完 一 個 模 型 之 後 我 們 得 到 θb 之 後 看 看 θb 裡 面 每 一 個 參 數 對 這 個 任 務 的 影 響

0_80.wav

舉 例 來 說 你 把 θb 在 θ1 這 個 方 向 做 一 下 移 動 在 θ1 這 個 方 向 上 做 移 動

0_81.wav

好 像 對 loss 沒 有 什 麼 影 響 那 我 們 就 知 道 說 θ1 沒 有 很 重 要 θ1 對 任 務 一 沒 有 很 重 要

0_82.wav

可 以 隨 便 給 它 一 個 值 那 既 然 θ1 對 任 務 一 沒 有 很 重 要 在 新 的 任 務 上 θ1 就 可 以 任 意 改 變 所 以 我 們 就 可 以 給 θ1 比 較 小 的 bi 的 值

0_83.wav

也 就 是 b1 的 值 就 會 比 較 小 反 過 來 說 如 果 我 們 觀 察 θ2 這 個 方 向 你 會 發 現 說 當 我 們 改 變 θ2 的 值 的 時 候

0_84.wav

對 loss 的 影 響 是 大 的 我 們 改 變 θ2 的 值 的 時 候 對 loss 的 影 響 是 大 的 代 表 說 θ2 是 一 個 很 重 要 的 參 數

0_85.wav

θ2 對 task 1 是 重 要 的 參 數 所 以 你 就 不 要 去 動 它 所 以 你 要 把 θ2 的 b 設 得 大 一 點 你 要 把 b2 設 得 大 一 點

0_86.wav

好 這 個 就 是 selective synaptic plasticity 的 基 本 概 念 而 如 果 我 們 今 天 把 b1 呢 設 小 一 點

0_87.wav

b2 設 大 一 點 那 如 果 在 task 2 訓 練 的 時 候 會 發 生 什 麼 事 呢 因 為 b1 比 較 小

0_88.wav

代 表 說 我 們 可 以 把 模 型 在 這 個 方 向 上 自 由 地 移 動 而 b2 比 較 大 代 表 說 在 這 個 方 向 上 自 由 地 移 動

0_89.wav

是 沒 有 辦 法 的 所 以 如 果 我 們 把 b1 設 小 一 點 b2 設 大 一 點 那 你 把 θb 做 update 的 時 候

0_90.wav

它 就 不 會 往 這 個 方 向 走 它 就 會 傾 向 於 往 這 個 方 向 走 因 為 我 們 只 希 望 模 型 去 更 新 這 個 θ1 就 好

0_91.wav

盡 量 不 要 動 到 θ2 那 你 就 可 能 把 你 的 這 個 gradient 的 方 向 呢 本 來 是 這 樣 update 的 那 就 變 成 這 樣 子 update 得 到 θ*

0_92.wav

然 後 再 把 θ* 拿 回 來 原 來 的 任 務 一 那 因 為 任 務 一 呢 在 這 個 方 向 上 移 動 對 loss 的 影 響 是 小 的

0_93.wav

所 以 你 在 任 務 二 上 假 設 只 有 在 這 個 方 向 上 移 動 那 對 任 務 一 的 loss 的 影 響 就 小 了 那 所 以 新 的 θ* 用 在 這 個 地 方

0_94.wav

它 的 對 task 1 的 傷 害 就 不 大 也 許 你 就 可 以 藉 此 做 到 避 免 catastrophic forgetting 的 問 題 好 那 接 下 來 這 個 呢

0_95.wav

是 一 個 文 獻 上 真 正 的 實 驗 結 果 那 這 個 結 果 呢 是 來 自 於 ewc 這 篇 paper ewc paper 的 連 結

0_96.wav

也 有 放 在 下 一 頁 投 影 片 裡 面 如 果 你 有 興 趣 的 話 再 自 己 參 考 好 那 這 個 圖 怎 麼 看 呢 你 在 看 那 個 lifelong learning 的 文 獻 的 時 候

0_97.wav

這 種 類 似 的 圖 是 非 常 常 出 現 的 常 常 paper 幾 乎 都 會 放 類 似 這 樣 子 的 圖 這 個 橫 軸 是 什 麼 橫 軸 代 表 依 序 訓 練 的 過 程

0_98.wav

在 第 一 個 虛 線 左 邊 這 個 指 的 是 訓 練 任 務 a 就 我 們 有 a b c 三 個 任 務 我 們 先 訓 練 任 務 a 然 後 呢 再 訓 練 任 務 b

0_99.wav

再 訓 練 任 務 c 這 三 個 任 務 依 序 訓 練 的 結 果 那 縱 軸 呢 這 邊 有 三 個 縱 軸 第 一 個 縱 軸 代 表 任 務 a 的 正 確 率