file
stringlengths 9
16
| audio
audioduration (s) 0.22
9.6
| transcription
stringlengths 3
54
|
|---|---|---|
0_258_260.mp3 | 接 下 來 又 訓 練 完 任 務 二 |
|
0_260_264.mp3 | 依 序 訓 練 兩 個 任 務 以 後 所 得 到 的 參 數 |
|
0_264_265.mp3 | 現 在 用 θ* 來 代 表 |
|
0_265_268.mp3 | 依 序 訓 練 完 兩 個 任 務 以 後 所 得 到 的 參 數 |
|
0_269_270.mp3 | 這 個 θ* |
|
0_270_272.mp3 | 它 在 任 務 二 上 |
|
0_272_275.mp3 | 是 在 一 個 error surface 比 較 低 |
|
0_275_277.mp3 | 所 以 是 在 一 個 這 個 loss 比 較 低 的 位 置 |
|
0_277_280.mp3 | 所 以 它 在 任 務 二 上 會 得 到 好 的 表 現 |
|
0_280_283.mp3 | 但 如 果 你 回 頭 再 把 θ* |
|
0_283_285.mp3 | 拿 回 到 任 務 一 上 去 做 使 用 |
|
0_285_289.mp3 | 你 會 發 現 你 並 沒 有 辦 法 得 到 好 的 結 果 |
|
0_289_292.mp3 | 因 為 θ* 只 是 在 任 務 二 上 好 |
|
0_292_295.mp3 | 它 在 任 務 一 上 不 見 得 會 有 低 的 loss |
|
0_295_299.mp3 | 那 這 個 就 是 forget 這 件 事 情 產 生 的 原 因 |
|
0_300_302.mp3 | 那 要 怎 麼 解 決 forget 這 個 問 題 呢 |
|
0_303_304.mp3 | 對 一 個 任 務 而 言 |
|
0_304_306.mp3 | 也 許 有 很 多 不 同 的 地 方 |
|
0_306_309.mp3 | 也 許 有 很 多 組 不 同 的 參 數 |
|
0_309_311.mp3 | 都 可 以 給 某 一 個 任 務 低 的 loss |
|
0_311_313.mp3 | 對 任 務 二 而 言 |
|
0_313_317.mp3 | 也 許 在 這 個 藍 色 橢 圓 形 的 範 圍 內 |
|
0_317_319.mp3 | 結 果 都 算 是 夠 好 的 |
|
0_319_322.mp3 | 也 許 在 這 個 藍 色 橢 圓 形 範 圍 內 |
|
0_322_324.mp3 | loss 都 算 是 夠 低 的 |
|
0_325_327.mp3 | 如 果 我 們 θb 移 動 的 方 向 |
|
0_327_329.mp3 | 不 要 往 右 上 移 |
|
0_329_332.mp3 | 而 是 只 往 左 邊 移 |
|
0_332_337.mp3 | 那 會 不 會 把 新 的 參 數 放 到 任 務 一 上 |
|
0_337_339.mp3 | 就 不 會 有 forget 的 情 形 呢 |
|
0_339_344.mp3 | 那 這 個 就 是 我 們 等 一 下 要 跟 大 家 分 享 的 做 法 |
|
0_346_347.mp3 | 好 那 怎 麼 做 呢 |
|
0_347_349.mp3 | 所 以 這 邊 的 基 本 的 想 法 是 說 |
|
0_350_351.mp3 | 每 一 個 參 數 |
|
0_351_354.mp3 | 對 我 們 過 去 學 過 的 任 務 |
|
0_354_356.mp3 | 它 的 重 要 性 是 不 一 樣 的 |
|
0_356_357.mp3 | 有 一 些 參 數 |
|
0_357_360.mp3 | 也 許 對 我 們 過 去 看 過 的 任 務 特 別 重 要 |
|
0_360_363.mp3 | 我 們 就 希 望 在 學 新 的 參 數 的 時 候 |
|
0_363_364.mp3 | 那 些 舊 的 參 數 |
|
0_364_366.mp3 | 那 些 重 要 的 參 數 |
|
0_366_368.mp3 | 它 的 值 盡 量 不 要 變 |
|
0_368_371.mp3 | 新 的 任 務 只 去 改 那 些 |
|
0_371_374.mp3 | 對 過 去 的 任 務 不 重 要 的 參 數 就 好 |
|
0_375_377.mp3 | 好 我 們 現 在 假 設 θb |
|
0_377_381.mp3 | 是 在 前 一 個 任 務 所 學 出 來 的 參 數 |
|
0_381_384.mp3 | 所 以 θb 在 前 一 個 任 務 上 是 好 的 |
|
0_384_388.mp3 | 那 我 們 會 讓 θb 在 第 二 個 任 務 上 繼 續 做 學 習 |
|
0_389_392.mp3 | 那 在 這 個 selective synaptic plasticity |
|
0_392_393.mp3 | 這 樣 的 做 法 裡 面 |
|
0_393_396.mp3 | 我 們 會 給 每 一 個 參 數 |
|
0_396_398.mp3 | 一 個 保 鏢 |
|
0_398_399.mp3 | 一 個 守 衛 |
|
0_399_402.mp3 | 我 們 這 邊 用 bi 來 表 示 那 個 守 衛 |
|
0_402_404.mp3 | 對 每 一 個 參 數 θi |
|
0_404_406.mp3 | 我 們 都 有 一 個 守 衛 bi |
|
0_406_408.mp3 | 這 邊 所 謂 的 每 一 個 參 數 就 是 |
|
0_408_410.mp3 | neural 裡 面 的 每 一 個 weight 跟 它 的 bias |
|
0_410_413.mp3 | 如 果 你 的 network 有 |
|
0_413_414.mp3 | 100 萬 個 參 數 的 話 |
|
0_414_417.mp3 | 那 就 有 100 萬 個 bi 的 值 |
|
0_417_420.mp3 | 那 它 們 每 一 個 參 數 的 bi 都 是 不 一 樣 |
|
0_420_423.mp3 | 每 一 個 參 數 都 有 一 個 各 自 的 守 衛 |
|
0_423_425.mp3 | 這 個 守 衛 代 表 什 麼 |
|
0_425_427.mp3 | 這 個 守 衛 代 表 說 這 個 參 數 |
|
0_427_429.mp3 | 對 過 去 的 任 務 而 言 |
|
0_429_432.mp3 | 到 底 重 不 重 要 |
|
0_432_433.mp3 | 好 所 以 我 們 今 天 呢 |
|
0_433_435.mp3 | 在 新 的 任 務 上 |
|
0_435_438.mp3 | 我 們 在 update 我 們 的 參 數 的 時 候 |
|
0_438_441.mp3 | 我 們 會 改 寫 loss function |
|
0_441_442.mp3 | 原 來 的 loss function |
|
0_442_445.mp3 | 假 設 寫 成 l(θ) |
|
0_445_448.mp3 | 但 我 們 不 會 直 接 去 minimize l(θ) |
|
0_448_451.mp3 | 如 果 我 們 直 接 minimize l(θ) |
|
0_451_454.mp3 | 就 會 發 生 catastrophic forgetting 的 情 形 |
|
0_454_456.mp3 | 就 會 發 生 災 難 性 的 遺 忘 |
|
0_456_458.mp3 | 所 以 我 們 要 做 的 事 情 呢 |
|
0_458_460.mp3 | 是 更 改 我 們 的 loss function |
|
0_460_462.mp3 | 我 們 有 一 個 新 的 loss function |
|
0_462_463.mp3 | 叫 做 l' |
|
0_463_467.mp3 | 這 個 l' 才 是 我 們 真 正 要 去 minimize 的 對 象 |
|
0_467_468.mp3 | 那 這 個 l' 呢 |
|
0_468_472.mp3 | 是 原 來 的 loss l 後 面 再 多 加 了 一 項 |
|
0_472_473.mp3 | 這 一 項 是 什 麼 東 西 |
|
0_473_475.mp3 | 這 一 項 是 |
|
0_475_477.mp3 | 我 們 先 σ over |
|
0_477_478.mp3 | 這 邊 有 個 σ |
|
0_478_480.mp3 | 這 邊 有 個 σ over 所 有 的 i |
|
0_480_482.mp3 | σ over 所 有 的 參 數 |
|
0_482_486.mp3 | 那 我 們 把 我 們 要 learn 的 那 個 參 數 |
|
0_486_488.mp3 | 那 個 θi 代 表 我 們 要 optimize |
|
0_488_490.mp3 | 我 們 unknown 的 那 個 參 數 |
|
0_490_491.mp3 | 要 找 出 來 的 那 個 參 數 |
|
0_491_497.mp3 | 去 減 掉 從 過 去 的 任 務 learn 出 來 的 參 數 θb |
|
0_498_500.mp3 | θ 上 標 b 下 標 i |
|
0_500_504.mp3 | 是 θb 就 是 過 去 的 任 務 learn 出 來 的 那 個 模 型 |
|
0_504_507.mp3 | 下 標 i 就 是 第 i 個 參 數 |
|
0_507_509.mp3 | 好 那 我 們 要 讓 θi |
|
0_509_511.mp3 | 跟 θ 上 標 b 下 標 i |