| ์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
|---|---|---|---|---|---|---|
| 1 | 2 | 3 | ||||
| 4 | 5 | 6 | 7 | 8 | 9 | 10 |
| 11 | 12 | 13 | 14 | 15 | 16 | 17 |
| 18 | 19 | 20 | 21 | 22 | 23 | 24 |
| 25 | 26 | 27 | 28 | 29 | 30 | 31 |
- ๋ฐ์ดํฐ ํฉ์ฑ
- nlp๋ ผ๋ฌธ๋ฆฌ๋ทฐ
- SUMBT:Slot-Utterance Matching for Universal and Scalable Belief Tracking
- Zero-shot transfer learning with synthesized data for multi-domain dialogue state tracking
- Few Shot Dialogue State Tracking using Meta-learning
- ๋ชจ๋์๋ฅ๋ฌ๋
- ํ๋ก๊ทธ๋๋จธ์ค
- ์์ฐ์ด์ฒ๋ฆฌ ๋ ผ๋ฌธ ๋ฆฌ๋ทฐ
- classification text
- How Much Knowledge Can You Pack Into the Parameters of a Language Model?
- Python
- 2020์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌํ๊ธฐ
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ ์ฑ ์ถ์ฒ
- ๋ฅ๋ฌ๋๊ธฐ์ด
- Leveraging Slot Descriptions for Zero-Shot Cross-Domain Dialogue State Tracking
- ๋ฐฑ์ค
- MySQL
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ์ ๊ณต์
- til
- dialogue state tracking
- ๋ค์ด๋๋ฏน ํ๋ก๊ทธ๋๋ฐ
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ์ ๊ณต์ํฉ๊ฒฉํ๊ธฐ
- fasttext text classification ํ๊ธ
- ํ์ด์ฌ์ ํ์ด์ฌ๋ต๊ฒ
- few shot dst
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ ์์ ๋น
- From Machine Reading Comprehension to Dialogue State Tracking: Bridging the Gap
- DST fewshot learning
- ๊ฒ์์์ง
- DST zeroshot learning
- Today
- Total
๐ฒ์๋ผ๋๋์ฒญ๋
2020-03-07(ํ )- ์ฃผ์ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ, ์ฃผ๊ฐ์์ธก ๋ณธ๋ฌธ
2020-03-07(ํ )- ์ฃผ์ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ, ์ฃผ๊ฐ์์ธก
JihyunLee 2020. 3. 7. 02:26์์ฆ ํ ์ผ
๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ ์ฝ๋
๋ฅ๋ฌ๋ ์ฐ๊ตฌ์ ์์ด์, ์๋กญ๊ฒ input์ ์ถ๊ฐํด์ผํ ์ผ์ด ์์ด์, ํ์์ ๋ง๊ฒ ๋ฐ์ดํฐ๋ฅผ ์ ์ฒ๋ฆฌ ํ๋ ๊ณผ์ ์ ํ๊ฒ ๋์๋ค.
๋ฐ์ ๋ฐ์ดํฐ๋ ์ผ๋จ ์ฐ์ต์ฉ์ผ๋ก 2๋ ๊ฐ ๋ชจ์ธ KOSPI์ ์ข ๊ฐ์ ์๊ฐ ๋ฐ์ดํฐ๋ฅผ ๋ฐ์๊ณ , ์ด์ ์ ์ด ํ๋ก์ ํธ๋ฅผ ํ๊ณ ๊ณ์๋ ๋ถ๊ป ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ ์ฝ๋๋ฅผ ๋ฐ์๋ค.
์ง๊ธ ๊ฐ๋ฐํ๋ ๋ชจ๋ธ์ ๋ชจ๋ธ์ด ๊ธ์ฑ์ฃผ์ธ์ง, ์๋์ง๋ฅผ ํ๋จํ๋ ๋ชจ๋ธ์ธ๋ฐ, ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ๋ฅผ ํตํด ์ ์ฒด ์ฃผ๊ฐ ๋ฐ์ดํฐ์์ ๊ธ์ฑ์ฃผ์ธ ๋ฐ์ดํฐ๋ง ์ถ์ถ ํด๋ด๋ ๊ฒ์ด ๋ชฉํ์๋ค. (๊ธ์ฑ์ฃผ์ ๊ธฐ์ค์ 20์ผ ์ด๋ด์ 40% ์ด์ ์์นํ๋ ๊ฒ์ ๊ธ์ฑ์ฃผ๋ผ ์ ์ํ๋ค)
๊ธฐ์กด์ ์ฝ๋์์๋ ์ข ๊ฐ ๋ฐ์ดํฐ๋ง ๋ณด๊ณ ์ข ๊ฐ๊ฐ ๊ธ์ฑ์ฅ ํ๋ ๋ถ๋ถ์ ์ถ์ถํด ๋ด๋ ๋ฐฉ์์ ์ฌ์ฉํ์๋ค. ํ์ง๋ง ์ด๋ฒ์๋, ์ธํ๊ฐ์ ์ข ๊ฐ ๋ฟ๋ง ์๋๋ผ, ์๊ฐ , ์ต๊ณ , ์ต์ ๊ฐ ๋ชจ๋ ๋ฃ์ด๋ณด๊ณ ์ถ์ด์ ๋จผ์
1. ์ข ๊ฐ๋ฅผ ํตํด ๊ธ์ฑ์ฃผ๋ฅผ ์ฐพ๊ณ , 2. ์ข ๊ฐ๊ฐ ๊ธ์ฑ์ฅ ํ๋ ๋ ๋์์ ์๊ฐ, ์ต๊ณ , ์ต์ ๊ฐ๋ฅผ ์ฐพ๋ ๋ชจ๋ธ์ ์ฌ์ฉํ์๋ค.
๊ธ์ฑ์ฅํ๋ ๋ฐ์ดํฐ๋ฅผ ์ฐพ๋ ์ฝ๋๊ฐ ์กฐ๊ธ ๋ณต์กํ๊ฒ ์ง์ฌ ์์ด์ ์ดํดํ๋๋ฐ ์๊ฐ์ด ๊ฑธ๋ ธ๋ค. ํ์ง๋ง ๊ฒฐ๊ณผ์ ์ผ๋ก ๊ธ์ฑ์ฅ ํ๋ ์ฃผ์์, ์ฃผ์์ฝ๋์ ์์์ผ์, ๋๋๋์ผ์ ์ด๋ ๊ฒ ์ธ ํญ๋ชฉ์ ์ด์ฉํด ์ข ๊ฐ ๋ฟ๋ง์๋๋ผ ์๊ฐ, ๊ณ ๊ฐ, ์ ๊ฐ ๋ชจ๋์ ์ ์ฉ์์ผ ์ํ๋ ๋ฐ์ดํฐ๋ฅผ ์ป์ ์ ์์๋ค.
Regression๋ชจ๋ธ ์์ฑ
๊ธ์ฑ์ฃผ ํ๋จ ๋ชจ๋ธ์ ๋ง๋ ํ์๋, ์ด ๋ชจ๋ธ์ outputํํ์ lossํํ๋ง ์ด์ง ๋ฐ๊พธ์ด์ ๊ธ์ฑ์ฃผ์ ๊ทธ๋ํ๋ฅผ ํ๋ฒ ๊ทธ๋ ค๋ณด๋ ๋ชจ๋ธ์ ๋ง๋ค์๋ค. ์ฌ์ค ๋ฐ์ดํฐ๊ฐ ๋ง์ด ๋ถ์กฑํ์ฌ, ์ด ๋ถ๋ถ์ ์ ๋์ง ์์๋ค.
ํ๋์ ์ด target, ์ฃผํฉ์ ์ด output์ธ๋ฐ ๋ฐ๋ผ๊ฐ๋ ๋ชจ์์ ๋ณด์ด๊ณ ์๋ค. ํ์ง๋ง ์์ ์ง ์ฝ๋๋ก ๋ค์ํ input์ ๋ฃ๋๋ค๋ฉด ์ด๊ฒ์ด ๊ฐ์ ๋ ์ ์๋ค๊ณ ๋ณธ๋ค.


'Today I Learnd' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
| 2020-03-12(๋ชฉ) ๋ฐ์ดํฐ์ ์ฒ๋ฆฌ, CG, ๋ฏธ๋ถ๋ฐฉ์ ์ (0) | 2020.03.12 |
|---|---|
| 2020.02.23(์ผ)-์กธ์ ํ๋ก์ ํธ, ํนํ (0) | 2020.02.23 |
| 2020-01-07 (0) | 2020.01.07 |
| 19.11.19(ํ) (0) | 2019.11.19 |
| 2019.11.6(์) (0) | 2019.11.06 |