์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
- fasttext text classification ํ๊ธ
- DST zeroshot learning
- til
- SUMBT:Slot-Utterance Matching for Universal and Scalable Belief Tracking
- few shot dst
- ํ๋ก๊ทธ๋๋จธ์ค
- Zero-shot transfer learning with synthesized data for multi-domain dialogue state tracking
- 2020์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌํ๊ธฐ
- ๋ฐฑ์ค
- ํ์ด์ฌ์ ํ์ด์ฌ๋ต๊ฒ
- MySQL
- dialogue state tracking
- ๋ค์ด๋๋ฏน ํ๋ก๊ทธ๋๋ฐ
- How Much Knowledge Can You Pack Into the Parameters of a Language Model?
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ ์ฑ ์ถ์ฒ
- Leveraging Slot Descriptions for Zero-Shot Cross-Domain Dialogue State Tracking
- ๋ฐ์ดํฐ ํฉ์ฑ
- ๋ฅ๋ฌ๋๊ธฐ์ด
- Few Shot Dialogue State Tracking using Meta-learning
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ ์์ ๋น
- ์์ฐ์ด์ฒ๋ฆฌ ๋ ผ๋ฌธ ๋ฆฌ๋ทฐ
- ๊ฒ์์์ง
- classification text
- From Machine Reading Comprehension to Dialogue State Tracking: Bridging the Gap
- DST fewshot learning
- nlp๋ ผ๋ฌธ๋ฆฌ๋ทฐ
- Python
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ์ ๊ณต์ํฉ๊ฒฉํ๊ธฐ
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ์ ๊ณต์
- ๋ชจ๋์๋ฅ๋ฌ๋
- Today
- Total
๋ชฉ๋กํ์ดํ ์น (5)
๐ฒ์๋ผ๋๋์ฒญ๋

CNN Before CNN ๊ทธ๋ฆผ์ด ์กฐ๊ธ๋ง ๋ฌ๋ผ์ ธ๋ ์ปดํจํฐ๋ ๋ค๋ฅธ ๊ฒ์ด๋ผ๊ณ ์ธ์ Convolution fiter๋ฅผ ๋ง๋ค์ด์ ๋ฃ๋๊ฒ(padding๋ ๋ฃ์ด์ค๋ค) filter๊ฐ ์ฌ๋ฌ๊ฐ -> ์ฌ๋ฌ๊ฐ๊ฐ ์๊ธฐ๊ฒ ๋๋ค. filter๋ชจ์๊ณผ ์ค์ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ ๋ ๊ฐ์ฅ ํฐ ๊ฐ์ด ๋์จ๋ค.(->ํน์ง) filter = ํน์ง์ ์ฐพ๋ ๋๊ตฌ! Activation function convolution ๋ ๊ฐ์ activation function์ ์ ์ฉํ๋ค. ์ฃผ๋ก ReLU์ฌ์ฉ ์ฅ์ : ํ์ต์ด ์๋จ, ์ผ๋ฐํ๋ฅผ ์ํจ Pooling 2x2 grid = 2x2 matrix, stride = ๋ช์นธ์ฉ ๋ฐ์ด ๋๊ธฐ๋ฉด์ pooling์ ํ ๊ฒ์ธ๊ฐ. ์ฐ์ฐ์ ์ฒ๋ฆฌ์, ์ผ๋ฐํ๋ฅผ ์ํด ์ ๋ณด๋ฅผ ์ค์ด๋ ๊ณผ์ Basic Architecture convolution ..
๋ชจ๋์ ๋ฅ๋ฌ๋ ๋งํฌ : https://www.youtube.com/watch?v=SKq-pmkekTk&list=PLbbloOsdWVwTNNkjnLuqEWtzjRqfBALF7๋ชจ๋์ ๋ฅ๋ฌ๋-ํ์ดํ ์น ch7 input์ ์ข ๋ฅ๊ฐ ์ฌ๋ฌ๊ฐ, ์ธต์ด ์ฌ๋ฌ๊ฐ๋ก ๋ ์ ์๋ค.
๋ชจ๋์ ๋ฅ๋ฌ๋ ๋งํฌ : https://www.youtube.com/watch?v=SKq-pmkekTk&list=PLbbloOsdWVwTNNkjnLuqEWtzjRqfBALF7 ๋ชจ๋์ ๋ฅ๋ฌ๋ ch5, ch6 ๊ฒฐ๊ณผ๊ฐ yes or no๋ก ๋์์ผ ํธํ ๊ฒฝ์ฐ๊ฐ ๋ง๋ค. ๊ฒฐ๊ณผ๋ฅผ yes์ no๋ก ํํํด์ฃผ๋ ํจ์๊ฐ ์๋ค. ์ด๋ฅผ ํ์ฑํ ํจ์๋ผ๊ณ ํ๊ณ , ์ฌ์ฉ๋ฐฉ๋ฒ : ์์ forwardํจ์์ f.sigmoid์ฒ๋ผ ๊ฒฐ๊ณผ๊ฐ์ ์๊ทธ๋ชจ์ด๋ ํจ์๋ฅผ ์ฌ์ฉํ๋ฉด ํ์ฑํ ํจ์๋ฅผ ์ฌ์ฉ ํ ๊ฒ์ด ๋๋ค. ๋ํ pytorch์๋ ์ฌ์ฉํ๊ธฐ ์ฝ๊ฒ, ์ด๋ฏธ ๋ง์ loss ํจ์์ ํ์ฑํ ํจ์๋ค์ด ๊ตฌํ๋์ด ์๋ค.
๋ชจ๋์ ๋ฅ๋ฌ๋ ๋งํฌ : https://www.youtube.com/watch?v=SKq-pmkekTk&list=PLbbloOsdWVwTNNkjnLuqEWtzjRqfBALF7 ๋ชจ๋์ ๋ฅ๋ฌ๋ ch03 optimizer(loss๋ฅผ ์ต์๋ก ๋ง๋๋ w๋ฅผ ์ฐพ๋ ๋ฐฉ๋ฒ) : ๊ฒฝ์ฌ ํ๊ฐ๋ฒ ์๊ณ ๋ฆฌ์ฆ loss ๋ฅผ ๊ฐ์ฅ ์๊ฒ ๋ง๋๋ w๋ฅผ ์ฐพ๋ ๊ฒ์ด learning์ ๋ชฉํ์ด๋ค.๊ฐ์ฅ ์ค์ฐจ๊ฐ ์์ ๊ณณ์ ์ฐพ๋๋ฐฉ๋ฒ -> ๋ฏธ๋ถ์ ์ด์ฉํด์! ๋ณ์๊ฐ ๋๊ฐ, ์ธ๊ฐ์ผ๋๋ ๋ฏธ๋ถ์ด ๊ฐ๋ฅํ๋ค(์๋ฅผ๋ค์ด, ์ํ๊ณต๋ถ์๊ฐ, ์ํ๋์ด๋ ๋ ๋ฐ์ดํฐ๋ฅผ ์ด์ฉํด ์ํ ๊ฒฐ๊ณผ๋ฅผ ์์ธกํ๊ณ ์ถ์ ๊ฒฝ์ฐ) ๋ชจ๋์ ๋ฅ๋ฌ๋ ch04 ์ผ์ชฝ์์ ์ค๋ฅธ์ชฝ์ผ๋ก w1์ด ๊ฒฐ๊ณผ๊ฐ์ ๋ฏธ์น๋ ์ํฅ์ ๊ฒฐ๊ณผ๋ก ๊ณ์ฐํด ๋ด๋ ๋ฐฉ๋ฒ์ด ์์ง๋ง ์ ๊ฒฝ๋ง์ด ๋ณต์กํด์ง๋ฉด ํ์ค์ ์ด์ง ๋ชปํ ๋ฐฉ๋ฒ์ด ๋๋ค.back pro..
๋ชจ๋์ ๋ฅ๋ฌ๋ ๋งํฌ : https://www.youtube.com/watch?v=SKq-pmkekTk&list=PLbbloOsdWVwTNNkjnLuqEWtzjRqfBALF7 ๋ชจ๋์ ๋ฅ๋ฌ๋ ch1 ์ฌ๋์ด ๊ฒฐ์ ์ ํ๋ ๋ฐฉ์data-> human -> infer or predict ์ปดํจํฐ์ ๋ฐฉ์ ํ๋๊ฒ machine learningdata -> computer -> infer or predict ๋ชจ๋์ ๋ฅ๋ฌ๋ ch2'์๋ ๋ฐ์ดํฐ๋ x ์๊ฐ ๊ณต๋ถํ์๋ point ๋ฅผ y๋งํผ ๋ฐ๋๋ค' ๋ฐ์ดํฐ์ด๋ค. supervised learning ์ x-y ์ฒ๋ผ ์ ๋ต์ด ์๋ ๋ฐ์ดํฐ์ ํ์ต์ ๋งํ๋ค. ๊ฐ์ฅ ๊ธฐ๋ณธ์ ์ธ ์ yํท์ ์ถ์ ๊ฐ์ ์๋ฏธํ๋ค. W๋ ๊ฐ์ค์น๋ก, ๋๋ค์ผ๋ก ์์ํ์ฌ, ์ค์ ๊ฐ-์ถ์ ๊ฐ์ ํฌ๊ธฐ๋ฅผ ์ค์ด๋ ๋ฐฉํฅ์ผ๋ก ์งํํด์ผ ํ..