์ผ | ์ | ํ | ์ | ๋ชฉ | ๊ธ | ํ |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
31 |
- How Much Knowledge Can You Pack Into the Parameters of a Language Model?
- MySQL
- fasttext text classification ํ๊ธ
- DST fewshot learning
- ๋ฐฑ์ค
- ๊ฒ์์์ง
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ์ ๊ณต์ํฉ๊ฒฉํ๊ธฐ
- classification text
- Python
- ์์ฐ์ด์ฒ๋ฆฌ ๋ ผ๋ฌธ ๋ฆฌ๋ทฐ
- ๋ค์ด๋๋ฏน ํ๋ก๊ทธ๋๋ฐ
- From Machine Reading Comprehension to Dialogue State Tracking: Bridging the Gap
- DST zeroshot learning
- 2020์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌํ๊ธฐ
- Leveraging Slot Descriptions for Zero-Shot Cross-Domain Dialogue State Tracking
- ๋ฐ์ดํฐ ํฉ์ฑ
- Few Shot Dialogue State Tracking using Meta-learning
- SUMBT:Slot-Utterance Matching for Universal and Scalable Belief Tracking
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ ์ฑ ์ถ์ฒ
- nlp๋ ผ๋ฌธ๋ฆฌ๋ทฐ
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ์ ๊ณต์
- til
- ์ ๋ณด์ฒ๋ฆฌ๊ธฐ์ฌ ์์ ๋น
- few shot dst
- ๋ฅ๋ฌ๋๊ธฐ์ด
- ํ๋ก๊ทธ๋๋จธ์ค
- ํ์ด์ฌ์ ํ์ด์ฌ๋ต๊ฒ
- Zero-shot transfer learning with synthesized data for multi-domain dialogue state tracking
- ๋ชจ๋์๋ฅ๋ฌ๋
- dialogue state tracking
- Today
- Total
๋ชฉ๋ก์ ์ฒด ๊ธ (127)
๐ฒ์๋ผ๋๋์ฒญ๋
์ ๊ฒฝ๋ง์ ๋ถ๋ฅ์ ํ๊ธฐ ๋ชจ๋์ ์ฌ์ฉํ ์ ์์ต๋๋ค. ๋ค๋ง ๋์ค ์ด๋ค ๋ฌธ์ ๋์ ๋ฐ๋ผ ์ถ๋ ฅ์ธต์์ ์ฌ์ฉํ๋ ํ์ฑํ ํจ์๊ฐ ์ฌ๋ผ์ง๋๋ค. ๊ธฐ๊ณํ์ต ๋ฌธ์ ๋ ๋ณดํต ๋๊ฐ์ง 1. ๋ถ๋ฅ, 2. ํ๊ธฐ ๋ก ๋๋์ด ์ง๋๋ค.1. ๋ถ๋ฅ : ๋ฐ์ดํฐ๊ฐ ์ด๋ class์ ๋ค์ด๊ฐ์ง ์์ธกํ๋ ๋ฌธ์ , ex ) ์ธ๋ฌผ์ ์ฑ๋ณ์ ๊ตฌ๋ณํ๋ ๋ฌธ์ 2. ํ๊ธฐ : ์ฐ์์ ์ธ ์์น ๊ณ์ฐ๋ฌธ์ : ex ) ์ธ๋ฌผ์ ๋ชธ๋ฌด๊ฒ ์์ธก ์ผ๋ฐ์ ์ผ๋ก ๋ถ๋ฅ์๋ ์ํํธ๋งฅ์ค ํจ์๋ฅผ, ํ๊ท์๋ ํญ๋ฑํจ์๋ฅผ ์ฌ์ฉํฉ๋๋ค. ํ๊ธฐ์์ ์ฌ์ฉํ๋ ํญ๋ฑํจ์๋ ๋ง ๊ทธ๋๋ก ์ ๋ ฅ๊ฐ = ์ถ๋ ฅ๊ฐ์ธ ํจ์์ ๋๋ค.1234 def identity_function(X): return X cs ๋ถ๋ฅ์์ ์ฌ์ฉํ๋ ์ํํธ ๋งฅ์ค ํจ์๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.exp()๋ ์ง์ํจ์๋ฅผ ์๋ฏธํ๊ณ , n์ ์ถ๋ ฅ์ธต์ ๋ด๋ฐ ์, k๋ n๊ฐ์ค ..
์ฌ๊ธฐ์ ๊ตฌํํด ๋ณด๋ ์ ๊ฒฝ๋ง์ ์ ๋ ฅ์ธต : node 2๊ฐ์๋์ธต1 : node 3๊ฐ์๋์ธต2 : node 2๊ฐ์ถ๋ ฅ์ธต : node 2๊ฐ ์ธ ์ ๊ฒฝ๋ง ์ ๋๋ค. ๋จผ์ ์ฒซ๋ฒ์งธ ์ ๋ ฅ์ธต - > ์ฒซ๋ฒ์งธ ์๋์ธต ์ ๊ตฌํ ํด ๋ณด์์ต๋๋ค. 12345678910 X = np.array([1.0,0.5])#์ฒซ๋ฒ์งธ ์ธตW1 = np.array([[0.1,0.3,0.5],[0.2,0.4,0.6]])B1 = np.array([0.1,0.2,0.3]) A1 = np.dot(X,W1) + B1#ํ์ฑํ ํจ์๋ฅผ ๊ฑฐ์น๊ธฐ ์ ์๋์ธต 1๋ก ๊ฐ ์ ๋ณด๋ค Z1 = sigmoid(A1)print("ํ์ฑํ ํจ์ ์ด์ ", A1)print("ํ์ฑํ ํจ์ ์ดํ ", Z1)cs ๊ฒฐ๊ณผ๊ฐ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค. ํ์ฑํ ํจ์ ์ด์ [0.3 0.7 1.1] ํ์ฑํ ํจ์ ์ดํ [..
์ ๊ฒฝ๋ง ๊ฐ์ฅ ์ผ์ชฝ์ ์ ๋ ฅ์ธต, ์ค๋ฅธ์ชฝ์ ์ถ๋ ฅ์ธต ์ค๊ฐ์ ์๋์ธต์ด๋ผ๊ณ ํฉ๋๋ค. ๊ทธ๋ฆฌ๊ณ ์์ ๋ ธ๋์์ ๋ค์ ๋ ธ๋๋ก ์ ๋ฌ๋๋ ์ ๋ณด๋ ์์์ ํผ์ ํธ๋ก ์ด (๊ฐ์ค์น*๋ ธ๋+ํธํฅ)์ ํ๋๊ฒ๊ณผ ํฌ๊ฒ ๋ค๋ฅด์ง ์์ต๋๋ค.๊ทธ๋ฐ๋ฐ ์ฌ๊ธฐ์ ํ๋์ ์ฐจ์ด์ ์ ํ์ฑํ ํจ์์ ๋๋ค. ํผ์ ํธ๋ก ์ y = h(๊ฐ์ค์น*๋ ธ๋ + ํธํฅ)์ด๊ณ ์ฌ๊ธฐ์ h๋ผ๋ ํจ์๋ x>0 => return 1x ํ์ฑํ ํจ์ ๊ฒฐ๊ณผ=> ๋ค์๋ ธ๋๋ผ๋ ๊ณผ์ ์ด ์๋ต๋์ด ์์ต๋๋ค. ํ์ฑํ ํจ์์ ์ข ๋ฅ์๋1. ๊ณ๋จํจ์ 2. ์๊ทธ๋ชจ์ด๋ ํจ์ 3. reluํจ์ ๋ฑ๋ฑ์ด ์์ต๋๋ค. 1. ๊ณ๋จํจ์ ๊ณ๋จํจ์๋ 0์ ๊ธฐ์ค์ผ๋ก 0๋ณด๋ค ์์ผ๋ฉด 0์ ๊ฐ์, 0๋ณด๋ค ํฌ๋ฉด 1์ ๊ฐ์ return ํฉ๋๋ค. ์๋๋ ๊ณ๋จํจ์๋ฅผ ๋ง๋๋ ์ฝ๋์ ๋๋ค. 1234567891011#๊ณ๋จํจ์ #0๋ณด๋ค ํฌ๋ฉด 1 return,..
ํผ์ ํธ๋ก ์ด๋ ๋ค์์ ์ ํธ๋ฅผ ์ ๋ ฅ์ผ๋ก ๋ฐ์ ํ๋์ ์ ํธ๋ฅผ ์ถ๋ ฅํฉ๋๋ค.์์ ๊ทธ๋ฆผ์ ์ด๋ ฅ์ผ๋ก 2๊ฐ์ ์ ํธ๋ฅผ ๋ฐ์ ํผ์ ํธ๋ก ์ ์ ๋๋ค.์์ ๋ ธ๋, ๋๋ ๋ด๋ฐ์ด๋ผ๊ณ ๋ณด๋ฅด๊ณ ์ ๋ ฅ์ ํธ๊ฐ ๋ค์ ๋ด๋ฐ์ผ๋ก ์ ํด์ง๋๋ ๊ฐ์ค์น๊ฐ ๊ณฑํด์ ธ์ ์ ํด์ง๊ฒ ๋ฉ๋๋ค.๊ทธ ๊ฐ์ค์น์ ํฉ์ด ์ผ์ ํ ๊ฐ(์๊ณ๊ฐ=์ธํ)์ด์์ด๋ฉด 1์ ์ถ๋ ฅ, ์๊ณ๊ฐ ๋ณด๋ค ์๋ค๋ฉด 0์ ์ถ๋ ฅํ๊ฒ ๋ฉ๋๋ค.์ฌ๊ธฐ์ ์ธํ๋ฅผ -b๋ก ์นํํ๋ค๋ฉด ๋ค์๊ณผ ๊ฐ์ ์์ด ๋์ค๊ณ b๋ฅผ ํธํฅ ์ด๋ผ๊ณ ํฉ๋๋ค. ํผ์ ํธ๋ก ๊ตฌํํ๊ธฐ๋ค์์ ๊ฐ์ค์น์ ์๊ณ๊ฐ์ ์์๋ก ์ ์กฐ์ ํด์ ANDgate ๋ฅผ ํผ์ ํธ๋ก ์ผ๋ก ๊ตฌํํ ๋ชจ์ต์ ๋๋ค.123456789101112##and gatedef AND(x1,x2): w1, w2, theta = 0.5,0.5,0.7#๊ฐ์ค์น์, ์๊ณ๊ฐ์ ์์๋ก ์ง์ tmp = x1*w1 + x2*..
matplotlib์ ๊ทธ๋ํ๋ฅผ ๊ทธ๋ ค์ฃผ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ์ด๋ค. ๊ทธ๋ํ๋ฅผ ๊ทธ๋ฆฌ๋ ค๋ฉด matplotlib์ pyplot ๋ชจ๋์ ์ด์ฉํ๋ฉด ๋๋ค. 123456789101112import numpy as npimport matplotlib.pyplot as plt #x์ถ์ 0๋ถํฐ 6๊น์ง 0.1๊ฐ๊ฒฉ์ผ๋ก ์์ฑ(๋ฐฐ์ดํํ)x= np.arange(0,6,0.1) #y์ ๊ฐ ์ ์(๋ฐฐ์ด์ ํํ, sin(x)๊ฐ)y = np.sin(x) #๊ทธ๋ํ ๊ทธ๋ฆฌ๊ธฐplt.plot(x,y)plt.show()cs ๋ํ์ด์, pyplot ์ ์ด์ฉํด์ x์ y๊ฐ์ numpy๋ฐฐ์ด๋ก ๋ง๋ค์ด ์ฃผ๊ณ , plot๊ณผ show ํจ์๋ฅผ ์ด์ฉํ๋ ๊ฒฐ๊ณผ๊ฐ์ผ๋ก sin ํจ์๊ฐ ๊ทธ๋ ค์ก๋ค. ์กฐ๊ธ๋ ๊ธฐ๋ฅ์ ์ถ๊ฐํด์ cos ํจ์์ sin ๋๋ค ๊ทธ๋ ค ๋ณด์๋ค. 1234567891011121..
์ฃผํผํฐ ๋ฉ์ ์ด๊ณ ๋ํ์ด๋ฅผ ์ฒ์ ์ฌ์ฉํด ๋ณด์๋ค. import numpy as np #์ด๊ฑธ ์๋จ์ ์ ๋ ฅํ๊ณ x =np.array([1.0,2.0,3.0])print(x) ์ด๋ ๊ฒ ์ ๋ ฅํ๋ฉด ๊ฒฐ๊ณผ๊ฐ์ผ๋ก๋[1. 2. 3.] ๊ฐ ์ถ๋ ฅ์ด ๋๋ค. import numpy as np x =np.array([1.0,2.0,3.0])y =np.array([2.0,3.0,4.0])print(x+y) ๋ฐฐ์ด๋ผ๋ฆฌ์ ๋ง์ , ๋๋์ ๋ ์์ฝ๊ฒ ๊ฐ๋ฅํ๊ณ (์์ ๊ฒฐ๊ณผ๊ฐ์ [3. 5. 7.])๋ธ๋ก๋์บ์คํธ๋ผ๋ ๋๋ํ ํน์ง์ด ์์ด์ import numpy as np x =np.array([1.0,2.0,3.0]) y =np.array([4.0]) print(x+y) ์ด๊ฒ๋ํ ๊ฐ๋ฅํ๋ค(y์ ๊ฐ์ด x์ ์์ ์ ์ฒด์๊ฒ ๋ํด์ง, ์์ ๊ฒฐ๊ณผ๊ฐ์ [5. 6. ..
http์ https http๋ hypertext transfer protocol : hypertext์ธ html(=์น์ ์์ฑํ๋ ์ธ์ด)์ ์ ์กํ๊ธฐ ์ํ ํต์ ๊ท์ฝhttps๋ s=secure๋ก ๋ณด์์ด ๊ฐํ๋ http๋ผ๊ณ ํ ์ ์๋ค. http๋ก ํต์ (์๋ฒ-ํด๋ผ์ด์ธํธ ์ฌ์ด์ ์ ๋ณด ๊ต๋ฅ)์ ํ ๋๋ ์ ๋ณด๊ฐ ์ํธํ๊ฐ ๋์ง ์์์ผ๋ก, ์ค๊ฐ์ ์ 3์๊ฐ ์ ๋ณด๋ฅผ ๊ฐ๋ก์ฑ๊ธฐ ์ฝ์ง๋ง(๋ก๊ทธ์ธ ์์ด๋๋ ๋น๋ฐ๋ฒํธ๊ฐ ์ 3์์๊ฒ ๊ณต๊ฐ๋ ์ ์์)https๋ ํต์ ํ ๋ ์ํธํ ๋์ ์ ๋ณด๊ฐ ๋์ด๊ฐ๊ธฐ ๋๋ฌธ์ ์ค๊ฐ์์ ๊ฐ๋ก์ฑ๊ธฐ ์ด๋ ต๋ค.(๊ฐ๋ก์ฑ๋๋ผ๋ ์ํธํ ๋์ด์์ด์ ๋ฌด์จ ๋ง์ธ์ง ์ ์ ์๋ค) https์ ssl๊ฑฐ์ ๊ฐ์ง๋ง HTTPS๋ SSL ํ๋กํ ์ฝ(=ํต์ ๊ท์ฝ) ์์์ ๋์๊ฐ๋ ํ๋กํ ์ฝ(=ํต์ ๊ท์ฝ)์ด๋ค.(?) ์ํธํ ๋ฐฉ๋ฒ(์ฌ๊ธฐ์ ๋์ค๋..