Computer Science (16) ์ธ๋ค์ผํ ๋ฆฌ์คํธํ CS >> Udemy ๊ฐ์ข ์ ๋ฆฌ 1. It stands for a content division element. It split up or divide your content into separate containers. ์ฆ, ํ๊ทธ๋ HTML ๋ฌธ์์์ ํน์ ์์ญ(division)์ด๋ ๊ตฌํ(section)์ ์ ์ํ ๋ ์ฌ์ฉํฉ๋๋ค. cssํ์ผ์์ ๋์ด๋ฅผ 100px๋ก ์ ์ํ ํ๊ทธ๋ฅผ index.html์ ์ ๋ ฅํด์ฃผ๋ฉด ์ผ์ชฝ ๊ทธ๋ฆผ์ฒ๋ผ ์๋ก์ด ์์ญ์ด ์๊ธฐ๊ฒ ๋๊ณ , I'm Sophia. a M.S student. ํ๊ทธ ์์ ๋ค๋ฅธ ์์๋ค์ ๋ฃ์ด์ฃผ๊ฒ ๋๋ฉด, ์๋์ ์ค๋ฅธ์ชฝ ๊ทธ๋ฆผ๊ณผ ๊ฐ์ด ์๋ก ์๊ธด ์์ญ์์ ๊ณผ ๋ด์ฉ์ด ๋ค์ด๊ฐ๊ฒ ๋ฉ๋๋ค. I'm Sophia. a M.S student. 1.1 Overriding devault values & mar.. machine learning >> clustering(1) Unsupervised Learning : unsupervise learning์ด๋ผ๋ ๋ง์ supervisor๊ฐ ์๋ค๋ ๋ป์ด๋ค. ์ฆ input X๋ฅผ ์ํ 'label'์ด ์กด์ฌํ์ง ์๋๋ค. ์ข ๋ฅ Density Estimation(KDE): y label์ ํ์์๊ณ , x data๋ง ํ์ํ๋ค. Clustering : kMeans, MoG Dimension Reduction : x data๊ฐ ์ฃผ์ด์ก์ ๋, ๋์ ์ฐจ์์ ๋ฐ์ดํฐ๋ฅผ ๋ฎ์ ์ฐจ์์ ๋ฐ์ดํฐ์ projection ํด์ฃผ๋ ๊ฒ์ด๋ค. ์ด๊ฑด 'compression'์ด๋ ๋น์ทํ๋ค. Factor analysis: ์ฃผ์ด์ง signal์ ๋ฐ์์ํค๋ ๋ฐ์ ์ฃผ์์ธ์ด ๋ฌด์์ธ๊ฐ? Representation Learning Clustering data.. Trainingํ ๋ ์ค๋ฅ์ ํด๊ฒฐ๋ฒ(Dataloader killed, Connection reset by peer, Exception 0 SISKILL) ์ฒ์์ผ๋ก ๊นํ์์ ๋ฅ๋ฌ๋ ์คํ์์ค๋ฅผ ๋ค์ด๋ฐ์ ์คํ์ ํ๋ ๊ฒ์ ์์์ผ๋ก ์ฑ๋ฅ ๊ฐ์ ์ ์ํด ๊ณต๋ถํ๊ณ ์ฐ๊ตฌ(??)ํด ๋ณผ ๊ธฐํ๊ฐ ์๊ฒผ๋ค. ํ์ง๋ง ์ ์ผ ์ฒ์ ๋ค๋ฃจ๊ฒ ๋ ๋ฐ์ดํฐ๊ฐ ํํ ์~์ฒญ ํฐ ๋ฐ์ดํฐ๋ผ ์ ๋ง ๋ง์ ๊ณ ๋น๋ค์ด ์์๋ค....๐ญ๐ญ๐ญ ๊ทธ๋ฅ ๋๋ ค๋ณด๋ ๊ฑด๋ฐ... ๋ชจ๋ ๊ฒ ์ฒ์์ธ ๋์๊ฒ ๋๋ฌด ๋ง์ ์๊ฐ์ด ํ์ํ๋๋ผ... ์ง์ง ์์์กฐ์ฐจ ๋ชปํ๋๋ฐ 1. RuntimeError : DataLoader worker (pid ~~) is killed by signal: Killed. ์ง์ฌ ์ด ์ค๋ฅ๋๋ฌธ์ ๊ตฌ๊ธ์ ์น๋ฉด ๋์ค๋ ๊ธ์ ๋ชจ๋ ์ฝ์ด๋ดค๋ค. 1.1 ์๋ฌ์ ์์ธ 1.2 ์๋ 1) batch size ์ค์ด๊ธฐโ ๊ตฌ๊ธ์ ๊ฒ์ํด๋ณด๋ ๊ฐ์ฅ ๋จผ์ ๋์ค๋ ํด๊ฒฐ๋ฒ์ด batch size๋ฅผ ์ค์ด๋ผ๋ ๋ง์ด ์์ด์ 512๋ถํฐ 32๊น์ง ์ค์ฌ์.. ML&DL_sklearn๊ณต๋ถ(2) << Iris Data๋ฅผ ์ด์ฉํ ํ์ต๊ณผ ํ๊ฐ ML&DL_sklearn๊ณต๋ถ(2). Iris Data๋ฅผ ์ด์ฉํ ํ์ต๊ณผ ํ๊ฐ ๋ฐ์ดํฐ ๋ถ๋ฌ์ค๊ธฐ. from sklearm.dataset import load_iris data = load_iris() ์ฌ๊ธฐ์ load_iris๋ ๋ฐ์ดํฐ ๋ฐ ๋ฐ์ดํฐ์ ์ค๋ช ์ ๋ด์ ๋์ ๋๋ฆฌ๋ฅผ ๋ฐํ. dictionary๋ฅผ ์๋์ ์ฝ๋๋ฅผ ํตํด ํ์ธํด๋ณผ ์ ์๋ค. ์ ์ฒ๋ฆฌ ๋ฐ EDA np.unique(data.target, return_counts = True) # uniqueํ ๋ฐ์ดํฐ๋ฅผ ๋ฐํํด์ฃผ๊ณ , return_counts๋ฅผ ์ค์ ํด์ฃผ๋ฉด ๊ฐฏ์๋ ๋ฐํํด์ค๋ค. print(data.target_names) #['setosa' 'versicolor' 'virginica'] print(data.target.. ML&DL_sklearn๊ณต๋ถ(1) << Decision Tree sklearn๊ณต๋ถ(1)-Decision Tree Decision Tree ๋ง๋ค๊ธฐ. import sklearn from sklearn.datasets import load_breast_cancer from sklearn.model_selection import train_test_split # ํ์ต๊ณผ ํ ์คํธ set์ ๋๋ ์ฃผ๋ ์ญํ from sklearn.tree import DecisionTreeClassifier data = load_breast_cancer() X_train, X_test, y_train, y_test = train_test_split(data.data, data.target, random_state = 42) # ์ฌ๊ธฐ์ random_state = 42๋ random seed๋ฅผ ์ค ๊ฒ์.. ๋ฅ๋ฌ๋ ๋ ผ๋ฌธ ๋ฆฌ๋ทฐ >> NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE ๋ฆฌ๋ทฐ ์ค๋์ NEURAL MACHINE TRANSLATION BY JOINTLY LEARNING TO ALIGN AND TRANSLATE์ ๊ณต๋ถํด๋ณด๊ฒ ์ต๋๋น!๐ค Introduction Neural machine translation์ machine translation๋ถ์ผ์์ ์๋ก ๋ฐ๊ฒฌ๋ ๋ฐฉ๋ฒ์ ๋๋ค. ๊ทธ๋์ ํ๋์, ์ปค๋ค๋ ์ ๊ฒฝ๋ง์ ์ค๊ณํ๊ณ ํ์ต์ํด์ผ๋ก์จ ์ฌ๋ฐ๋ฅธ ๋ฒ์ญ์ ํ๋๋ก ํฉ๋๋ค. ๋ณดํต ์ด๋ฌํ ์ ๊ฒฝ๋ง์ ํตํ ๊ธฐ๊ณ๋ฒ์ญ์ ์ธ์ฝ๋์ ๋์ฝ๋๋ก ๊ตฌ์ฑ์ด ๋ฉ๋๋ค. ์ธ์ฝ๋ ์ ๊ฒฝ๋ง(encoder nerual network)๋ source sentence(๋ฒ์ญํด์ผ ํ๋ ๋ฌธ์ฅ)์ ๊ณ ์ ๋ ํฌ๊ธฐ์ ๋ฒกํฐ๋ก ์ธ์ฝ๋ฉํด ์ค๋๋ค. ๋์ฝ๋ ์ ๊ฒฝ๋ง์ ์ธ์ฝ๋ฉ๋ ๋ฒกํฐ๋ก๋ถํฐ ๋ฒ์ญ์ ํ๊ฒ ๋ฉ๋๋ค. ๊ทธ๋ค์, encoder-decoder system์ .. ๋ฅ๋ฌ๋ >> Sequence Model๊ณผ Attention mechanism(deep learning.ai๊ฐ์) deeplearning.ai์ course 5์์ week3๋ฅผ ๊ณต๋ถํ๊ณ ์ ๋ ๋ฆฌ๋ทฐ์ ๋๋นโ๐ป Basic Models ์ด๋ป๊ฒ ํ๋ จ์ํฌ ๊ฒ์ธ๊ฐ ์ฌ๊ธฐ์๋ sequence to sequence์ ๋ํด์ ๋ฐฐ์ธ ๊ฒ๋๋ค. ๋ณดํต์ machine translation problem์์๋ ์ธํ(x)์๋ ์์ด๋ฌธ์ฅ, ์์ํ(y)์ผ๋ก๋ ํ๋์ค์ด์ธ ๋ฐ์ดํฐ๋ก ํ๋ จ์ํต๋๋ค. ์ด ๋ชจ๋ธ์ encoder์ decoder ๋๊ฐ์ง์ ๊ตฌ์กฐ๋ฅผ ํฌํจํฉ๋๋ค. ์ฌ๊ธฐ์ encoder๋ ์ด์ ์ ๋ฐฐ์ด LSTM์ด๋ GRU๋ฅผ ์ฌ์ฉํ๊ณ , input sequence๋ฅผ ๋ฐ์ผ๋ฉด ๊ทธ ์ธํ์ ๋ํ๋ด์ฃผ๋ vector๋ฅผ ๋ง๋ค์ด์ค๋๋ค. ์ด ๊ตฌ์กฐ๋ image captioning ๊ตฌ์กฐ์ ๋น์ทํฉ๋๋ค. ์๋ํ๋ฉด image captioning์ ํ ๋๋ ์ธํ์ ์ฌ์ง์ผ๋ก ๋ฐ์ผ๋ฉด ์์ํ์ผ.. ์ค์ ํ๋ก์ ํธ2 >> ์ํํธ์จ์ด ๊ฐ์ ๊ณผ์ (1) 1. ๋ฌธ์ ์ ์ข ๋ ํญ๋์ ์๋น์์ธต ์ง๊ทธ์ฌ๊ทธ๋ ๋ํ๋ฏผ๊ตญ ์ฌ์ฑ 10๋ 20๋๋ฅผ ๋์์ผ๋ก ๋ง์ ์ฌ๋์ ๋ฐ๊ณ ์๋ ๊ฒ์ ์ฌ์ค์ด๋ฉฐ, ์ง๊ทธ์ฌ๊ทธ์ ๊ฐ์ ์ดํ๋ฆฌ์ผ์ด์ ํน์ฑ ์ ์ง์์ ์ธ ์ด์ฉ์ ์ ๋ํ ๋ณด์ฅ๋ ์ ์์ต๋๋ค. ํ์ง๋ง ์๋น์์ธต์ด ํ์ ์ ์ด๋ค ๋ณด๋ ์ฑ์ฅ๊ฐ๋ฅ์ฑ์ ๋ํ ๊ธฐ๋๋ฅผ ํ๊ธฐ ์ด๋ ต๊ธฐ์ ๋ ๋์ ์๋น์์ธต์ ํ๋ณดํ๋ ๊ฒ์ด ํ์ํ๋ค๊ณ ์๊ฐํฉ๋๋ค. ๊ฐ๊ฒฉ๋น๊ต ์์คํ ์ ๋ถ์ฌ ์ง๊ทธ์ฌ๊ทธ์์ ํ๋งค์ค์ธ ์ํ๊ณผ ๊ฐ์ ์ํ์ ๋ค์ด๋ฒ ์ผํ๊ณผ ๊ฐ์ ๋ค๋ฅธ ์ผํ๋ชฐ ์ฌ์ดํธ์์ ๊ฐ๊ฒฉ ํ์ธ์ ํ์์ ๋ ๋ ์ผ ๊ฐ๊ฒฉ์ ํ๋งค๋๋ ๊ฒ์ ์ฝ์ง ์๊ฒ ๋ฐ๊ฒฌํ ์ ์์ต๋๋ค. ๋ฌผ๋ก ์ง๊ทธ์ฌ๊ทธ์์ ์ฝ๊ฒ ๊ตฌํ ์ ์๋ค๋ ํธ์์ฑ์ ์ํด ์ ๊ฒฝ ์ฐ์ง์๋ ์ปค์คํฐ๋จธ๋ค์ด ์กด์ฌํ๊ธฐ๋ ํ์ง๋ง ์ง๊ทธ์ฌ๊ทธ์ ๋ํ ์ ๋ขฐ๋๊ฐ ๋จ์ด์ ธ ๋ ์ด์ ์ง๊ทธ์ฌ๊ทธ๋ฅผ ์ฐพ์ง ์๋ ์ํฉ ๋ํ ๋ฐ์ํ๋ค๊ณ .. ์ด์ 1 2 ๋ค์