๐ ํ๋ก์ ํธ ์ฃผ์
์ค๋งํธ์ํฐ๋ผ๋ ์ฃผ์ ๋ฅผ ๋ฐฐ๊ฒฝ์ผ๋ก ์์ธ๋ก ์ด์ฌ๋ฅผ ์ฌ ๊ณํ์ ์๋ ์ฌ๋๋ค์๊ฒ ๋ฅ๋ฌ๋์ ๊ธฐ๋ฐ์ผ๋ก ๋ค์ํ ๊ณ ๋ ค์ฌํญ์ ๋ง๊ฒ ์ ์ ํ ์ด์ฌ์ง์ญ์ ์ถ์ฒํด์ฃผ๋ ํ๋ซํผ
๐ง ์ฃผ์ ๊ธฐ๋ฅ
15๊ฐ์ง์ ํน์ง ( ํ๊ต, ์๋ฃ์์ค, ํ์ ๋ฑ )๊ณผ ๋์ด์ ์ฑ๋ณ์ ๊ณ ๋ คํด ํค์๋ ๊ธฐ๋ฐ์ผ๋ก ์ถ์ฒํด์ฃผ๋ ๊ธฐ๋ฅ์ด๋ค.
๋ฅ๋ฌ๋ ๊ธฐ์ ๋ก 15๊ฐ์ง์ ์์ธ์ ๊ณต๊ณต๋ฐ์ดํฐ์ ์์ธ์ ๋ด ๋๋ณ ์ธ๊ตฌ์๋ฅผ ๋น๊ตํด ํ์ต์์ผ ๋ชจ๋ธ์ ๋ง๋ ๋ค.
๐ ํ๋ก์ ํธ ์ค ๋ฐ์ํ ๋ฌธ์ ์
1. ์์ธ์ ๋๋ณ ์ธ๊ตฌ ์
์์ธ์ ๋๋ณ ์ธ๊ตฌ ์๋ฅผ ๊ฐ๊ณ DNN ๋ชจ๋ธ์ ๋ง๋ค๊ธฐ ๋๋ฌธ์ ๋๋ณ ์ธ๊ตฌ ์ ๋ฐ์ดํฐ๊ฐ ์ค์ํ๋ค. ํ์ง๋ง ๊ต์๋๊ป์ ๋ง์ด ํผ๋๋ฐฑํด์ฃผ์ ๋ด์ฉ์ด ๋๋ณ๋ก ์ธ๊ตฌ ์๊ฐ ๋ง๋ค๊ณ ํด๋ ๋ ๋ด ์ธ๊ตฌ๋ฐ์ง๋, ์ฆ ์ธ๊ตฌ๊ฐ ์ฌ๋ ์ง์ญ์ ํฌ๊ธฐ์ ๋ฐ๋ผ ๊ฒฐ๊ณผ ๊ฐ์ด ๋ฌ๋ผ์ง์ง ์์๊น๋ผ๋ ํผ๋๋ฐฑ์ ํด์ฃผ์ จ๋ค.
๋๋ณ๋ก ์ด๋ป๊ฒ ํ๋ฉด ํ ์คํธ ๊ฐ์ ๋ง๋๋๋ฐ ๊ณตํํ๊ฒ ๋ง๋ค ์ ์์๊น ๊ณ ๋ฏผ์ ํ๊ณ , ๋ง์ ํ์ ๋์ ๊ฐ ๋์ ๋ฉด์ ์ ๋ํ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํด ์ธ๊ตฌ ์๋ฅผ ๊ตฌํ ๋ ๋ฉด์ ๋น์จ๋ก ๊ตฌํ๋ ๋ฐฉ๋ฒ์ ์๊ฐํด๋๊ณ , ํ์ต ๋ฐ์ดํฐ๋ฅผ ๋ง๋ค์๋ค.
๊ทธ ๊ฒฐ๊ณผ ๋์ฑ ์ ํ๋๊ฐ ๋์ ๋ชจ๋ธ์ ๋ง๋ค ์ ์์๋ค.
2. ๋ชจ๋ธ ์ค๊ณ
๋ชจ๋ธ ์ค๊ณ ๊ณผ์ ์์ Accuracy๋ฅผ ๋์ด๊ธฐ ์ํด ๋ค์ํ ์์๋ค์ ์ ์ฉํ๋๋ฐ Accuracy๊ฐ ์๊ฐ๋ณด๋ค ๋ง์ด ๋์ค์ง ์์ Accuracy๋ฅผ ๋์ด๊ธฐ ์ํด ๋ง์ ๊ณ ๋ฏผ์ ํ์๋ค.
์ฒ์์๋ Layer ์๋ฅผ ๋์ด๊ณ , Neural Network์ ์ธต์ ๋ง์ด ๋ง๋ค์ด ๋ณต์กํ๊ฒ ๊ตฌ์ฑํด Accuracy๋ฅผ ๋์ฌ๊ฐ๋ ๋ฐฉ๋ฒ์ผ๋ก ์ ๊ทผ์ ํ๋ค. ํ์ง๋ง ์ค๋ฒํผํ ์ ๋ฌธ์ ๊ฐ ๊ณ์ ๋ฐ์ํ๊ณ Activation Function์ ReLU๋ก ๋ฐ๊ฟ๋ณด๊ณ Leaky ReLU๋ก๋ ๋ฐ๊ฟ๋ด๋ Accuracy๊ฐ ๋์ ๋๊ฒ ๋์์ง์ง ์์ ๋ฟ๋๋ฌ ์ค๋ฒํผํ ์ ๋ฌธ์ ๊ฐ ๊ณ์ ๋ฐ์ํ๋ค.
์ฝ๊ฒ ๋ฐ๋์ง ์์ ์ค๋ฒํผํ ์ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํด์ฃผ๊ธฐ ์ํด Dropout์ ์ ์ฉํ๋ค. ๋คํํ ๊ฐ Hidden Layer๋ง๋ค Dropoupt์ ์ ์ฉํ๊ณ Hidden Layer์ ์์ Layer๋ง๋ค์ ๋ ธ๋ ์๋ฅผ ์ค์ฌ ๋จ์ํ๋ฅผ ์์ผฐ๋๋ Accuracy๊ฐ ๋์์ง๋ฉฐ ์ค๋ฒํผํ ๋ฌธ์ ๊ฐ ํด์๋๋ ๊ฒ์ ๋ณผ ์ ์์๋ค.
3. ํ ์คํธ ์ผ์ด์ค์ ๋ถ์กฑ - K-fold ๊ต์ฐจ๊ฒ์ฆ
์์ธ์ ๋ด ๋์ ์ด ์๋ 424๊ฐ๋ก ๋ชจ๋ธ์ ํ์ต์ํค๊ธฐ ์ํด ํฐ๋ฌด๋ ์์ด ๋ถ์กฑํ ์์ด๋ค. ๋ชจ๋ธ์ ํ์ต์ํค๊ธฐ ์ํด ์ต์ํ 3000๊ฐ์ ๋ฐ์ดํฐ์ ์๊ฐ ํ์ํ๊ธฐ ๋๋ฌธ์ 424๊ฐ์ ๋ฐ์ดํฐ๋ฅผ ๊ฐ๊ณ ๋ฐ์ดํฐ๋ฅผ ๋๋ ค์ผ๋ง ํ๋ค.
๊ทธ๋์ ์ธ์ ํ ๋๋ณ๋ก ์ต์ํ์ ๊ณตํต์ ์ด ์์ ๊ฒ์ด๋ผ๊ณ ์๊ฐํด ๊ฐ์ ๊ตฌ์ ์๋ ๋์ 2๊ฐ์ฉ ๊ณจ๋ผ ๋ํ ํ 2๋ก ๋๋ ๋ฐ์ดํฐ๋ฅผ ์ฆ๊ฐ์์ผฐ๋ค.
๋ํ K-fold ๊ต์ฐจ๊ฒ์ฆ์ ์ฌ์ฉํด ์ค๋ฒํผํ ๋ฌธ์ ๋ฐ์๋ฅ ์ ์ต์ํ์ํค๋ฉฐ ๋ชจ๋ ๋ฐ์ดํฐ๋ฅผ training๊ณผ validation์ผ๋ก ์ฌ์ฉํ ์ ์๋๋ก ํด Accuracy๋ฅผ ์ต๋๋ก ๋์ด์ฌ๋ ธ๋ค.
4. ํค์๋ ์์ฑ ๋ฌธ์
์ฐ๋ฆฌ๋ 15๊ฐ์ง์ ํน์ง๋ค์ ํค์๋ ๋ณ๋ก ๊ฐ์ค์น๋ฅผ ๋ถ์ฌํด ์ฌ์ฉ์๋ก ํ์ฌ๊ธ ํค์๋๋ฅผ ์ฌ์ฉํด ์ถ์ฒ์ง์ญ ๊ฒ์ํ ์ ์๋ ์๋น์ค๋ฅผ ๋ง๋ค๊ธฐ ์ํด ์ ๋ง์ ํค์๋๋ฅผ ๋ง๋ค์ด์ค์ผ ํ์๋ค.
ํ์ง๋ง ๋ชจ๋ ์ฌ์ฉ์๋ค์ ํค์๋๋ฅผ ์์ธกํ ์ ์์๊ธฐ ๋๋ฌธ์ ๋ง๋๋๋ฐ ๋ง์ ์ด๋ ค์๊ณผ ๊ณ ๋ฏผ์ด ํ์ํ์๋ค.
๋์ค์ ํค์๋ ๋ถ์์ ํ ์คํธ ๋ง์ด๋ ๊ธฐ์ ์ ํตํด ๊ตฌํํ ์์ ์ด๋ค.
๐๋๋ ์
๋ฅ๋ฌ๋ ๊ธฐ์ ์ ์ฌ์ฉํด ๋ง๋ ์ฒซ ํ๋ก์ ํธ์๋ค.
์ญ์๋ ์ ์ ํ ๋ชจ๋ธ์ ๋ง๋ค์ด Accuracy๋ฅผ ์ต๋ํ์ผ๋ก ๋์ด์ฌ๋ ค์ผ๋ง ํ๋ซํผ์ ์ฃผ์ ๊ธฐ๋ฅ์ด ๋์ํ๊ธฐ ๋๋ฌธ์ Deep Neural Network์ ๋ชจ๋ธ์ ๋ง๋๋๋ฐ ๋ง์ ์๊ฐ์ ๋ค์ฌ์ผ๋ง ํ๋ค.
๋ชจ๋ธ์ ๋ง๋ค๋ฉด์ ์ค๋ฒํผํ ๋ฌธ์ ๋ฅผ ์ํ Genralization, Regularization์ ํ๊ธฐ ์ํ ๋ฐฉ๋ฒ๋ค์ ๊ณต๋ถํ ์ ์์๊ณ , Vanishing Gradient ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๊ธฐ ์ํด ๋ค์ํ ๊ฐ์ค์น ์ ๋ฐ์ดํธ ๊ธฐ๋ฒ์ ์ฌ์ฉํ ์ ์์๋ค.
๋คํํ ์๋ ์์๊ณผ ๊ฐ์ด ์ข์ ๋ชจ๋ธ๊ณผ ๊ทธ์ ๋ฐ๋ฅธ ๊ฒฐ๊ณผ๊ฐ ๋์ ๋คํ์ด์๋ค...... ํด......
๐ฅ AI Express ์์ฐ ์์
๐ ๋ฐํ ์๋ฃ
๊ถ๊ธํ์ ์ด ์์ผ์๋ฉด ๋๊ธ ๋ฌ์์ฃผ์ธ์!~
์์ค ์ฝ๋ : https://github.com/withseungryu/AI_Express
'Project' ์นดํ ๊ณ ๋ฆฌ์ ๋ค๋ฅธ ๊ธ
์์ฑ ์ฑํ ์ดํ๋ฆฌ์ผ์ด์ - TOVE ON (0) | 2021.07.04 |
---|---|
๋ฏธํ ์์ ๋ง๋ ์ฌ์ด (0) | 2021.01.09 |
[Vue] ์ํ ํํฐ ๊ตฌํํ๊ธฐ (feat. Typescript, ToastUI Chart) (0) | 2020.06.27 |
[GCSU] Medical System ๊ตฌ์ถํ๊ธฐ (feat. G.Y.C) (0) | 2020.04.05 |
[๋ฉ์์ด ์ฌ์์ฒ๋ผ 4๊ธฐ] ์์ธ์๋ฆฝ๋ ์ถ์ ์ฌ์ดํธ - ๋ชจ๋ฐ์ผ ๋ฒ์ - (0) | 2020.02.13 |