Project

[์Šค๋งˆํŠธ ์‹œํ‹ฐ] AI Express ( ๋”ฅ๋Ÿฌ๋‹์„ ํ™œ์šฉํ•œ ์ด์‚ฌ ์ง€์—ญ ์ถ”์ฒœ ํ”Œ๋žซํผ )

๐Ÿ˜„ ํ”„๋กœ์ ํŠธ ์ฃผ์ œ

์Šค๋งˆํŠธ์‹œํ‹ฐ๋ผ๋Š” ์ฃผ์ œ๋ฅผ ๋ฐฐ๊ฒฝ์œผ๋กœ ์„œ์šธ๋กœ ์ด์‚ฌ๋ฅผ ์˜ฌ ๊ณ„ํš์— ์žˆ๋Š” ์‚ฌ๋žŒ๋“ค์—๊ฒŒ ๋”ฅ๋Ÿฌ๋‹์„ ๊ธฐ๋ฐ˜์œผ๋กœ ๋‹ค์–‘ํ•œ ๊ณ ๋ ค์‚ฌํ•ญ์— ๋งž๊ฒŒ ์ ์ ˆํ•œ ์ด์‚ฌ์ง€์—ญ์„ ์ถ”์ฒœํ•ด์ฃผ๋Š” ํ”Œ๋žซํผ

 

 

๐Ÿง ์ฃผ์š” ๊ธฐ๋Šฅ

15๊ฐ€์ง€์˜ ํŠน์ง• ( ํ•™๊ต, ์˜๋ฃŒ์‹œ์„ค, ํ•™์› ๋“ฑ )๊ณผ ๋‚˜์ด์™€ ์„ฑ๋ณ„์„ ๊ณ ๋ คํ•ด ํ‚ค์›Œ๋“œ ๊ธฐ๋ฐ˜์œผ๋กœ ์ถ”์ฒœํ•ด์ฃผ๋Š” ๊ธฐ๋Šฅ์ด๋‹ค.

๋”ฅ๋Ÿฌ๋‹ ๊ธฐ์ˆ ๋กœ 15๊ฐ€์ง€์˜ ์„œ์šธ์‹œ ๊ณต๊ณต๋ฐ์ดํ„ฐ์™€ ์„œ์šธ์‹œ ๋‚ด ๋™๋ณ„ ์ธ๊ตฌ์ˆ˜๋ฅผ ๋น„๊ตํ•ด ํ•™์Šต์‹œ์ผœ ๋ชจ๋ธ์„ ๋งŒ๋“ ๋‹ค.

 

๐Ÿ˜„ ํ”„๋กœ์ ํŠธ ์ค‘ ๋ฐœ์ƒํ•œ ๋ฌธ์ œ์ 

1. ์„œ์šธ์‹œ ๋™๋ณ„ ์ธ๊ตฌ ์ˆ˜

์„œ์šธ์‹œ ๋™๋ณ„ ์ธ๊ตฌ ์ˆ˜๋ฅผ ๊ฐ–๊ณ  DNN ๋ชจ๋ธ์„ ๋งŒ๋“ค๊ธฐ ๋•Œ๋ฌธ์— ๋™๋ณ„ ์ธ๊ตฌ ์ˆ˜ ๋ฐ์ดํ„ฐ๊ฐ€ ์ค‘์š”ํ–ˆ๋‹ค. ํ•˜์ง€๋งŒ ๊ต์ˆ˜๋‹˜๊ป˜์„œ ๋งŽ์ด ํ”ผ๋“œ๋ฐฑํ•ด์ฃผ์‹  ๋‚ด์šฉ์ด ๋™๋ณ„๋กœ ์ธ๊ตฌ ์ˆ˜๊ฐ€ ๋งŽ๋‹ค๊ณ  ํ•ด๋„ ๋™ ๋‚ด ์ธ๊ตฌ๋ฐ€์ง‘๋„, ์ฆ‰ ์ธ๊ตฌ๊ฐ€ ์‚ฌ๋Š” ์ง€์—ญ์˜ ํฌ๊ธฐ์— ๋”ฐ๋ผ ๊ฒฐ๊ณผ ๊ฐ’์ด ๋‹ฌ๋ผ์ง€์ง€ ์•Š์„๊นŒ๋ผ๋Š” ํ”ผ๋“œ๋ฐฑ์„ ํ•ด์ฃผ์…จ๋‹ค.

๋™๋ณ„๋กœ ์–ด๋–ป๊ฒŒ ํ•˜๋ฉด ํ…Œ์ŠคํŠธ ๊ฐ’์„ ๋งŒ๋“œ๋Š”๋ฐ ๊ณตํ‰ํ•˜๊ฒŒ ๋งŒ๋“ค ์ˆ˜ ์žˆ์„๊นŒ ๊ณ ๋ฏผ์„ ํ–ˆ๊ณ , ๋งŽ์€ ํšŒ์˜ ๋์— ๊ฐ ๋™์˜ ๋ฉด์ ์— ๋Œ€ํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•ด ์ธ๊ตฌ ์ˆ˜๋ฅผ ๊ตฌํ•  ๋•Œ ๋ฉด์  ๋น„์œจ๋กœ ๊ตฌํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ƒ๊ฐํ•ด๋ƒˆ๊ณ , ํ•™์Šต ๋ฐ์ดํ„ฐ๋ฅผ ๋งŒ๋“ค์—ˆ๋‹ค.

๊ทธ ๊ฒฐ๊ณผ ๋”์šฑ ์ •ํ™•๋„๊ฐ€ ๋†’์€ ๋ชจ๋ธ์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ์—ˆ๋‹ค.

2. ๋ชจ๋ธ ์„ค๊ณ„

 ๋ชจ๋ธ ์„ค๊ณ„ ๊ณผ์ •์—์„œ Accuracy๋ฅผ ๋†’์ด๊ธฐ ์œ„ํ•ด ๋‹ค์–‘ํ•œ ์š”์†Œ๋“ค์„ ์ ์šฉํ•˜๋Š”๋ฐ Accuracy๊ฐ€ ์ƒ๊ฐ๋ณด๋‹ค ๋งŽ์ด ๋‚˜์˜ค์ง€ ์•Š์•„ Accuracy๋ฅผ ๋†’์ด๊ธฐ ์œ„ํ•ด ๋งŽ์€ ๊ณ ๋ฏผ์„ ํ–ˆ์—ˆ๋‹ค.

 ์ฒ˜์Œ์—๋Š” Layer ์ˆ˜๋ฅผ ๋†’์ด๊ณ , Neural Network์˜ ์ธต์„ ๋งŽ์ด ๋งŒ๋“ค์–ด ๋ณต์žกํ•˜๊ฒŒ ๊ตฌ์„ฑํ•ด Accuracy๋ฅผ ๋†’์—ฌ๊ฐ€๋Š” ๋ฐฉ๋ฒ•์œผ๋กœ ์ ‘๊ทผ์„ ํ–ˆ๋‹ค. ํ•˜์ง€๋งŒ ์˜ค๋ฒ„ํ”ผํŒ…์˜ ๋ฌธ์ œ๊ฐ€ ๊ณ„์† ๋ฐœ์ƒํ–ˆ๊ณ  Activation Function์„ ReLU๋กœ ๋ฐ”๊ฟ”๋ณด๊ณ  Leaky ReLU๋กœ๋„ ๋ฐ”๊ฟ”๋ด๋„ Accuracy๊ฐ€ ๋ˆˆ์— ๋„๊ฒŒ ๋†’์•„์ง€์ง€ ์•Š์„ ๋ฟ๋”๋Ÿฌ ์˜ค๋ฒ„ํ”ผํŒ…์˜ ๋ฌธ์ œ๊ฐ€ ๊ณ„์† ๋ฐœ์ƒํ–ˆ๋‹ค.

 ์‰ฝ๊ฒŒ ๋ฐ”๋€Œ์ง€ ์•Š์•„ ์˜ค๋ฒ„ํ”ผํŒ…์˜ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•ด์ฃผ๊ธฐ ์œ„ํ•ด Dropout์„ ์ ์šฉํ–ˆ๋‹ค. ๋‹คํ–‰ํžˆ ๊ฐ Hidden Layer๋งˆ๋‹ค Dropoupt์„ ์ ์šฉํ•˜๊ณ  Hidden Layer์˜ ์ˆ˜์™€ Layer๋งˆ๋‹ค์˜ ๋…ธ๋“œ ์ˆ˜๋ฅผ ์ค„์—ฌ ๋‹จ์ˆœํ™”๋ฅผ ์‹œ์ผฐ๋”๋‹ˆ Accuracy๊ฐ€ ๋†’์•„์ง€๋ฉฐ ์˜ค๋ฒ„ํ”ผํŒ… ๋ฌธ์ œ๊ฐ€ ํ•ด์†Œ๋˜๋Š” ๊ฒƒ์„ ๋ณผ ์ˆ˜ ์žˆ์—ˆ๋‹ค.

 

3. ํ…Œ์ŠคํŠธ ์ผ€์ด์Šค์˜ ๋ถ€์กฑ - K-fold ๊ต์ฐจ๊ฒ€์ฆ

 ์„œ์šธ์‹œ ๋‚ด ๋™์˜ ์ด ์ˆ˜๋Š” 424๊ฐœ๋กœ ๋ชจ๋ธ์„ ํ•™์Šต์‹œํ‚ค๊ธฐ ์œ„ํ•ด ํ„ฐ๋ฌด๋‹ˆ ์—†์ด ๋ถ€์กฑํ•œ ์ˆ˜์ด๋‹ค. ๋ชจ๋ธ์„ ํ•™์Šต์‹œํ‚ค๊ธฐ ์œ„ํ•ด ์ตœ์†Œํ•œ 3000๊ฐœ์˜ ๋ฐ์ดํ„ฐ์˜ ์ˆ˜๊ฐ€ ํ•„์š”ํ•˜๊ธฐ ๋•Œ๋ฌธ์— 424๊ฐœ์˜ ๋ฐ์ดํ„ฐ๋ฅผ ๊ฐ–๊ณ  ๋ฐ์ดํ„ฐ๋ฅผ ๋Š˜๋ ค์•ผ๋งŒ ํ–ˆ๋‹ค.

๊ทธ๋ž˜์„œ ์ธ์ ‘ํ•œ ๋™๋ณ„๋กœ ์ตœ์†Œํ•œ์˜ ๊ณตํ†ต์ ์ด ์žˆ์„ ๊ฒƒ์ด๋ผ๊ณ  ์ƒ๊ฐํ•ด ๊ฐ™์€ ๊ตฌ์— ์žˆ๋Š” ๋™์„ 2๊ฐœ์”ฉ ๊ณจ๋ผ ๋”ํ•œ ํ›„ 2๋กœ ๋‚˜๋ˆ  ๋ฐ์ดํ„ฐ๋ฅผ ์ฆ๊ฐ€์‹œ์ผฐ๋‹ค. 

 ๋˜ํ•œ K-fold ๊ต์ฐจ๊ฒ€์ฆ์„ ์‚ฌ์šฉํ•ด ์˜ค๋ฒ„ํ”ผํŒ… ๋ฌธ์ œ ๋ฐœ์ƒ๋ฅ ์„ ์ตœ์†Œํ™”์‹œํ‚ค๋ฉฐ ๋ชจ๋“  ๋ฐ์ดํ„ฐ๋ฅผ training๊ณผ validation์œผ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ด Accuracy๋ฅผ ์ตœ๋Œ€๋กœ ๋Œ์–ด์˜ฌ๋ ธ๋‹ค.

 

4. ํ‚ค์›Œ๋“œ ์ƒ์„ฑ ๋ฌธ์ œ

 

 ์šฐ๋ฆฌ๋Š” 15๊ฐ€์ง€์— ํŠน์ง•๋“ค์— ํ‚ค์›Œ๋“œ ๋ณ„๋กœ ๊ฐ€์ค‘์น˜๋ฅผ ๋ถ€์—ฌํ•ด ์‚ฌ์šฉ์ž๋กœ ํ•˜์—ฌ๊ธˆ ํ‚ค์›Œ๋“œ๋ฅผ ์‚ฌ์šฉํ•ด ์ถ”์ฒœ์ง€์—ญ ๊ฒ€์ƒ‰ํ•  ์ˆ˜ ์žˆ๋Š” ์„œ๋น„์Šค๋ฅผ ๋งŒ๋“ค๊ธฐ ์œ„ํ•ด ์ˆ˜ ๋งŽ์€ ํ‚ค์›Œ๋“œ๋ฅผ ๋งŒ๋“ค์–ด์ค˜์•ผ ํ–ˆ์—ˆ๋‹ค.

 ํ•˜์ง€๋งŒ ๋ชจ๋“  ์‚ฌ์šฉ์ž๋“ค์˜ ํ‚ค์›Œ๋“œ๋ฅผ ์˜ˆ์ธกํ•  ์ˆ˜ ์—†์—ˆ๊ธฐ ๋•Œ๋ฌธ์— ๋งŒ๋“œ๋Š”๋ฐ ๋งŽ์€ ์–ด๋ ค์›€๊ณผ ๊ณ ๋ฏผ์ด ํ•„์š”ํ–ˆ์—ˆ๋‹ค.

 ๋‚˜์ค‘์— ํ‚ค์›Œ๋“œ ๋ถ„์„์„ ํ…์ŠคํŠธ ๋งˆ์ด๋‹ ๊ธฐ์ˆ ์„ ํ†ตํ•ด ๊ตฌํ˜„ํ•  ์˜ˆ์ •์ด๋‹ค.

 

 

 

๐Ÿ˜Ž๋Š๋‚€ ์ 

 ๋”ฅ๋Ÿฌ๋‹ ๊ธฐ์ˆ ์„ ์‚ฌ์šฉํ•ด ๋งŒ๋“  ์ฒซ ํ”„๋กœ์ ํŠธ์˜€๋‹ค.  

 ์—ญ์‹œ๋‚˜ ์ ์ ˆํ•œ ๋ชจ๋ธ์„ ๋งŒ๋“ค์–ด Accuracy๋ฅผ ์ตœ๋Œ€ํ•œ์œผ๋กœ ๋Œ์–ด์˜ฌ๋ ค์•ผ๋งŒ ํ”Œ๋žซํผ์˜ ์ฃผ์š” ๊ธฐ๋Šฅ์ด ๋™์ž‘ํ•˜๊ธฐ ๋•Œ๋ฌธ์— Deep Neural Network์˜ ๋ชจ๋ธ์„ ๋งŒ๋“œ๋Š”๋ฐ ๋งŽ์€ ์‹œ๊ฐ„์„ ๋“ค์—ฌ์•ผ๋งŒ ํ–ˆ๋‹ค. 

 ๋ชจ๋ธ์„ ๋งŒ๋“ค๋ฉด์„œ ์˜ค๋ฒ„ํ”ผํŒ… ๋ฌธ์ œ๋ฅผ ์œ„ํ•œ Genralization, Regularization์„ ํ•˜๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ•๋“ค์„ ๊ณต๋ถ€ํ•  ์ˆ˜ ์žˆ์—ˆ๊ณ , Vanishing Gradient ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด ๋‹ค์–‘ํ•œ ๊ฐ€์ค‘์น˜ ์—…๋ฐ์ดํŠธ ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์—ˆ๋‹ค.

 

๋‹คํ–‰ํžˆ ์•„๋ž˜ ์˜์ƒ๊ณผ ๊ฐ™์ด ์ข‹์€ ๋ชจ๋ธ๊ณผ ๊ทธ์— ๋”ฐ๋ฅธ ๊ฒฐ๊ณผ๊ฐ€ ๋‚˜์™€ ๋‹คํ–‰์ด์˜€๋‹ค...... ํœด......

 

๐ŸŽฅ AI Express ์‹œ์—ฐ ์˜์ƒ

 

 

๐Ÿ“„ ๋ฐœํ‘œ ์ž๋ฃŒ

03์กฐ ์ตœ์ข…๋ฐœํ‘œ.pptx
7.15MB

 

๊ถ๊ธˆํ•˜์ ์ด ์žˆ์œผ์‹œ๋ฉด ๋Œ“๊ธ€ ๋‹ฌ์•„์ฃผ์„ธ์š”!~

 

์†Œ์Šค ์ฝ”๋“œ : https://github.com/withseungryu/AI_Express

 

๋ฐ˜์‘ํ˜•