๋‹คํ•ญ์‹ ๋„ํ•จ์ˆ˜ ๊ณ„์‚ฐ๊ธฐ

๋‹คํ•ญ์‹์˜ ๋„ํ•จ์ˆ˜๋ฅผ ๊ณ„์‚ฐํ•˜๊ณ  ๋‹จ๊ณ„๋ณ„ ํ’€์ด๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

๋‹คํ•ญ์‹ ์ž…๋ ฅ
์˜ˆ: 3x^2 + 2x - 1 ๋˜๋Š” x^3 - 4x + 5

์ž…๋ ฅ ํ˜•์‹ ์•ˆ๋‚ด

  • โ€ข x^2๋Š” x์˜ 2์ œ๊ณฑ์„ ์˜๋ฏธํ•ฉ๋‹ˆ๋‹ค
  • โ€ข ๊ณ„์ˆ˜๊ฐ€ 1์ธ ๊ฒฝ์šฐ ์ƒ๋žต ๊ฐ€๋Šฅ (x^2 = 1x^2)
  • โ€ข ๋ง์…ˆ๊ณผ ๋บ„์…ˆ์€ + ๋˜๋Š” - ๊ธฐํ˜ธ ์‚ฌ์šฉ
  • โ€ข ๊ณต๋ฐฑ์€ ๋ฌด์‹œ๋ฉ๋‹ˆ๋‹ค
๋„ํ•จ์ˆ˜ ๊ณต์‹

๊ธฐ๋ณธ ๊ณต์‹

์ƒ์ˆ˜

(c)' = 0

๊ฑฐ๋“ญ์ œ๊ณฑ

(x^n)' = nx^(n-1)

์ƒ์ˆ˜๋ฐฐ

(cf(x))' = cยทf'(x)

ํ•ฉ๊ณผ ์ฐจ

(f ยฑ g)' = f' ยฑ g'

์˜ˆ์‹œ

f(x) = 3xยณ + 2xยฒ - 5x + 1

f'(x) = 9xยฒ + 4x - 5

๊ฐ ํ•ญ์— ๊ฑฐ๋“ญ์ œ๊ณฑ ๊ณต์‹์„ ์ ์šฉ

๋ฏธ๋ถ„ํ•™์˜ ์ดํ•ด์™€ ์‘์šฉ

๋ฏธ๋ถ„ํ•™์˜ ์—ญ์‚ฌ์™€ ๋ฐœ์ „

๋ฏธ๋ถ„ํ•™์€ 17์„ธ๊ธฐ ๋‰ดํ„ด๊ณผ ๋ผ์ดํ”„๋‹ˆ์ธ ์— ์˜ํ•ด ๋…๋ฆฝ์ ์œผ๋กœ ๊ฐœ๋ฐœ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ๋‰ดํ„ด์€ ๋ฌผ๋ฆฌํ•™์  ๋ฌธ์ œ(์šด๋™๊ณผ ๋ณ€ํ™”์œจ)๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด, ๋ผ์ดํ”„๋‹ˆ์ธ ๋Š” ์ˆœ์ˆ˜ ์ˆ˜ํ•™์  ๊ด€์ ์—์„œ ๋ฏธ๋ถ„์„ ์—ฐ๊ตฌํ–ˆ์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ ์šฐ๋ฆฌ๊ฐ€ ์‚ฌ์šฉํ•˜๋Š” dy/dx ํ‘œ๊ธฐ๋ฒ•์€ ๋ผ์ดํ”„๋‹ˆ์ธ ๊ฐ€ ๊ณ ์•ˆํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค.

๋‰ดํ„ด์˜ ์ ‘๊ทผ

๋ฌผ๋ฆฌํ•™์  ๋ณ€ํ™”์œจ๊ณผ ์ˆœ๊ฐ„์†๋„ ๊ฐœ๋…์—์„œ ์ถœ๋ฐœ

๋ผ์ดํ”„๋‹ˆ์ธ ์˜ ์ ‘๊ทผ

๊ธฐํ•˜ํ•™์  ์ ‘์„ ์˜ ๊ธฐ์šธ๊ธฐ ๊ฐœ๋…์—์„œ ์ถœ๋ฐœ

ํ˜„๋Œ€ ๊ณผํ•™๊ธฐ์ˆ ์—์„œ์˜ ์‘์šฉ

์ธ๊ณต์ง€๋Šฅ๊ณผ ๋จธ์‹ ๋Ÿฌ๋‹

  • โ€ข ๊ฒฝ์‚ฌํ•˜๊ฐ•๋ฒ•(Gradient Descent)์˜ ํ•ต์‹ฌ ์›๋ฆฌ
  • โ€ข ์‹ ๊ฒฝ๋ง์˜ ์—ญ์ „ํŒŒ(Backpropagation) ์•Œ๊ณ ๋ฆฌ์ฆ˜
  • โ€ข ์†์‹คํ•จ์ˆ˜ ์ตœ์ ํ™”์™€ ๊ฐ€์ค‘์น˜ ์—…๋ฐ์ดํŠธ
  • โ€ข ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ์˜ ํ•™์Šต ๊ณผ์ •

๊ณตํ•™๊ณผ ๋ฌผ๋ฆฌํ•™

  • โ€ข ์ „์žํšŒ๋กœ์˜ ์‹ ํ˜ธ ๋ถ„์„
  • โ€ข ์ œ์–ด์‹œ์Šคํ…œ์˜ ์•ˆ์ •์„ฑ ํ•ด์„
  • โ€ข ์œ ์ฒด์—ญํ•™์˜ ์†๋„์žฅ ๊ณ„์‚ฐ
  • โ€ข ์—ด์ „๋‹ฌ๊ณผ ํ™•์‚ฐ ๋ฐฉ์ •์‹

๊ฒฝ์ œํ•™๊ณผ ๊ธˆ์œต๊ณตํ•™

๋ฏธ๋ถ„์€ ๊ฒฝ์ œํ•™์—์„œ ํ•œ๊ณ„ํšจ์šฉ, ํ•œ๊ณ„๋น„์šฉ, ํƒ„๋ ฅ์„ฑ ๋“ฑ์„ ๊ณ„์‚ฐํ•˜๋Š” ๋ฐ ํ•„์ˆ˜์ ์ž…๋‹ˆ๋‹ค. ๊ธˆ์œต๊ณตํ•™์—์„œ๋Š” ์˜ต์…˜ ๊ฐ€๊ฒฉ ๊ฒฐ์ • ๋ชจ๋ธ(๋ธ”๋ž™-์ˆ„์ฆˆ ๋ชจ๋ธ)์˜ ํ•ต์‹ฌ ๋„๊ตฌ๋กœ ์‚ฌ์šฉ๋ฉ๋‹ˆ๋‹ค.

ํ•œ๊ณ„๋ถ„์„

๋น„์šฉ๊ณผ ์ˆ˜์ต์˜ ๋ณ€ํ™”์œจ ๋ถ„์„

์ตœ์ ํ™”

์ด์œค ๊ทน๋Œ€ํ™”, ๋น„์šฉ ์ตœ์†Œํ™”

๋ฆฌ์Šคํฌ ๊ด€๋ฆฌ

ํฌํŠธํด๋ฆฌ์˜ค ๋ฏผ๊ฐ๋„ ๋ถ„์„

ํ•™์Šต ๊ฐ€์ด๋“œ์™€ ํŒ

์ดˆ๋ณด์ž๋ฅผ ์œ„ํ•œ ํ•™์Šต ์ˆœ์„œ

  1. 1. ๊ทนํ•œ์˜ ๊ฐœ๋…๊ณผ ์—ฐ์†์„ฑ ์ดํ•ด
  2. 2. ๊ธฐ๋ณธ ๋ฏธ๋ถ„ ๊ณต์‹ ์•”๊ธฐ (๊ฑฐ๋“ญ์ œ๊ณฑ, ์ง€์ˆ˜, ๋กœ๊ทธ, ์‚ผ๊ฐํ•จ์ˆ˜)
  3. 3. ์—ฐ์‡„๋ฒ•์น™๊ณผ ๊ณฑ์˜ ๋ฒ•์น™ ์—ฐ์Šต
  4. 4. ์‹ค์ƒํ™œ ๋ฌธ์ œ์— ์ ์šฉํ•ด๋ณด๊ธฐ

ํ”ํ•œ ์‹ค์ˆ˜

  • โ€ข ์—ฐ์‡„๋ฒ•์น™ ์ ์šฉ ๋ˆ„๋ฝ
  • โ€ข ์ƒ์ˆ˜ํ•ญ ๋ฏธ๋ถ„ ์‹œ 0์ด ๋˜๋Š” ๊ฒƒ ๋ง๊ฐ
  • โ€ข ๊ณฑ์˜ ๋ฒ•์น™๊ณผ ๋ชซ์˜ ๋ฒ•์น™ ํ˜ผ๋™

ํ•™์Šต ๋„๊ตฌ

  • โ€ข ๊ทธ๋ž˜ํ”„ ๊ทธ๋ฆฌ๊ธฐ๋กœ ์‹œ๊ฐ์  ์ดํ•ด
  • โ€ข ๋ฌผ๋ฆฌ์  ์˜๋ฏธ ์—ฐ๊ฒฐํ•˜๊ธฐ
  • โ€ข ๋‹จ๊ณ„๋ณ„ ๊ณ„์‚ฐ ์—ฐ์Šต