์ฐ๋ฆฌ๊ฐ ๋ฌด์ธ๊ฐ๋ฅผ ๋ฐฐ์ธ ๋ ๋ ๊ฐ์ง ๋ฐฉ์์ด ์์ด์. ํ๋๋ ์์ ๊ฑฐ ํ๊ธฐ์ฒ๋ผ ๋ฐ๋ณตํ๋ฉด์ ๊ฐ์ ์ตํ๋ ๋ฐฉ์์ด์์. ๋ชธ์ผ๋ก ์ตํ๊ณ , ์๊ฐ์ด ์ข ๊ฑธ๋ฆฌ์ง๋ง ํ๋ฒ ๋ฐฐ์ฐ๋ฉด ์ฝ๊ฒ ์ ์์ด๋ฒ๋ฆฌ์ฃ . ๋ ํ๋๋ ์ฒ์ ๊ท์น์ ๊ธ๋ฐฉ ํ์
ํด์ โ์~ ์ด๋ ๊ฒ ํ๋ฉด ๋๋ ๊ฑฐ๊ตฌ๋!โ ํ๊ณ ๋จ๋ฒ์ ์ดํดํ๋ ๋ฐฉ์์ด์์.
์ฌ์ค ์ด๋ฐ ๋ ๊ฐ์ง ํ์ต ๋ฐฉ์์ ์ธ๊ณต์ง๋ฅ์๋ ์ ์ฉ๋ผ์. ์ด๋ฒ ์ฐ๊ตฌ์์ ์ด๋ฅผ ๊ฐ๊ฐ IWL(in-weight learning)๊ณผ ICL(in-context learning)์ด๋ผ๊ณ ๋ถ๋ฌ์. IWL์ ๋๋ฆฌ์ง๋ง ํ์คํ๊ฒ ๋ฐฐ์ฐ๋ ๋ฐฉ์์ด๊ณ , ICL์ ๋น ๋ฅด๊ฒ ๋์น์ฑ๊ณ ์์ฉํ๋ ๋ฐฉ์์ด์์. GPT ๊ฐ์ ์ธ์ด๋ชจ๋ธ์ด ๋ฐ๋ก ์ด ICL์ ์ํ์ฃ .
IWL์ ์์ ์ ์ผ๋ก ์ค๋ ๊ธฐ์ตํ์ง๋ง, ์๋ก์ด ๊ฑธ ๋น ๋ฅด๊ฒ ๋ฐฐ์ฐ์ง ๋ชปํด์. ๋ฐ๋ฉด ICL์ ์์๊ฐ์ ๋ฐฐ์ธ ์ ์์ง๋ง ๊ธฐ์ต์๋ ์ ์ ๋จ์์. ์ฐ๋ฆฌ ๋๋ก ๋ฐ์ง๋ฉด ์ ์๋ ๊น์ด ๋ฐํ๋ โ์ฅ๊ธฐ ๊ธฐ์ตโ์ ๊ฐ๊น๊ณ , ํ์๋ ์๊ฐ์ ์ผ๋ก ํ์ฉํ๋ โ์์
๊ธฐ์ตโ ๊ฐ์์.
๊ทธ๋ฐ๋ฐ ์ด ์ฐ๊ตฌ๊ฐ ์ ๋ง ํฅ๋ฏธ๋ก์ด ๊ฑด, ํ ์ธ๊ณต์ง๋ฅ ๋ชจ๋ธ ์์ ์ด ๋ ๊ฐ์ง ํ์ต ๋ฐฉ์์ ๋์์ ์ ์ฉํด๋ดค๋ค๋ ๊ฑฐ์์. ์ฌ๋์ฒ๋ผ์. ๊ทธ๋ฌ๋๋ ์ฌ๋ฏธ์๋ ์ผ์ด ๋ฒ์ด์ก์ด์. ๊ท์น์ด ๋๋ ทํ ๊ณผ์ ์์๋ ICL์ด ๋ ๋น๋ฌ๊ณ , ๊ท์น ์์ด ๋ณต์กํ ๊ณผ์ ์์๋ IWL์ด ๋ ์ ์๋ํ์ด์. ์ํฉ์ ๋ฐ๋ผ ์๋ก ๋ณด์ํ๋ฏ ์๋ํ ๊ฑฐ์ฃ .
๋ํ ์๋ก์ด ์ ๋ณด๋ฅผ ๋นจ๋ฆฌ ์ตํ๋ ์ค๋ ๊ธฐ์ตํ๊ธด ์ด๋ ค์ด ICL, ๋๋ฆฌ์ง๋ง ์์ ์ ์ผ๋ก ์์ด๋ IWLโ์ด ๋ ์์คํ
์ด ํ๋์ AI ๋ชจ๋ธ ์์์ ๊ท ํ ์๊ฒ ๊ตด๋ฌ๊ฐ ๋, ๊ฒฐ๊ณผ์ ์ผ๋ก ํจ์ฌ ์ ์ฐํ๊ณ ๊ฐ๋ ฅํ ํ์ต์ด ๊ฐ๋ฅํด์ก์ด์. ์ฌ๋์ ๋๊ฐ ๋ฏ์ ๋ฌธ์ ๋ ์ฒ์ฒํ, ์ต์ํ ๋ฌธ์ ๋ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํ๋ ๊ฒ์ฒ๋ผ์. ๊ฒฐ๊ตญ ์ด ์ฐ๊ตฌ๋ ์ฐ๋ฆฌํํ
์ค์ํ ์์ฌ์ ์ ๋์ ธ์ค์.
์ธ๊ณต์ง๋ฅ๋ ์ฌ๋์ฒ๋ผ ๋ ๊ฐ์ง ํ์ต ์์คํ
์ ์ค๊ฐ๋ฉฐ ๋ฐฐ์ธ ์ ์๊ณ , ์ด๊ฑธ ์ ์กฐํฉํ๋ฉด ๊ธฐ์ต๋ ฅ๊ณผ ์ ์ฐ์ฑ์ด๋ผ๋ ๋ ๋ง๋ฆฌ ํ ๋ผ๋ฅผ ๋์์ ์ก์ ์ ์๋ค๋ ๊ฑฐ์ฃ .