AIs understand any data in numeric form.And this truth answers the title's question, "It understands them as numeric form". Then, how are they changed into numbers?You must wonder about the rule. The method is 'embedding'.There are several embedding ways. I will deal with basic methods to recent methods including graphical ways. Traditional embedding wayThere are several methods for text embeddi..
๐ค ์ธ๊ณต์ง๋ฅ
LLMs are constructed with a number of parameters. And each of them has certain role for each part of output. Anthropic, who made Claude, published a research about control LLMs by manipulating its paramrters 1. How LLMs learn? 2. The link between parameters and the output. 3. What they developed, the Golden Bridge bot. 4. Applying for AI safety 5. Further research suggestion, similarity with hum..
ํ์ ์ดํ์ ์ ๋์ฐฉ ์์ ์๊ฐ(ETA)์ ์ค์ํ ์ ๋ณด์ด๋ค. ETA ์ ๋ณด๋ ํนํ ์นด์นด์ค ํ์ ๋ฐฐ์ฐจ ์๊ณ ๋ฆฌ์ฆ์์๋ ์ฃผ์ ์ ๋ณด๋ก ์ฌ์ฉ๋๋ฉฐ, ETA score๊ฐ ๋ฎ์(๊ณ ๊ฐ์๊ฒ ๊ฐ์ฅ ๋น ๋ฅด๊ฒ ๋๋ฌํ ์ ์๋) ๊ธฐ์ฌ์๊ฒ ์ฐ์ ๋ฐฐ์ฐจ๋๋ค. ํฌ๊ฒ ๊ฒฝ๋ก ์ค์ , ๊ทธ๋ฆฌ๊ณ ํด๋น ๊ฒฝ๋ก์ ํด๋นํ๋ ์์ ์๊ฐ์ ๊ณ์ฐํ๋ ๊ณผ์ ์ผ๋ก ๋ชจ๋ธ์ด ๊ตฌ์ฑ๋๋ฉฐ, ETA๋ ์ค์๊ฐ ์์ธก์ด ํ์ํ ํ์คํฌ๋ก, latency ์ต์ ํ๋ ๋ชจ๋ธ ์ค๊ณ์ ์ค์ํ๊ฒ ๊ณ ๋ ค๋์ด์ผ ํ๋ค. ๊ฐ ๊ตฌ์ญ ๋ณ๋ก, ์์นจ, ์ ์ฌ, ์ ๋
๊ณผ ๊ฐ์ ์๊ฐ๋์ ๋ฐ๋ฅธ ๊ฑฐ๋ฆฌ ๋น time duration ๊ฐ์ batch ํ์ต์ผ๋ก ์ฃผ๊ธฐ์ ์ผ๋ก ์
๋ฐ์ดํธ๋์ด ์ ์ฅํ๋ ๊ฒ์ ์ ์ํ๋ค. ๊ฐ ๊ตฌ์ญ ๋ณ๋ก ๊ฑฐ๋ฆฌ ๋น ์ด๋ ์๊ฐ์ด ์ ์๋๋ฏ๋ก, ์ค์ ETA ์์ธก์์๋ ์ด๋ ๊ฒฝ๋ก ๋ด ์กด์ฌํ๋ ์ก๊ฐํ ๊ตฌ์ญ N๊ฐ์ ๋ํด, O..
๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ์ฌ์ฉํ์ฌ ์ฌ๋ฏธ์๋ ์ดํ๋ฆฌ์ผ์ด์
์ ์ ์ํ๋ ค๊ณ ํ๋ค. ๋ฌธ๋ ๋ ์ค๋ฅธ ์์ด๋์ด์ธ๋ฐ, ํ๋ก์ ํธ ์์
์์ ์ด ์์ด๋์ด๋ฅผ ์ฃผ์ ๋ก ํ์ ๋ง๋ค๊ฒ ๋์๋ค. ๊ธฐํํ ์ดํ๋ฆฌ์ผ์ด์
์ ๋ชจ๋ธ์ด ์ค๋๋ ฅ ์๋ ๋ต๋ณ์ ๋ด๋ ๊ฒ์ด ์ค์ํ์ฌ, ML-intensive application๋ผ๊ณ ํ ์ ์๋ค. ์๋ ๋งํฌ๋ก ์ฒจ๋ถํ Andrew Ng์ ์์์ฒ๋ผ, ML์์ data์ model(code)์ ๋น์ค์ ๋๋ฑํด์ง๊ฑฐ๋ data๊ฐ ๋ ์ค์ํ๊ฒ ๋ค๋ฃจ์ด์ง๊ธฐ ๋๋ฌธ์ ๋ฐ์ดํฐ๋ฅผ ์ฒด๊ณ์ ์ผ๋ก ๊ด๋ฆฌํ๊ณ ์ถ์๋ค. https://www.youtube.com/watch?v=TU6u_T-s68Y ํนํ, 1. ๋ฐ์ดํฐ ์์ง๋์ด๋ง, ๋ชจ๋ธ๋ง์ ๋งก์ ํ์๋ค์ด ๋์ผํ ๋ฐ์ดํฐ๋ฅผ ๋ค๋ฃจ๋ฉด ์ข๊ฒ ๋ค. 2. git์ผ๋ก code versioning์ ํ๋ฏ, data๋ ๋ณํ..
๊ฒฐ์ธก์น: ์ธก์ ๋์ง ์์ ์์น, ๋ฌด์ธ๊ฐ์ ์ด์ ๋ก ์ธํด ์ธก์ /๊ธฐ๋ก๋์ง ์์ ์์น๋ฅผ ๋งํ๋ค. ๋ณธ ํฌ์คํ
์์๋ ์ธ๊ณต์ง๋ฅ ํ์ต ๋ฐ์ดํฐ์
์ ๊ฒฐ์ธก์น๋ฅผ ๋ค๋ฃจ๊ณ ์ ํ๋ค. ์ผ๋ฐ์ ์ผ๋ก ๊ฒฐ์ธก์น๋ np.nan ์ผ๋ก ํ๊ธฐ๋๋ค. np.nan์ด ์ด๋ง๋ค ์ผ๋ง๋ ํ์ธํ๊ธฐ ์ํด์ df.info()๋ฅผ ์ฌ์ฉํ๋ฉฐ, ๊ฒฐ๊ณผ ์์๋ ๋ค์๊ณผ ๊ฐ๋ค. ์๋จ์ ํ๋ฅผ ๋ณด๋ฉด, 18๋ฒ์งธ ์ด์ธ "TotalCharges"์ 11๊ฐ์ null ๊ฐ์ด ์๋ค๋ ๊ฒ์ ํ์ธํ ์ ์๋ค. ๊ทธ๋ฐ๋ฐ, ์ด๊ฒ ๊ฒฐ์ธก์น์ ์ ๋ถ์ผ๊น? ๐ 1. number ๊ฒฐ์ธก์น ์ฐพ์๋ด๊ธฐ ์ฒซ ๋ฒ์งธ๋ก, df.describe()์ ์คํํ๋ค. ์ด ํจ์๋ ์ซ์ ๊ณ์ด์ ๋ฐ์ดํฐ๋ค์ ํ๊ท , ํธ์ฐจ, ์ค์๊ฐ ๋ฑ์ ์๋ ค์ฃผ๋๋ฐ EDA(Exploraatory Data Analysis)์ ์ธ ๊ด์ ์ด ํ์ํ๋ค. tenure๋ ํต์ ์ฌ..
Key-note๋ฅผ ๋ฃ๊ณ ๋ค์ ํ์ ์ง๋ฅผ ์ ํ๋ค. [์ด์ ์ด์ผ๊ธฐ: ๋ฐํ ์ธ๋ฏธ๋-1] [2023 ๋ชจ๋์ฝ ํ๊ธฐ] ์ฌํด๋ ์ค๋ง์ํค์ง ์์๋ค, ์ต๊ณ ์ ์ธ๊ณต์ง๋ฅ ์ปจํผ๋ฐ์ค๐ (๋ฐํ ์ธ๋ฏธ๋-1) 2023๋
12์ 9์ผ ํ ์์ผ, ๋ชจ๋์์ฐ๊ตฌ์์์ ์ฃผ์ตํ๋ ๋ชจ๋์ฝ์ ๋ค๋
์๋ค. Share Value, Grow Together ๋๊ตฌ๋ ํจ๊ป ์ง์์ ๊ณต์ ํ๊ณ ์ฑ์ฅํ๋ ์ฐ๊ตฌ ๋ฌธํ๋ฅผ ์ ํํฉ๋๋ค. ๋ชจ๋์ ์ฐ๊ตฌ์๋ ์์ ๊ฐ์ ๋ชจํ ๋ฅผ inseon.tistory.com [MODULABS] ์ด๋๋ ์ฐ๊ตฌ์ค์ ์ฐจ๋ ค๋ฒ๋ ธ๋ค. ์๋ ์นด์นด์ค๋ธ๋ ์ธ์ ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ์ธ Karlo ๊ฐ๋ฐ๊ธฐ๋ฅผ ๋ค์ผ๋ ค๋ค๊ฐ, ์ด๋๋ ์ฐ๊ตฌ์ค์ ์ฐจ๋ ค๋ฒ๋ ธ๋ค๊ฐ ๋ฐํ ์ฅ์๊ฐ ๊ฐ๊น๊ธฐ๋ ํ๊ณ , ์นด์นด์ค๋ธ๋ ์ธ ๋ฐํ ๋ผ์ด๋ธ๊ฐ ํ์ ๊ณต๊ฐ๋์ง ์์๊น๋ผ๊ณ ์๊ฐํ๊ณ ์ด ๋ฐํ๋ฅผ ๋ค์๋ค. (์์ง Key-not..
2023๋
12์ 9์ผ ํ ์์ผ, ๋ชจ๋์์ฐ๊ตฌ์์์ ์ฃผ์ตํ๋ ๋ชจ๋์ฝ์ ๋ค๋
์๋ค. Share Value, Grow Together ๋๊ตฌ๋ ํจ๊ป ์ง์์ ๊ณต์ ํ๊ณ ์ฑ์ฅํ๋ ์ฐ๊ตฌ ๋ฌธํ๋ฅผ ์ ํํฉ๋๋ค. ๋ชจ๋์ ์ฐ๊ตฌ์๋ ์์ ๊ฐ์ ๋ชจํ ๋ฅผ ๊ฐ์ง๊ณ ์๋๋ฐ, ์ด๋ฐ ์ปจํผ๋ฐ์ค๊ฐ ์๋๋ฉด ์ธ๊ณต์ง๋ฅ ํ๊ณ, ์ฐ์
๊ณ์ ์๋ ๋ถ๋ค๊ณผ ์ด์ผ๊ธฐํ ์ ์๋ ๊ธฐํ๊ฐ ๋ง์ง๋ ์์ ๋น์๋๊ถ ๋ํ ์ฌํ์์ผ๋ก์, ์ง์ฐ, ํ์ฐ, ํ์ฐ์ด ์๋๋ผ ๋ชจ๋์ฐ์ด๋ผ๊ณ ํ ๋งํผ, ๋๊ตฌ๋์๊ฒ ์ฐธ๊ฐ ๊ธฐํ๋ฅผ ์ฃผ๋ LAB, ํ์์ค์ฟจ, ๊ทธ๋ฆฌ๊ณ ์๋
๋ถํฐ ์ฐธ๊ฐํ ๋ชจ๋์ฝ์ ํฌํจํ ๋ชจ๋์ฐ์ ํ๋ก๊ทธ๋จ๋ค์ ์ ์๊ฒ ์ ๋ง ์์คํ๋ค๊ณ ํ ์ ์๋ค! ๋ํ, ์ธ๊ณต์ง๋ฅ ์ค ํ๋์ ์ฃผ์ ๋ง ๋ค๋ฃจ๋ ๊ฒ์ด ์๋๋ผ text, image, 3D, video, robotics ๋์๊ฐ AI+X, AI ์คํฐ๋, AI..
์๊ฐ ๊ณ๊ธฐ ๐ซ ์ต๊ทผ ์ค์ค๋ก ๋๋์๋ณด์์ ๋, ๋
ผ๋ฌธ ์ดํดํ๊ธฐ / ์ธ๊ณต์ง๋ฅ ์ํ์ ์๋ฆฌ ์ดํดํ๊ธฐ / ์ฝ๋ ๋น ๋ฅด๊ฒ ์ตํ์ ์ฌ์ฉํ๊ธฐ ์ด๋ฐ ๋ฅ๋ ฅ์ ๊ธฐ๋ฅธ ๋ฐ๋ฉด, ์ธ๊ณต์ง๋ฅ์ ๊ธฐ์ด๊ฐ ๋ถ์กฑํ๋ค๋ ์๊ฐ์ด ๋ง์ด ๋ค์๋ค. ํญ์๋ฆฌ๋ฅผ ํฌ๊ณ ๋ฉ์ง๊ฒ ๋ง๋ค๋๋ผ๋, ์๋์ ์์ ๊ตฌ๋ฉ ํ๋๊ฐ ์์ผ๋ฉด ๋ฌผ์ด ์๋ฏ์ด ๊ธฐ์ด์ ๋ํ ๋ถ์กฑํจ์ ๋ง์ด ๋๊ผ๋ค. ์ด๋ฅผ ๋ณด์ํ๊ธฐ ์ํด Kaggle์ competition, learning์ ํตํด ์ง์์ ์ผ๋ก ๊ณต๋ถํ๊ธฐ๋ก ๋ง์ ๋จน์๋ค. Kaggle ๊ฐ์ ํ๊ธฐ ๐ ์์ ๊ฐ์ด ํ์ต ์ฝ์ค๋ ์ค๋ช
๋ถ๋ถ์ธ Tutorial๊ณผ ์ค์ต ๋ถ๋ถ์ธ Exercise๋ก ๊ตฌ์ฑ๋์ด ์๋๋ฐ, ํ์ต ์ฝ์ค์ ์ฃผ์ ๋ฅผ ์ค๋ช
ํ๊ธฐ ์ํ ์คํ ๋ฆฌํ
๋ง์ด ์ ๊ฐ์ถ์ด์ ธ ์์ด ์ดํดํ๊ธฐ์ ์ข์๊ณ ๋ค๋ฅธ ์ฌ๋์๊ฒ ๋ฐฐ์ด ๊ฒ์ ์ค๋ช
ํ ๋์๋ ๋งค์ฐ ์ ์ฉํ ์์ด๋์ด๋ฅผ ๋ง์ด ๋ฐฐ..