์ฐจ์ธ๋ AI ํ์
re:Invent์์ ๊ท๋ชจ์ ์๊ด์์ด ์ด๋ค ํ์ฌ๋ ์์ฑํ AI๋ฅผ ๋๊ท๋ชจ๋ก ์ฝ๊ฒ ๋์ ํ ์ ์๋๋ก ์๋ก์ด ์ ํ ๋ฐ ๊ธฐ๋ฅ์ ์ถ์ํ์ต๋๋ค.
Amazon Nova ์๊ฐ
Amazon Nova๋ ์ต๊ณ ์ ์ธํ
๋ฆฌ์ ์ค์ ์
๊ณ๋ฅผ ์ฃผ๋ํ๋ ๊ฐ๊ฒฉ ๋๋น ์ฑ๋ฅ์ ๊ฐ์ถ ์ฐจ์ธ๋ ์ต์ฒจ๋จ ํ์ด๋ฐ์ด์
๋ชจ๋ธ์
๋๋ค.
Amazon Nova ํ์ด๋ฐ์ด์
๋ชจ๋ธ์๋ ๋ค์์ด ํฌํจ๋ฉ๋๋ค.
- Amazon Nova Micro: ๋งค์ฐ ์ ๋ ดํ ๋น์ฉ์ผ๋ก ์๋ต ์ง์ฐ ์๊ฐ์ด ๊ฐ์ฅ ์ ์ ํ ์คํธ ์ ์ฉ ๋ชจ๋ธ
- Amazon Nova Lite: ์ด๋ฏธ์ง, ๋์์ ๋ฐ ํ ์คํธ ์ ๋ ฅ์ ๋งค์ฐ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํ ์ ์๋ ๋งค์ฐ ์ ๋ ดํ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ
- Amazon Nova Pro: ์ ํ์ฑ, ์๋ ๋ฐ ๋น์ฉ์ด๋ผ๋ ์ต์์ ์กฐํฉ์ ๊ฐ์ถ ๊ณ ์ฑ๋ฅ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ
- Amazon Nova Canvas: ์ต์ฒจ๋จ ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ
- Amazon Nova Reel: ์ต์ฒจ๋จ ๋์์ ์์ฑ ๋ชจ๋ธ
Amazon Nova ๋ชจ๋ธ ์ดํด๋ณด๊ธฐ
์ด ์ด๋ฏธ์ง๋ โํ๋ณตํ ์ฝ๊ธฐ ๊ฐ์์ง์ ๋ชจ์ตโ์ด๋ผ๋ ํ๋กฌํํธ๋ก Amazon Nova Canvas๋ฅผ ์ฌ์ฉํ์ฌ ์์ฑ๋์์ต๋๋ค.
์กฐ์ง ์ ๋ฐ์ ์ ๋ฌด ์ํ ๋ฐฉ์ ํ์
Amazon Q๋ ์ํํธ์จ์ด ๊ฐ๋ฐ์ ๊ฐ์ํํ๊ณ ํ์ฌ์ ๋ด๋ถ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ ์ ์๋ ์์ฑํ AI ๊ธฐ๋ฐ ๋์ฐ๋ฏธ์ ๋๋ค. ์ด๋ฅผ ํตํด ์กฐ์ง์ ๋๊ตฌ๋ ์ฝ๊ฒ ์์ฑํ AI๋ฅผ ์์ ํ๊ฒ ํ์ฉํ ์ ์์ต๋๋ค.
์๋ก์ด ๊ธฐ๋ฅ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
- ํ ์คํธ๋ฅผ ์๋ํํ๊ณ , ๋ฌธ์๋ฅผ ์์ฑ ๋ฐ ์ ์ง ๊ด๋ฆฌํ๊ณ , ์ฝ๋ ๊ฒํ ๋ฅผ ์๋ํํ๋ Amazon Q Developer ์์ด์ ํธ๋ฅผ ์ฌ์ฉํ์ฌ ๋ ๋น ๋ฅด๊ฒ ๋น๋ ๋ฐ ๋ฐฐํฌํ ์ ์์ต๋๋ค.
- Java, Windows .NET, VMware ๋ฐ Mainframe ์ ๋ฐ์์ ๋๊ท๋ชจ ๋ง์ด๊ทธ๋ ์ด์ ๋ฐ ํ๋ํ ํ๋ก์ ํธ ํ์
- ๋๋ฆฌ ์ฌ์ฉ๋๋ ์น ๋ธ๋ผ์ฐ์ ์ ์์ฐ์ฑ ๋๊ตฌ๋ฅผ ์ํด ๋ฐฐํฌ๊ฐ ๊ฐํธํ ํ์ฅ ๊ธฐ๋ฅ์ ์ฌ์ฉํ์ฌ ํ์ฌ ์ ํ๋ฆฌ์ผ์ด์ ๋ด์์ Amazon Q ๋์ฐ๋ฏธ๋ฅผ ์ํํ๊ฒ ์ด์ฉํ ์ ์์ต๋๋ค.
- ์ผ๋ฐ์ ์ผ๋ก ์ฌ์ฉ๋๋ 40๊ฐ ์ด์์ ๋น์ฆ๋์ค ๋๊ตฌ ์ฐ๊ฒฐ๋ก ์ ํ ๋ฐ ๋น์ ํ ๋ฐ์ดํฐ ์์ค ํตํฉ
- ์ต์ข ๊ณ ๊ฐ์๊ฒ ์ฌ์ธต์ ์ธ ๋ํํ์ ๊ฐ์ธํ๋ ์ง๋ฅํ ์ ํ ์๋น์ค ์ง์ ์ ๊ณต
์ฌ์ฉ ์ฌ๋ก์ ๋ง๊ฒ ์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์ ์ ์ฝ๊ฒ ๋น๋ํ๊ณ ํ์ฅ
Amazon Bedrock์ ์์ ๊ด๋ฆฌํ ์๋น์ค๋ก, ๊ธฐ๋ณธ ์ธํ๋ผ๋ฅผ ๊ด๋ฆฌํ ํ์ ์์ด ์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์
์ ์์ ํ๊ณ ์ฑ
์ ์๊ฒ ๋น๋ํ ์ ์๋ ๊ธฐ๋ฅ๊ณผ ํจ๊ป ์ฃผ์ AI ํ์ฌ์์ ์ ๊ณตํ๋ ๊ณ ์ฑ๋ฅ ํ์ด๋ฐ์ด์
๋ชจ๋ธ(FM)์ ์ ๊ณตํฉ๋๋ค. ์ด๋ฅผ ํตํด FM์ ์ฝ๊ฒ ํ๊ฐํ๊ณ Knowledge Bases, Guardrails, Agents, Flows ๋ฑ์ ๊ณ ๊ธ ์ฌ์ฉ์ ์ง์ ๊ธฐ๋ฅ์ ์ฌ์ฉํ ์ ์์ต๋๋ค.
์๋ก์ด ๊ธฐ๋ฅ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
- Amazon Bedrock Marketplace์์ 100๊ฐ ์ด์์ ์์ฒด ๊ด๋ฆฌ ๋ชจ๋ธ ์ด์ฉ
- ๋์์ ์์ฑ์ ์ํ ํน์ ๋ชจ๋ธ
- ๋น์ฉ ํจ์จ์ ์ธ ์์ ๋ณ ์ถ๋ก ์ ์ํ ๋ชจ๋ธ ์ฆ๋ฅ
- ๋น์ฉ ์ต์ ํ๋ ์์ฑํ AI ์ฑ์ ์ํ ๋ผ์ฐํ ๋ฐ ์บ์ฑ
- ๋ฌธ์ ํด๊ฒฐ ํฅ์์ ์ํด ๋ค์ค ์์ด์ ํธ ํ์
- Amazon SageMaker Unified Studio์ Bedrock IDE๋ฅผ ์ฌ์ฉํ์ฌ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ฐ๋ฐํ๊ณ ์ฌ์ฉ์ ์ง์ ํฉ๋๋ค.
AI ๋ฐ ML ๋ชจ๋ธ์ ๋น๋ ๋ฐ ์ฌ์ฉ์ ์ง์ ํ๊ธฐ ์ํ ์ธํ๋ผ
๋ฅ ๋ฌ๋ ๋ฐ ์์ฑํ AI๋ฅผ ์ํ ์ต๊ณ ์ฑ๋ฅ์ ์ธ์คํด์ค์ธ AWS Trainium2 ๊ธฐ๋ฐ Amazon EC2 Trn2 ์ธ์คํด์ค๋ ์ฐจ์ธ๋์ ๊ฐ๋ ฅํ EC2 ์ธ์คํด์ค๋ณด๋ค ์ ๋ ดํ ๊ฐ๊ฒฉ์ผ๋ก ์ต๋ 30% ๋ ๋ง์ ์ปดํจํ ๋ฐ ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ๋ฅผ ์ ๊ณตํฉ๋๋ค. ๋จ์ผ ์ธ์คํด์ค๊ฐ ์ ๊ณตํ ์ ์๋ ๊ฒ๋ณด๋ค ๋ ๋ง์ ์ปดํจํ ๋ฐ ๋ฉ๋ชจ๋ฆฌ๊ฐ ํ์ํ ๊ฐ์ฅ ๊น๋ค๋ก์ด ์ต์ ๋ชจ๋ธ์ ๊ฒฝ์ฐ Amazon EC2 Trn2 UltraServers๊ฐ AWS์์ ๊ฐ์ฅ ๋น ๋ฅธ ํ๋ จ ๋ฐ ์ถ๋ก ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค. Amazon EC2 Trn2 ์ธ์คํด์ค ์ดํด๋ณด๊ธฐ
์ธ ๊ฐ์ง ์๋ก์ด Amazon SageMaker HyperPod์ ํ์ ๋๋ถ์ ๊ณ ๊ฐ์ ์ค๋๋ ๊ฐ์ฅ ๋๋ฆฌ ์ฌ์ฉ๋๋ฉฐ ๊ณต๊ฐ์ ์ผ๋ก ์ฌ์ฉ ๊ฐ๋ฅํ ๋ชจ๋ธ ์ค ์ผ๋ถ์ ํ๋ จ์ ์ ์ํ๊ฒ ์์ํ๊ณ , ์ ์ฐํ ํ๋ จ ๊ณํ์ ํตํด ๋ชจ๋ธ ํ๋ จ ์๊ฐ์ ๋ช ์ฃผ ๋จ์ถํ๊ณ , ์ปดํจํ ๋ฆฌ์์ค ํ์ฉ๋๋ฅผ ๊ทน๋ํํ์ฌ ๋น์ฉ์ ์ต๋ 40% ์ ๊ฐํ ์ ์์ต๋๋ค.
SageMaker AI ๊ณ ๊ฐ์ ์ด์ Comet, Deepcheck, Fiddler AI, Lakera ๋ฑ์ AWS ํํธ๋์ ์์ ๊ด๋ฆฌํ ์์ฑํ AI ๋ฐ ML ๊ฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ SageMaker Studio์์ ์ง์ ์ฝ๊ณ ์์ ํ๊ฒ ๊ฒ์, ๋ฐฐํฌ ๋ฐ ์ฌ์ฉํ ์ ์์ผ๋ฏ๋ก ์์ ์๊ฒ ๊ฐ์ฅ ์ ํฉํ ๋๊ตฌ๋ฅผ ์ ์ฐํ๊ฒ ์ ํํ ์ ์์ต๋๋ค.
AI์ ๋ํ ์ ๋ขฐ ์ฆ์ง
Amazon์ AI๋ฅผ ์ฑ ์ ์๊ฒ ๋น๋ํ๊ณ ์ฌ์ฉํ์ฌ ์ ๋ขฐ๋ฅผ ์ฆ์งํ๊ณ ๊ณ ๊ฐ์๊ฒ ์ฅ๊ธฐ์ ์ธ ๊ฐ์น๋ฅผ ์ ๊ณตํ๊ธฐ ์ํด ์ค๋ซ๋์ ๋ ธ๋ ฅํด ์์ต๋๋ค. AWS๋ ๊ต์ก, ๊ณผํ, ๊ณ ๊ฐ์ ์ฐ์ ์ํ๋ ์ฌ๋ ์ค์ฌ ์ ๊ทผ ๋ฐฉ์์ผ๋ก ์ฑ ์ ์๋ AI ํ์ ์ ์ฐ์ ์ ์ธ ๊ฐ์น๋ฅผ ๋๋ฏ๋ก ์๋ ํฌ ์๋ AI ์๋ช ์ฃผ๊ธฐ ์ ๋ฐ์ ๊ฑธ์ณ ์ฑ ์ ์๋ AI๋ฅผ ํตํฉํฉ๋๋ค.
์๋ก์ด ๋๊ตฌ ๋ฐ ๋ฆฌ์์ค
- ํต์ฌ AI ์๋น์ค์ ๋ํ ISO 42001 ๊ณต์ธ ์ธ์ฆ
- Amazon Bedrock Guardrails์ ์๋ ์ถ๋ก ๊ฒ์ฌ๋ฅผ ์ฌ์ฉํ์ฌ ์ํ๋๊ฐ ๋์ ์ฌ์ฉ ์ฌ๋ก๋ฅผ ์ํด ์ ๋ขฐํ ์ ์๋ ์ ํ๋ฆฌ์ผ์ด์ ๋น๋
- LLM-as-a-Judge ๊ธฐ๋ฅ์ ์ฌ์ฉํ์ฌ ์ฌ๋๊ณผ ์ ์ฌํ ํ์ง๋ก ์ฃผ์ ์์ ๋ฐ ์ ํ๋ ๊ธฐ์ค์ ๋ฐ๋ผ FM ๋ฐ RAG ์ ํ๋ฆฌ์ผ์ด์ ํ๊ฐ
- Amazon ๋ชจ๋ธ์ ํฌ๋ช ์ฑ์ ํฅ์์ํค๋ ์๋ก์ด AI ์๋น์ค ์นด๋
AWS ์๋ฃจ์ ์ดํด๋ณด๊ธฐ
AWS ์ ํ ์ดํด๋ณด๊ธฐ
๊ต์ก ๋ฐ ์๊ฒฉ์ฆ
๊ณ ๊ฐ ํ์ ์ง์
๋ค์ํ ์ ์ข ์ ๊ณ ๊ฐ์ด ์ง์ ์์ฐ์ฑ์ ๋์ด๊ณ ํ์ํ ๊ณ ๊ฐ ๊ฒฝํ์ ์ ๊ณตํ๊ณ ๋น์ฆ๋์ค ํ๋ก์ธ์ค๋ฅผ ๊ฐ์ํํ๋ ๋ฐฉ๋ฒ์ ์์๋ณด์ธ์.

