์ƒˆ๋กœ์šด AWS ์ƒ์„ฑํ˜• AI ํ˜์‹  ๊ธฐ๋Šฅ

re:Invent 2024์—์„œ๋Š” ์ƒ์„ฑํ˜• AI๋ฅผ ๋Œ€๊ทœ๋ชจ๋กœ ์†์‰ฝ๊ฒŒ ๋„์ž…ํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•˜๋Š” ์ƒˆ๋กœ์šด ์ œํ’ˆ ๋ฐ ๊ธฐ๋Šฅ์„ ์ถœ์‹œํ–ˆ์Šต๋‹ˆ๋‹ค.

Amazon Nova ์†Œ๊ฐœ

์ƒˆ๋กœ์šด ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ(FM) ์ œํ’ˆ๊ตฐ์ธ Amazon Nova๋Š” ํ”„๋ก ํ‹ฐ์–ด ์ธํ…”๋ฆฌ์ „์Šค์™€ ์—…๊ณ„ ์ตœ๊ณ ์˜ ๊ฐ€๊ฒฉ ๋Œ€๋น„ ์„ฑ๋Šฅ ์ œ๊ณต:

  • Amazon Nova Micro: ์—…๊ณ„ ์ตœ์ € ์ˆ˜์ค€์˜ ์ง€์—ฐ ์‹œ๊ฐ„ ๋‚ด์— ์‘๋‹ต์„ ์ œ๊ณตํ•˜๋ฉฐ ๋น„์šฉ๋„ ๋งค์šฐ ์ €๋ ดํ•œ ํ…์ŠคํŠธ ์ „์šฉ ๋ชจ๋ธ
  • Amazon Nova Lite: ์ด๋ฏธ์ง€, ๋น„๋””์˜ค ๋ฐ ํ…์ŠคํŠธ ์ž…๋ ฅ์„ ๋งค์šฐ ๋น ๋ฅด๊ฒŒ ์ฒ˜๋ฆฌํ•˜๋ฉฐ ๋น„์šฉ๋„ ๋งค์šฐ ์ €๋ ดํ•œ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ๋ชจ๋ธ
  • Amazon Nova Pro: ์ •ํ™•์„ฑ, ์†๋„ ๋ฐ ๋น„์šฉ์ด๋ผ๋Š” ์ตœ์ƒ์˜ ์กฐํ•ฉ์„ ๊ฐ–์ถ˜ ๊ณ ์„ฑ๋Šฅ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ ๋ชจ๋ธ
  • Amazon Nova Canvas: ์ฒจ๋‹จ ์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ
  • Amazon Nova Reel: ์ฒจ๋‹จ ๋น„๋””์˜ค ์ƒ์„ฑ ๋ชจ๋ธ

์ด ์ด๋ฏธ์ง€๋Š” โ€˜ํ–‰๋ณตํ•œ ์ฝ”๊ธฐ ๊ฐ•์•„์ง€์˜ ๋ชจ์Šตโ€™์ด๋ผ๋Š” ํ”„๋กฌํ”„ํŠธ๋กœ Amazon Nova Canvas๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ƒ์„ฑ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

Amazon Nova ๋ชจ๋ธ ์‚ดํŽด๋ณด๊ธฐ

์ด ์ด๋ฏธ์ง€๋Š” โ€˜ํ–‰๋ณตํ•œ ์ฝ”๊ธฐ ๊ฐ•์•„์ง€์˜ ๋ชจ์Šตโ€™์ด๋ผ๋Š” ํ”„๋กฌํ”„ํŠธ๋กœ Amazon Nova Canvas๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์ƒ์„ฑ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

์กฐ์ง์˜ ์šด์˜ ๋ฐฉ์‹ ํ˜์‹ 

Amazon Q๋Š” ํ”„๋กœ์„ธ์Šค๋ฅผ ๊ฐ„์†Œํ™”ํ•˜๊ณ  ์˜์‚ฌ ๊ฒฐ์ •์„ ๊ฐœ์„ ํ•˜๋ฉฐ ์ƒ์‚ฐ์„ฑ์„ ๋†’์ด๋Š” ๋ฐ ๋„์›€์ด ๋˜๋Š” AWS์˜ ์ƒ์„ฑํ˜• AI ๊ธฐ๋ฐ˜ ๋„์šฐ๋ฏธ์ž…๋‹ˆ๋‹ค.

Amazon Q์— ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์—ฌ๋Ÿฌ ๊ฐ€์ง€ ์ƒˆ๋กœ์šด ๊ธฐ๋Šฅ์ด ์ถ”๊ฐ€๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

  • Amazon Q Developer ์—์ด์ „ํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋” ๋น ๋ฅด๊ฒŒ ๊ตฌ์ถ• ๋ฐ ๋ฐฐํฌ
  • ๋Œ€๊ทœ๋ชจ ๋งˆ์ด๊ทธ๋ ˆ์ด์…˜ ๋ฐ ํ˜„๋Œ€ํ™” ํ”„๋กœ์ ํŠธ ํ˜์‹ 
  • ๋ฐฐํฌ๊ฐ€ ๊ฐ„ํŽธํ•œ ํ™•์žฅ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜์—ฌ ์„œ๋“œ ํŒŒํ‹ฐ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์—์„œ Amazon Q ๋„์šฐ๋ฏธ์— ์•ก์„ธ์Šค
  • ์ •ํ˜• ๋ฐ ๋น„์ •ํ˜• ๋ฐ์ดํ„ฐ ์†Œ์Šค ํ†ตํ•ฉ
  • ๊ณ ๊ฐ์—๊ฒŒ ๋Œ€ํ™”ํ˜• ์…€ํ”„ ์„œ๋น„์Šค ์ง€์› ์ œ๊ณต

Amazon Q ์‚ดํŽด๋ณด๊ธฐ

์กฐ์ง์—์„œ AWS ์ƒ์„ฑํ˜• AI ๋„์šฐ๋ฏธ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ์‹์˜ ๋ณ€ํ™”

์ƒ์„ฑํ˜• AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ์†์‰ฝ๊ฒŒ ๊ตฌ์ถ•ํ•˜๊ณ  ๊ทœ๋ชจ๋ฅผ ์กฐ์ •

Amazon Bedrock์€ ์ฃผ์š” AI ๊ธฐ์—…์˜ ๊ณ ์„ฑ๋Šฅ FM ์˜ต์…˜์„ ํ‰๊ฐ€ํ•˜๊ณ  ์„ ํƒํ•˜๋Š” ๋ฐ ๋„์›€์„ ์ฃผ๋Š” ์™„์ „๊ด€๋ฆฌํ˜• ์„œ๋น„์Šค์ž…๋‹ˆ๋‹ค. ๊ธฐ๋ฐ˜ ์ธํ”„๋ผ๋ฅผ ๊ด€๋ฆฌํ•˜์ง€ ์•Š๊ณ ๋„ ์ƒ์„ฑํ˜• AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๊ตฌ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Amazon Bedrock์— ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์—ฌ๋Ÿฌ ๊ฐ€์ง€ ์ƒˆ๋กœ์šด ๊ธฐ๋Šฅ์ด ์ถ”๊ฐ€๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

  • Amazon Bedrock Marketplace์—์„œ 100๊ฐœ ์ด์ƒ์˜ ์ž์ฒด ๊ด€๋ฆฌ ๋ชจ๋ธ ์ด์šฉ
  • ๋™์˜์ƒ ์ƒ์„ฑ์„ ์œ„ํ•œ ํŠน์ˆ˜ ๋ชจ๋ธ
  • ๋น„์šฉ ํšจ์œจ์ ์ธ ์ž‘์—…๋ณ„ ์ถ”๋ก ์„ ์œ„ํ•œ ๋ชจ๋ธ ์ฆ๋ฅ˜
  • ๋น„์šฉ ์ตœ์ ํ™”๋œ ์ƒ์„ฑํ˜• AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ์œ„ํ•œ ํ”„๋กฌํ”„ํŠธ ๋ผ์šฐํŒ… ๋ฐ ์บ์‹ฑ
  • ๋ฌธ์ œ ํ•ด๊ฒฐ ํ–ฅ์ƒ์„ ์œ„ํ•ด ๋‹ค์ค‘ ์—์ด์ „ํŠธ ํ˜‘์—…
  • Amazon SageMaker Unified Studio์˜ Bedrock IDE๋ฅผ ์‚ฌ์šฉํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ฐœ๋ฐœ

Amazon Bedrock ์‚ดํŽด๋ณด๊ธฐ

์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ตฌ์ถ•

AI ๋ชจ๋ธ์„ ๊ตฌ์ถ•, ํ›ˆ๋ จ ๋ฐ ๋งž์ถคํ™”ํ•˜๊ธฐ ์œ„ํ•œ ์ธํ”„๋ผ

Amazon Elastic Compute Cloud(Amazon EC2) Trn2 ์ธ์Šคํ„ด์Šค๋Š” ์ƒ์„ฑํ˜• AI ํ›ˆ๋ จ ๋ฐ ์ถ”๋ก ์„ ์ง€์›ํ•˜๋Š” ๊ฐ€์žฅ ๊ฐ•๋ ฅํ•œ Amazon EC2 ์ธ์Šคํ„ด์Šค์ž…๋‹ˆ๋‹ค. AWS Trainium2 ์นฉ์œผ๋กœ ๊ตฌ๋™๋˜๋Š” Trn2 ์ธ์Šคํ„ด์Šค๋Š” ๊ธฐ์กด GPU ๊ธฐ๋ฐ˜ EC2 ์ธ์Šคํ„ด์Šค(P5e ๋ฐ P5en)๋ณด๋‹ค ์ตœ๋Œ€ 30~40% ๋” ๋›ฐ์–ด๋‚œ ๊ฐ€๊ฒฉ ๋Œ€๋น„ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค.

์„ธ ๊ฐ€์ง€ ์ƒˆ๋กœ์šด Amazon SageMaker HyperPod ํ˜์‹  ๊ธฐ์ˆ ์„ ์‚ฌ์šฉํ•˜๋ฉด ์˜ค๋Š˜๋‚  ๊ฐ€์žฅ ์ธ๊ธฐ ์žˆ๋Š” ๋ช‡ ๊ฐ€์ง€ ๋ชจ๋ธ์„ ํ›ˆ๋ จํ•˜๊ธฐ ์œ„ํ•œ ์ž์ฒด FM์„ ์†์‰ฝ๊ฒŒ ๊ตฌ์ถ•ํ•˜์—ฌ ํ›ˆ๋ จ ์‹œ๊ฐ„์„ ์ตœ๋Œ€ 40% ๋‹จ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด์ œ ์ž‘์—… ๊ฑฐ๋ฒ„๋„Œ์Šค์™€ ์œ ์—ฐํ•œ ํ›ˆ๋ จ ๊ณ„ํš์œผ๋กœ ์ปดํ“จํŒ… ๋ฆฌ์†Œ์Šค ํ• ๋‹น์„ ์™„๋ฒฝํ•˜๊ฒŒ ํŒŒ์•… ๋ฐ ์ œ์–ดํ•˜๊ณ , ์ปดํ“จํŒ… ๋ฆฌ์†Œ์Šค๋ฅผ ํšจ์œจ์ ์œผ๋กœ ์‚ฌ์šฉํ•˜์—ฌ ๋ชจ๋ธ ํ›ˆ๋ จ ์‹œ๊ฐ„์„ ๋‹จ์ถ•ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด์ œ Amazon SageMaker AI๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ Amazon SageMaker Studio์—์„œ AWS ํŒŒํŠธ๋„ˆ์˜ ์™„์ „๊ด€๋ฆฌํ˜• ์ƒ์„ฑํ˜• AI ๋ฐ ๊ธฐ๊ณ„ ํ•™์Šต(ML) ๊ฐœ๋ฐœ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๊ฒ€์ƒ‰, ๋ฐฐํฌ, ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ํ†ตํ•ฉ ๊ธฐ๋Šฅ์„ ํ†ตํ•ด ๊ณ ๊ฐ์€ ๊ฐ€์žฅ ์ ํ•ฉํ•œ ๋„๊ตฌ๋ฅผ ์„ ํƒํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๋ชจ๋ธ ์ธํ”„๋ผ

AI์— ๋Œ€ํ•œ ์‹ ๋ขฐ ์ฆ์ง„

Amazon์€ AI๋ฅผ ์ฑ…์ž„ ์žˆ๊ฒŒ ๊ตฌ์ถ•ํ•˜๊ณ  ์‚ฌ์šฉํ•˜์—ฌ ์‹ ๋ขฐ๋ฅผ ์ฆ์ง„ํ•˜๊ณ  ๊ณ ๊ฐ์—๊ฒŒ ์žฅ๊ธฐ์ ์ธ ๊ฐ€์น˜๋ฅผ ์ œ๊ณตํ•˜๊ธฐ ์œ„ํ•ด ์˜ค๋žซ๋™์•ˆ ๋…ธ๋ ฅํ•ด ์™”์Šต๋‹ˆ๋‹ค. Amazon์€ ์ฑ…์ž„ ์žˆ๋Š” AI ํ˜์‹ ์„ ์ตœ์šฐ์„ ์œผ๋กœ ํ•˜๋ฉฐ, ์ตœ๊ทผ ํ•ต์‹ฌ AI ์„œ๋น„์Šค์˜ ISO/IEC 42001 ์ธ์ฆ ์ทจ๋“ ์‚ฌ์‹ค์„ ๋ฐœํ‘œํ•œ ๋ฐ” ์žˆ์Šต๋‹ˆ๋‹ค.

์ƒˆ๋กœ์šด ์ฑ…์ž„ ์žˆ๋Š” AI ๊ธฐ๋Šฅ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

  • Amazon Bedrock Guardrails์˜ ์ž๋™ ์ถ”๋ก  ๊ฒ€์‚ฌ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ์œ„ํ—˜๋„๊ฐ€ ๋†’์€ ์‚ฌ์šฉ ์‚ฌ๋ก€๋ฅผ ์œ„ํ•ด ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ตฌ์ถ•
  • ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ ํŒ๋‹จ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•˜์—ฌ ์ฃผ์š” ์•ˆ์ „ ๋ฐ ์ •ํ™•๋„ ๊ธฐ์ค€์— ๋”ฐ๋ผ FM ๋ฐ RAG ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ํ‰๊ฐ€
  • Amazon ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ์„ ์œ„ํ•œ ์ƒˆ๋กœ์šด AI ์„œ๋น„์Šค ์นด๋“œ์— ์•ก์„ธ์Šค

์ƒˆ๋กœ์šด ์ฑ…์ž„ ์žˆ๋Š” AI ๊ธฐ๋Šฅ ์‚ดํŽด๋ณด๊ธฐ

์ฑ…์ž„ ์žˆ๋Š” AI

AWS ์†”๋ฃจ์…˜ ์‚ดํŽด๋ณด๊ธฐ

1 - 8 (27) ํ‘œ์‹œ

AWS ์ œํ’ˆ ์‚ดํŽด๋ณด๊ธฐ

1 - 8 (32) ํ‘œ์‹œ