실시간 뉴스



AWS, 아마존 베드록·세이지메이커에서 '딥시크 R1' 제공


"최대 95% 비용 절감 효과와 강화 학습 기법 적용"

[아이뉴스24 윤소진 기자] 아마존웹서비스(AWS)는 딥시크-R1(DeepSeek-R1) 모델을 아마존 베드록(Amazon Bedrock)과 아마존 세이지메이커 AI(Amazon SageMaker AI)에서 제공한다고 3일 밝혔다.

AWS 로고. [사진=윤소진 기자]
AWS 로고. [사진=윤소진 기자]

딥시크는 2024년 12월 딥시크-V3를 출시한 후, 지난달 20일 딥시크-R1, 딥시크-R1-제로, 딥시크-R1-디스틸 모델을 공개했다. 지난 27일에는 비전 기반 야누스-프로 7B(Janus-Pro 7B) 모델을 추가했다. 딥시크에 따르면, 해당 모델들은 기존 대비 90~95% 비용 절감 및 비용 효율성을 제공하며, 강화 학습 기법을 적용해 우수한 추론 능력을 갖췄다.

AWS는 고객들이 딥시크-R1모델을 다양한 방식으로 활용할 수 있도록 지원한다. 아마존 베드록에서는 API를 통해 사전 학습된 모델을 쉽게 통합할 수 있으며, 아마존 세이지메이커 AI를 통해 맞춤형 학습과 배포가 가능하다.

AWS는 "AI칩 트레이니움(AWS Trainium)과 AWS 인퍼런시아(AWS Inferentia)를 활용하면 딥시크-R1-디스틸 모델을 더욱 경제적으로 운영할 수 있다"고 강조했다. AWS는 보안성과 확장성을 강화하기 위해 아마존 베드록 가드레일을 활용할 것을 권장하며, 이를 통해 생성형 AI 애플리케이션의 입력 및 출력 데이터를 모니터링하고 유해 콘텐츠를 필터링할 수 있다.

딥시크-R1모델은 현재 AWS에서 네 가지 방식으로 배포할 수 있다. 아마존 베드록 마켓플레이스에서는 모델 카탈로그에서 딥시크-R1을 검색하여 손쉽게 배포할 수 있으며, 아마존 세이지메이커 점프스타트를 통해 머신러닝 허브에서 클릭 한 번으로 배포 및 활용이 가능하다.

아마존 베드록 커스텀 모델 임포트를 활용하면 딥시크-R1-디스틸 모델을 맞춤형 모델로 가져와 활용할 수 있으며, AWS EC2 Trn1 인스턴스를 사용하면 딥시크-R1-디스틸 모델을 AWS 트레이니움 및 AWS 인퍼런시아 기반 인프라에서 최적의 성능과 비용 효율성을 제공하며 실행할 수 있다.

AWS는 "딥시크-R1 모델을 통해 고객들이 AI 기술을 더욱 효과적으로 활용하고, 안전하고 책임감 있는 AI 환경을 조성할 수 있도록 적극 지원할 것"이라고 말했다.

/윤소진 기자(sojin@inews24.com)






alert

댓글 쓰기 제목 AWS, 아마존 베드록·세이지메이커에서 '딥시크 R1' 제공

댓글-

첫 번째 댓글을 작성해 보세요.

로딩중

뉴스톡톡 인기 댓글을 확인해보세요.



포토뉴스
야5당 내란수괴 윤석열 파면 촉구 도보행진
야5당 내란수괴 윤석열 파면 촉구 도보행진
[아이포토] 故휘성 빈소 공개…영정 속 빛나는 미소
[아이포토] 故휘성 빈소 공개…영정 속 빛나는 미소
삼성서울병원 장례식장에 마련된 故 휘성의 빈소
삼성서울병원 장례식장에 마련된 故 휘성의 빈소
안타까운 이별...故휘성, '밝은 미소만 남기고 떠난 스타'
안타까운 이별...故휘성, '밝은 미소만 남기고 떠난 스타'
르세라핌 홍은채, 성숙한 모습으로 돌아온 막내
르세라핌 홍은채, 성숙한 모습으로 돌아온 막내
르세라핌 카즈하, 여신의 핫한 컴백
르세라핌 카즈하, 여신의 핫한 컴백
르세라핌 허윤진, 핫한 그녀
르세라핌 허윤진, 핫한 그녀
'예쁨 가득 비주얼' 르세라핌 사쿠라
'예쁨 가득 비주얼' 르세라핌 사쿠라
르세라핌, 사랑하는 것에 온 마음을 다하는 핫한 무대
르세라핌, 사랑하는 것에 온 마음을 다하는 핫한 무대
'봄을 입고 왔네' 르세라핌 김채원, 상큼 러블리
'봄을 입고 왔네' 르세라핌 김채원, 상큼 러블리