Amazon은 어떻게 AI 필드에서 Microsoft 및 Google을 따라 맞춤화 된 AWS 칩을 사용하여 어떻게 할 수 있습니까?
CNBC에 따르면, 아마존 팀은 생성 인공 지능을 훈련하고 가속화하기 위해 코드 명이 추론 및 훈련의 두 칩을 설계하고 있습니다.이 칩은 Amazon Cloud Services AWS 고객이 NVIDIA 그래픽 프로세서 대신 대형 언어 모델을 훈련시킬 수있는 대체 옵션을 제공합니다.현재 GPU의 조달은 점점 어려워지고 비싸지 않으며, 이러한 맞춤형 칩은 AWS 고객에게 NVIDIA 칩에서 대형 언어 모델을 교육하기위한 대체 솔루션을 제공 할 수 있습니다.
Amazon Cloud Technology CEO 인 Adam Selipsky는 올해 6 월에 "세계는 GPU 또는 Amazon의 자체 개발 된 칩이든 우리가 디자인하는 생성 인공 지능을위한 더 많은 칩을 갖기를 희망합니다.
그러나 다른 회사들은 더 빠른 조치를 취하고 생성 인공 지능의 물결로부터 사업을 얻기 위해 더 많은 자금을 투자했습니다.OpenAi가 작년 11 월에 Chatgpt를 출시했을 때 Microsoft는 챗봇에 대한 광범위한 관심과 OpenAI에 130 억 달러의 투자를 얻었습니다.이 회사는 제품에 생성 인공 지능 모델을 신속하게 추가하여 올해 2 월에 Bing으로 통합했습니다.
같은 달, Google은 자체 대규모 언어 모델 인 Bard를 출시 한 후 OpenAI 경쟁사 Anthropic에 3 억 달러를 투자했습니다.
아마존은 4 월까지 자체 대형 언어 모델 시리즈 (Titan)와 베드로 서비스를 발표하여 개발자가 생성 AI 향상 소프트웨어를 사용할 수 있도록 발표했다고 발표했습니다.
아마존은 시장을 쫓는 데 익숙하지 않습니다.아마존은 시장을 창출하는 데 익숙합니다.가트너 (Gartner)의 분석가 인 Chirag Dekate는 말했다.
메타는 최근 자체 LLAMA 2 주요 모델을 발표했습니다.이 오픈 소스 chatgpt 경쟁자는 이제 Microsoft의 Azure 퍼블릭 클라우드에서 테스트 할 수 있습니다.
칩은 '진정한 차별화'입니다.
DeKate는 장기적으로 Amazon의 맞춤형 칩이 생성 인공 지능 분야에서 이점을 제공 할 수 있다고 말했습니다.
Microsoft는 훈련 또는 추론을위한 맞춤형 칩이 없기 때문에 진정한 차별화는 그들이 발휘하는 기술 기능에 있다고 생각합니다.
AWS는 2013 년 초에 조용히 맞춤형 칩을 생산하기 시작했으며, 현재 가장 많이 팔린 AWS 칩 인 Nitro라는 특수 하드웨어를 사용했습니다.Amazon은 각 AWS 서버가 1 개 이상의 사용량을 가지고 있으며 총 2 천만 개 이상의 사용이 있다고 주장합니다.
2015 년 아마존은 이스라엘 칩 스타트 업 Annapurna Labs를 인수했습니다.2018 년 Amazon은 AMD 및 Intel과 같은 자이언트의 X86 CPU의 경쟁자 인 ARM 기반 서버 Chip Graviton을 출시했습니다.
ARM은 단일 숫자 또는 총 서버 판매의 10%를 차지할 수 있으며, 대부분의 부분은 아마존에서 나옵니다.따라서 Bernstein Research의 수석 분석가 인 Stacy Rasgon은 말했습니다.
또한 2018 년에 Amazon은 인공 지능에 중점을 둔 칩을 출시했습니다.2 년 전 Google은 첫 번째 TENSOR 프로세서 장치 (TPU)의 출시를 발표했습니다.Microsoft는 아직 AMD와 공동으로 개발 된 Athena AI Chip을 개발하고 있다고 발표하지 않았습니다.
Amazon Products의 부사장 인 Matt Wood는 교육 및 추론 칩의 사용에 대해 설명했습니다.
머신 러닝은이 두 단계로 나뉩니다.따라서 Wood는 Machine Learning 모델을 훈련시킨 다음 이러한 훈련 된 모델을 추론합니다.
2019 년에 Perentia가 출시 된 후 (현재 2 세대) 훈련은 2021 년에 처음 시작되었습니다.
Ferentia는 "매우 저렴하고 높은 처리량 및 낮은 대기 시간 머신 러닝 추론을 제공합니다. 즉, 생성 인공 지능 모델에 프롬프트를 입력 할 때 모든 예측이 여기에서 처리되어 응답을 제공합니다"라고 Wood는 말했습니다.
그러나 현재 NVIDIA의 GPU는 여전히 훈련 모델 측면에서 왕입니다.올해 7 월 AWS는 NVIDIA H100이 지원하는 새로운 AI Acceleration 하드웨어를 출시했습니다.
Rasgon은 "Nvidia Chips는 거대한 소프트웨어 생태계를 가지고 있으며 지난 15 년 동안 그 주위에 구축 된 소프트웨어 생태계는 다른 회사에서 비교할 수 없었습니다. 현재 인공 지능의 가장 큰 승자는 Nvidia입니다.
클라우드 장점을 활용합니다
그러나 AWS의 클라우드 지배력은 아마존의 주요 차별화 요소입니다.
아마존에는 추가주의가 필요하지 않습니다.아마존에는 이미 매우 강력한 클라우드 설치 재단이 있습니다.DeKate는 기존 고객이 생성 인공 지능을 활용하여 가치 창출 활동으로 확장 할 수 있도록하는 방법을 알아내는 것입니다. "라고 DeKate는 말했습니다.
Amazon, Google 및 Microsoft 간의 생성 인공 지능을 선택할 때 수백만 명의 AWS 고객이 이미 Amazon에 익숙하고 다른 응용 프로그램을 실행하고 데이터를 저장하기 때문에 Amazon에 끌릴 수 있습니다.
AWS Technology의 부사장 인 Mai Lan Tomsen Bukovec는 "이것은 속도의 문제입니다. 이러한 회사들이 이러한 생성 인공 지능 응용 프로그램이 얼마나 빨리 이러한 생성 인공 지능 애플리케이션을 개발할 수 있는지 AWS의 데이터로 시작하고 컴퓨팅 및 기계 학습 도구를 사용하는 방법에 달려 있습니다.그것을 운전하기 위해 제공하십시오
Gartner Data에 따르면 AWS는 2022 년에 시장 점유율이 40% 인 세계 최대의 클라우드 컴퓨팅 제공 업체입니다. 아마존의 영업 이익은 전년 대비 3 분기 연속 감소했지만 AWS는 여전히 아마존 $ 77 억의 70%를 차지했습니다.2 분기 운영 이익.역사적 관점에서 볼 때 AWS의 운영 이익 마진은 Google Cloud보다 훨씬 높습니다.
또한 AWS에는 생성 인공 지능에 중점을 둔 개발자 도구 포트폴리오도 증가하고 있습니다.AWS의 데이터베이스, 분석 및 기계 학습 담당 부사장 인 Swami Sivasubramanian은 "Chatgpt 이전에도 시계를 되돌려 보자. 그 후에는 새로운 것을 설계 할 수 없기 때문에 갑자기 계획을 세웠다.2 개월에서 3 개월 안에 기본 서비스를 구축하는 것은 물론 빠르게 칩
Bedlock은 AWS 고객에게 Antiopic, Stability AI, AI21 Labs 및 Amazon Titan이 개발 한 대형 언어 모델에 액세스 할 수 있습니다.Sivasubramanian은 "우리는 하나의 모델이 세상을 지배 할 것이라고 믿지 않습니다. 우리는 고객이 올바른 작업을위한 올바른 도구를 선택하기 때문에 여러 공급 업체의 최첨단 모델을 갖기를 원합니다.
Amazon의 최신 인공 지능 제품 중 하나는 7 월에 시작된 AWS Healthscribe입니다.Amazon에는 Sagemaker라는 기계 학습 센터가 있으며 알고리즘 및 모델과 같은 서비스를 제공합니다.
또 다른 중요한 도구는 CodewHisperer입니다. Amazon은 개발자의 작업 완료 속도를 평균 57%증가 시켰다고 말합니다.작년에 Microsoft는 코딩 도구 Github Copilot이 작업 효율성을 향상 시켰다고보고했습니다.
올해 6 월 AWS는 생성 인공 지능 혁신 센터를 설립하기 위해 1 억 달러의 투자를 발표했습니다.AWS의 CEO 인 Adam Selipsky는 "우리는 생성 인공 지능 기술을 원하는 많은 고객을 보유하고 있지만, 자신의 비즈니스 상황에서 반드시 그 의미를 알지 못할 수도 있습니다. 따라서 우리는 솔루션 설계자, 엔지니어, 전략가, 전략가, 소개 할 것입니다.그리고 데이터 과학자들은 일대일로 일할 수 있습니다
AWS는 지금까지 Chatgpt의 경쟁자를 구축하기보다는 도구 개발에 주로 초점을 맞추고 있지만, 최근 유출 된 내부 이메일은 Amazon CEO Andy Jassy가 확장 가능한 대형 언어 모델을 구축하는 새로운 중앙 팀을 직접 감독하고 있음을 보여줍니다.
2 분기 재무 보고서 컨퍼런스 전화에서 Jia Xi는 AWS 비즈니스의 "상당 부분"이 현재 인공 지능과 20 개 이상의 기계 학습 서비스에 대한 지원에 의해 주도되고 있으며 Philips, 3M, Old Mutual 및 HSBC를 포함한 고객과 함께 진행되고 있다고 밝혔다.
인공 지능의 폭발적인 성장은 직원들이 독점 정보를 일반적인 빅 언어 모델에 사용 된 교육 데이터에 포함시킬 것이라고 우려함에 따라 일련의 보안 문제를 가져 왔습니다.
Adam Selipsky는 "내가 연락 한 Fortune 500 대 기업 수를 비활성화 한 채 chatgpt를 장애인 한 수를 말할 수 없다. 따라서 우리의 생성 인공 지능 방법과 Bedlock 서비스를 통해 Bedlock을 통해 사용하고 사용하는 모든 것은 독립적 인 가상 프라이빗 클라우드 환경에있을 것이다.. 암호화되고 동일한 AWS 액세스 제어가 있습니다.
현재 아마존은 "10 만 명 이상의"고객이 현재 AWS에서 머신 러닝을 사용하고 있다고 주장하면서 생성 인공 지능의 홍보를 가속화하고 있습니다.이것은 AWS의 수백만 고객의 소수를 차지하지만 분석가들은이 상황이 바뀔 수 있다고 말합니다.
우리는 회사들이 '오, 잠깐만 요, Microsoft는 이미 생성 인공 지능을 이끌고 있습니다.외출하고 인프라 전략을 변경하여 모든 것을 Microsoftware로 옮기겠습니다.이미 아마존의 고객이라면 아마존 생태계를 더 널리 탐색 할 것입니다. '
Amazon Cloud Technology CEO 인 Adam Selipsky는 올해 6 월에 "세계는 GPU 또는 Amazon의 자체 개발 된 칩이든 우리가 디자인하는 생성 인공 지능을위한 더 많은 칩을 갖기를 희망합니다.
그러나 다른 회사들은 더 빠른 조치를 취하고 생성 인공 지능의 물결로부터 사업을 얻기 위해 더 많은 자금을 투자했습니다.OpenAi가 작년 11 월에 Chatgpt를 출시했을 때 Microsoft는 챗봇에 대한 광범위한 관심과 OpenAI에 130 억 달러의 투자를 얻었습니다.이 회사는 제품에 생성 인공 지능 모델을 신속하게 추가하여 올해 2 월에 Bing으로 통합했습니다.
같은 달, Google은 자체 대규모 언어 모델 인 Bard를 출시 한 후 OpenAI 경쟁사 Anthropic에 3 억 달러를 투자했습니다.
아마존은 4 월까지 자체 대형 언어 모델 시리즈 (Titan)와 베드로 서비스를 발표하여 개발자가 생성 AI 향상 소프트웨어를 사용할 수 있도록 발표했다고 발표했습니다.
아마존은 시장을 쫓는 데 익숙하지 않습니다.아마존은 시장을 창출하는 데 익숙합니다.가트너 (Gartner)의 분석가 인 Chirag Dekate는 말했다.
메타는 최근 자체 LLAMA 2 주요 모델을 발표했습니다.이 오픈 소스 chatgpt 경쟁자는 이제 Microsoft의 Azure 퍼블릭 클라우드에서 테스트 할 수 있습니다.
칩은 '진정한 차별화'입니다.
DeKate는 장기적으로 Amazon의 맞춤형 칩이 생성 인공 지능 분야에서 이점을 제공 할 수 있다고 말했습니다.
Microsoft는 훈련 또는 추론을위한 맞춤형 칩이 없기 때문에 진정한 차별화는 그들이 발휘하는 기술 기능에 있다고 생각합니다.
AWS는 2013 년 초에 조용히 맞춤형 칩을 생산하기 시작했으며, 현재 가장 많이 팔린 AWS 칩 인 Nitro라는 특수 하드웨어를 사용했습니다.Amazon은 각 AWS 서버가 1 개 이상의 사용량을 가지고 있으며 총 2 천만 개 이상의 사용이 있다고 주장합니다.
2015 년 아마존은 이스라엘 칩 스타트 업 Annapurna Labs를 인수했습니다.2018 년 Amazon은 AMD 및 Intel과 같은 자이언트의 X86 CPU의 경쟁자 인 ARM 기반 서버 Chip Graviton을 출시했습니다.
ARM은 단일 숫자 또는 총 서버 판매의 10%를 차지할 수 있으며, 대부분의 부분은 아마존에서 나옵니다.따라서 Bernstein Research의 수석 분석가 인 Stacy Rasgon은 말했습니다.
또한 2018 년에 Amazon은 인공 지능에 중점을 둔 칩을 출시했습니다.2 년 전 Google은 첫 번째 TENSOR 프로세서 장치 (TPU)의 출시를 발표했습니다.Microsoft는 아직 AMD와 공동으로 개발 된 Athena AI Chip을 개발하고 있다고 발표하지 않았습니다.
Amazon Products의 부사장 인 Matt Wood는 교육 및 추론 칩의 사용에 대해 설명했습니다.
머신 러닝은이 두 단계로 나뉩니다.따라서 Wood는 Machine Learning 모델을 훈련시킨 다음 이러한 훈련 된 모델을 추론합니다.
2019 년에 Perentia가 출시 된 후 (현재 2 세대) 훈련은 2021 년에 처음 시작되었습니다.
Ferentia는 "매우 저렴하고 높은 처리량 및 낮은 대기 시간 머신 러닝 추론을 제공합니다. 즉, 생성 인공 지능 모델에 프롬프트를 입력 할 때 모든 예측이 여기에서 처리되어 응답을 제공합니다"라고 Wood는 말했습니다.
그러나 현재 NVIDIA의 GPU는 여전히 훈련 모델 측면에서 왕입니다.올해 7 월 AWS는 NVIDIA H100이 지원하는 새로운 AI Acceleration 하드웨어를 출시했습니다.
Rasgon은 "Nvidia Chips는 거대한 소프트웨어 생태계를 가지고 있으며 지난 15 년 동안 그 주위에 구축 된 소프트웨어 생태계는 다른 회사에서 비교할 수 없었습니다. 현재 인공 지능의 가장 큰 승자는 Nvidia입니다.
클라우드 장점을 활용합니다
그러나 AWS의 클라우드 지배력은 아마존의 주요 차별화 요소입니다.
아마존에는 추가주의가 필요하지 않습니다.아마존에는 이미 매우 강력한 클라우드 설치 재단이 있습니다.DeKate는 기존 고객이 생성 인공 지능을 활용하여 가치 창출 활동으로 확장 할 수 있도록하는 방법을 알아내는 것입니다. "라고 DeKate는 말했습니다.
Amazon, Google 및 Microsoft 간의 생성 인공 지능을 선택할 때 수백만 명의 AWS 고객이 이미 Amazon에 익숙하고 다른 응용 프로그램을 실행하고 데이터를 저장하기 때문에 Amazon에 끌릴 수 있습니다.
AWS Technology의 부사장 인 Mai Lan Tomsen Bukovec는 "이것은 속도의 문제입니다. 이러한 회사들이 이러한 생성 인공 지능 응용 프로그램이 얼마나 빨리 이러한 생성 인공 지능 애플리케이션을 개발할 수 있는지 AWS의 데이터로 시작하고 컴퓨팅 및 기계 학습 도구를 사용하는 방법에 달려 있습니다.그것을 운전하기 위해 제공하십시오
Gartner Data에 따르면 AWS는 2022 년에 시장 점유율이 40% 인 세계 최대의 클라우드 컴퓨팅 제공 업체입니다. 아마존의 영업 이익은 전년 대비 3 분기 연속 감소했지만 AWS는 여전히 아마존 $ 77 억의 70%를 차지했습니다.2 분기 운영 이익.역사적 관점에서 볼 때 AWS의 운영 이익 마진은 Google Cloud보다 훨씬 높습니다.
또한 AWS에는 생성 인공 지능에 중점을 둔 개발자 도구 포트폴리오도 증가하고 있습니다.AWS의 데이터베이스, 분석 및 기계 학습 담당 부사장 인 Swami Sivasubramanian은 "Chatgpt 이전에도 시계를 되돌려 보자. 그 후에는 새로운 것을 설계 할 수 없기 때문에 갑자기 계획을 세웠다.2 개월에서 3 개월 안에 기본 서비스를 구축하는 것은 물론 빠르게 칩
Bedlock은 AWS 고객에게 Antiopic, Stability AI, AI21 Labs 및 Amazon Titan이 개발 한 대형 언어 모델에 액세스 할 수 있습니다.Sivasubramanian은 "우리는 하나의 모델이 세상을 지배 할 것이라고 믿지 않습니다. 우리는 고객이 올바른 작업을위한 올바른 도구를 선택하기 때문에 여러 공급 업체의 최첨단 모델을 갖기를 원합니다.
Amazon의 최신 인공 지능 제품 중 하나는 7 월에 시작된 AWS Healthscribe입니다.Amazon에는 Sagemaker라는 기계 학습 센터가 있으며 알고리즘 및 모델과 같은 서비스를 제공합니다.
또 다른 중요한 도구는 CodewHisperer입니다. Amazon은 개발자의 작업 완료 속도를 평균 57%증가 시켰다고 말합니다.작년에 Microsoft는 코딩 도구 Github Copilot이 작업 효율성을 향상 시켰다고보고했습니다.
올해 6 월 AWS는 생성 인공 지능 혁신 센터를 설립하기 위해 1 억 달러의 투자를 발표했습니다.AWS의 CEO 인 Adam Selipsky는 "우리는 생성 인공 지능 기술을 원하는 많은 고객을 보유하고 있지만, 자신의 비즈니스 상황에서 반드시 그 의미를 알지 못할 수도 있습니다. 따라서 우리는 솔루션 설계자, 엔지니어, 전략가, 전략가, 소개 할 것입니다.그리고 데이터 과학자들은 일대일로 일할 수 있습니다
AWS는 지금까지 Chatgpt의 경쟁자를 구축하기보다는 도구 개발에 주로 초점을 맞추고 있지만, 최근 유출 된 내부 이메일은 Amazon CEO Andy Jassy가 확장 가능한 대형 언어 모델을 구축하는 새로운 중앙 팀을 직접 감독하고 있음을 보여줍니다.
2 분기 재무 보고서 컨퍼런스 전화에서 Jia Xi는 AWS 비즈니스의 "상당 부분"이 현재 인공 지능과 20 개 이상의 기계 학습 서비스에 대한 지원에 의해 주도되고 있으며 Philips, 3M, Old Mutual 및 HSBC를 포함한 고객과 함께 진행되고 있다고 밝혔다.
인공 지능의 폭발적인 성장은 직원들이 독점 정보를 일반적인 빅 언어 모델에 사용 된 교육 데이터에 포함시킬 것이라고 우려함에 따라 일련의 보안 문제를 가져 왔습니다.
Adam Selipsky는 "내가 연락 한 Fortune 500 대 기업 수를 비활성화 한 채 chatgpt를 장애인 한 수를 말할 수 없다. 따라서 우리의 생성 인공 지능 방법과 Bedlock 서비스를 통해 Bedlock을 통해 사용하고 사용하는 모든 것은 독립적 인 가상 프라이빗 클라우드 환경에있을 것이다.. 암호화되고 동일한 AWS 액세스 제어가 있습니다.
현재 아마존은 "10 만 명 이상의"고객이 현재 AWS에서 머신 러닝을 사용하고 있다고 주장하면서 생성 인공 지능의 홍보를 가속화하고 있습니다.이것은 AWS의 수백만 고객의 소수를 차지하지만 분석가들은이 상황이 바뀔 수 있다고 말합니다.
우리는 회사들이 '오, 잠깐만 요, Microsoft는 이미 생성 인공 지능을 이끌고 있습니다.외출하고 인프라 전략을 변경하여 모든 것을 Microsoftware로 옮기겠습니다.이미 아마존의 고객이라면 아마존 생태계를 더 널리 탐색 할 것입니다. '