중국 칩 제조업체인 Sophgo는 딥시크의 추론 모델에 컴퓨팅 카드를 적용하여 미국의 수출 규제 강화로 인해 중국 국내 기업들이 자체 개발한 인공지능(AI) 인프라를 개발하고 해외 칩에 대한 의존도를 낮추기 위한 노력을 강화하고 있음을 강조했다.
Sophgo의 SC11 FP300 컴퓨팅 카드는 중국 통신 기술 연구소(CTTL)에서 실시한 테스트에서 DeepSeek의 R1 모델의 추론 작업을 안정적이고 효과적으로 실행하는 데 성공적으로 검증을 통과했다고 월요일 성명에서 밝혔다.
컴퓨팅 카드는 컴퓨팅 작업에 필요한 프로세서, 메모리 및 기타 필수 구성 요소를 통합하는 컴팩트한 모듈로, AI와 같은 응용 프로그램에서 자주 사용된다.
CTTL은 산업정보기술부 산하 기관인 중국정보통신기술원 산하 연구소이다.
칩 제조업체는 이번 검증을 통해 자사의 컴퓨팅 카드가 자체 개발 인프라로 딥시크 모델과 같은 선도적인 AI 시스템을 강화하려는 중국의 이니셔티브에 발맞춰 중국 국내 AI 모델을 지원한다는 점을 확인했다고 밝혔다.
Sophgo는 이런 발전의 원동력으로 2024년에 출시된 FP300 컴퓨팅 카드의 여러 혁신을 꼽았다. 특히 256기가바이트의 고대역폭 메모리를 탑재하고 초당 최대 1.1테라바이트의 메모리 대역폭을 제공하여 모델 학습 및 실행 중에 더 빠른 데이터 전송이 가능한 것이 특징이다.
또한 이 카드는 하드웨어와 알고리즘 간의 통합을 개선하여 추론 모델의 성능을 극대화한다고 회사 측은 설명하고 있다.
이번 발표는 미국의 칩 수출 규제 강화가 중국 AI 개발에 도전적인 과제를 제기하면서 중국 AI 및 칩 기업들이 이러한 제약을 극복하기 위해 협력하고 있는 가운데 나온 것이다.
딥시크는 월요일 논평 요청에 즉시 응답하지는 않았다.
한편, 중국 AI 전문가 iFly텍은 화웨이 테크놀로지스의 칩만을 사용하여 최신 AI 모델을 훈련하고 배포하여 외국 반도체 기술의 필요성을 제거했다고 밝혔다.
화웨이의 어센드 910B 칩을 사용하여 싱훠 모델 시리즈를 개발하던 이 회사는 작년 말 25%였던 교육 효율성을 엔비디아의 A800 칩과 비교했을 때 73%로 높였다고 6월에 아이플라이텍의 회장 겸 사장인 류칭펑이 말했다.
Liu는 로컬 칩을 사용하는 것이 일반적으로 엔비디아 칩과 기존 소프트웨어 생태계를 사용하는 것에 비해 추가 컴퓨팅 리소스가 필요하기 때문에 AI 모델 개발이 3개월 지연되었다고 인정했다. 그럼에도 불구하고 그는 로컬 칩으로 교육 효율성을 개선하겠다는 회사의 약속을 확인했다.
Sophgo와 iFlyTek는 모두 워싱턴으로부터 무역 제재를 받고 있다. iFlyTek는 2019년 10월에 고급 미국 칩 구매를 금지하는 미국 법인 목록에 추가되었다. 올해 초에는 소포 테크놀로지스, 소포 테크놀로지스(베이징), 샤먼 소포 테크놀로지스 등 여러 소포 기업도 목록에 추가되었다.[파이낸셜신문]
