중국 AI 실사용 후기: DeepSeek·GLM은 프로덕션에 쓸 만한가
중국 AI 모델은 이제 “저렴한 추격자”라는 한 문장으로 설명하기 어렵습니다. DeepSeek, Alibaba Qwen, Z.ai의 GLM, Moonshot AI의 Kimi, MiniMax와 ByteDance Doubao까지 모델과 서비스가 빠르게 늘었고, 오픈 웨이트와 낮은 가격으로 해외 개발자도 끌어들였습니다.
반면 실제 채팅과 API에서는 속도, 장애, 검열, 지원과 예측 가능성에 대한 불만이 반복됩니다. 여기에 Anthropic과 OpenAI가 제기한 증류 의혹, 일부 모델이 자신을 Claude나 ChatGPT라고 답한 화면까지 겹쳤습니다. 이 글은 기사·공식 발표·Reddit·Hugging Face·GitHub의 후기를 모으고, 필자가 DeepSeek와 GLM을 사용하며 느낀 실망을 별도로 기록합니다.
이 글의 “낙제”, “사용 불가”, “스캠처럼 느꼈다”는 평가는 필자가 테스트한 특정 시점의 공식 채팅·API 운영 경험에 관한 주관적 판정입니다. 중국에서 개발된 모든 모델의 지능이나 자체 호스팅 성능이 낮다는 뜻이 아닙니다.
중국 AI는 무엇이 있고 왜 논란이 됐나
현재 해외 사용자에게 자주 언급되는 계열은 다음과 같습니다.
| 회사·서비스 | 대표 계열 | 알려진 강점 | 실사용 시 확인할 점 |
|---|---|---|---|
| DeepSeek | V·R·V4 계열 | 추론, 코딩, 낮은 API 가격, 오픈 웨이트 | 공식 API 지연·혼잡, 검열, 모델명 변경 |
| Alibaba | Qwen | 다국어, 코딩, 다양한 크기와 공개 가중치 | 배포처별 양자화·서빙 품질 차이 |
| Z.ai·Zhipu | GLM | 에이전트·코딩, 오픈 모델과 저가 플랜 | 공식 서비스 속도와 사용량 제한 |
| Moonshot AI | Kimi | 긴 문맥, 에이전트·도구 사용, 경쟁력 있는 가격 | 지역·서비스 경로와 데이터 정책 |
| MiniMax | M 계열 | 코딩·에이전트, 음성·영상까지 넓은 제품군 | 모델·제품별 약관과 API 안정성 |
| Baidu·ByteDance | ERNIE·Doubao | 중국 내 검색·앱·클라우드 유통 | 해외 접근성, 중국 내 규정과 검열 |
2026년 2월 Anthropic은 공식 조사에서 DeepSeek, Moonshot AI, MiniMax가 가짜 계정과 프록시를 이용해 Claude의 출력을 대량 수집했다고 주장했습니다. Anthropic이 밝힌 규모는 DeepSeek 15만 회 이상, Moonshot 340만 회 이상, MiniMax 1,300만 회 이상입니다. 대상은 추론, 코딩, 도구 사용과 보상 모델용 평가 등이었다고 설명합니다.
이것은 Anthropic이 네트워크·결제·요청 메타데이터를 근거로 발표한 귀속 결과입니다. 세 회사의 불법행위가 법원에서 확정됐다는 뜻은 아닙니다. 중국 측은 최근 관련 주장을 근거 없다고 반박했고, 업계에서는 합법적인 합성 데이터·교사 모델 학습과 약관을 회피한 산업 규모 추출을 어디서 나눌지를 두고 논쟁합니다.
OpenAI도 2025년 DeepSeek가 자사 모델 출력을 증류했는지 조사한다고 밝혔습니다. 이 AI 모델 증류 논쟁에서 “성능이 비슷하다”는 사실만으로 증류가 증명되지는 않습니다. 모델 증류는 강한 모델의 출력으로 작은 모델을 훈련하는 널리 쓰이는 기법이고, 논란의 핵심은 허용된 데이터와 접근 방식인지, 서비스 약관을 우회해 대규모로 능력을 추출했는지입니다.
“누구냐”는 질문에 Claude라고 답했다
Qwen·DeepSeek·GLM·Kimi 계열이 특정 프롬프트에서 “나는 Anthropic의 Claude”라고 답했다는 화면이 SNS와 커뮤니티에서 회자됐습니다. ACL 2025의 모델 증류 정량화 연구도 Qwen과 DeepSeek-V3가 일부 정체성 질문에서 Claude 관련 답변을 생성하는 사례를 분석했습니다. 2026년 GLM-5 반복 시험에서도 여러 회사의 모델명을 번갈아 답하는 결과가 보고됐습니다.
그러나 자기소개 답변은 암호학적 모델 증명서가 아닙니다. 학습 데이터에 다른 챗봇의 문구가 섞였거나, 시스템 프롬프트가 약하거나, 역할극과 환각이 발생해도 같은 현상이 나옵니다. 심지어 Claude가 다른 언어의 질문에서 DeepSeek·Qwen이라고 답했다는 역방향 사례도 있습니다. 따라서 “나는 Claude다”는 데이터 오염이나 증류를 의심할 단서이지 단독 확정 증거는 아닙니다.
실제 사용자 후기는 품질과 서비스가 갈린다
중국 AI 실사용 후기를 모으면 “모델은 괜찮은데 공식 서비스가 못 받쳐준다”는 문장이 반복됩니다. 채팅 사용자는 답이 완성됐을 때 코딩·요약·추론 품질이 가격 대비 좋다고 말합니다. 반대로 첫 토큰이 늦고, 긴 대화가 멈추고, server busy나 사용량 제한이 걸려 흐름이 끊긴다는 불만도 많습니다.
2026년 7월 DeepSeek 사용자 토론에서는 하루 종일 매우 느렸지만 저녁에는 갑자기 빨라졌고 품질은 유지됐다는 경험, 평소보다 두 배 이상 걸렸다는 경험, 별문제가 없었다는 반대 답변이 함께 나옵니다. 2025년 토론에도 요청당 30∼80초, 서버 실행 제한 6분을 넘겼다는 API 사용기가 남아 있습니다.
DeepSeek의 공식 상태 페이지는 2026년 7월 현재 주요 V4 API의 가동률을 99.90%, 채팅을 99.75%로 표시합니다. 이는 “항상 멈춘 서비스”라는 일반화를 반박합니다. 다만 가동률은 요청이 성공했는지만 집계할 수 있고, 첫 토큰 지연, 95·99백분위 응답시간, 긴 요청의 타임아웃과 처리량은 설명하지 못합니다.
GLM도 비슷합니다. 2026년 4월 Z.ai 사용자 토론에는 모델은 훌륭하지만 너무 느려 거의 사용할 수 없다는 평가가 올라왔고, 일부 사용자는 시간대를 바꾸거나 Turbo·이전 모델·타사 제공자를 조합했습니다. Hugging Face의 GLM 토론에서도 API 오류와 공식 서빙 지연을 지적하면서 모델 자체는 유망하다는 평가가 공존했습니다.
API 사용자는 채팅 사용자보다 엄격합니다. 채팅에서는 30초를 기다릴 수 있어도 웹 요청, 에이전트 반복 루프, 배치 작업에서 꼬리 지연이 누적되면 전체 시스템이 막힙니다. 저렴한 토큰 가격도 재시도, 타임아웃, 큐 적체와 장애 대응 비용을 더하면 의미가 달라집니다.
반대 사례도 빼면 안 됩니다. AP는 2026년 7월 Mozilla CTO가 Kimi K3를 일상 업무에 채택하고 이전에는 GLM-5.2를 일정·문서·메일에 사용했다고 보도했습니다. Coinbase 등 미국 기업이 비용 절감을 위해 중국 모델을 도입하는 흐름도 전했습니다. 즉 중국 모델 전체가 실사용 불가능한 것이 아니라, 모델·공식 제공자·타사 호스팅·지역·시간대에 따라 경험 편차가 크다는 편이 정확합니다.
필자의 DeepSeek·GLM 사용기는 낙제였다
필자는 DeepSeek의 일반 채팅과 공식 API 호출을 모두 사용했습니다. 채팅 모드는 답답함을 감수하면 초기에는 사용할 수 있었습니다. 성공한 답변의 품질도 무조건 나쁘지는 않았습니다. 문제는 API였습니다.
필자의 환경에서는 API 호출이 15분 이상 끝나지 않는 경우가 수두룩했습니다. 단발성 장애로 보고 시간을 달리해 지속적으로 확인했지만, 실제 제품의 응답시간 예산을 만족할 정도로 신뢰가 회복되지 않았습니다. 결국 공식 DeepSeek API를 실 프로덕션에 사용할 수 없다는 판정을 내렸습니다.
이 경험이 중국 AI를 보는 태도를 낙관에서 보수적으로 바꾼 가장 큰 계기였습니다. 낮은 가격과 벤치마크가 화려해도 요청이 정해진 시간 안에 돌아오지 않으면 제품 가치가 없습니다. 장시간 대기 끝에 좋은 답을 받는 것은 데모에서는 성공이지만, 사용자 트래픽을 받는 서비스에서는 장애입니다.
“기술 과시용 스캠처럼 느껴졌다”는 당시의 감정도 여기서 나왔습니다. 다만 이를 DeepSeek가 사기 서비스를 운영했다는 사실 주장으로 쓰지는 않습니다. 제한된 연산 자원, 갑작스러운 수요, 지역 라우팅과 운영 미숙도 같은 다른 설명이 가능하기 때문입니다. 필자가 확인한 사실은 내 요청이 반복적으로 비정상적으로 오래 걸렸고, 그 결과 도입을 포기했다는 것까지입니다.
나중에는 채팅 모드도 응답 지연과 사용 흐름 단절 때문에 필자의 기준에서 사용 불가 수준이 됐습니다. 현재 공식 상태 수치가 개선됐더라도 과거 체험이 자동으로 무효가 되는 것은 아닙니다. 반대로 필자의 계정과 시점에서 실패했다고 모든 사용자가 같은 지연을 겪는다고 단정해서도 안 됩니다.
GLM 모델에 대한 결론도 비슷합니다. 출력 품질을 깊게 평가하기 전에 속도가 너무 느려 작업 흐름을 유지하기 어려웠습니다. 커뮤니티에서 “모델은 좋지만 Z.ai 공식 서비스는 느리다”는 평가를 확인했지만, 필자에게는 제공자 변경과 시간대 우회까지 감수하며 채택할 이유가 부족했습니다.
앞으로는 벤치마크보다 운영 증거를 먼저 보겠다
필자의 결론은 “중국산이라 쓰지 않는다”가 아니라 유의미한 실사용 증거가 나오기 전에는 공식 서비스에 제품을 걸지 않는다입니다. 오픈 웨이트를 자체 서버나 검증된 클라우드에서 운영하는 경우와 중국 회사의 공식 채팅·API를 이용하는 경우도 분리해야 합니다. 같은 GLM·Qwen 가중치도 제공자의 하드웨어, 양자화, 배치와 과부하 정책에 따라 완전히 다른 제품이 됩니다.
도입 전에는 최소한 다음을 직접 측정해야 합니다.
- 동일 프롬프트 100회 이상의 성공률과 첫 토큰 시간
- 평균이 아니라 p95·p99 전체 응답시간
- 긴 문맥과 에이전트 반복 호출에서의 타임아웃
- 피크 시간대·지역별 속도와 속도 제한
- 장애 공지, 상태 페이지와 지원 응답
- 모델 버전 고정, 폐기 공지와 대체 경로
- 데이터 저장 위치, 학습 이용 여부와 검열 정책
Vertex AI의 복잡한 기업 운영 구조가 필요한 이유도 같은 맥락입니다. IAM과 모니터링이 불편하더라도 버전·지역·권한·장애를 관리할 근거가 있어야 프로덕션 플랫폼입니다. Gemini Interactions API 같은 상태형 API도 모델 지능뿐 아니라 실행 상태와 복구 가능성을 제품 기능으로 다룹니다.
중국 AI는 가격과 오픈 모델 경쟁을 크게 진전시켰고 Kimi·Qwen·GLM의 긍정적 사용기도 분명히 존재합니다. 그러나 필자에게 DeepSeek와 GLM의 공식 서비스는 그 장점을 실제 제품 가치로 바꾸지 못했습니다. 앞으로는 발표 벤치마크보다 장기간의 지연 분포, 장애 이력과 독립 사용자 후기를 먼저 보고, 충분한 증거가 쌓일 때만 다시 평가할 예정입니다.
댓글 없음:
댓글 쓰기