중국어 LLM에 액세스하는 방법
2023년 여름, 중국정부가 AI 기업들이 일반 대중에게 모델을 공개할 수 있도록 허용하기 시작한 이후 수백 개의 중국어 대형 언어 모델이 출시되었다. 외국 사용자에게는 언어 장벽과 등록 요건 때문에 이러한 중국어 모델을 찾아서 사용해 보는 것이 어려울 수 있다. 하지만 실제로 많은 챗봇이 영어로 대화를 지원하며 의외로 쉽게 접근할 수 있다. 챗봇의 성능이 궁금하거나 업무용으로 좀 더 진지한 실험을 하고 싶을 때, 중국어 LLM 기반 챗봇을 이용할 수 있는 다양한 방법이 있다.
1. 중국 전화번호가 있는 경우
우선, 중국 전화번호가 있는 경우 모델에 액세스하는 데 문제가 거의 없다. 중국에서는 국내 전화번호가 신원 확인을 위한 대리인 역할을 하는 경우가 많기 때문에 기본적으로 AI 챗봇을 포함한 모든 온라인 서비스에 액세스할 수 있다. 해당 모델의 웹사이트로 이동하여 해당 번호를 사용하여 계정을 등록하기만 하면 된니다. 테스트 결과, 일부 LLM은 중국 외 지역 사용자도 접속할 수 있지만 화웨이, 사이버 보안 회사 360, 중국과학원 등에서 개발한 모델을 포함한 몇 가지 주요 모델은 중국 전화번호로만 접속할 수 있는 것으로 나타났다. 현재 중국 이외의 지역에 거주하는 경우 현지 전화번호를 얻는 것은 거의 불가능에 가깝다.
2. 중국 번호 없이 사용 가능한 LLM
소수의 중국 AI 플랫폼에서는 중국 외 지역의 사용자가 챗봇에 직접 액세스할 수 있다. 가입하고 전화번호를 입력한 다음 문자 메시지로 전송되는 인증 코드를 입력하기만 하면 된다. 이러한 챗봇에는 텍스트와 이미지를 생성하고, 인터넷을 검색하고, 사용자가 업로드한 문서를 요약할 수 있는 바이트댄스에서 만든 AI인 Doubao가 있다. 새롭게 떠오르는 중국 AI 유니콘인 Zhipu가 개발한 멀티모달 도구인 ChatGLM은 비슷한 기능을 제공하며 중국 이외의 번호로도 사용할 수 있다. 마지막으로, 설립된 지 1년도 채 되지 않은 AI 회사인 DeepSeek는 저렴한 모델로 업계에서 유명하다. OpenAI의 유사한 모델인 GPT4-Turbo는 백만 토큰당 10달러이다. 이메일 주소로 등록하면 웹사이트에서 텍스트 챗봇과 코딩 챗봇을 쉽게 테스트해 볼 수 있다.
3. Hugging Face
Hugging Face는 현재 가장 큰 글로벌 AI 커뮤니티로, 일종의 AI용 깃허브 역할을 하고 있다. 많은 오픈 소스 LLM이 Hugging Face의 웹사이트에 코드와 애플리케이션을 올렸다. 중국 기업도 예외는 아니다. 몇몇 기업은 AI 개발자가 사용할 수 있도록 Hugging Face에 코드를 공유했다. 일부 기업은 웹사이트에 데모를 설치하여 기술에 익숙하지 않은 사람들도 직접 코드를 작성하지 않고도 이 모델에 즉시 액세스할 수 있도록 했다. Hugging Face는 등록에 중국 번호가 필요하지 않기 때문에 많은 중국 모델을 테스트할 수 있는 해결 방법이다. 가장 주목할 만한 것은 최근 여러 LLM의 결과를 비교하고 품질을 평가하는 순위인 Hugging Face의 오픈 LLM 리더보드에서 1위를 차지한 알리바바에서 만든 LLM인 Qwen이다. Qwen은 Meta, Microsoft 및 기타 중국 동종 업체에서 만든 모델을 능가했다. Qwen의 2.0 버전은 여기에서 쉽게 텍스트 기반 대화를 나눌 수 있다. 또 다른 중국 기술 대기업인 텐센트도 Hugging Face에 Hunyuan-DiT라는 AI 모델을 업로드했다. 이 모델은 텍스트 프롬프트를 기반으로 이미지를 생성할 수 있다. 그러나 Hunyuan 재단에 기반한 다른 모델은 이 웹 사이트에서 액세스할 수 없다.
4. ModelScope
2022년 11월, 알리바바는 ModelScope라는 플랫폼을 출시했다. 중국 AI 커뮤니티가 모여 오픈 소스 모델에 액세스하고 거래를 논의할 수 있는 일종의 중국판 허깅 페이스이다. 그리고 ModelScope는 사용자가 중국 이외의 번호로 등록할 수 있기 때문에 중국 LLM에 액세스하는 데 유용한 또 다른 우회 방법이기도 하다. 알리바바의 지원을 받는 또 다른 화제의 AI 스타트업인 바이촨(Baichuan)을 비롯한 몇몇 중국 기업은 누구나 테스트할 수 있도록 ModelScope에서 자사 모델을 제공하고 있다.
이 플랫폼에서 가장 유용한 것은 상하이의 AI 연구소인 Open Compass가 다양한 모델을 평가하기 위해 만든 ‘LLM Arena’ 애플리케이션입니다. 이름에서 알 수 있듯이 이 Arena에서는 사용자가 두 모델을 서로 대결하여 동일한 프롬프트에 어떻게 반응하는지 직접 비교할 수 있다. 이 애플리케이션에는 11개의 중국 모델이 통합되어 있기 때문에 중국인이 아닌 사용자에게는 제한이 있는 여러 AI 도구에 쉽게 액세스할 수 있다. 아레나에서는 중국 업계에서 큰 비중을 차지하고 있는 Baidu의 어니 봇과 iFlytek의 스파크는 물론 미니맥스, 문샷, 인턴LM의 답변을 생성할 수 있다. 현재로서는 모델 자체가 이러한 멀티모달 기능을 지원하더라도 이러한 방식으로 사진을 생성하거나 모델에 사진을 업로드할 수 없다. 하지만 중국 모델에서 생성된 텍스트와 Llama 3 및 Cohere의 Command R+와 같은 일부 서양 모델에서 생성된 텍스트를 비교할 때 매우 편리한 도구처럼 보일 수 있다.