OpenAI SDK

공식 OpenAI SDK를 사용하여 AllToken에 연결합니다.

TypeScript

설치
$ npm install openai
TypeScript
1import OpenAI from 'openai';
2
3const client = new OpenAI({
4 apiKey: process.env.ALLTOKEN_API_KEY,
5 baseURL: 'https://api.alltoken.ai/v1',
6});
7
8const completion = await client.chat.completions.create({
9 model: 'deepseek-chat',
10 messages: [{ role: 'user', content: '안녕하세요!' }],
11});
12
13console.log(completion.choices[0].message.content);

Python

설치
$ pip install openai
Python
1from openai import OpenAI
2import os
3
4client = OpenAI(
5 api_key=os.environ["ALLTOKEN_API_KEY"],
6 base_url="https://api.alltoken.ai/v1",
7)
8
9completion = client.chat.completions.create(
10 model="deepseek-chat",
11 messages=[{"role": "user", "content": "안녕하세요!"}],
12)
13
14print(completion.choices[0].message.content)

SDK로 스트리밍

TypeScript와 Python SDK 모두 스트리밍을 기본으로 지원합니다:

TypeScript 스트리밍
1const stream = await client.chat.completions.create({
2 model: 'deepseek-chat',
3 messages: [{ role: 'user', content: '이야기를 하나 들려주세요' }],
4 stream: true,
5});
6
7for await (const chunk of stream) {
8 process.stdout.write(chunk.choices[0]?.delta?.content ?? '');
9}