メインコンテンツへスキップ
buildradar
ログイン

niieani/gpt-tokenizer

@niieani

OpenAI の GPT モデル(gpt-5、gpt-o*、gpt-4o など)向けの最速 JavaScript BPE トークナイザー エンコーダー デコーダー。追加機能を備えた OpenAI の tiktoken の移植版。

スター
840
フォーク
59
言語
TypeScript
ライセンス
MIT
最終プッシュ
4 週間前
TypeScriptopenaimachine-learningdecoderencodertokenizergpt-3gpt-4gpt-4ogpt-2gpt-5bpegpt-o1

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。