JanはChatGPTの形をしたデスクトップチャットアプリですが、モデルは自分のハードウェア上で動作します。GitHubでは約44,000人がこのプロジェクトにスターを付けており、その魅力はシンプルです。アカウント不要、サブスクリプション不要、そしてデータが自分のマシンから出ません。
モデルマネージャーを内蔵しているので、一度モデルをダウンロードすれば、以降はオフラインでチャットできます。難しいタスクでより良い回答が欲しい場合は、クラウドAPIに接続することもできます。同じインターフェースのまま、エンジンは自分で選べます。
https://jan.ai 公式サイトの画像。(https://jan.ai/assets/images/general/og-image.png)
対応している機能
- オフラインチャット：ローカルモデルを使い、ファイルや文書に関する質問も可能
- モデルマネージャー：オープンモデルのダウンロードと切り替え
- 任意のクラウドコネクター：OpenAIやAnthropicなどのプロバイダー向け
- 拡張機能：アシスタントやツール的な挙動のため
乗り換える前に知っておくべきこと
正直なトレードオフは能力です。普通のノートパソコン上のローカルモデルは要約、書き直し、説明、小さなコード修正は得意ですが、長い多段階の作業では最先端のクラウドモデルより明らかに劣ります。マシンのRAMが8GBなら小さなモデルしか動かないと考えてください。32GBとそこそこのGPUがあれば状況は変わります。
こんな人に向いている
プライバシーに敏感なユーザー、オフラインや不安定な回線で作業する人、毎月の請求なしでChatGPTの形をしたインターフェースが欲しい人に向いています。