投稿日: 2025年08月04日 16:06
使わなくなったビジネス用ノート PC に GPT4ALL をインストールし、モデルとして Llama 3 8B Instruct を入れてサーバーを公開した。
詳細は、昨日のブログを見てほしい。
しかし、やはり生成 AI のサーバーとして利用するには厳しいようだ。
まず、日本語でのやりとりになると、英語よりもだんぜんレスポンス時間がかかる。
日本語で少し長めの文章になっただけで、す ...
投稿日: 2025年08月03日 16:05 (更新: 2025年08月04日 16:08)
前回の画像生成 AI で使用しているサーバーのスペック公開に続き、今回は、テキスト生成 AI で使用しているサーバーのスペックを公開する。
プロセッサ（CPU）：Intel Core i7‑8565U @ 1.80GHz（最大 4.60GHz）
グラフィックス：Intel UHD Graphics 620（最大1.15GHz、共有メモリ）
実装RAM：32.0 GB（使用可能：31.8 ...
投稿日: 2025年08月03日 09:50 (更新: 2025年08月03日 10:13)
以前のブログでも書いたとおり、生成 AI のコスト削減のため、いくつかのサービスで利用する生成 AI のサーバーは、自前で立てている。
弊社の画像生成サービス、「ArtVibe」でも自前で立てたサーバーを利用しており、そのスペックは次のとおり。
CPU：Intel Core i5‑11400H（6コア / 12スレッド、2.7GHz ベース／最大 4.5GHz）
GPU：NVIDIA G ...
投稿日: 2025年08月02日 22:46
Chapl! の現行版では、過去のチャット履歴をローカルストレージにて管理している。
もちろん、**OpenAI** **API** は、ローカルストレージを読み込む機能はないので、ローカルストレージに保存しているチャット履歴のなかかから、ユーザーの会話のなかで必要と思われるデータのみを API に送信する必要がある。
そのデータの選別に、形態素解析を使っている。
形態素解析とは、文 ...
投稿日: 2025年08月02日 22:18 (更新: 2025年08月03日 10:16)
投稿 2 つめのブログ記事にて、1 日で **OpenAI** **API** の利用料金が 9 万円にもなってしまったことを書いた。
原因は、すでにその記事に記載したとおり、生成 AI にプログラムを修正させた際、勝手にモデルを書き換えられてしまったことによるものである。
このブログを書いている現時点で、OpenAI API のテキスト生成に特化したモデルのなかで、いちばん安価なモデルは ...