タグ: local-llm
- RX 6800でQwen3.8-Flash-Nextを動かす:Strataのプロンプト処理を高速化
OCuLink接続のRX 6800とメモリ32GBのPCで、StrataのQwen3.8-Flash-Next Coder版を試した。9件のバグをQwen3.8-27Bより短い時間で直し、SGEMMへの変更でプロンプト処理は毎秒312トークンから452トークンになった。
- RX 6800でコードを書き、Radeon 780Mでスプライトを生成する
Qwen3.8-27Bの生成速度は、RX 6800でRadeon 780Mの約3倍になった。780Mにコード修正を手伝わせたり、ゲームのコードを書かせている間にスプライトを生成させたりして試した。
- Radeon 780MでQwen3.8-27Bを動かす:速度測定とゲーム修復
Radeon 780MでQwen3.8-27Bを24Kコンテキストで動かし、速度とゲーム修復を検証しました。MTPでデコードは約67%高速化。2万トークンの入力では出力開始まで約6分かかりました。
- Radeon 780MでローカルLLMにブラウザゲームを作らせる:テストハーネスの記録
Radeon 780M上のローカルモデルで、モバイル向けタワーディフェンスゲームの設計、実装、テスト、修正までを回しました。モデルの自己レビューより、ブラウザで実行する証拠が重要だとわかる記録です。
- 780Mで動かすローカル27Bコーディングエージェント:止まった原因と動かした仕組み
Radeon 780MでQwen3.8-27BをDeepSeek Harnessから動かした記録です。大きな課題では思考が続いて実装が進まず、goalツールによる作業分割で進められました。
- マイナスゼロ:仕様とテストで回すローカルコード生成ループ
qwen3:8bからqwen3.6:27bへ引き上げるローカルのコード生成ループが、過去の自分の出力を再現し、符号付きゼロのバグという本物の限界にぶつかり、8つの関数をテスト付きで実際のゲームに組み込むまでの記録です。