llama.cppのベンチマーク補助ツールできました
llama-bench-helperllama.cpp 向けのベンチマーク補助 CLI です。モデルの入手、速度計測、品質確認を、予め設定した内容で回し、結果を出力します。githubリポジトリ：llama-bench-helper ででき...
VRAM 16GBでローカルLLM 5モデルの速度・VRAM使用量・ロード時間・回答品質を実測してみた
llama.cppを使いVRAM 16GB の環境で 5 つのモデルを動かし、処理速度・VRAM 使用量・ロード時間に加えて、共通プロンプトによる回答品質まで計測していきます。計測の前提と方法計測環境は次のとおりです。項目内容GPURTX ...
llama.cpp (CUDA)を導入してみる
OllamaとかLM Studioとか、なんならStrataとか出てきている昨今。 llama.cpp の導入手順をまとめました。この記事で入れるのは、ggml-org 公式の Windows x64 / CUDA 版バイナリです。ベンチマ...
自宅サーバーを安全に公開する VPS＋frp＋Caddy＋Tailscale の「入口だけVPS」構成
自宅で動かしているサーバー（Webサイトやゲームサーバーなど）を外から見られるようにしたい。でも、自宅回線に固定IPがない（IPが変わる／CGNATでそもそも外から届かない）ルーターのポート開放はセキュリティ的に怖い証明書（HTTPS）の管...
声優人名MS-IMEユーザ辞書
声優さんの人名をwikipediaのダンプから抽出したもの.txtです。MS-IMEユーザー辞書形式、abstractは省いています。声優さんのお名前を一発変換できていいですねのやつ。経緯味噌煮込み氏により声優人名変換 MS-IME ユーザ...
Firefoxの拡張機能が無効化される問題について(修正済)
2019年5月4日以降、Firefoxの拡張機能(アドオン)やテーマのほとんどが無効化される問題が発生しているようです。
AviutlでWebPアニメーションを作成する
Google謹製の画像フォーマットWebPが徐々に広まりつつありますが、WebPはGIFアニメのようなアニメーションにも対応しています。今回は、動画編集ソフトのAviutlでAnimated WebPを出力していきます。Aviutlプラグイ...
Local by FlywheelでWordPressローカル環境を作ってライブプレビューする
InstantWPとBackWPupを使ったローカル環境の構築方法は以前に紹介しましたが、今回はLocal by FlywheelとAll-in-One WP Migrationを使ってローカル環境を構築し、Bracketsでライブプレビュ...
WordPress×CocoonでもCFilteringを使う
WordPressブログに表示される関連記事は、同一のカテゴリやタグから記事が表示されます。CFilteringは訪問者の行動から記事間の関連度を統計的に計算し、その値によって「関連度が高い」として関連記事に記事を表示させてくれるプラグイン...