llama.cpp

AI

【LM Studio編】Bonsai 8BはIntel N100で動くのか?「実行はできるが応答は……」のリアル検証レポート

最新の1ビットLLM「Bonsai 8B」をLM Studioで実行。Intel N100環境での検証結果を公開。メモリ1.15GBでロードはそこそこ、しかし応答は……?「動く」と「使える」の壁、そして低電力CPUが直面した計算能力の限界をレポートします。
AI

【1ビットLLM】Bonsai 8BをIntel N100で動かす!llama.cppビルドから実行までの完全ガイド

2026年話題の1ビットLLM「Bonsai 8B」をIntel N100のWindows環境で動かす方法を徹底解説。メモリ1GBで動作する超軽量モデルをllama.cppでビルドし、実機検証で判明した「failed to allocate buffer」エラーを回避する最適化設定(-c 512 -b 64)までエンジニア視点で詳しく紹介します。
AI

llama.cppの実行ファイル大全:llama-cli・llama-server以外も徹底解説

llama.cppで生成される実行ファイルの特徴と使い方を徹底解説。llama-cliやllama-server以外にも、モデルの評価・量子化・検索・状態管理など多彩なツールの役割を紹介し、ローカルLLM活用の幅を広げます。
AI

llama-serverのコマンドの使い方|ローカルLLMサーバーを始める手順

ローカル環境で大規模言語モデルを活用したい方必見!llama-serverのコマンドの使い方や起動手順、curlやPythonでのリクエスト方法を分かりやすく解説。llama.cpp,LLMサーバー構築の基礎がわかる記事です。
AI

llama-cliのオプション徹底解説!使いこなしに役立つ全主要パラメータ

llama.cppのllama-cliで使える主要オプションを一覧表で解説。モデル指定(-m)やプロンプト(-p)、スレッド数、GPUレイヤー、コンテキストサイズ、temperatureやtop-kなどの生成パラメータの意味とデフォルト値を整理し、対話モードで起動する活用例も紹介します。
AI

【2025最新版】llama.cppをWindowsでビルド!公式マニュアル アップデート:CMake専用手順で完全解説(CURL無効化版)

2025年最新版のllama.cppをWindows環境でCMake専用手順により簡単にビルド・実行する方法を解説。Visual Studio Build ToolsとCMakeだけでOK、CURL無効化でエラーなし。初心者でも手順通りに進めばローカルAIをすぐに体験できます。
linux

【2025年最新】WSL2+Intel UHD Graphicsでllama.cppを動かす完全ガイド

WSL2とIntel UHD Graphics環境でllama.cppを動かしたい方向けの2025年最新完全ガイド。OneAPIの導入から最適化、トラブル対策まで初心者にもわかりやすく解説。Windowsユーザー必見のローカルLLM実行手順を網羅。