AI tutorial - IT technology blog
Posted inAI

LM Studioのインストールと使い方：デスクトップGUIでローカルAIモデルを実行する

LM StudioはWindows、macOS、LinuxでDockerやターミナル設定なしに大規模言語モデルをローカルでダウンロード・実行・管理できるデスクトップアプリです。OpenAI互換のAPIサーバーが内蔵されているため、既存のコードを1行変更するだけで有料APIからローカル推論に切り替えられます。本ガイドでは、インストール、モデルのセットアップ、サーバー設定、パフォーマンステストまでを解説します。
Linux tutorial - IT technology blog
Posted inリナックス

Linux メモリオーバーコミットを完全制御：本番環境のデータベース・AIワークロード向け vm.overcommit_memory 設定ガイド

Linuxのメモリオーバーコミットは、カーネルが物理的に存在する以上のRAMを約束する仕組みだ——OOMキラーが深夜2時に発動したとき、本番データベースやAIサービスに深刻なダメージをもたらすギャンブルだ。このガイドでは、vm.overcommit_memoryの各モードの仕組み、PostgreSQLとMLワークロードへの適切な設定方法、そして問題が深刻化する前にコミット使用率を監視する方法を解説する。
Database tutorial - IT technology blog
Posted inデータベース

DockerでMilvusを本番運用する：エンタープライズAI・RAGアプリケーション向け実践ガイド

MilvusベクトルデータベースをDockerでデプロイするMilvus実践ガイド。5000万ベクトルのRAGパイプラインを6ヶ月本番運用した経験をもとに、Standaloneセットアップ、パフォーマンスチューニング、インデックス選択、AttuとPrometheusを使った監視を詳しく解説します。