Posted inAI
llama.cppの量子化でLLMモデルをGGUF形式に変換する方法
大規模言語モデルをローカルで動かすには、品質を損なわずにファイルサイズを削減する必要があります。このガイドでは、Hugging Faceからモデルをダウンロードし、GGUF形式に変換して、Q4_K_Mなどのレベルに量子化することで一般的なハードウェアで動作させるまでのllama.cppの全パイプラインを解説します。
Posted inホームラボ
Changedetection.ioをDockerでインストール：ウェブサイトの変更を監視してTelegramにリアルタイム通知を届ける【HomeLab構築ガイド】
Changedetection.ioは、ウェブサイトのコンテンツ変更を監視してリアルタイムアラートを送信する自己ホスト型ツールだ。このガイドでは、Docker Composeを使ったセットアップ方法と、HomeLab環境でのTelegram通知設定――PlaywrightによるJavaScriptレンダリングページの対応も含めて――を順を追って解説する。
Posted inDevOps
推測に頼るのはもうやめよう：Kubernetes VPAとHPAの実践ガイド
Kubernetesのリソース制限を推測で設定するのはもうやめましょう。HPAとVPAを併用して、OOMKilledエラーを防止し、クラウドの無駄を削減する方法を学びます。
Posted inデータベース
PostgreSQLのテーブル肥大化を解消する：VACUUMとANALYZEの実践ガイド
PostgreSQLはデータを直接上書き消去しないため、「テーブル肥大化」が発生します。VACUUMの使い方、Autovacuum設定の調整、長時間実行されているトランザクションの特定方法を学び、本番データベースの健康状態を維持しましょう。
Posted inセキュリティ
漏洩したシークレットを追跡：TruffleHogでGit履歴の安全性を確保する
APIキーを誤ってコミットしてしまったことはありませんか？TruffleHogを使ってGitの履歴をスキャンし、シークレットが現在も有効か検証し、それらを完全に削除する方法を学びましょう。
Posted inセキュリティ
KubernetesでのSSL/TLS証明書ライフサイクル管理をcert-managerで自動化する
手動のSSL証明書管理は規模が大きくなると破綻する——有効期限を見逃し、Secretの同期が外れ、週末にインシデントが起きる。このガイドでは、KubernetesにおけるLet's Encryptとプライベート内部CAからの証明書発行・更新を自動化するcert-managerのセットアップを解説する。有効期限を追いかける日々にさよならを告げよう。
Posted inリナックス
systemd-analyzeでLinuxサーバーの起動時間を半分に短縮した話
Ubuntu 22.04本番サーバーが遅いブートを半年間放置していたところ、systemd-analyzeを使って40秒の起動時間の原因を3つに特定し、すべて修正しました。blameの読み方から、無効化・マスク・遅延の使い分けまで、全プロセスを紹介します。
Posted inリナックス
Linuxでの「Too many open files」エラー修正ガイド：ファイル記述子とulimitの設定
「Too many open files」エラーにお悩みですか？このガイドでは、ulimit、limits.conf、systemdのオーバーライドを使用して、高パフォーマンスサーバー向けにLinuxのファイル記述子を適切に設定する方法を解説します。
Posted inAI
高パフォーマンスなLLM推論：プロダクション環境におけるvLLMとDockerのスケーリング
vLLMとDockerでAIのパフォーマンスを向上させましょう。PagedAttention、テンソル並列化、量子化を活用して、数百人の同時実行ユーザーに対応できるようLLMをスケールさせる方法を学びます。
Posted inプログラミング
Pythonのバックグラウンドタスク：CeleryとRedisによる本番環境向けガイド
重い処理をオフロードし、サーバーのクラッシュを防ぎましょう。この本番環境向けガイドでは、Pythonにおける非同期タスク、再試行、スケジュール済みジョブのためのCeleryとRedisの実装方法を解説します。