Programming tutorial - IT technology blog

ctypesとcffiを使ってPythonからCライブラリを呼び出す:Cythonなしで重いCPU処理を高速化する

深夜2時にPythonデータパイプラインがタイムアウトしたとき、解決策はアルゴリズムの調整ではなかった——ctypesを使ってPythonから直接C関数を呼び出すことだった。このガイドでは、ctypesとcffiを使ってC/C++をPythonに統合し、システムライブラリを呼び出し、CythonやビルドパイプラインなしにCPUボトルネックを解消する方法を解説する。
AI tutorial - IT technology blog

LM Studioのインストールと使い方:デスクトップGUIでローカルAIモデルを実行する

LM StudioはWindows、macOS、LinuxでDockerやターミナル設定なしに大規模言語モデルをローカルでダウンロード・実行・管理できるデスクトップアプリです。OpenAI互換のAPIサーバーが内蔵されているため、既存のコードを1行変更するだけで有料APIからローカル推論に切り替えられます。本ガイドでは、インストール、モデルのセットアップ、サーバー設定、パフォーマンステストまでを解説します。
Linux tutorial - IT technology blog

Linux メモリオーバーコミットを完全制御:本番環境のデータベース・AIワークロード向け vm.overcommit_memory 設定ガイド

Linuxのメモリオーバーコミットは、カーネルが物理的に存在する以上のRAMを約束する仕組みだ——OOMキラーが深夜2時に発動したとき、本番データベースやAIサービスに深刻なダメージをもたらすギャンブルだ。このガイドでは、vm.overcommit_memoryの各モードの仕組み、PostgreSQLとMLワークロードへの適切な設定方法、そして問題が深刻化する前にコミット使用率を監視する方法を解説する。