AI tutorial - IT technology blog

LM Studioのインストールと使い方:デスクトップGUIでローカルAIモデルを実行する

LM StudioはWindows、macOS、LinuxでDockerやターミナル設定なしに大規模言語モデルをローカルでダウンロード・実行・管理できるデスクトップアプリです。OpenAI互換のAPIサーバーが内蔵されているため、既存のコードを1行変更するだけで有料APIからローカル推論に切り替えられます。本ガイドでは、インストール、モデルのセットアップ、サーバー設定、パフォーマンステストまでを解説します。
AI tutorial - IT technology blog

128Kの限界を超えて:実用的なアプリケーションのための長文コンテキストLLMの最適化

大規模なドキュメントに対するLLMのパフォーマンスを最適化する方法を学びましょう。本ガイドでは、RAGからネイティブな長文コンテキストへの移行、「Lost in the Middle(中央での喪失)」問題、そして精度を確保するためのNeedle In A Haystackテストの活用法について解説します。