Posted inAI
高パフォーマンスなLLM推論：プロダクション環境におけるvLLMとDockerのスケーリング
vLLMとDockerでAIのパフォーマンスを向上させましょう。PagedAttention、テンソル並列化、量子化を活用して、数百人の同時実行ユーザーに対応できるようLLMをスケールさせる方法を学びます。
Posted inAI
WhisperとOllamaでローカル音声アシスタントを構築する：完全オフラインの音声認識とLLM応答
Whisperで音声認識、OllamaでローカルLLM応答を行う完全オフライン音声アシスタントの構築ガイド。クラウドAPI不要、レイテンシーのオーバーヘッドなし、完全なプライバシーを実現。6ヶ月の本番運用経験に基づく実測パフォーマンスデータを含む実践的な内容。
Posted inAI
カオスから自動化へ：LLMとFastAPIによる本番環境向けチケット分類システムの構築
PythonのFastAPIとLLMを使用したチケット分類システムの構築に関する実践的なガイドです。実際のコスト分析、コード例、そして6ヶ月間の本番運用で得られたインサイトを紹介します。
Posted inAI
LLM評価：本番環境でAIモデルの品質を測定する実践的な方法とツール
LLM評価とは、AIモデルの出力が正確で関連性があり安全かどうかを体系的に測定する実践です。単なる速度ではなく、内容の品質を問います。本ガイドでは、DeepEvalとRAGASの実践的なセットアップ、CI/CDへの統合、そして実際のデプロイ経験から得たプロダクション監視戦略を解説します。
Posted inAI
UnslothとQLoRAによるLLMのファインチューニング：コンシューマー向けGPUでLlama 3をトレーニングする
CUDA Out of Memoryエラーに悩まされるのはもう終わりにしましょう。本ガイドでは、UnslothとQLoRAを使用して、メモリ消費を70%抑えつつ2倍の速さでLlama 3をファインチューニングする方法を紹介します。
Posted inAI
ベクトル検索を超えて：Microsoft GraphRAGとPythonでナレッジグラフを構築する
AIの浅い回答に満足していませんか？Microsoft GraphRAGがナレッジグラフとLeidenアルゴリズムを駆使し、LLMが複雑に絡み合ったデータセットを理解する方法を紹介します。このPythonガイドでは、関係性を考慮したRAGシステムの構築とクエリ実行の手順を解説します。
Posted inAI
Crawl4AIとPythonで構築するスマートなウェブスクレイパー：6ヶ月間の本番運用レビュー
壊れやすいCSSセレクターはもう不要です。6ヶ月間の本番運用実績に基づき、Crawl4AIとPythonを使用して、回復力が高くAIに最適化されたウェブスクレイパーを構築する方法を学びましょう。
Posted inAI
ローカルAIとの6ヶ月：WhisperとOllamaで議事録作成を自動化した方法
クラウドのサブスクリプションはもう不要です。WhisperとOllamaを使用して、チームの作業時間を週12時間削減し、会議データのセキュリティを確保するプライベートなローカルAIパイプラインを構築した方法を紹介します。
Posted inAI
DoclingでPDFテーブルを抽出してRAGシステムに活用する
PDFヘビーなRAGシステムでDoclingを6ヶ月間本番運用した経験をもとに、テーブルを正確に抽出し、インテリジェントにチャンク化して、精度の高い検索のためにインデックス化する方法を解説します。クイックスタート、パイプライン構築、そして苦労して得た実践的なヒントを網羅しています。
Posted inAI
AI駆動のテスト自動化：LLMを活用した壊れにくいPlaywrightスクリプトの構築
壊れやすいCSSセレクターの修正に疲れていませんか？GPT-4oとPlaywrightを活用して、UIの変更に自動で適応する自己修復型のテストスイートを構築する方法を紹介します。