Posted inAI
ROCmを使用したAMD GPUでのAIモデル実行：本番環境対応ガイド
NVIDIA税から脱却しましょう。このガイドでは、AMD ROCm 6.1をセットアップして高性能なAI推論を実現する方法を、Radeon 7900シリーズの実機ベンチマークとセットアップのコツを交えて紹介します。
Posted inAI
本番環境でのGuardrails AI：LLM出力バリデーションの6ヶ月間から学んだ教訓
LLMを本番環境に導入するには、単に優れたプロンプトを用意する以上の工夫が必要です。Guardrails AIを6ヶ月間使用した経験をもとに、Pydanticやカスタムバリデーター、再問い合わせ機能（re-asking）を活用して、データ整合性を100%確保する方法を共有します。
Posted inAI
DSPyによるプロンプト最適化の自動化：手動プロンプトエンジニアリングを置き換える宣言的LLMプログラミング
DSPyを使えば、手動でプロンプトを書く代わりに入出力を宣言的に定義するだけでLLMパイプラインを構築でき、ラベル付きサンプルを使って自動的に最適化されます。このガイドでは、手動プロンプトエンジニアリングとのトレードオフを解説し、実際に動作するコード例を交えて実装方法を詳しく説明します。
Posted inAI
InstructorとPydanticでLLMから構造化データを抽出：JSONパースの悪夢からの解放
LLMから出力される不正な形式のJSONに苦労していませんか？PythonのInstructorライブラリとPydanticを使用して、本番環境のAIアプリケーション向けに、信頼性が高く型安全な構造化データを抽出する方法を解説します。
Posted inAI
AIプロンプトインジェクションを防ぐ：LlamaGuard 3 実践ガイド
AIの暴走を防ぐために。MetaのLlamaGuard 3を実装し、プロンプトインジェクションのブロックと安全なAIインタラクションを確保する方法を、Pythonを用いた実践的な手順で解説します。
Posted inAI
OllamaでMicrosoft Phi-4をデプロイする：エッジおよびローカルハードウェア向けの高性能SLM
Microsoftの小規模言語モデル（SLM）「Phi-4」をOllamaでローカルにデプロイする方法を学びましょう。ハードウェア仕様、Python連携、エッジデバイス向けの最適化について解説します。
Posted inAI
Intel CPU上での高性能LLM：OpenVINO実戦ガイド
高価なGPUは必要ありません。本ガイドでは、Intel OpenVINOと4ビット量子化を使用して、Llama 3などのLLMを標準的なCPUでプロダクションレベルのパフォーマンスで実行する方法を解説します。
Posted inAI
Pydantic AIで作るプロダクショングレードのAIエージェント：実践的なPythonガイド
予測不可能なLLMのレスポンスから脱却しましょう。Pydantic AIを使用して、データの自動検証を行い、プロダクションツールとシームレスに統合できる型安全なPythonエージェントを構築する方法を学びます。
Posted inAI
DockerでText Generation Inference（TGI）をデプロイして高性能LLMサービングを実現する
LLMの遅いPythonラッパーを卒業しましょう。Hugging FaceのText Generation Inference（TGI）をDockerでデプロイし、高スループット・低レイテンシのAIサービングを実現する方法を解説します。
Posted inAI
Langfuseのセルフホスト：LLMオブザーバビリティ実践ガイド
AI開発における推測に頼るのをやめましょう。この実践ガイドでは、RAGのレイテンシからトークンコストまで、すべてを追跡するLLMオブザーバビリティのためのLangfuseセルフホスト方法を解説します。