AI tutorial - IT technology blog

DSPyによるプロンプト最適化の自動化:手動プロンプトエンジニアリングを置き換える宣言的LLMプログラミング

DSPyを使えば、手動でプロンプトを書く代わりに入出力を宣言的に定義するだけでLLMパイプラインを構築でき、ラベル付きサンプルを使って自動的に最適化されます。このガイドでは、手動プロンプトエンジニアリングとのトレードオフを解説し、実際に動作するコード例を交えて実装方法を詳しく説明します。
AI tutorial - IT technology blog

Intel CPU上での高性能LLM:OpenVINO実戦ガイド

高価なGPUは必要ありません。本ガイドでは、Intel OpenVINOと4ビット量子化を使用して、Llama 3などのLLMを標準的なCPUでプロダクションレベルのパフォーマンスで実行する方法を解説します。