AI tutorial - IT technology blog

LightRAGとPythonで構築する軽量なグラフベースRAGシステム

ドキュメントをまたぐマルチホップ推論において従来のベクトルRAGは限界があり、エンタープライズ向けのGraphRAGは膨大なトークンコストがかかります。本記事では、LightRAGとPythonを使って軽量かつ2段階検索を備えたGraph RAGパイプラインを構築する方法を解説します。
AI tutorial - IT technology blog

LinuxでDockerを使ったSGLangのデプロイ:RadixAttentionによる高速LLM推論

SGLangはRadixAttentionを使用してリクエスト間の共有プレフィックスをキャッシュするため、チャットボット、エージェント、RAGパイプラインではvLLMより大幅に高速です。このガイドでは、GPUツールキットのセットアップから本番環境対応のDocker Compose構成まで、LinuxでDockerを使ったSGLangのデプロイ手順を解説します。
AI tutorial - IT technology blog

ASTとLLMによるJavaScriptからTypeScriptへの移行自動化:大規模コードベース向け安全なパイプライン

大規模なJavaScriptリポジトリのTypeScript移行は、コードモッドやLLMによる丸ごと生成だけに頼ると失敗しがちです。本ガイドでは、決定論的なAST変換とLLMによるピンポイントな型推論を組み合わせ、リグレッションゼロで移行を完了させた実績あるハイブリッドパイプラインを詳しく解説します。