カバーする範囲
言語モデルを、すでに使っているプロダクトに入れます。サポート、文書、検索。検索、評価、ガードレールで、品質は希望ではなく見えるものにします。
モデルは、すでに使っているプロダクトに入れます。つまりデータ上の検索、モデルが呼んでよいツール、回答が崩れたときに見える仕組みです。
Python、FastAPI、LangChain は、プロダクトの残りの Node や Go の API の横に置きます。適切なモデルなら OpenAI と Anthropic。自分で動かせるものが必要なら Hugging Face、TensorFlow、PyTorch。
チャットボットで足りるなら、そう言います。本番に足りなければ、それも言います。
- LLM アプリ、コパイロット、エージェント
- 文書と API 上の RAG
- 評価、トレーシング、ガードレール
- プロダクトの横に置く Python サービス
実務では
- ツールを呼ぶサポートと社内アシスタント
- PDF、チケット、ナレッジベース横断の検索と Q&A
- 文書抽出と分類パイプライン
- OpenAI、Anthropic、Hugging Face 経由のオープンモデル
- Qdrant、Postgres、Redis のベクトル検索
- 役立つところでは LangChain — そうでなければ素の Python
- API が合わないときのカスタムモデル向け TensorFlow と PyTorch
- VPC から何かが出る前のプライバシー確認
扱う技術
出荷に使っている道具です。スライドのためではなく、プロダクトとそれを保つチームのために選びます。
モデルとフレームワーク
OpenAI
Anthropic
Hugging Face
LangChain
TensorFlow
PyTorch
Python
FastAPI
データ、検索、提供
Qdrant
PostgreSQL
Redis
Elasticsearch
Node.js
Go
Docker
AWS
プロダクト面
React
Next.js
TypeScript
GraphQL
よく聞かれること
- ChatGPT のラッパーだけですか？
- いいえ。検索、評価、ガードレール、モデル周辺の連携が仕事です。
- 社内の非公開データでも働けますか？
- はい。パイプラインは文書と API の上に置きます。領域が求めるときはプライバシーを確認します。
- どのモデルとツールを使いますか？
- プロダクト機能の多くは OpenAI と Anthropic。自前ホストのモデルが必要なら Hugging Face、TensorFlow、PyTorch。パイプラインは LangChain、FastAPI、Python。検索は Qdrant、Postgres、Redis。仕事のために選びます — ブログ記事のためではありません。
