検索

クラウドに送らず、現場の機器側でAI処理を行う形態。

AIが参照する知識・文書を集めたデータの蓄積。RAGの情報源。

大きな教師モデルの知識を、小さな生徒モデルに移して軽量化する手法。

モデルの学習データが収集された最終時点。それ以降の出来事は基本的に知らない。

パラメータの数値精度を下げてモデルを軽量化し、省メモリ・高速化する技術。

パラメータ数を抑えた小型の言語モデル。端末上での動作や低コスト運用に向く。

AWS・GCP・Azureなどクラウド上でAIの学習・推論を行う形態。

スマホなど端末の中だけでAIを動かす形態。通信不要でプライバシーに強い。

モデルを小さく軽くする技術の総称。量子化・蒸留・枝刈りなど。

Microsoftが開発した、小型ながら高性能な小規模言語モデル。