テクノロジー03
エッジ推論
デバイス上に宿る推論
クラウドへの往復は、動くロボットには許されない贅沢です。XINK CORE は、データが取得される場所で LLM と VLM の推論を実行します — プライベートで低遅延、そしてネットワークが途切れても動作し続けます。
- 4.6 TOPS
- eCV SoC 上の NPU
- 1B
- パラメータ — ライブデモで動作する LLM
- 28 nm
- テープアウト中の次世代 LLM IC
01
なぜエッジが勝るのか
遅延：往復ではなく、ミリ秒での判断。プライバシー：映像と音声がデバイスから出ることはない。堅牢性：オフラインでも推論が動き続ける。物理世界で行動する機械にとって、エッジ推論は最適化ではなく — 要件です。
02
設計思想としてのエッジ・クラウド・ハイブリッド
小さなモデルがデバイス上で推論します — 量子化された Gemma 3 1B が意図解析、プライバシーフィルタリング、瞬時のインタラクションを担い — 一方でクラウドが重い処理を統括します：計画立案、外部 API、大規模モデルのサポート。セキュアな伝送、双方向の協調、それぞれが最も得意なことを行います。
03
言語がビジョンと出会う
LLM エージェントにカメラを与えれば — キャプション生成、視覚的質問応答、フレーズグラウンディング、検出 — ロボットは周囲を学習し、一度も見たことのない物体にも適応できます。それこそが自動化を自律へと変えるものです：環境がもはや予測可能である必要はなくなります。
04
次なる一手：言語のために作られたプロセッサ
近日登場の 28 nm LLM IC は、効率的なプレフィルとデコードによる低コンテキスト推論を狙います — エッジの電力でリアルタイムの知能と文脈認識を。これにより Sense-and-React アーキテクチャが完成します：知覚と認知が、単一のエッジの反射神経として。