本講演では、現場の意思決定を加速するエッジAIの必然性、SLMの有用性、そして動作基盤としてのJetsonと関連ソフトウェアを紹介します。エッジAIは低遅延・オフライン耐性・データ主権を実現し、ネットワーク品質や送信コストの制約を回避。SLMはメモリ/電力制約下でも動作し短レイテンシでリアルタイム処理できます。JetsonはGPUと豊富なI/Oで高いperf/Wと低いトークンレイテンシーを達成できます。Jetsonでの生成AI実装をサポートするソフトウェアとJetsonシリーズも紹介をします。