エッジでのリアルタイムAI：推論、カーネル、アクセラレーター

Real-time AI at the Edgeは、計算資源やメモリ、電力が限られた環境でAIを高速に動かすための技術をテーマにした、Tokyo AI（TAI）の技術イベントです。MLエンジニア、システム開発者、エッジAI製品を開発するエンジニアを対象に、低レイヤーの実装上の選択と、実際のアプリケーションでのレイテンシや信頼性とのつながりを掘り下げます。 Antoine Sauvage氏（EDGEMATRIX）は、NVIDIA Jetson上でのリアルタイム画像認識アプリケーション開発の知見を、最適化モデルのデプロイから、GPUで高速化した映像パイプライン、不安定なカメラやネットワークへの対応、長期的な保守まで含めて共有します。Xiao Wang氏（ルネサスエレクトロニクス）は、AIエージェントを使ってハードウェアを考慮した最適化を調整し、デプロイの知見を再利用し、結果を検証する方法を紹介します。GPUプロファイリングと推論のボトルネック特定に関する3本目のトークは登壇者が未定です。トーク後は1時間のネットワーキングがあり、日程は暫定、東京の会場は後日発表です。