三菱電機は、同社のAI技術「Maisart(マイサート)」を用いて、車載機器やロボットなどがセンサで収集した情報をもとに周囲の状況を理解し、人と自然な言葉で意思疎通ができる世界初の「Scene-Aware Interaction(シーン・アウェア インタラクション)技術」を開発した。
同社は今回、同技術の適用に向けたアプリケーションの一つとして、人と車載機器が周囲の物体や出来事について直感的にわかりやすい言葉で共有できる経路案内システムを構築。例えば、「50メートル先を右に曲がってください」というこれまでの画一的な経路案内を、カメラ画像を用いて「郵便ポストの手前で右に曲がってください」というような実際の状況に即した案内が可能になる。
同技術は、入出力のサンプルだけで学習できるEnd-to-End深層学習を採用しており、カメラやマイクによる画像情報や音響情報、ライダーやレーダーで取得した位置情報などのマルチモーダルセンシング情報から、周囲の状況を機器が理解し、重要度の高い情報に自動で重み付けを実施。機器が理解した内容に対し、自然な言葉で表現する学習モデルを構築し、人と機器との円滑な意思疎通を実現する。
今後は、人と言葉で意思疎通ができる車載機器や、人の音声指示で動作するFA機器、共同作業者や遠隔地の監督者と口頭で意思疎通ができるロボット、また、生活管理や緊急対応ができる見守りサービスなどへの適用を目指すとしている。