ポケモンGOのNianticが単眼スマホでリアルタイム3Dマップを作成できるAR開発キット「Lightship」ベータ開始

ポケモンGOのナイアンティックが、AR開発者キット「Lightship」のプライベートベータ開始を発表しました。
Niantic Lightshipはスマートフォンで高度なAR(拡張現実)アプリを可能にする開発キット。以前の名称 Niantic Real World Platform から改名しました。
以前のアルファ版からは、周辺環境を3D形状として取り込む「リアルタイムマッピング」、カメラ画像から地面・空・建物などの領域を切り分ける「セマンティックセグメンテーション」、同時に8人までのユーザーが低遅延で同じAR体験を共有できる「マルチプレーヤー」の主要三分野の強化を含む、多数の新ツールが加わりました。
・ポケモンGOのナイアンティック、仮想と現実をつなぐOS「リアルワールドプラットフォーム」発表 (2018年)
・ポケモンGOのナイアンティック、AR開発キットARDKの事前登録を開始。日本先行で受付(2020年12月)

マッピング(メッシング)結果のデモはこちら。地面の高さを認識するだけでなく、木や建物も三次元形状として認識することで、投げられた賽がリアルに跳ね返る挙動を実現しています。
ナイアンティックARDKの特徴は、iPhone 12のLiDARのような深度センサやマルチカメラなど特別な機能を必要とせず、一般的なシングルカメラのスマートフォンだけでリアルタイムに3Dマッピングを可能にすること。
2018年に買収したコンピュータビジョンのスタートアップ Matrix Millや、2020年に買収したARクラウドの6D.ai などの技術が使われています。
・ポケモンGOのナイアンティックが6D.ai買収。ARクラウド技術スタートアップ (2020年4月)
セマンティックセグメンテーションは、「意味・分割」の言葉どおり、画像を「何が写っているか」で切り分ける技術。
現在のモバイルAR技術では、遠くの建造物や複雑な環境の三次元形状を正確に把握するのは難しく、形が分かっても「それが何か」を人間のように把握するのは難題ですが、セマンティックセグメンテーションによりこの領域は空、この領域は建物とざっくり把握できれば、仮想のキャラクターやオブジェクトをそれらしく重ね合わせる表現が可能になります。
ポケモンGOと組み合わせるなら、形状としては同じ平面でも地面ならばじめんタイプが穴を掘って顔を出したり、水面ならみずポケモンが飛沫を上げて現れるような演出が考えられます。

リアルタイムのマルチユーザーもナイアンティックAR技術の大きな特徴。ローカルのP2P通信とサーバを介した通信を組み合わせることで、リアルタイムのマルチプレーヤーゲームができる低遅延で同じARを体験できます。
ナイアンティックは今後さらに Lightship ARDK とクラウド側の強化を進め、全世界の3Dマップ化や、現実の特定の場所に固定して複数のユーザーが体験できる持続コンテンツアンカリングといった要素を導入する予定。開発者ページではプライベートベータへのサインアップを受け付けています。
・ポケモンGO、人海戦術で世界の3Dデータ化開始。ARマッピングでアイテム報酬
・Google、現実世界にARを固定する永続クラウドアンカー正式提供。ARCore 1.20で
(Source:Niantic Lightship。Engadget日本版より転載)
関連記事
・任天堂とNianticがARの「ピクミン」シリーズ新作を共同開発
・NianticはARの未来のためによりスマートな世界地図を構築したいと訴える
・NianticがARスタートアップの6D.aiを買収してアップルとFacebookに対抗
・ピカチュウが現実の物体の影に隠れるようになる――Niantic、新テクノロジーと開発中のゲームをデモ


