高速三次元カメラモジュールによる細胞の三次元トラッキング

 

 

 生物学では,微小な対象を顕微鏡で観察する機会が多い.遊泳細胞のような運動する対象を観察する場合,顕微鏡の視野は一般的に狭いため,このような対象を視野内に捉え続きることは困難である.また,対象は顕微鏡の視野内だけでなく光軸方向にも移動するため,対象が視野内に存在してもピントを合わせ続けることも困難である.これらの問題を解決するためには,微小対象の視野内方向と光軸方向との両方について追従する三次元トラッキングが必要である.三次元トラッキングを実現するためには対象の三次元情報を計測することが必要である.このときに,顕微鏡がもつ視野や被写界深度(ピントが合う光軸方向の範囲)が狭いことを考慮すると,計測にはミリ秒オーダの高速性が求められる.

 高速な三次元情報計測を実現するため,本研究では,任意のタイミングで多重露光可能なカメラと,液体内部の疎密波(超音波)に基づく共振型の液体可変焦点レンズとを組み合わせた高速三次元カメラモジュールを開発した.このカメラモジュールは,一秒間に1000枚の画像を計測でき,さらに各フレームごとに任意の焦点位置の画像が計測できるものである.開発したモジュールは顕微鏡のカメラポートに接続できるものであり,市販の光学顕微鏡で利用できる.

 開発したモジュールでは,焦点位置が50k~500kHzオーダーの周波数で振動する共振型の液体可変焦点レンズであるTunable Acoustic Gradient index (TAG) レンズを利用してフレームごとに異なる焦点位置の画像を計測している.しかし,TAGレンズの焦点位置の振動は共振現象に基づくため,特定の焦点位置で固定することはできない.その上,TAGレンズの焦点変動は非常に高速であるため,特定の焦点位置の情報を取得するには,特定の焦点位置に達した瞬間のみ短時間の露光(0.1~1 us)をする必要がある.このような短時間露光を実現可能なイメージセンサは限定される上,短時間露光では取得できる画像の明るさも不十分であるため,通常のカメラを利用しても特定の焦点位置の画像を計測できない.この問題を解決するため,本研究ではTemporally Coded Exposure (TeCE)カメラを開発した.TeCEカメラは,①任意のタイミングに短時間露光を複数回実行できることと,②短時間露光によって発生した光電子をカメラ内のコンデンサに積算できることの2つの特徴がある.このTeCEカメラとTAGレンズを同期させ,撮影したい焦点位置となる瞬間に何回も露光を行う(多重露光)ことで,希望する焦点位置の画像を十分な明るさで取得することができる高速三次元カメラモジュールを実現した.

 細胞の三次元トラッキングを実現するために,この高速三次元モジュールを顕微鏡に接続し,1msごとに取得する画像ごとに異なる焦点位置の画像を計測できるようにした.今回は3箇所の異なる焦点位置を順番に撮影するようにしており,直近の3枚の画像から対象の三次元的な位置を推定している.この推定した三次元位置が顕微鏡の観察可能領域の中央にくるように,対象の細胞を保持している容器の位置を自動ステージで制御することで,遊泳細胞の三次元トラッキングを実現した.対象の三次元位置は毎フレーム推定しており,制御周波数は1000Hzである.トラッキングしている様子とその推定された三次元遊泳軌跡を動画に示す.動画からわかるように,自由に遊泳する細胞個体を継続的にトラッキングしてその像と遊泳軌跡を計測することに成功した.また,複数の観察法にも画像処理アルゴリズムの軽微な変更で対応できた.

 

concept.png

​図1 TeCEカメラとTAGレンズの同期駆動の概念図

cec_pict.png

​図2 試作した高速三次元カメラモジュール

動画 ​本システムでクラミドモナスをトラッキングした結果と動作原理

参考文献

  • Kazuki Yamato, Hiroyuki Chiba, Hiromasa Oku : High Speed Three Dimensional Tracking of Swimming Cell by Synchronous Modulation between TeCE Camera and TAG Lens, IEEE Robotics and Automation Letters (2020) (to appear)

  • Kazuki Yamato, Toshihiko Yamashita, Hiroyuki Chiba and Hiromasa Oku : Fast Volumetric Feedback under Microscope by Temporally Coded Exposure Camera, Sensors, Vol.19, No.7, 1606 (2019) [doi:10.3390/s19071606]

  • 山登一輝,千葉拓亨,山下駿彦,奥寛雅: TeCEカメラによる遊泳細胞の高速三次元位置計測手法,ロボティクス・メカトロニクス講演会2019 (ROBOMECH2019) (広島国際会議場, 広島,2019.6.7)/講演論文集,2A2-H08

  • Kazuki Yamato, Toshihiko Yamashita, Hiroyuki Chiba, Hiromasa Oku : Temporally Coded Exposure Camera for High-Speed Feedback of Microscopic 3D Information, 2018 IEEE International Conference on Robotics and Biomimetics (ROBIO 2018) (Kuala Lumpur Convention Centre, Kuala Lumpur, Malaysia, 2018.12.14) / Proceedings, pp.958-963

  • Toshihiko Yamashita, Hiroyuki Chiba, Kazuki Yamato, Hiromasa Oku : Development of a coded exposure camera for high-speed 3D measurememt using microscope, OSA Imaging and Applied Optics Congress (Wyndham Orlando Resort International Drive, Orlando, USA, 2018.06.26)/ITu3B.2