JP7159216B2 - 撮像信号抽出装置およびそれを使用する方法 - Google Patents
撮像信号抽出装置およびそれを使用する方法 Download PDFInfo
- Publication number
- JP7159216B2 JP7159216B2 JP2019563854A JP2019563854A JP7159216B2 JP 7159216 B2 JP7159216 B2 JP 7159216B2 JP 2019563854 A JP2019563854 A JP 2019563854A JP 2019563854 A JP2019563854 A JP 2019563854A JP 7159216 B2 JP7159216 B2 JP 7159216B2
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- estimated
- spatial
- candidate object
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 title claims description 135
- 238000000034 method Methods 0.000 title claims description 113
- 210000002569 neuron Anatomy 0.000 claims description 156
- 238000000605 extraction Methods 0.000 claims description 55
- 230000002123 temporal effect Effects 0.000 claims description 55
- 230000000694 effects Effects 0.000 claims description 44
- 238000012545 processing Methods 0.000 claims description 37
- 239000011159 matrix material Substances 0.000 claims description 35
- 230000003287 optical effect Effects 0.000 claims description 16
- 238000013507 mapping Methods 0.000 claims description 15
- 238000013461 design Methods 0.000 claims description 13
- 230000011218 segmentation Effects 0.000 claims description 13
- 238000010845 search algorithm Methods 0.000 claims description 7
- 229940050561 matrix product Drugs 0.000 claims description 5
- 230000003044 adaptive effect Effects 0.000 claims description 4
- 230000009471 action Effects 0.000 claims description 2
- 230000001537 neural effect Effects 0.000 description 58
- 230000033001 locomotion Effects 0.000 description 50
- 238000001514 detection method Methods 0.000 description 48
- 241001465754 Metazoa Species 0.000 description 44
- 238000004422 calculation algorithm Methods 0.000 description 36
- 239000011575 calcium Substances 0.000 description 31
- 241000699666 Mus <mouse, genus> Species 0.000 description 30
- 230000006870 function Effects 0.000 description 30
- 230000000875 corresponding effect Effects 0.000 description 22
- 230000005284 excitation Effects 0.000 description 22
- 241000699670 Mus sp. Species 0.000 description 21
- 230000035945 sensitivity Effects 0.000 description 21
- 210000004556 brain Anatomy 0.000 description 18
- 238000000926 separation method Methods 0.000 description 18
- 238000000386 microscopy Methods 0.000 description 17
- 210000001519 tissue Anatomy 0.000 description 17
- 238000012880 independent component analysis Methods 0.000 description 15
- 230000015654 memory Effects 0.000 description 15
- 210000004179 neuropil Anatomy 0.000 description 15
- 241000252212 Danio rerio Species 0.000 description 14
- 210000003625 skull Anatomy 0.000 description 14
- 241000270725 Caiman Species 0.000 description 13
- 238000004458 analytical method Methods 0.000 description 13
- 238000009826 distribution Methods 0.000 description 13
- 210000003128 head Anatomy 0.000 description 13
- OYPRJOBELJOOCE-UHFFFAOYSA-N Calcium Chemical compound [Ca] OYPRJOBELJOOCE-UHFFFAOYSA-N 0.000 description 10
- 229910052791 calcium Inorganic materials 0.000 description 10
- 238000002474 experimental method Methods 0.000 description 10
- 230000006399 behavior Effects 0.000 description 9
- 230000002596 correlated effect Effects 0.000 description 9
- 238000002347 injection Methods 0.000 description 9
- 239000007924 injection Substances 0.000 description 9
- 230000002829 reductive effect Effects 0.000 description 9
- 230000004044 response Effects 0.000 description 9
- 238000001356 surgical procedure Methods 0.000 description 9
- 210000001320 hippocampus Anatomy 0.000 description 8
- 238000001727 in vivo Methods 0.000 description 8
- 210000002241 neurite Anatomy 0.000 description 8
- 229920001651 Cyanoacrylate Polymers 0.000 description 7
- 238000013459 approach Methods 0.000 description 7
- 210000005056 cell body Anatomy 0.000 description 7
- 238000005457 optimization Methods 0.000 description 7
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 239000003479 dental cement Substances 0.000 description 6
- 238000010304 firing Methods 0.000 description 6
- 238000002955 isolation Methods 0.000 description 6
- 230000004807 localization Effects 0.000 description 6
- MWCLLHOVUTZFKS-UHFFFAOYSA-N Methyl cyanoacrylate Chemical compound COC(=O)C(=C)C#N MWCLLHOVUTZFKS-UHFFFAOYSA-N 0.000 description 5
- 230000001054 cortical effect Effects 0.000 description 5
- 238000007428 craniotomy Methods 0.000 description 5
- 238000007405 data analysis Methods 0.000 description 5
- 230000003247 decreasing effect Effects 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 5
- 230000000971 hippocampal effect Effects 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 241001269524 Dura Species 0.000 description 4
- 230000001133 acceleration Effects 0.000 description 4
- 239000000853 adhesive Substances 0.000 description 4
- 230000001070 adhesive effect Effects 0.000 description 4
- 238000006073 displacement reaction Methods 0.000 description 4
- 238000007654 immersion Methods 0.000 description 4
- 230000001418 larval effect Effects 0.000 description 4
- 229910052751 metal Inorganic materials 0.000 description 4
- 239000002184 metal Substances 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 239000002245 particle Substances 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000000717 retained effect Effects 0.000 description 4
- 239000000243 solution Substances 0.000 description 4
- 230000003612 virological effect Effects 0.000 description 4
- 238000000342 Monte Carlo simulation Methods 0.000 description 3
- 241000209094 Oryza Species 0.000 description 3
- 235000007164 Oryza sativa Nutrition 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 3
- 238000003491 array Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000011109 contamination Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 210000005110 dorsal hippocampus Anatomy 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 239000011521 glass Substances 0.000 description 3
- 238000002372 labelling Methods 0.000 description 3
- 230000002045 lasting effect Effects 0.000 description 3
- 210000005171 mammalian brain Anatomy 0.000 description 3
- 238000001543 one-way ANOVA Methods 0.000 description 3
- 238000000513 principal component analysis Methods 0.000 description 3
- 238000011002 quantification Methods 0.000 description 3
- 235000009566 rice Nutrition 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 238000000638 solvent extraction Methods 0.000 description 3
- 239000000758 substrate Substances 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000001052 transient effect Effects 0.000 description 3
- 238000013519 translation Methods 0.000 description 3
- 235000012431 wafers Nutrition 0.000 description 3
- 241000251468 Actinopterygii Species 0.000 description 2
- 241000122205 Chamaeleonidae Species 0.000 description 2
- PIWKPBJCKXDKJR-UHFFFAOYSA-N Isoflurane Chemical compound FC(F)OC(Cl)C(F)(F)F PIWKPBJCKXDKJR-UHFFFAOYSA-N 0.000 description 2
- 208000004550 Postoperative Pain Diseases 0.000 description 2
- 241000283984 Rodentia Species 0.000 description 2
- 206010040925 Skin striae Diseases 0.000 description 2
- FAPWRFPIFSIZLT-UHFFFAOYSA-M Sodium chloride Chemical compound [Na+].[Cl-] FAPWRFPIFSIZLT-UHFFFAOYSA-M 0.000 description 2
- 108091093126 WHP Posttrascriptional Response Element Proteins 0.000 description 2
- 230000036982 action potential Effects 0.000 description 2
- 230000036626 alertness Effects 0.000 description 2
- 210000003484 anatomy Anatomy 0.000 description 2
- 238000000149 argon plasma sintering Methods 0.000 description 2
- 230000003115 biocidal effect Effects 0.000 description 2
- 230000000740 bleeding effect Effects 0.000 description 2
- 210000005013 brain tissue Anatomy 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 210000003855 cell nucleus Anatomy 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000001427 coherent effect Effects 0.000 description 2
- 210000002808 connective tissue Anatomy 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 239000006059 cover glass Substances 0.000 description 2
- 210000001947 dentate gyrus Anatomy 0.000 description 2
- JJJFUHOGVZWXNQ-UHFFFAOYSA-N enbucrilate Chemical compound CCCCOC(=O)C(=C)C#N JJJFUHOGVZWXNQ-UHFFFAOYSA-N 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000001317 epifluorescence microscopy Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 2
- 239000003292 glue Substances 0.000 description 2
- 238000010438 heat treatment Methods 0.000 description 2
- 238000002513 implantation Methods 0.000 description 2
- 229960002725 isoflurane Drugs 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000010899 nucleation Methods 0.000 description 2
- 238000012634 optical imaging Methods 0.000 description 2
- 230000001936 parietal effect Effects 0.000 description 2
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 2
- 230000001737 promoting effect Effects 0.000 description 2
- 230000001902 propagating effect Effects 0.000 description 2
- 238000001454 recorded image Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 210000004761 scalp Anatomy 0.000 description 2
- 230000003997 social interaction Effects 0.000 description 2
- 239000011780 sodium chloride Substances 0.000 description 2
- 210000000278 spinal cord Anatomy 0.000 description 2
- 239000003381 stabilizer Substances 0.000 description 2
- 238000007619 statistical method Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- WZRJTRPJURQBRM-UHFFFAOYSA-N 4-amino-n-(5-methyl-1,2-oxazol-3-yl)benzenesulfonamide;5-[(3,4,5-trimethoxyphenyl)methyl]pyrimidine-2,4-diamine Chemical compound O1C(C)=CC(NS(=O)(=O)C=2C=CC(N)=CC=2)=N1.COC1=C(OC)C(OC)=CC(CC=2C(=NC(N)=NC=2)N)=C1 WZRJTRPJURQBRM-UHFFFAOYSA-N 0.000 description 1
- 241000702423 Adeno-associated virus - 2 Species 0.000 description 1
- 241001164825 Adeno-associated virus - 8 Species 0.000 description 1
- 229920000936 Agarose Polymers 0.000 description 1
- 101710195183 Alpha-bungarotoxin Proteins 0.000 description 1
- 206010002091 Anaesthesia Diseases 0.000 description 1
- 101100498818 Arabidopsis thaliana DDR4 gene Proteins 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 241000271566 Aves Species 0.000 description 1
- SPFYMRJSYKOXGV-UHFFFAOYSA-N Baytril Chemical compound C1CN(CC)CCN1C(C(=C1)F)=CC2=C1C(=O)C(C(O)=O)=CN2C1CC1 SPFYMRJSYKOXGV-UHFFFAOYSA-N 0.000 description 1
- 206010011878 Deafness Diseases 0.000 description 1
- 241000124008 Mammalia Species 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- ZRVUJXDFFKFLMG-UHFFFAOYSA-N Meloxicam Chemical compound OC=1C2=CC=CC=C2S(=O)(=O)N(C)C=1C(=O)NC1=NC=C(C)S1 ZRVUJXDFFKFLMG-UHFFFAOYSA-N 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 206010033799 Paralysis Diseases 0.000 description 1
- 206010034972 Photosensitivity reaction Diseases 0.000 description 1
- 206010067268 Post procedural infection Diseases 0.000 description 1
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 239000000443 aerosol Substances 0.000 description 1
- 229910052782 aluminium Inorganic materials 0.000 description 1
- XAGFODPZIPBFFR-UHFFFAOYSA-N aluminium Chemical compound [Al] XAGFODPZIPBFFR-UHFFFAOYSA-N 0.000 description 1
- 230000037005 anaesthesia Effects 0.000 description 1
- 230000000202 analgesic effect Effects 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 210000005242 cardiac chamber Anatomy 0.000 description 1
- IVUMCTKHWDRRMH-UHFFFAOYSA-N carprofen Chemical compound C1=CC(Cl)=C[C]2C3=CC=C(C(C(O)=O)C)C=C3N=C21 IVUMCTKHWDRRMH-UHFFFAOYSA-N 0.000 description 1
- 229960003184 carprofen Drugs 0.000 description 1
- 210000003710 cerebral cortex Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001143 conditioned effect Effects 0.000 description 1
- 210000000877 corpus callosum Anatomy 0.000 description 1
- 238000010219 correlation analysis Methods 0.000 description 1
- 210000000805 cytoplasm Anatomy 0.000 description 1
- 238000013075 data extraction Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 230000001627 detrimental effect Effects 0.000 description 1
- 210000001029 dorsal striatum Anatomy 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 101150010081 elavl3 gene Proteins 0.000 description 1
- 108010048367 enhanced green fluorescent protein Proteins 0.000 description 1
- 229960000740 enrofloxacin Drugs 0.000 description 1
- 230000001747 exhibiting effect Effects 0.000 description 1
- 230000004720 fertilization Effects 0.000 description 1
- 238000001917 fluorescence detection Methods 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 235000013305 food Nutrition 0.000 description 1
- 238000010230 functional analysis Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000003306 harvesting Methods 0.000 description 1
- 210000004295 hippocampal neuron Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 208000015181 infectious disease Diseases 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003137 locomotive effect Effects 0.000 description 1
- 229960001929 meloxicam Drugs 0.000 description 1
- 238000002844 melting Methods 0.000 description 1
- 230000008018 melting Effects 0.000 description 1
- MYWUZJCMWCOHBA-VIFPVBQESA-N methamphetamine Chemical compound CN[C@@H](C)CC1=CC=CC=C1 MYWUZJCMWCOHBA-VIFPVBQESA-N 0.000 description 1
- XLTANAWLDBYGFU-UHFFFAOYSA-N methyllycaconitine hydrochloride Natural products C1CC(OC)C2(C3C4OC)C5CC(C(C6)OC)C(OC)C5C6(O)C4(O)C2N(CC)CC31COC(=O)C1=CC=CC=C1N1C(=O)CC(C)C1=O XLTANAWLDBYGFU-UHFFFAOYSA-N 0.000 description 1
- 238000000520 microinjection Methods 0.000 description 1
- 239000004005 microsphere Substances 0.000 description 1
- 239000002480 mineral oil Substances 0.000 description 1
- 235000010446 mineral oil Nutrition 0.000 description 1
- 238000002156 mixing Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 210000000478 neocortex Anatomy 0.000 description 1
- 210000000653 nervous system Anatomy 0.000 description 1
- 210000004940 nucleus Anatomy 0.000 description 1
- 210000000103 occipital bone Anatomy 0.000 description 1
- 210000000956 olfactory bulb Anatomy 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 210000003455 parietal bone Anatomy 0.000 description 1
- 230000035515 penetration Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 208000007578 phototoxic dermatitis Diseases 0.000 description 1
- 231100000018 phototoxicity Toxicity 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 230000003334 potential effect Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 210000000976 primary motor cortex Anatomy 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 210000001202 rhombencephalon Anatomy 0.000 description 1
- 238000004621 scanning probe microscopy Methods 0.000 description 1
- 238000005204 segregation Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000035939 shock Effects 0.000 description 1
- 229920002379 silicone rubber Polymers 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000005476 soldering Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000008925 spontaneous activity Effects 0.000 description 1
- 230000002269 spontaneous effect Effects 0.000 description 1
- 230000008064 spontaneous neuronal effect Effects 0.000 description 1
- 238000010561 standard procedure Methods 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 230000000153 supplemental effect Effects 0.000 description 1
- 239000003106 tissue adhesive Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 239000010981 turquoise Substances 0.000 description 1
- 238000009827 uniform distribution Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 239000003981 vehicle Substances 0.000 description 1
- 238000009423 ventilation Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
- 230000006648 viral gene expression Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 230000002747 voluntary effect Effects 0.000 description 1
- LYTCVQQGCSNFJU-LKGYBJPKSA-N α-bungarotoxin Chemical compound C(/[C@H]1O[C@H]2C[C@H]3O[C@@H](CC(=C)C=O)C[C@H](O)[C@]3(C)O[C@@H]2C[C@@H]1O[C@@H]1C2)=C/C[C@]1(C)O[C@H]1[C@@]2(C)O[C@]2(C)CC[C@@H]3O[C@@H]4C[C@]5(C)O[C@@H]6C(C)=CC(=O)O[C@H]6C[C@H]5O[C@H]4C[C@@H](C)[C@H]3O[C@H]2C1 LYTCVQQGCSNFJU-LKGYBJPKSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/174—Segmentation; Edge detection involving the use of two or more images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
- G06V20/647—Three-dimensional objects by matching two-dimensional images to three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
- G06V20/698—Matching; Classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30016—Brain
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Optics & Photonics (AREA)
- Computer Graphics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Investigating, Analyzing Materials By Fluorescence Or Luminescence (AREA)
- Microscoopes, Condenser (AREA)
- Image Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Description
好ましい実施形態において、撮像装置は、LFMである。LFMは、3Dボリューム情報を2Dセンサアレイに効率的にマッピングすることによって、大きい視野において非常に高いボリューム取得レート(GECI応答ダイナミクスおよびカメラフレームレートのみによって制限される)を達成し、ここで、マイクロレンズアレイは、顕微鏡の画像平面内に配置され、カメラは、マイクロレンズアレイの焦点面内に配置される。これは、入射光線の空間座標と角度座標の両方をセンサ上の2Dパターンに符号化する、空間的に変化する点拡がり関数(PSF)をもたらす。完全な3D情報は、単一のカメラ露光によってキャプチャされ、生画像の計算再マッピング(例えば、デコンボリューション)によってオフラインで取得される。
自由にふるまう齧歯動物において高速かつ単一細胞分解能において神経ダイナミクスをボリュームに関してキャプチャすることは、神経科学における主要な未解決の課題であり続けている。ライトフィールド顕微鏡(LFM)とシード型反復分離(SID)との組合せは、強く散乱する哺乳類皮質における用途のためのスケーラブルな高速ボリュームカルシウム撮像方法の実現を可能にする。
一実施形態において、信号情報を分離するために実行される動作は、本明細書で論じられるように以下を含む。撮像装置インターフェースから取得された情報から2D標準偏差画像が生成される。2D標準偏差画像は、撮像情報の弾道成分を推定する。次に、2D標準偏差画像を再マッピング(例えば、デコンボリューション)することによって3D画像が生成される。3D画像から、候補オブジェクトが識別される。次に、撮像装置に関連付けられたPSFを用いて候補オブジェクトの3D画像をマッピングする(例えば、畳み込む)ことによって、候補オブジェクトの推定された空間前方モデルが取得される。次に、候補オブジェクトの推定された空間前方モデルと、推定された時間成分とを使用することによって、背景補正されたデータが取得される。推定された空間前方モデル、および推定された時間成分は、候補オブジェクトについて収束に達するまで繰り返し更新され、それによって信号情報を分離する。
xn+l= xn(PTy/Py+λ1dim(x)) (1)
を適用することを含み得、ここで、xは、ボリューム推定値を表し、1dim(x)は、xと同じ次元を有する1のベクトルを表し、Pは、点拡がり関数を表し、λは、スパース性促進(encouraging)項の重みを表し、yは、背景を減算した生データを表す。
以下の例は、シミュレートされたデータセットを使用して、開示された手法の有効性を確認する。従来のデコンボリューションと比較して、開示された実施形態は、約4散乱長の深さまで(マウス皮質における約400μmまでに対応する)のロバストな信号分離を提供する。加えて、幼生のゼブラフィッシュなどの弱く散乱するサンプルに適用されると、開示されたアルゴリズムは、増加した時間的および空間的忠実度を実現する。
LFMベースのCa2+撮像は、ゼブラフィッシュ幼虫の脳の大きい部分からニューロン活動をキャプチャすることができることが示されている。これらの実験で一般的に使用される無色素の変異体は、著しく低い光吸収を有するが、これらの変異体は、完全に透明ではなく、若干の散乱を示す。したがって、ゼブラフィッシュ幼虫は、現在の強化されたソース抽出方法のための理想的なテストベッドである。弱い散乱レジームにおけるベースラインパフォーマンスが確立されることを可能にしながら、幼生ゼブラフィッシュの脳を撮像することは、哺乳類皮質におけるよりも高いニューロン密度という追加の困難をもたらす。
標準的なLFM再構築における散乱による劣化の激しさは、マウス皮質からの生体内LFMデータが従来的に再構築されたときに著しく明らかになる。覚醒時のマウスの後頭部皮質における様々な深さにおいて取得されたLFM記録にSIDを適用すると、開示された実施形態の有効性が明らかになった。30fpsのボリューム取得レートにおいて380μmの深さまでの約900μmの直径の横方向FOVでボリューム内のGCaMP6mを表すニューロンの活動は、頭蓋窓を使用して記憶された。この手法の計算効率は、同時に計算コストを大幅に低減しながら、より大きい軸方向範囲にわたってニューロン位置および活動トレースの確実な割り当てを可能にする。これは、2つの連続する記録のみを用いて、30fpsボリュームレートにおけるマウス皮質層I~IIIおよび層IVの一部におけるニューロンの位置および活動のキャプチャを可能にした。開示されたアルゴリズムは、高分解能2PMを使用して識別されたすべての標識されたニューロン(5296)の約10%に対応する、1分間の記録中に500を超える活性ニューロンを識別した。活性ニューロンの総数のうち、296は、ゼロから170μmまでの深さ範囲にあり、208の活性ニューロンは、120から380μmまでの範囲にあった。
2PMなどのより確立された方法によって得られたものと密接に一致するニューロン時系列を提供しながら散乱組織内のニューロン信号を分離するSIDの能力は、実験的に実証された。それらの空間フットプリントに基づいて区別がつかず、高度に相関する活動を示す2つのCA1ニューロンを取り、SIDがこれらのニューロンを空間的に分離し、それらの時間信号を分離することができることが示された。これを達成するために、SIDは、残りのニューロンからのクロストークを排除するために、各ニューロンの空間フットプリント内の数ピクセルのみを必要とする。LFMのボリューム測定FOVおよびフレームレートは、マウス皮質における同様の深さにおける生体内Ca2+撮像に典型的に使用される2PMなどの他の方法のものを上回る。したがって、典型的なLFMボリュームサイズおよびボリューム取得レート内でSIDおよび2PMによって取得されたニューロン時系列を直接比較することによって、開示された実施形態に関する実験的グラウンドトゥルースを確立することは不可能である。それにもかかわらず、実験的グラウンドトゥルースデータが生成され、SIDを使用して抽出された時系列が、現在の技術の制限内で、2PMなどのより確立された方法からのデータと実際に一致することが検証された。そうするために、ハイブリッド2PM-LFMにおけるLFM検出アームと光電子増倍管(PMT)点検出器とを使用して蛍光を同時に検出しながら、マウス皮質内の単一平面内で2PM励起が実行された。2PMハードウェアは、5Hzにおいて200×200μmの平面を走査することを可能にした。取得された2PMデータ上の空間分割と、LFM検出アームにおけるSIDとを使用して、この領域内で見いだされた12のニューロンについて局在化および信号抽出を比較すると、検出された12の活性ニューロンのうちの12と、0.85の2つの方法からの信号の平均相互相関とをもたらす、SIDによって抽出された信号が2PM記録と定量的に一致することが明らかに実証された。
次に、2PMなどのより確立された方法によって取得されるものと密接に一致するニューロン時系列を提供しながら、散乱組織内のニューロン信号を分離するSIDの能力は、実験的および体系的に実証された。単一ニューロンレベルにおける例として、それらの空間的センサフットプリントに基づいて区別することができず、高度に相関する行動を示す2つのCA1ニューロンが選択された。SIDは、ニューロンを空間的に個々のニューロンとして検出することができ、それらの対応する時間信号を分離することができる。これを達成するために、SIDは、それぞれの他のニューロンからのクロストークを排除するために、各ニューロンの空間フットプリント内の数ピクセルのみを必要とする。
ハイブリッドライトフィールドおよび2光子顕微鏡
同時2PMおよびLFM撮像、魚記録、およびマウス記録に使用される顕微鏡は、カスタムLFM検出アームを有するScientifica Slicescopeプラットフォームの周りに構築される。
開示されたソース抽出手法は、背景およびコモンモードダイナミクスを除去するために、生の画像の時系列のランク1行列因数分解で始まる。運動検出メトリックは、背景が減算された画像において計算され、運動メトリック値が閾値を超えるフレームは、さらなる処理から除外される。次に、時間に沿った各ピクセル標準偏差が計算され、「標準偏差画像」が結果として生じる。標準偏差画像は、前述の4、29で説明したように、Richardson-Lucy型アルゴリズム(非負の、オプションでスパース性の制約を用いる)と数値シミュレートされたPSFとを使用してデコンボリューションされた。これは、記録において活性なニューロンを明るい領域として含むボリューム測定フレームを結果として生じる。再構築されたボリュームは、バンドパスフィルタ処理され、局所最大探索を使用して分割され、ニューロン候補位置の辞書を結果として生じる。各位置は、LFMカメラにおけるその(弾道)フットプリントの初期の推定を取得するために、シミュレートされたPSFで畳み込まれる。各フットプリントについて、弾道フットプリントからの寄与を受け取るすべてのマイクロレンズの背後のすべてのピクセルにおける1つであるブールマスクmiが生成された。ニューロンフットプリントのセットは、非負のp×n行列S0に収集され、nは、セグメントにおいて見いだされたニューロンの数であり、pは、カメラピクセルの数である。また、Yをp×nの非負のデータ行列とする(tは、記録における時間ステップの数である)。次いで、非負の最小二乗問題、
T||Y-S T||2を最小化する
T≧0を条件とする
を解くことによって時間更新ステップが実行され、ここで、Tは、反復ソルバを使用する時間成分の非負のn×t行列Tである。前に実行されたランク1行列因数分解において見いだされた背景成分は、それぞれS行列およびT行列の追加の行および列として挿入され、したがって、ニューロン候補とともに更新される。
Sk||Yk-SkTk||2を最小化する
Sk≧0を条件とする
Skの行=0であり、ここで、マスクmi=0(∀i∈Ok)である。
次いで、時間更新ステップおよび空間更新ステップは、収束まで繰り返される。
標準的なLFMデータセット(すなわち、Richardson-Lucy型アルゴリズムと数値シミュレートされたPSFとを使用して生のフレームを個別にデコンボリューションすることによって取得されたボリューム測定フレームの列)から信号と空間フィルタとを抽出するために、参考文献35に基づく手法のカスタムMatlab実装形態が使用された。データから緩やかに変化する傾向関数をフィッティングおよび分割した後、経時的なすべてのボクセルの分散が計算され、分散分布の80パーセンタイルよりも上のボクセルは、問題のサイズを小さくするために選択された。選択されたボクセル時系列において主成分分析(PCA)が実行される。過剰適合を回避し、データのノイズを除去するために、PCA成分の最初の8%が保持され、FastICA Matlabパッケージに供給される。結果として生じるICA空間成分は、それらの重み分布に基づいて事後選択される。形状においてニューロンと互換性がある顕著なピーク(すなわち、重み分布の20パーセンタイルよりも大きい値を持つ領域)を含むもののみが保持される。対応する信号は、ピーク内のすべてのボクセルを平均することによって、トレンド除去されたデータから抽出される。
ゼブラフィッシュ実験について、elavl3:H2B-GCaMP6sフィッシュ(n=4)が受精後5~8日で撮像された。この線は、mitfa-/-、roy-/-背景において核内に閉じ込められたカルシウム指示薬を汎ニューロン的に表現する。幼虫は、2%の低融点アガロース内にそれらを埋め込むことによって固定化された。脊髄記録のために、実験の少なくとも1時間前に、心腔へのαブンガロトキシン(125μM)の注入によって幼虫が麻痺された。
手術および実験手順は、動物実験のためのオーストリアおよびヨーロッパの規制(Austrian§26 Tierversuchsgesetz2012-TVG2012)を満たし、ロックフェラー大学のIACUCによって承認された。成体(P90+)のオスおよびメスのC57B1/6J野生型マウス(n=10)が、イソフルラン(0.5~0.71/minの2~3%流量)を用いて麻酔させられ、定位固定フレーム(RWD Life Science Co.,Ltd.中国)内に配置された。頭皮を除去し、頭蓋骨から結合組織を取り除いた後、特注の軽金属頭部バーが、シアノアクリレート接着剤(Krazy Glue)を用いて頭蓋骨に固定され、黒色歯科用セメント(Ortho-Jet、Lang Dental、米国またはPaladur、Heraeus Kulzer、GmbH、ドイツ)で覆われた。頭部バーは、後頭骨および頭頂骨において挿入された3本までの無頭M1.4ねじでそれを固定することによって安定化された。次いで、撮像部位(後頭頂皮質、PPC、約2.5mm尾側および約1.8mm外側を中心とする;一次運動皮質、MI、約2.5mm前部および1.5mm外側;背側海馬2.0~2.5mm尾側およびブレグマに対して1.4~1.8mm外側)の上で円形開頭術(直径3~5mm)が実行された。頭蓋骨が開かれ、硬膜が無傷のまま、GECI搬送ウィルスAAV8:hSyn-GCaMP6mが400μm間隔で4~12の部位に注入され(10nl/minにおいて各25nl;力価約1012ウィルス粒子/ml)、PPCについては硬膜下400~450μmの深さにおいて、海馬については1200μmの深さにおいて、開頭の中心近くにグリッドを形成する。構築物AAV2/1:Hsyn-JRGECOが注入された。注入後、直径3~5mm、厚さ#1(0.16mm)のカバーガラスからなるガラス頭蓋窓が開頭術において埋め込まれ、生理食塩水で洗い流され、脳表面に接触して配置され、組織接着剤(Vetbond)を使用して所定の位置で密封された。頭蓋窓を取り囲む露出した頭蓋骨は、水浸対物レンズを用いて撮像するための小さいチャンバを構築するために歯科用セメントで覆われた。背側海馬にアクセスするために、以前に報告されたように、皮質吸引後に頭蓋窓が埋め込まれた42、43。手術後感染
と手術後の痛みとを防ぐために、動物は、抗生物質エンロフロキサシン(50mg/Kg)と鎮痛剤カプロフェン(5mg/Kg)とを含む水を約7日間供給された。手術後、動物は、撮像実験に供する前に、回復とウィルス遺伝子発現のために2~3週間それらのホームケージに戻された。頭蓋窓埋込みの前後に硬膜が損傷または大きな出血を経験しないことを確実にするために、細心の注意が払われた。損傷した硬膜または不明瞭な窓を有するマウスは、安楽死させられ、撮像実験には使用されなかった。撮像セッション中、動物は、頭部バーホルダとマウス本体スタビライザ(ボディジャケット)とで補完されたカスタマイズされたマウントを使用して頭部固定され、ディスク(直径200mm)上を自由に走ることができた。自発的な活動が記録された。これは、撮像中、動物が誘発する脳の動きを大幅に低減した。マウスのひげおよび顔にエアパフ機械刺激を提供し、同時に、必要に応じてガス麻酔を提供するために、マウスの鼻の前に換気マスクが配置された。典型的な撮像セッションは、2~10分間連続的に続いた。
背景拒絶
深部組織LFMムービーは、標準偏差画像を計算する前、および任意のさらなるステップの前に減算されなければならない強い全体的な背景蛍光を含む。この背景は、主に、再構築に使用される数値シミュレートされたPSFによってキャプチャされた深さ範囲の上下から発生する蛍光によるものである。この背景は、ランク1行列因数分解をLFM生データに適用することによって抽出された。ランク1行列因数分解から取得された空間成分および時間成分は、それぞれ、S行列およびT行列の追加の行および列として、空間更新ステップおよび時間更新ステップにおいてニューロン候補に追加される。したがって、背景推定値は、これらの最適化ステップ中に洗練され、活動がニューロンから背景にまたはその逆に再割当てされ得る。時間更新ステップにおいて、これは、固有の背景減算に対応し、空間更新ステップにおいて、背景の形状が洗練される。
標準偏差画像は、非負の成分をもたらす、ISRA1として知られるRichardson-Lucy型アルゴリズムの改良版を使用して再構築された(数値シミュレートされたPSFを用いてデコンボリューションされた)。弾道PSF2、3を用いるRichardson-Lucyデコンボリューションに基づく古典的なLFM再構築は、光学的空間サンプリング密度が強く減少する顕微鏡の本来の焦点面近くでブロック状のアーティファクトを生じやすい2。これらのアーティファクトは、後続の分割手順の成功に有害である。必要なとき、ISRAは、スパース性制約を用いて修正された。ボリューム推定値xの更新ステップは、
xn+l=xn(PTy/PTPy+λ1dim(x))
であり、ここで、1dim(x)は、xと同じ次元を有する1のベクトルであり、Pは、PSFである。パラメータλは、スパース性促進項の重みを決定する。ゼブラフィッシュ記録のためにλ>0が使用された。深部マウス記録について、パフォーマンス上の理由のためにλ=0が設定され、代わりに、アーティファクト領域内で検出されたニューロン候補が破棄された。再構築の前に、残留背景活動を除外するために、標準偏差画像が閾値処理された。
ニューロン形状に適合しない空間周波数を抑制するために、再構築された標準偏差ボリュームにバンドパスフィルタが適用され、背景を除外するために結果を閾値処理することが続けられた。次いで、局所最大探索アルゴリズムが適用された。再構築された標準偏差画像内の検出された領域は、赤点で標識される。分割閾値は、ノイズとアーティファクトとをロバストに除去するように選択された。
アルゴリズムは、時間更新ステップと空間更新ステップとを交互に行うことによって、本文の方法セクションで説明したように進行する。最初の空間推定値は、弾道フットプリントのみを含むが、更新された推定値は、その周囲の散乱光をますます組み込む。対応する時間成分は、より顕著になり、重複信号からますます分離される。
空間最適化ステップと時間最適化ステップの両方は、凸問題であり、したがって、各々は、大域的最適に収束する。組み合わされた問題は、双凸であり、このクラスの問題のために頻繁に使用されるアルゴリズムである、文献において交互凸探索4として知られているものの変形である。交互凸探索アルゴリズムは、問題をその凸サブ問題に分割することによって、双凸目標関数を最適化し、推測により解を初期化し、以前に解決されたサブ問題(または初期推測)の最適値に固定された他方の変数を維持しながら2つのサブ問題のうちの一方を反復的に解き、次いで、停止基準に達するまでサブ問題を交互にすることによって、双凸目標関数を最適化する。交互凸探索アルゴリズムによって追跡される反復シーケンスは、少なくとも1つの累積点を有し、各累積点がサブ問題の各々についての一意の解を有する場合、連続反復間の差は、ゼロに収束することが示された4。目標関数の値は、各累積点において同じであり、部分的最適値(すなわち、凸変数の各々における最適値)に達する。厳密な意味で、解の大域的な最適性は、保証されない。しかしながら、交互凸探索は、例えば、2PMデータ5の空間-時間分離のためのCa2+撮像の文脈において、双凸最適化問題にルーチン的に適用され、成功している。
合成データセットは、以下のように、パラメータ7~9について文献の値を使用して生成され、40のニューロン(直径8μmの球体)が70×70×200μmのボリューム内にランダムに配置され、1ニューロン直径の最小距離を維持し、境界線アーティファクトを回避するために各辺において25μmのマージンで取り囲まれた。シミュレートされたニューロン密度は、立法ミリメートルあたり40000になるように選択された。これは、所与の記録中にすべてのニューロンが活性であるというわけでないという事実を説明するために、マウス皮質10について報告されている平均密度よりも約2倍低い。ボリュームサイズは、LFM軸方向範囲の大部分に及ぶのに十分な大きさで、かつ、20CPUコア、クアッドGPUワークステーションの容量内に計算量を維持しながらボリュームの離れた側から発生する散乱ニューロン画像がシミュレートされたLFMセンサ上で重複しないように選択された。活動電位のポアソニアンスパイク列がランダムに生成され(平均発火レート0.5Hz、5Hzのサンプリングレートにおいて1000時間ステップ)、それらの間に何らかの相関関係を導入するために線形に混合され(混合行列は、主成分によって説明される分散の指数分布を結果として生じるように選択された)、指数関数的に減衰するGECI応答カーネル(平均減衰時定数1.2秒)で畳み込まれた。25のGECI信号対雑音比(SNR)をエミュレートするために、結果として生じたトレースにガウスノイズが追加された。
散乱PSFを生成するために、指数分布から散乱イベント(自由経路)間の距離とHenyey-Greenstein分布からの散乱角とをサンプリングすることによって光軸上の点光源から発せられ伝播された100000の仮想光線を使用するモンテカルロ手法が続けられた。各散乱イベントについて、散乱光線の見かけ上の原点において、かつ散乱イベントの前の自由経路に対応する深さにおいて、「仮想」光源が配置された。仮想光源の結果として生じるボリュームは、弾道PSFで畳み込み演算を行うことによって、センサに前方に投影された。これは、空間的に変化するが周期的なLFM PSFの構造を完全にキャプチャするために必要なすべての横方向および軸方法の変位に対して繰り返された。
抽出品質特性を得るために、覚醒した頭部を固定されたマウスの後頭頂皮質から一連の深さにおいて、1組の単一平面同時2PM-SIDムービーが記録された(100~375μm、合計n=18記録、4動物)。
CaImAn分析パッケージにおいて実装されたCa2+信号抽出5のための制約付き行列因数分解アルゴリズムは、パッケージを備えるデモスクリプト6において正確に実施された2PM記録を分析するために使用され、それによって、活性ニューロンのニューロンサイズおよびおおよその数をデータに適した値に適合させた。初期化サブルーチンとコア制約付き行列因数分解とを実行した後、スクリプトは、空間的な形状およびサイズに基づいてROIの事後選択を実行する。アルゴリズムの全体的な感度および精度は、必要な凸性およびニューロンのサイズに関する閾値、ならびに最初に選択された活性ニューロンのおおよその数に大きく依存することがわかった。3つの推定品質、すなわち、「感度」推定(偽陽性を検出するより大きいリスクを容認しながら、ニューロンを取り損なうことを回避する)と、「保守的」推定(実際のニューロンを取り損なうより大きいリスクをとりながら、偽陽性を回避する)と、感度と精度との間の最適なトレードオフを目的とする「バランスのとれた」設定とを結果として生じるデータに関するパラメータ値の3つのセットが決められた。
高感度CaImAn実行の出力は、手動で検査され、そこに含まれる検出は、検出されたオブジェクトの形状と、単一のオブジェクトがいくつかのROIに分割されたかどうかとを評価することによって、真陽性または偽陽性として分類された。ピックアップされなかった任意のニューロンは、手動で追加され、偽陰性として分類された。一緒に、2PM記録における真陽性CaImAn検出および手動で追加されたニューロン(位置および信号)は、すべてのさらなる分析のためのグラウンドトゥルースと見なされたものを構成する。
CaImAnおよびSIDのニューロン検出パフォーマンスを説明するために、分類/検出モデルの文脈において一般的に使用される3つの標準品質スコア、すなわち、リコールまたは感度(検出されたニューロンに対する真のニューロンの比率)として知られるスコアと、精度(総検出、すなわち、真陽性および偽陽性の合計に対する真陽性の比率)と、精度およびリコールの調和平均(その値を(0,1)範囲にスケーリングするために2が乗算された)として定義されるFスコアとが計算された。Fスコアは、感度と精度の両方が1に等しいとき、すなわち、すべての真のニューロンが正しく検出され、偽陽性検出が現れなかったとき、1である。
図3bに提示されている信号品質評価について、真陽性SID信号のゼロラグ相関係数と、グラウンドトゥルースにおけるそれらのそれぞれの対応物とが、それらの持続時間全体を含んで計算された。したがって、図3bにおいて与えた値は、抽出された信号内の任意のピークがグラウンドトゥルースピークと一致するかどうか(真/偽陽性GECIトランジェント検出)と、抽出された信号におけるそれらの不在が正しいかどうか(真/偽陰性トランジェント検出)の両方に関する情報を含む。比較のために、ピークのみにわたるグラウンドトゥルースに対するSID信号の相関も計算された。結果として生じたピーク-ゲート化信号相関対深さのヒストグラムが形成された。図3b-iに示す非ゲート化信号との比較において、有意差は、観察されなかった。これは、グラウンドトゥルースと比較した抽出された信号における任意の不一致が、偽陰性または偽陽性のピークの方に強く偏らないこと、および、図3b全体を通して使用される非ゲート化相関値が信号抽出品質のよい尺度であることの指標である。
一般に、近くの神経突起の信号から、ならびに任意の背景信号(ニューロピル)からニューロン信号への汚染を除去することが望ましい場合がある。開示された実施形態において、ニューロピルおよび非常に小さい神経突起からの拡散蛍光は、背景減算、および分割の開始点としての標準偏差画像の使用のためだけでなく、アルゴリズムの残りのために、かなりの程度除外される。LFMおよび2PMにおいて同時に記録されたマウス皮質から平面ムービーが作成された。信号対背景比は、深さ200μmで記録された2PM平面ムービーの平均画像において約2程度の低さであるが、同じムービーの標準偏差画像では約20程度の高さである。後者では、拡散背景は、活性細胞体およびより大きい神経突起と比較して強く抑制される。明らかに細胞体である2PM標準偏差画像の高強度領域は、LFM記録の対応する再構築された標準偏差画像においても際立っており、局所最大探索アルゴリズムとそれに続く分割とによって確実に識別される。このアルゴリズムは、主に活性細胞体を選出するが、より大きくて非常に活性の神経突起のうちのいくつかも選出する。これらのより大きい神経突起は、さらに処理され、それらの空間成分および時間成分は、上記で説明したように繰り返し最適化される。最適化後、最適化された空間成分は、それらの形状をより詳細に調べるために再構築され得る。細胞体は、密集し、より大きく、球形であるが、神経突起は、それらの形態のために、しばしばより大きい領域にわたって延在し、近くの神経突起がそれらの相関する活動のためにしばしば同じ空間成分にマージされるので、より規則的ではない形状を有する。これらの違いは、神経突起からの信号が識別され、神経細胞体の信号から減算され得る手動のまたは自動化された後選択処理のために使用される。
撮像セッション中、他の場所12でより詳細に説明したように、マウスは、頭部バーホルダおよびマウス本体スタビライザ(ボディジャケット)で補完されたカスタマイズされたマウントを使用して頭部を固定され、ディスク(直径200mm)上を自由に走ることができた。これは、撮像中、動物が誘発する脳の動きを大幅に低減した。さらなる処理の前に生のSID/LFM生データにおける任意の残留運動を検出するために、以下のように計算される、画像自己相関に基づく単純な運動検出メトリックが開発された。最初に、生データは、SID/LFMカメラフレームの時系列のランク1非負行列因数分解によって背景減算された。次に、すべての背景減算されたフレーム間の差分フレームが計算され、差分フレームの自己相関画像が計算される。差分フレームにおいて、FOV内の光源の移動は、以前の光源位置から照らされたピクセルにおいて負の値、および新しい光源位置によって照らされたピクセルにおいて正の値として発現する。したがって、ピクセルのこれら2つのセットの値は、反相関し、運動効果の程度に対応する空間的な「ラグ」(距離)において、自己相関画像内に負のピークを結果として生じる。各自己相関画像(自己相関画像の最大値に正規化された)の最小値が抽出され、LFM生フレーム内の運動に関する明確なメトリックを取得するために、この一連の最小値の時間微分がとられた。このメトリックは、同時2PM+SID記録からのデータに対してプロットされた。2PMおよびLFM/SID生データから計算された運動メトリックは、よく一致しており、両方のメトリックにおけるピークは、高分解能光学コンピュータマウスを用いてランニングディスクの動きを追跡することによって記録された動物の動きの始まりと相関する。
従来の広視野MiniscopeのMiniLFMへの変換のために、画像面の光路内に、CMOS撮像センサから正確に1焦点距離離れてマイクロレンズアレイが導入された。一例では、マイクロレンズアレイは、780μmの焦点距離を有し、100μmのレンズレットピッチで13×13mmと測定された(RPC Photonics MLA-S-100-f8)。画像センサの活性表面から780μmの距離に配置することができるようにするために、センサカバーガラスは、熱風はんだ付けリワークステーションを使用してセンサカバーガラスを定位置に保持する接着剤を焦がすことによって除去された。
MiniLFM設計は、オープンソースのMiniscopeプロジェクト23Aに基づき、LEDからの青色光は、ボールレンズによってコリメートされ、励起フィルタ(Chroma ET470/40x)を通過し、ダイクロイックミラー(Chroma T4951pxr)で反射される。GRINレンズ(Edmund64-520、0.5NA、0.23ピッチ、直径1.8mm、長さ3.93mm、530nmにおける作動距離:約200μm)は、その焦点面が対象のサンプル領域の軸中心と一致するように外科的に埋め込まれる(外科的処置については以下を参照)。励起光は、蛍光も収集するGRINレンズを通過する。蛍光は、次いで、ダイクロイックミラーと、発光フィルタ(Chroma ET525/50m)と、GRIN前焦点面の8.93倍された画像を形成するアクロマティックダブレットチューブレンズ(Edmund45-207、f=15mm)とを通過する。MLA(RPC Photonics MLA-S-100-f8、f=780μm、マイクロレンズピッチ100μm、正方形パターン、ギャップなし、13×13mmにダイシング、基板厚2mm)がこの画像面内に配置され、画像センサ(On Semiconductor MT9M001C12STM、1.3Mpx、5.2μmピクセルサイズ、ローリングシャッタ)がMLAの焦点面内に配置される。マイクロレンズアレイを収容するために、画像センサを保持する部分は、Miniscope設計と比較して2.7mmだけ延長された。MLAおよびセンサは、カスタムのアライメントリグを使用して互いに対して整列され、UV硬化接着剤を使用して接着される。既知の倍率を保証するために、GRINとチューブレンズとの距離は、2つのレンズがそれらの焦点距離の合計において配置されるように固定される。読み出し電子機器、ファームウェア、およびソフトウェアは、Miniscopeプロジェクトによって公開されてものと変わらない。センサチップの全フレーム読み出し時間は、50ミリ秒であり、これは、GCaMP6fの立ち上がり時間(200ミリ秒)と比較して短く、したがって、ニューロンタイミング抽出に対するローリングシャッタ読み出しパターンの影響は、無視できる。より薄いガラス基板(同じ製造業者から利用可能な0.2mm)を有するカスタムMLAを使
用することによって、将来Miniscope全体の重量が低減され得ることに留意されたい。これは、全体の重量を約15%低減する。ベースプレートに対するMiniLFMの安定性を改善するために、MiniLFM本体ベースの1つの面は、止めねじを用いたベースプレートへのより強固な固定を可能にするために、薄い1×1.5mmのアルミプレートで補強された。安定性は、本体をベースプレートに接続するために除去可能な接着剤(その重量が無視できるシリコーンエラストマなど)を使用することによってさらに改善され得る。
生データは、以下で簡単に概説する最近確立されたSIDアルゴリズム4に基づくパイプランを使用して処理された。背景減算のためのランク1行列因数分解の後、差分フレームの値範囲に基づく運動メトリックが計算される。生フレームの時系列は、運動メトリック値が閾値を超えるすべての時点において分割され、結果として生じる低運動セグメントは、SIDアルゴリズムを使用して別々に処理される。セグメントの各々について、標準偏差画像が計算され、システムのシミュレートされたPSFを用いる制約付きデコンボリューションによって再構築され、局所最大探索を使用して分割される。結果として生じるニューロン候補位置は、固定された空間(時間)成分を維持しながら時間(空間)成分を交互に更新する制約付き空間-時間行列因数分解アルゴリズムを使用して繰り返し更新される空間フットプリントテンプレートの辞書をシードするために使用される。これは、ニューロンフットプリントのセット(すなわち、LFMセンサにおける各ニューロンの画像のセット)と時間信号とを結果として生じる。ニューロンフットプリントは、前述の光学系のシミュレートされたLFM PSFでのデコンボリューションによって個別に再構築される。これらの各ニューロンの再構築されたボリューム測定画像は、空間のコンパクト性と、予想されるニューロンサイズとの互換性とについてチェックされる。その後、すべての低運動セグメントからのニューロンフットプリントおよび時間信号は、プールされる(フットプリントが強く重複するニューロンをマージする)。この段階における時間信号は、より弱い運動イベントのために短いグリッチを依然として示す場合がある。これらのグリッチは、約1~10フレーム続くニューロンの輝度における突然の上昇または低下を示し、大部分の信号にわたって同期される。これらの運動グリッチは、(オプションの手動追加を使用して)上記の運動メトリックを使用して検出され、各ニューロンに対してGECI応答モデルダイナミクス31Aを学習し、運動の影響を受けたフレーム全体を補間するためにそれを使用することによって、グリッチ全体で信号を補間する。同じGECI応答モデルは、基礎となるファイアリングレートの推定値ももたらす。モデルは、基礎となる活動電位に対する相対的な蛍光変化の較正を考慮しないので、結果として生じるカルシウム濃度およびファイアリングレートの推定値は、任意の単位において引用される。
同時に取得された2光子顕微鏡データとの比較によってMiniLFM/SID結果を検証するために、覚醒マウス(海馬CA1においてGCaMP6fを発現し、GRINレンズが埋め込まれ、金属頭部バーとMiniLFMベースプレートとが頭蓋骨に取り付けられている。動物の処置については以下を参照されたい)が、マウスの頭部の正確な位置決めおよび整列を可能にした円形トレッドミルアセンブリ11A上に、頭部を固定されているが歩くのが自由なように取り付けられた。修正されたMiniLFMデバイスが、市販の正立2光子顕微鏡(2PM 920nmに調整されたCoherent Chameleon Ultra IIレーザ、Olympus PlanApo N 1.25x/0.04対物レンズを有する、Scientifica Slicescope)とインターフェース接続された。MiniLFM本体は、蛍光発光経路の位置において切断され、2P励起光を透過し、GCaMP発光の70%を反射するビームスプリッタ(Thorlabs BST10R)が、その位置において組み込まれ、光軸に対して45度の角度で取り付けられた。反射されたGCaMP発光は、2P励起光を除去するために2つの赤外線ブロッキングフィルタ(Thorlabs GFS900-AおよびSemrock Brightline 720SP)に通され、上記で説明したように、CMOSセンサに整列され接着されたマイクロレンズアレイからなる、変更されていないMiniLFM検出モジュールに向けられた。透過したGCaMP発光は、2PM対物レンズに向けられ、Slicescopeの非走査検出アーム内の光電子増倍管において検出された。MiniLFMフレームレートは、2Hzに設定され、2PM取得トリガは、MiniLFMフレームクロックに同期された。2PMは、蛍光励起を最大化するために各MiniLFMフレームについて9フレームを取得し平均するように設定された。
マウスは、トラックの両端における「ベース」領域において提供される水の報酬のために高さのある直線トラック(地上37cm、長さ198cm、壁の高さ2cm)上を前後に走るように訓練された(連続5日間)。訓練が完了した後、3つの条件(搭載されたデバイスなし、Miniscopeあり、MiniLFMあり)の各々についてオーバヘッドカメラ(HDウェブカムC615、Logitech)を使用してマウスの行動が記録された。1回の試験は、10分間続き、1時間の試験間休止期間で、3匹のマウスの各々について1日あたり3回の試験が行われた(並べ替えられた順序で各条件について1回の試験)。試験は、3日間連続して繰り返され、合計n=27回の試験を結果として生じた。動物がトラックを横断する回数を手動で評価し、停止の数をカウントすることによってビデオが分析された。スクリーン定規を使用してトラックに沿って移動した距離を測定し、横断に必要な時間(停止を含まず)でこの値を割ることによって速度が計算された。
MiniLFM頭部装着型デバイスが受ける加速度を測定するために、3軸MEMS加速度計チップ(Sparkfun ADXL335、範囲±3g、軸あたり10ビット、50Hz帯域幅)を含む回路基板が、MiniLFMセンサ回路基板の背面に取り付けられた。それは、5本の細いワイヤを介してArduinoマイクロコントローラに接続され、Arduinoマイクロコントローラは、生の加速度値を読み出し、それらをPCに転送する。生の値は、重力の影響を除去するためにハイパスフィルタ処理され、MiniLFMフレームレートに一致するようにビニングされた。
すべての手順は、ロックフェラー大学、ニューヨークにおけるInstitutional Animal Care and Use Committee(IACUC)に従った。マウスは、Jackson Laboratory(C57BL/6J)から取得され、典型的には、適宜に餌および水を用いて標準的なケージ内で12時間/12時間の光サイクルでグループ飼育された。
成体(P90+)のオスおよびメスのC57B1/6J野生型マウス(n=5)が、イソフルラン(1~1.5%、流速0.5~0.71/min)を用いて麻酔させられ、定位フレーム(RWD Life Science Co.,Ltd.中国)内に配置された。250nlのAAVl.Syn.GCaMP6f.WPRE.SV40(力価約1012ウィルス粒子/ml、AV-1-PV2822 Penn Vector Core)が、ブレグマの後方2.1mm、頭蓋骨の上部から2mm横方向で-1.65mm背腹側の座標で海馬後部に注入された。核局在化AAV9.Syn.H2B.GCaMP6f.WPRE.Pzac2.1が同じ力価において注入された。注入は、以前に引かれ、面取りされ、鉱油で満たされたガラスピペットを使用してマイクロインジェクションコントローラ(World Precision Instruments、フロリダ)を用いて行われた。注入の1週間後、GRINレンズ埋込み手術が行われた。頭皮を除去し、頭蓋骨から結合組織を取り除いた後、特注の軽金属頭部バーが、シアノアクリレート接着剤(Krazy Glue)を用いて頭蓋骨に固定され、黒色歯科用セメント(Ortho-Jet、Lang Dental、米国)で覆われた。開頭術の概要は、注入部位を基準として使用して作成された。注入部位から、開頭術の中点は、ブレグマに対して0.5mmより近くに設定された。頭蓋骨を除去した後、皮質は、脳梁が見えるようになるまで大量の冷たい生理食塩水を用いて吸引され、垂直条線が見えるようになるまで、水平条線が注意深く除去された。領域全体がきれいになり、出血が止まると、GRINレンズが頭蓋骨の上部から1.35mmの深さまでゆっくりと挿入され、Vetbond(3M)を使用して定位置に接着された。乾燥すると、頭蓋骨の残りの部分は、黒色歯科用セメントで覆われた。手術後感染と手術後の痛みとを防ぐために、マウスは、抗生物質サプリメント(トリメトプリムおよびスルファメトキサゾール、Purina Mod 5053、LabDiet、ミズーリ州)を含む小球を2週間、および1mg/mlメロキシカムi.p.注射(Putney、英国)を3~5日間供給された。最後の手術の2週間後、マウスは、麻酔をかけられ、ミニチュア顕微鏡のベースプレートを固定するために定位フレ
ーム内に再び配置された。この目的のため、ベースプレートは、MiniLFMに取り付けられ、ベースプレートの向きのアライメントは、照らされたFOVが画像センサ上の中心になり、センサ上のマイクロレンズアレイによる拡散照明から形成された明るい円がFOVの中心に関して対称に見えるようになるまで手動で調整される。ベースプレートは、次いで、歯科用セメントとKrazy Glueとを使用して定位置に接着される。MiniLFMは、歯科用セメントが硬化するとすぐに除去され、動物は、そのホームケージに戻った。この後、動物は、撮像の準備ができている。
MiniLFMアライメントおよびデータ分析パイプランのためのカスタムコードが開発された。本文およびオンライン方法で説明したように、LFMアライメントのための焦点分析を実装する特注のJava(登録商標)(ImageJ/Fiji、2017年5月30日リリース)およびR(v3.x)コード、ならびに、信号抽出および運動検出パイプランを実装するMatlab(2017a)コードも開発された。以前の文献Nobauer、T.らVideo rate volumetric Ca2+imaging across cortex using seeded iterative demixing(SID)microscopy. Nat Meth 14、811~818(2017)、doi:10.1038/nmeth.4341によりSupplementary Softwareとして公開されたSID Matlabパッケージ、ならびに、そのパッケージに付属するREADME.txtファイルにリストされている依存関係が必要とされる。
1. Chenら、Nature499、295-300(2013)
2. Schrodelら、Nat. Methods10、1013-1020(2013)
3. Nguyenら、Proc. Natl. Acad. Sci.113、E1074-E1081(2016)
4. Prevedelら、Nat. Methods11、727-730(2014)
5. Ahrensら、Nat. Methods 10、413-420(2013)
6. Denkら、Science 248、73-76(1990)
7. Helmchenら、Nat. Methods2、932-940(2005)
8. Jiら、Nat. Neurosci.19、1154-1164(2016)
9. Greweら、Nat. Methods 7、399-405(2010)
10. Botcherbyら、Proc. Natl. Acad. Sci.109、2919-2924(2012)
11. Kirkbyら、Opt. Express 18、13720(2010)
12. Chengら、Nat. Methods 8、139-142(2011)
13. Kimら、Opt. Express 15、11658(2007)
14. http://hiorxiv.org/lookup/doi/10.1101/011320におけるStirmanら、Wide field-of-view, twin region two-photon imaging across extended cortical networks.(2014)
15. Reddyら、Nat. Neurosci. 11、713-720(2008)
16. Katonaら、Nat. Methods 9、201-208(2012)
17. Fernandez-Alfonsoら、J. Neurosci. Methods 222, 69-81(2014)
18. Prevedelら、Nat. Methods advance online publication、(2016)
19. Huisken、J. Science 305、1007-1009(2004)
20. Wuら、Proc. Natl. Acad. Sci. 108、17708-17713(2011)
21. Chhetriら、Nat. Methods 12、1171-1178(2015)
22. Bouchardら、Nat. Photonics 9、113-119(2015)
23. Yangら、Neuron 89, 269-284(2016)
24. Abrahamssonら、Nat. Methods 10、60-63(2012)
25. Packerら、Nat. Methods 12、140-146(2015)
26. Levoyら、ACM Trans. Graph. 25、924(2006)
27. Broxtonら、Opt. Express 21、25418-25439(2013)
28. Cohenら、Opt. Express 22、24817-24839(2014)
29. Pegardら、Optica 3、517(2016)
30. Liuら、Opt. Express 23、14461(2015)
31. Kaifoshら、Front. Neuroinformatics 8、80(2014)
32.<http://papers.nips.cc/paper/5167-extracting-regions-of-interest-from-biological-imageswith-convolutional-sparse>におけるPachitariuら、Extracting regions of interest from biological images with convolutional sparse block coding, in Adv. Neural Inf. Process. Syst. 1745-1753(2013)
33. Mukamelら、Neuron 63、747-760(2009)
34. http://www.sciencedirect.com/science/article/pii/S0896627315010843におけるPnevmatikakisら、Neuron(2016)
35. Maruyamaら、Neural Netw. Off. J. Int. Neural Netw. Soc. 55、11-19(2014)
36. Haeffeleら、Structured Low-Rank Matrix Factorization: Optimality, Algorithm, and Applications to Image Processing, in Proc. 31st Int. Conf. Mach. Learn. 32、(JMLR:, 2014)
37.<http://papers.nips.cc/paper/5342-sparse-space-timedeconvolution-for-calcium-image-analysis.pdf>におけるDiego Andilla, F. & Hamprecht, F. A. in Adv. Neural Inf. Process. Syst. 27(eds. Ghahramani, Z., Welling, M., Cortes, C, Lawrence, N. D. & Weinberger, K. Q.)64-72(Curran Associates, Inc.、2014)
38. Nairatら、Approach for incorporating aerosol scattering in wave optics propagation simulation in 2013 IEEE Aero sp. Conf. 1-5(2013) doi: 10.1109/AERO.2013.6497321
39. Jacques, S. L., Phys. Med. Biol. 58, R37(2013)
40. Dombeckら、Nat. Neurosci. 13、1433-1440(2010)
41. Kaifoshら、Nat. Neurosci. 16、1182-1184(2013)
42. Gravesら、Neuron 76、776-789(2012)
43. Wallerら、Nature 523、416-417(2015)
44. https://www.semanticscholar.org/paper/Efficient-and-accurate-extraction-of-in-vivo-Zhou-Resendez/e57dh51b5518da58ae734ff58014f3a862b30b0eにおけるZhouら、Efficient and accurate extraction of in vivo calcium signals from microendoscopic video data、(2015)
45. http://arxiv.org/abs/1606.07372におけるApthorpeら、Automatic Neuron Detection in Calcium Imaging Data Using Convolutional Networks. ArXivl60607372 Cs Q-Bio(2016)
46. Wangら、Nat. Commun. 6、(2015)
1A. Jiら、Nat. Neurosci. 19、1154-1164(2016)
2A. Yangら、Nat. Methods 14、349-359(2017)
3A. Prevedelら、Nat. Methods 11、727-730(2014)
4A. Nobauerら、Nat. Methods 14、811-818(2017)
5A. Pegardら、Optica 3、517(2016)
6A. Huiskenら、Science 305、1007-1009(2004)
7A. Ahrensら、Nat. Methods 10、413-420(2013)
8A. Chhetriら、Nat. Methods 12、1171-1178(2015)
9A. Bouchardら、Nat. Photonics 9、113-119(2015)
10A. Schrodelら、Nat. Methods 10、1013-1020(2013)
11A. Prevedelら、Nat. Methods 13、1021-1028(2016)
12A. Duemani Reddyら、Nat. Neurosci. 11、713-720(2008)
13A. Yangら、Neuron 89、269-284(2016)
14A. Katonaら、Nat. Methods 9、201-208(2012)
15A. Fernandez-Alfonso,ら、J. Neurosci. Methods 222、69-81(2014)
16A. Botcherbyら、Proc. Natl. Acad. Sci. 109、2919-2924(2012)
17A. Lu,ら、Nat. Neurosci. 20、620-628(2017)
18A. Song,ら、Nat. Methods 14、420-426(2017)
19A. Chenら、Nature 499、295-300(2013)
20A. Helmchenら、Neuron 31、903-912(2001)
21A. Flusbergら、Nat. Methods 5、935-938(2008)
22A. Ghosh,ら、Nat. Methods 8、871-878(2011)
23A. Caiら、Nature 534、115-118(2016)
24A. Barbera,ら、Neuron 92、202-213(2016)
25A. Sabharwalら、Appl. Opt. 38、7133-7144(1999)
26A. Jung et al, J. Neurophysiol. 92、3121-3133(2004)
27A. Flusbergら、Opt. Lett. 30、2272-2274(2005)
28A. Zivら、Nat. Neurosci. 16、264-266(2013)
29A. Levoy,ら、ACM Trans. Graph. 25、924(2006)
30A. Broxtonら、Opt. Express 21、25418-25439(2013)
31A. Pnevmatikakisら、Neuron 89、285-299(2016)
32A. Matzら、Opt. Express 24、10987-11001(2016)
402 命令
404 処理デバイス
406 プログラムメモリデバイス
408 データメモリデバイス
410 バス
412 ディスプレイデバイス
414 入力デバイス、英数字入力デバイス
416 カーソル制御デバイス
418 ディスクドライブユニット
420 信号生成デバイス
421 機械可読記録媒体
422 ネットワーク、ネットワーク環境
424 ネットワークインターフェースデバイス
Claims (18)
- 撮像装置インターフェースと、
前記撮像装置インターフェースに動作可能に結合された処理デバイスと、
命令を記録したコンピュータ可読記録媒体と
を備え、
前記命令は、前記処理デバイスによって実行されると、
a)カメラフレームの時系列の標準偏差を取得することによって、前記撮像装置インターフェースから取得された撮像情報から2次元標準偏差画像を生成し、それによって、前記撮像情報の弾道成分を推定することであって、前記弾道成分が、光子の本来の経路に沿って進む散乱しない光子を表す、ことと、
b)撮像装置に関連付けられた点拡がり関数を用いて前記2次元標準偏差画像をデコンボリューションすることによって、前記2次元標準偏差画像を再マッピングすることによって3次元画像を生成することと、
c)オブジェクト形状と矛盾する空間周波数を抑制するために空間分割を使用することで、前記3次元画像内の候補オブジェクトを識別することであって、前記候補オブジェクトが、前記撮像装置インターフェースによって撮像された、3次元画像ボリューム内の空間的に限定された信号放出エンティティである、ことと、
d)撮像装置に関連付けられた点拡がり関数を用いて前記候補オブジェクトの前記3次元画像をマッピングすることによって前記候補オブジェクトの推定された空間前方モデルを取得することであって、前記推定された空間前方モデルが、候補オブジェクトのための期待されるカメラセンサパターンを表す、ことと、
e)S 0 とT 0 との行列積を使用してp×t行列Yを生成することによって、前記候補モデルの前記推定された空間前方モデルと推定された時間成分とを使用することによって、背景補正されたデータを取得することであって、S 0 が候補オブジェクトの初期空間前方モデルであり、Tiが時間成分の非負のn×t行列であり、tが記録における時間ステップの数である、ことと、
f)前記候補オブジェクトについて収束に達するまで、推定されたTiを一定に保ちながら、更新された推定されたSiを取得することを反復的に繰り返し、更新された推定されたSiを取得することによって、前記候補オブジェクトについて収束に達するまで、前記推定された空間前方モデルと推定された時間成分とを繰り返し更新し、それによって信号情報を抽出することと
を含む動作を実行する、撮像信号抽出装置。 - 前記撮像信号抽出装置がライトフィールド顕微鏡である、請求項1に記載の撮像信号抽出装置。
- マッピングすることによって前記候補オブジェクトの推定された空間前方モデルを取得することが、前記撮像装置に関連付けられた点拡がり関数を用いて前記候補オブジェクトの前記3次元画像に畳み込み演算を行うことを含む、請求項1に記載の撮像信号抽出装置。
- 動作(a)の前に、前記撮像装置によって取得された背景情報が、前記撮像装置インターフェースを使用して減算され、前記背景情報が、背景蛍光である、請求項1に記載の撮像信号抽出装置。
- 動作(a)が、カメラフレームの時系列の標準偏差を決定することを含む、請求項1に記載の撮像信号抽出装置。
- 動作(b)が、前記撮像装置に関連付けられた数値シミュレートされた弾道点拡がり関数を使用することを含む、請求項1に記載の撮像信号抽出装置。
- 動作(b)の前に、前記2次元標準偏差画像が、残留背景活動を除外するために閾値処理される、請求項1に記載の撮像信号抽出装置。
- 動作(b)が、全変動およびスパース性制約を前記マッピングに組み込むことによって再構築アーティファクトを低減することをさらに含む、請求項1に記載の撮像信号抽出装置。
- 動作(c)が、オブジェクト形状と矛盾する空間周波数を抑制するために空間分割を使用することを含む、請求項1に記載の撮像信号抽出装置。
- 前記空間分割が、
前記3次元画像にバンドパスフィルタを適用することと、
背景アーティファクトを除外するために閾値処理を行うことと、
局所最大探索アルゴリズムを適用することと
を含む、請求項9に記載の撮像信号抽出装置。 - 前記撮像装置に関連付けられた前記点拡がり関数を用いて前記候補オブジェクトの前記3次元画像をマッピングする動作(d)が、スパース性の非負のp×n行列Siを生成することを含み、ここで、nがオブジェクト候補の数であり、pがピクセルの数であり、iが反復数であり、S0が候補オブジェクトの初期空間前方モデルである、請求項1に記載の撮像信号抽出装置。
- Tiが、スパース性制約を有する適応型Richardson-Lucy型ソルバを繰り返し適用することによって取得される、請求項1に記載の撮像信号抽出装置。
- 前記推定された空間前方モデルと推定された時間成分とを繰り返し更新することが、
i)推定されたTiを一定に保ちながら、更新された推定されたSiを取得し、推定されたSiを一定に保ちながら、更新された推定されたTiを取得することと、
ii)前記オブジェクト候補について収束に達するまで、動作(i)を反復的に繰り返すことと
を含む、請求項12に記載の撮像信号抽出装置。 - 前記候補オブジェクトがニューロンである、請求項1に記載の撮像信号抽出装置。
- 撮像装置インターフェースと、
前記撮像装置インターフェースに動作可能に結合された処理デバイスと、
命令を記録したコンピュータ可読記録媒体と
を備え、
前記命令は、前記処理デバイスによって実行されると、
a)カメラフレームの時系列の標準偏差を取得することによって、前記撮像装置インターフェースから取得された撮像情報から2次元標準偏差画像を生成し、それによって、前記撮像情報の弾道成分を推定することであって、前記弾道成分が、光子の本来の経路に沿って進む散乱しない光子を表す、ことと、
b)撮像装置に関連付けられた点拡がり関数を用いて前記2次元標準偏差画像をデコンボリューションすることによって、前記2次元標準偏差画像を再マッピングすることによって3次元画像を生成することと、
c)オブジェクト形状と矛盾する空間周波数を抑制するために空間分割を使用することで、前記3次元画像内の候補オブジェクトを識別することであって、前記候補オブジェクトが、前記撮像装置インターフェースによって撮像された、3次元画像ボリューム内の空間的に限定された信号放出エンティティである、ことと、
d)撮像装置に関連付けられた点拡がり関数を用いて前記候補オブジェクトの前記3次元画像をマッピングすることによって前記候補オブジェクトの推定された空間前方モデルを取得することであって、前記推定された空間前方モデルが、候補オブジェクトのための期待されるカメラセンサパターンを表す、ことと、
e)S 0 とT 0 との行列積を使用してp×t行列Yを生成することによって、前記候補オブジェクトの前記推定された空間前方モデルと推定された時間成分とを使用することによって、背景補正されたデータを取得することであって、S 0 が候補オブジェクトの初期空間前方モデルであり、Tiが時間成分の非負のn×t行列であり、tが記録における時間ステップの数である、ことと、
f)前記候補オブジェクトについて収束に達するまで、前記推定された空間前方モデルと推定された時間成分とを繰り返し更新し、それによって信号情報を抽出することと
を含む動作を実行し、
前記撮像装置インターフェースが、Miniscopeプラットフォームを使用して開発されたハードウェアと、埋込み内視鏡GRINリレーと、センサと、マイクロレンズアレイとを備え、前記マイクロレンズアレイが、後焦点面およびセンサ面が一致するように、前記センサに近接して位置合わせされ取り付けられる、撮像信号抽出装置。 - 前記マイクロレンズアレイが、画像平面の光路内に配置され、前記マイクロレンズアレイが、前記センサから1焦点距離離れて配置される、請求項15に記載の撮像信号抽出装置。
- 前記センサを保持するように構成された保持部材をさらに備え、前記保持部材が、Miniscope設計と比較すると、2.7mmだけ延長される、請求項15に記載の撮像信号抽出装置。
- 撮像信号を抽出する方法であって、
処理デバイスに動作可能に結合された撮像装置インターフェースを使用するステップを含み、前記処理デバイスが、以下の動作、すなわち、
a)カメラフレームの時系列の標準偏差を取得することによって、前記撮像装置インターフェースから取得された撮像情報から2次元標準偏差画像を生成し、それによって、前記撮像情報の弾道成分を推定することであって、前記弾道成分が、光子の本来の経路に沿って進む散乱しない光子を表す、ことと、
b)撮像装置に関連付けられた点拡がり関数を用いて前記2次元標準偏差画像をデコンボリューションすることによって、前記2次元標準偏差画像を再マッピングすることによって3次元画像を生成することと、
c)オブジェクト形状と矛盾する空間周波数を抑制するために空間分割を使用することで、前記3次元画像内の候補オブジェクトを識別することであって、前記候補オブジェクトが、前記撮像装置インターフェースによって撮像された、3次元画像ボリューム内の空間的に限定された信号放出エンティティである、ことと、
d)撮像装置に関連付けられた点拡がり関数を用いて前記候補オブジェクトの前記3次元画像をマッピングすることによって前記候補オブジェクトの推定された空間前方モデルを取得することであって、前記推定された空間前方モデルが、候補オブジェクトのための期待されるカメラセンサパターンを表す、ことと、
e)S 0 とT 0 との行列積を使用してp×t行列Yを生成することによって、前記候補オブジェクトの前記推定された空間前方モデルと推定された時間成分とを使用することによって、背景補正されたデータを取得することであって、S 0 が候補オブジェクトの初期空間前方モデルであり、Tiが時間成分の非負のn×t行列であり、tが記録における時間ステップの数である、ことと、
f)前記候補オブジェクトについて収束に達するまで、推定されたTiを一定に保ちながら、更新された推定されたSiを取得することを反復的に繰り返し、更新された推定されたSiを取得することによって、前記候補オブジェクトについて収束に達するまで、前記推定された空間前方モデルと推定された時間成分とを繰り返し更新し、それによって信号情報を抽出することと
を実行する、方法。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762508604P | 2017-05-19 | 2017-05-19 | |
US62/508,604 | 2017-05-19 | ||
US201862640377P | 2018-03-08 | 2018-03-08 | |
US62/640,377 | 2018-03-08 | ||
PCT/US2018/033417 WO2018213723A1 (en) | 2017-05-19 | 2018-05-18 | Imaging signal extraction apparatus and methods of using same |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020521171A JP2020521171A (ja) | 2020-07-16 |
JP7159216B2 true JP7159216B2 (ja) | 2022-10-24 |
Family
ID=64274733
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019563854A Active JP7159216B2 (ja) | 2017-05-19 | 2018-05-18 | 撮像信号抽出装置およびそれを使用する方法 |
Country Status (8)
Country | Link |
---|---|
US (2) | US10802263B2 (ja) |
EP (1) | EP3625612A4 (ja) |
JP (1) | JP7159216B2 (ja) |
KR (1) | KR20200027468A (ja) |
CN (1) | CN111033351B (ja) |
CA (1) | CA3064073A1 (ja) |
IL (1) | IL270696A (ja) |
WO (1) | WO2018213723A1 (ja) |
Families Citing this family (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20200027468A (ko) * | 2017-05-19 | 2020-03-12 | 더 락커펠러 유니버시티 | 영상 신호 추출 장치 및 이의 사용 방법 |
EP3624047B1 (en) * | 2018-09-14 | 2022-08-10 | Leica Microsystems CMS GmbH | Deconvolution apparatus and method using a local signal-to-noise ratio |
US10957035B2 (en) * | 2018-11-30 | 2021-03-23 | Kla Corporation | Defect classification by fitting optical signals to a point-spread function |
CN110232705B (zh) * | 2019-05-17 | 2023-05-12 | 沈阳大学 | 一种融合分数阶变分调整的反向低秩稀疏学习目标跟踪方法 |
WO2020240555A1 (en) * | 2019-05-29 | 2020-12-03 | Ramot At Tel-Aviv University Ltd. | System and method for reconstructing morphology and dynamics of biological cells from holographic images |
US11074710B2 (en) * | 2019-12-23 | 2021-07-27 | Cisco Technology, Inc. | Image-based framework for improving location estimate accuracy in indoor positioning systems |
KR102343363B1 (ko) * | 2020-03-06 | 2021-12-24 | 경북대학교 산학협력단 | 2차원 손뼈 투영 이미지로부터 회전된 2차원 손뼈 투영 이미지 생성 방법, 이를 수행하기 위한 기록 매체 및 장치 |
KR102660735B1 (ko) * | 2020-04-03 | 2024-04-25 | 한국전자통신연구원 | 코딩된 위상 마스크를 이용한 3차원 이미지 생성 장치, 방법 및 시스템 |
CN111583292B (zh) * | 2020-05-11 | 2023-07-07 | 浙江大学 | 一种面向双光子钙成像视频数据的自适应图像分割方法 |
KR102227531B1 (ko) * | 2020-07-06 | 2021-03-15 | 주식회사 딥노이드 | X-ray 보안 장치에 대한 이미지 처리 장치 및 방법 |
CN111796345B (zh) | 2020-07-14 | 2021-07-20 | 南开大学 | 微结构透镜阵列和基于微结构透镜阵列的空间定位方法 |
KR102437193B1 (ko) * | 2020-07-31 | 2022-08-30 | 동국대학교 산학협력단 | 복수의 배율에 따라 크기 변환된 영상으로 학습된 병렬 심층 신경망 장치 및 방법 |
KR20220067966A (ko) * | 2020-11-18 | 2022-05-25 | 삼성전자주식회사 | 적층형 디스플레이 장치 및 이의 제어 방법 |
EP4202910A4 (en) | 2020-11-18 | 2024-03-27 | Samsung Electronics Co., Ltd. | STACKED DISPLAY DEVICE AND ASSOCIATED CONTROL METHOD |
CN113009688B (zh) * | 2021-03-04 | 2022-05-03 | 清华大学 | 量子成像方法以及量子成像*** |
CN113218914B (zh) * | 2021-03-24 | 2023-11-10 | 杭州电子科技大学 | 一种非侵入式散射介质点扩展函数获取装置及方法 |
EP4327279A1 (en) * | 2021-04-20 | 2024-02-28 | The Rockefeller University | Volumetric imaging techniques |
CN112858304B (zh) * | 2021-04-25 | 2021-08-03 | 之江实验室 | 基于纳米微粒光学成像的光阱电场变化量标定装置及方法 |
CN113191981B (zh) * | 2021-05-13 | 2022-09-09 | 清华大学 | 基于非负矩阵分解的深层双光子钙成像方法和装置 |
CN113610790B (zh) * | 2021-07-29 | 2023-11-24 | 同济大学 | 一种基于图像识别的气体扩散层纤维测量方法 |
CN113349740A (zh) * | 2021-08-05 | 2021-09-07 | 清华大学 | 基于深度光学的微型头戴式显微镜成像装置及方法 |
WO2023191258A1 (ko) * | 2022-03-31 | 2023-10-05 | 포항공과대학교 산학협력단 | 신속 광학 조직 스캐너 및 스캐닝 방법 |
CN114494383B (zh) * | 2022-04-18 | 2022-09-02 | 清华大学 | 基于Richard-Lucy迭代的光场深度估计方法 |
CN116776941B (zh) * | 2023-06-19 | 2024-04-26 | 浙江大学 | 基于双光子钙成像数据的神经元编码模型参数估计方法及装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006518050A (ja) | 2003-02-18 | 2006-08-03 | オクラホマ メディカル リサーチ ファウンデーション | 焦点深度拡張顕微鏡法 |
US20090263002A1 (en) | 2008-04-17 | 2009-10-22 | Ruprecht-Karls-Universitat Heidelberg | Wave field microscope with sub-wavelength resolution and methods for processing microscopic images to detect objects with sub-wavelength dimensions |
JP2013545116A (ja) | 2010-08-27 | 2013-12-19 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | 高度なイメージング特性を有する顕微鏡イメージング装置 |
JP2014095678A (ja) | 2012-11-12 | 2014-05-22 | Institute Of Physical & Chemical Research | 情報処理装置、情報処理プログラム |
US20170031151A1 (en) | 2014-04-11 | 2017-02-02 | The Regents Of The University Of Colorado, A Body Corporate | Scanning Imaging For Encoded PSF Identification and Light Field Imaging |
JP2017507361A (ja) | 2014-02-20 | 2017-03-16 | カール ツァイス マイクロスコピー ゲーエムベーハーCarl Zeiss Microscopy Gmbh | 光シート顕微鏡検査のための方法および装置 |
US20170205615A1 (en) | 2016-01-14 | 2017-07-20 | University Of Vienna | Enhancing the resolution of three dimensional video images formed using a light field microscope |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6943724B1 (en) * | 2002-10-30 | 2005-09-13 | Lockheed Martin Corporation | Identification and tracking of moving objects in detected synthetic aperture imagery |
US7616826B2 (en) * | 2006-07-28 | 2009-11-10 | Massachusetts Institute Of Technology | Removing camera shake from a single photograph using statistics of a natural image |
WO2012035148A1 (en) * | 2010-09-17 | 2012-03-22 | Lltech Management | Full-field optical coherence tomography system for imaging an object |
US10317597B2 (en) * | 2014-08-26 | 2019-06-11 | The Board Of Trustees Of The Leland Stanford Junior University | Light-field microscopy with phase masking |
WO2016038461A2 (en) * | 2014-09-08 | 2016-03-17 | University Of Vienna | Recording dynamics of cellular processes |
KR20200027468A (ko) * | 2017-05-19 | 2020-03-12 | 더 락커펠러 유니버시티 | 영상 신호 추출 장치 및 이의 사용 방법 |
-
2018
- 2018-05-18 KR KR1020197036455A patent/KR20200027468A/ko active IP Right Grant
- 2018-05-18 CA CA3064073A patent/CA3064073A1/en active Pending
- 2018-05-18 US US16/614,693 patent/US10802263B2/en active Active
- 2018-05-18 EP EP18801837.8A patent/EP3625612A4/en active Pending
- 2018-05-18 WO PCT/US2018/033417 patent/WO2018213723A1/en active Application Filing
- 2018-05-18 CN CN201880047291.6A patent/CN111033351B/zh active Active
- 2018-05-18 JP JP2019563854A patent/JP7159216B2/ja active Active
-
2019
- 2019-11-17 IL IL270696A patent/IL270696A/en unknown
-
2020
- 2020-10-07 US US17/065,499 patent/US11199691B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006518050A (ja) | 2003-02-18 | 2006-08-03 | オクラホマ メディカル リサーチ ファウンデーション | 焦点深度拡張顕微鏡法 |
US20090263002A1 (en) | 2008-04-17 | 2009-10-22 | Ruprecht-Karls-Universitat Heidelberg | Wave field microscope with sub-wavelength resolution and methods for processing microscopic images to detect objects with sub-wavelength dimensions |
JP2013545116A (ja) | 2010-08-27 | 2013-12-19 | ザ ボード オブ トラスティーズ オブ ザ レランド スタンフォード ジュニア ユニバーシティー | 高度なイメージング特性を有する顕微鏡イメージング装置 |
JP2014095678A (ja) | 2012-11-12 | 2014-05-22 | Institute Of Physical & Chemical Research | 情報処理装置、情報処理プログラム |
JP2017507361A (ja) | 2014-02-20 | 2017-03-16 | カール ツァイス マイクロスコピー ゲーエムベーハーCarl Zeiss Microscopy Gmbh | 光シート顕微鏡検査のための方法および装置 |
US20170031151A1 (en) | 2014-04-11 | 2017-02-02 | The Regents Of The University Of Colorado, A Body Corporate | Scanning Imaging For Encoded PSF Identification and Light Field Imaging |
US20170205615A1 (en) | 2016-01-14 | 2017-07-20 | University Of Vienna | Enhancing the resolution of three dimensional video images formed using a light field microscope |
Also Published As
Publication number | Publication date |
---|---|
US10802263B2 (en) | 2020-10-13 |
JP2020521171A (ja) | 2020-07-16 |
WO2018213723A1 (en) | 2018-11-22 |
EP3625612A1 (en) | 2020-03-25 |
CN111033351B (zh) | 2022-08-23 |
CN111033351A (zh) | 2020-04-17 |
IL270696A (en) | 2020-01-30 |
US20210033843A1 (en) | 2021-02-04 |
EP3625612A4 (en) | 2021-03-10 |
US11199691B2 (en) | 2021-12-14 |
CA3064073A1 (en) | 2018-11-22 |
US20200201018A1 (en) | 2020-06-25 |
KR20200027468A (ko) | 2020-03-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7159216B2 (ja) | 撮像信号抽出装置およびそれを使用する方法 | |
Rumyantsev et al. | Fundamental bounds on the fidelity of sensory cortical coding | |
Skocek et al. | High-speed volumetric imaging of neuronal activity in freely moving rodents | |
Nöbauer et al. | Video rate volumetric Ca2+ imaging across cortex using seeded iterative demixing (SID) microscopy | |
Zong et al. | Miniature two-photon microscopy for enlarged field-of-view, multi-plane and long-term brain imaging | |
Ji et al. | Technologies for imaging neural activity in large volumes | |
Zhang et al. | Imaging volumetric dynamics at high speed in mouse and zebrafish brain with confocal light field microscopy | |
Yang et al. | Simultaneous multi-plane imaging of neural circuits | |
Song et al. | Volumetric two-photon imaging of neurons using stereoscopy (vTwINS) | |
Kazemipour et al. | Kilohertz frame-rate two-photon tomography | |
Zong et al. | Fast high-resolution miniature two-photon microscopy for brain imaging in freely behaving mice | |
Lu et al. | Video-rate volumetric functional imaging of the brain at synaptic resolution | |
Mohammed et al. | An integrative approach for analyzing hundreds of neurons in task performing mice using wide-field calcium imaging | |
WO2020139835A1 (en) | Systems and methods for two-dimensional fluorescence wave propagation onto surfaces using deep learning | |
Machado et al. | Multiregion neuronal activity: the forest and the trees | |
JP2019148801A (ja) | 落射蛍光顕微鏡を使用する方法、イメージング装置を使用する方法、及び落射蛍光顕微鏡 | |
US20210364771A1 (en) | Multifocal macroscope for large field of view imaging of dynamic specimens | |
Nöbauer et al. | Mesoscale volumetric light-field (MesoLF) imaging of neuroactivity across cortical areas at 18 Hz | |
US11960072B2 (en) | Multi-modal microscopic imaging | |
Ryan et al. | Correction of z‐motion artefacts to allow population imaging of synaptic activity in behaving mice | |
Hayashi et al. | In vivo calcium imaging from dentate granule cells with wide-field fluorescence microscopy | |
Truong et al. | Selective volume illumination microscopy offers synchronous volumetric imaging with high contrast | |
Guo et al. | New imaging instrument in animal models: Two‐photon miniature microscope and large field of view miniature microscope for freely behaving animals | |
Zhang et al. | Rapid deep widefield neuron finder driven by virtual calcium imaging data | |
De Santis | Content-aware approach for improving biomedical image analysis: an interdisciplinary study series |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210512 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220428 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220516 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220816 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220912 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221012 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7159216 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |