高性能標(biāo)準(zhǔn)CMOS傳感器在3D視覺、檢測和測量中的使用

概述

3D成像技術(shù)在幾十年前就出現(xiàn)了，但第一個(gè)產(chǎn)品直到2000年代才商業(yè)化，當(dāng)時(shí)許多大型電影公司使用最新的高清視頻攝像機(jī)，以3D形式發(fā)行電影。此后，該領(lǐng)域在速度、精度和3D成像分辨率方面都有了飛躍式的發(fā)展，不僅是在消費(fèi)市場，在機(jī)器視覺行業(yè)也得到了廣泛的應(yīng)用。

隨著工業(yè)4.0革命的到來，由于2D視覺在復(fù)雜物體識別、尺寸標(biāo)注的精度和距離測量方面的局限性，以及人類/ 機(jī)器人交互等復(fù)雜情況下的局限性，3D視覺的需求正在增加。

3D視覺增強(qiáng)了工廠自動(dòng)化市場中機(jī)器人/機(jī)器系統(tǒng)的自主性和有效性，因?yàn)檫@對于更高精度的質(zhì)量檢測、逆向工程等2D視覺受限的應(yīng)用至關(guān)重要。此外，視覺系統(tǒng)引導(dǎo)機(jī)器人的使用正在增長，需要3D視覺來實(shí)現(xiàn)更好的遠(yuǎn)程引導(dǎo)、障礙識別和精確移動(dòng)。

3D視覺還使用了能預(yù)防和解決危險(xiǎn)情況的系統(tǒng)，以及能夠計(jì)數(shù)和區(qū)分人與機(jī)器人或物體的監(jiān)視系統(tǒng)，實(shí)現(xiàn)在密集的人機(jī)交互中保護(hù)工廠工人的安全。

3D視覺正在影響社會(huì)，因?yàn)樗軌驗(yàn)樽罱K用戶提供更安全、性能更好和更有效的輔助系統(tǒng)。例如，3D視覺是自動(dòng)駕駛汽車、協(xié)作機(jī)器人等高級汽車輔助驅(qū)動(dòng)系統(tǒng)的推動(dòng)因素。

在條形碼掃描和OCR等領(lǐng)域，2D成像仍然存在。它在工廠和倉庫中發(fā)揮著不可或缺的作用，在這些地方，得益于區(qū)塊鏈的采用以及推動(dòng)著物流中心和運(yùn)輸實(shí)現(xiàn)驚人增長的電子商務(wù)繁榮，其使用正在上升。Teledyne e2v公司擁有專門用于代碼掃描的獨(dú)特2D成像產(chǎn)品，如Topaz傳感器系列，具有實(shí)現(xiàn)高掃描速率和可靠性的性能與特點(diǎn)。

為了獲得3D圖像，存在多種技術(shù)和方法。主要有：

? 立體視覺 - 使用兩個(gè)安裝在物體不同視角的攝像頭，采用校準(zhǔn)技術(shù)對齊攝像頭之間的像素信息并提取深度信息。這類似于我們的大腦進(jìn)行視覺距離測量的工作方式

? 結(jié)構(gòu)光 - 一個(gè)已知的光圖案被投射到一個(gè)物體上，深度信息通過該圖案在物體上的形變方式來計(jì)算

? 激光三角測量 -

激光三角測量系統(tǒng)通過將相機(jī)與激光源配對來實(shí)現(xiàn)三維測量。由于已知激光和相機(jī)之間 的角偏移， 該系統(tǒng)使用三角函數(shù)測量激光線的幾何偏移(其值與物體的高度有關(guān))。該技術(shù)基于對物體的掃描。

? 飛行時(shí)間 - 光源與圖像傳感器同步，根據(jù)光脈沖與反射回傳感器的光之間的時(shí)間計(jì)算距離。

每種技術(shù)都有其優(yōu)缺點(diǎn)，因此，取決于目標(biāo)應(yīng)用(特別是距離范圍和深度精度要求)，有些技術(shù)比其他技術(shù)更適合。表1中進(jìn)行了相對比較。

表1：3D成像技術(shù)的頂層比較

雖然它仍然代表著工廠自動(dòng)化和倉庫視覺系統(tǒng)的一小部分，但目前越來越多的3D系統(tǒng)使用都是基于3D立體視覺、結(jié)構(gòu)光相機(jī)或激光位移的基礎(chǔ)。這些系統(tǒng)在固定的工作距離下工作，需要對特定的檢測區(qū)域進(jìn)行大量校準(zhǔn)工作。飛行時(shí)間系統(tǒng)克服了這些挑戰(zhàn)，從應(yīng)用的角度提供更多靈活性，但其中大部分仍然受到圖像分辨率的限制。

Teledyne e2v在機(jī)器視覺方面底蘊(yùn)深厚，包括在線掃描相機(jī)和區(qū)域掃描傳感器，現(xiàn)在已經(jīng)建立了一個(gè)專門用于3D成像的獨(dú)特平臺。這將支持最新的工業(yè)應(yīng)用，如視覺引導(dǎo)機(jī)器人、物流自動(dòng)化引導(dǎo)車輛 (AGV)、工廠監(jiān)控和安全、手持掃描儀和戶外應(yīng)用。Teledyne e2v旨在基于多種3D技術(shù)提供始終如一的產(chǎn)品，滿足客戶的應(yīng)用需求。

超越2D，3D視覺帶來快速而準(zhǔn)確的檢測，提高生產(chǎn)率

工廠的自動(dòng)化提高了生產(chǎn)率，從產(chǎn)品檢測和庫存的所有周期中節(jié)省時(shí)間和成本。為了優(yōu)化這些因素，擁有視覺系統(tǒng)的機(jī)器需要以更高的速度和更佳的性能運(yùn)行。

隨后，由于2D視覺受到限制，3D視覺被廣泛應(yīng)用于更高精度的質(zhì)量檢測、逆向工程或物體尺寸檢測。激光三角測量技術(shù)通常用于這些類型的應(yīng)用，因?yàn)槿S上要求高分辨率，因此需要非常高速的傳感器。

3D Inspection 

Measuring Shapes

 Volume Inspection (Logistics)

圖1：激光三角測量應(yīng)用示例

10多年來，Teledyne e2v一直與3D激光三角測量市場領(lǐng)導(dǎo)者合作，開發(fā)定制傳感器。2019年，Teledyne e2v推出現(xiàn)成傳感器系列 Flash，以滿足高速生產(chǎn)線對高速體積測量和檢測的挑戰(zhàn)性要求。

Flash CMOS傳感器出色地將4096 x 1024像素和2048 x 1024像素的分辨率結(jié)合，分別具有1800 fps和1500 fps

(8位) 的幀速率以及61.4 Gbps和25.6 Gbps的標(biāo)準(zhǔn)光學(xué)格式讀出速度 (分別對應(yīng) APS似光學(xué)和C-Mount)。

新傳感器的設(shè)計(jì)旨在為相機(jī)制造商提供低成本的便捷集成，包括廣泛的基于應(yīng)用的功能，使其在使用中具有很高的靈活性，例如：

? 高達(dá)100 dB的高動(dòng)態(tài)范圍模式，能夠通過高達(dá)100 dB的HDR模式測量和檢測同一圖像中的高反射表面和暗區(qū)

? 多個(gè)感興趣區(qū)域模式，允許在剖面速率和高度測量的范圍/分辨率之間進(jìn)行完美的平衡

? 一些參數(shù)的幀到幀“熱”變化模式，實(shí)現(xiàn)靈活性和對環(huán)境條件的實(shí)時(shí)適應(yīng)

? 不同的觸發(fā)模式，完美適應(yīng)生產(chǎn)線的速度

對工業(yè)市場的主要好處：

? 更高的生產(chǎn)速率 - 得益于非常高的幀率與2k或4k水平分辨率結(jié)合

? 具有成本效益的系統(tǒng) - Flash系列提供水平高分辨率和所需的垂直分辨率(相對于標(biāo)準(zhǔn)形狀因數(shù))， 以減少硅尺寸，從而降低傳感器和系統(tǒng)成本

? 使用上的高度靈活性 - 例如，由于其單一捕獲HDR等功能，可以實(shí)時(shí)適應(yīng)環(huán)境條件和生產(chǎn)線速度。

超越2D，3D視覺簡化工廠的自主性和有效性

為了提高工廠自動(dòng)化的自主和有效運(yùn)作，自主引導(dǎo)機(jī)器人的使用越來越多。隨著工廠和倉庫變得越來越自動(dòng)化，工作站中人類與機(jī)器之間的合作越來越緊密，使預(yù)防和安全變得更加重要。

在這種不可預(yù)測的工作環(huán)境中，飛行時(shí)間系統(tǒng) (ToF) 是理想之選，因?yàn)樗鼈兙哂袑?shí)時(shí)3D信息獲取和決策能力，在快速場景中檢測物體或人物的能力。飛行時(shí)間技術(shù)具有兩種方法：直接飛行時(shí)間和間接飛行時(shí)間：

? 直接飛行時(shí)間 -該系統(tǒng)通過直接計(jì)算光線從物體上反射回來的時(shí)間來測量距離

? 間接飛行時(shí)間 -該系統(tǒng)通過計(jì)算光信號發(fā)射到物體和反射回來時(shí)的相位差來測量距離。這使得系統(tǒng)能夠構(gòu)建3D圖。

圖2：直接飛行時(shí)間與間接飛行時(shí)間的利弊

Teledyne e2v公司通過定制傳感器為直接飛行時(shí)間系統(tǒng)提供解決方案，通過完整的標(biāo)準(zhǔn)產(chǎn)品組合為間接飛行時(shí)間系統(tǒng)提供解決方案。

Teledyne e2v擁有超過10年的飛行時(shí)間技術(shù)和解決方案經(jīng)驗(yàn)，具有創(chuàng)新飛行時(shí)間像素的強(qiáng)大能力，這是基于自動(dòng)化機(jī)器人汽車和監(jiān)控領(lǐng)域領(lǐng)先研發(fā)的定制傳感器經(jīng)驗(yàn)。

我們設(shè)計(jì)的標(biāo)準(zhǔn)飛行時(shí)間傳感器具有客戶正在尋求的以下關(guān)鍵特性：

? 高空間分辨率傳感器，實(shí)現(xiàn)大視場覆蓋和高角度分辨率

? 快速和實(shí)時(shí)的3D檢測，沒有任何運(yùn)動(dòng)偽影，全分辨率下超過30 fps的深度圖

? 兼有中短距離、長距離檢測和管理

? 任何條件下的超可靠距離測量：卓越的精度以及對環(huán)境光條件和多系統(tǒng)操作的穩(wěn)健性

處理復(fù)雜環(huán)境操作的飛行時(shí)間

與其他3D技術(shù)相比，飛行時(shí)間系統(tǒng)具有速度快、操作簡單、價(jià)格低廉、具有良好的中長距離3D性能等優(yōu)點(diǎn)。

如前所述，飛行時(shí)間系統(tǒng)高度靈活，因此系統(tǒng)可以安裝在移動(dòng)機(jī)器人中，因?yàn)樗恍枰鶕?jù)設(shè)置進(jìn)行校準(zhǔn)(如工廠校準(zhǔn))。該系統(tǒng)還可以適應(yīng)各種操作設(shè)置，使飛行時(shí)間系統(tǒng)能夠很好地適應(yīng)復(fù)雜環(huán)境和條件下的操作。

下面是工廠和倉庫應(yīng)用的一些示例，飛行時(shí)間是其中的最佳選擇。

圖3：飛行時(shí)間應(yīng)用示例

? 測量箱子或包裝的大小和體積 - 飛行時(shí)間成像系統(tǒng)可以測量箱子/包裹的大小和體積， 獲得最有效的托盤化或調(diào)整(包裝和卡車裝載優(yōu)化)或高效的產(chǎn)品線

? 用于智能和高效倉庫管理的貨物識別 - 飛行時(shí)間成像系統(tǒng)在比常規(guī)2D圖像處理更短的時(shí)間內(nèi)檢測貨物或包裹的尺寸

? 拾取和放置 - 飛行時(shí)間成像系統(tǒng)進(jìn)行檢測和識別，使正確的對象在正確的位置被拾取和放置，具有非常高的精度水平，比傳統(tǒng)2D圖像的處理時(shí)間更短。

與其他3D技術(shù)相比，飛行時(shí)間系統(tǒng)更有利于機(jī)器人在工廠環(huán)境中自主安全導(dǎo)航。

圖4：機(jī)器人導(dǎo)航應(yīng)用示例

如今，大多數(shù)導(dǎo)航系統(tǒng)使用傳統(tǒng)的激光雷達(dá)掃描儀來檢測目標(biāo)，但有一些缺點(diǎn)，越來越多的解決方案正在出 現(xiàn)，如間接飛行時(shí)間等替代技術(shù)。與傳統(tǒng)的激光雷達(dá)掃描儀相比，間接飛行時(shí)間系統(tǒng)提供實(shí)時(shí)圖像信息，響應(yīng)速度快，無運(yùn)動(dòng)偽影。它們也更堅(jiān)固、更緊湊，因?yàn)椴簧婕皺C(jī)械部件，而且更便宜，因?yàn)樗且环N使用更少功率和更少計(jì)算的固態(tài)設(shè)計(jì)。

表2：傳統(tǒng)激光雷達(dá)與間接飛行時(shí)間的“頂層”比較

在上述應(yīng)用程序中，飛行時(shí)間系統(tǒng)處理了許多挑戰(zhàn)。該系統(tǒng)需要處理從10米開始的短距離和中距離，需要在沒有任何運(yùn)動(dòng)偽影的情況下實(shí)現(xiàn)快速度(今天，市場上的大多數(shù)飛行時(shí)間解決方案都專注于5-6米的短距離)。此外，當(dāng)機(jī)器人在工廠/倉庫中移動(dòng)且需要在同一區(qū)域內(nèi)不受其他機(jī)器人干擾的情況下操作時(shí)，該系統(tǒng)可以適應(yīng)多種不斷變化的光照條件。

為了應(yīng)對所有這些具有挑戰(zhàn)性的條件，Teledyne e2v公司于2020年7月推出Hydra3D傳感器。這類領(lǐng)先的飛行時(shí)間傳感器具有創(chuàng)新的像素和高度靈活的配置，提供非常高的動(dòng)態(tài)范圍，這是飛行時(shí)間應(yīng)用中非常深層次的東西( 大范圍物體反射和距離的結(jié)合)。Hydra3D的分辨率為832 x 600像素，具有10微米三內(nèi)存節(jié)點(diǎn)尖端像素，可實(shí)現(xiàn)最高水平的3D性能，包括高深度分辨率、高速度和靈活的操作條件。

Hydra3D還具有創(chuàng)新的多抽頭像素，能夠同時(shí)獲取構(gòu)建3D圖像所需的三個(gè)相位，從而能夠在沒有任何運(yùn)動(dòng)偽影的情況下，從快速移動(dòng)的場景中獲取準(zhǔn)確的3D信息。

三內(nèi)存節(jié)點(diǎn)像素能夠在一幀中捕獲和存儲(chǔ)重建3D圖所需的不同相位的信息，而不是其他間接飛行時(shí)間技術(shù)所需的多幀。這可以在快速移動(dòng)場景中有力地避免任何運(yùn)動(dòng)偽影。這類似于在2D視覺中對比全局快門模式和卷簾快門模式。

三內(nèi)存節(jié)點(diǎn)像素可以用一串光脈沖捕獲所有相位，從而優(yōu)化光照功率利用。

在上述例子中，需要三個(gè)圖像(兩個(gè)相位+背景)。如果使用單內(nèi)存節(jié)點(diǎn)像素傳感器(目前最常見)，則需要循序地曝光和讀出多個(gè)相位。拍攝一次光得到相位0，另一次得到相位1，然后運(yùn)行第三次沒有光的采集并讀出以獲得背景信號。然后計(jì)算3D圖像。因此，如果有一個(gè)移動(dòng)的物體，運(yùn)動(dòng)偽影將出現(xiàn)，因?yàn)槊總€(gè)相位物體將位于不同的位置。此外，光脈沖序列需要發(fā)送并拍攝兩次，即每個(gè)相位一次。

使用多內(nèi)存節(jié)點(diǎn)像素傳感器，例如上述三內(nèi)存結(jié)點(diǎn)像素，所有曝光和讀出都以交錯(cuò)的方式進(jìn)行，因此所有相位幾乎都是并行獲得的，可以最大程度地減少運(yùn)動(dòng)偽影。此外，由于相位可以用單個(gè)光脈沖序列捕獲，因而降低了平均光照功率，這從眼睛安全和功耗的角度來看都很重要。

圖5：單內(nèi)存結(jié)點(diǎn)像素與三內(nèi)存結(jié)點(diǎn)像素對比圖

注意，運(yùn)動(dòng)偽影和運(yùn)動(dòng)模糊之間的區(qū)別類似于2D視覺中滾動(dòng)快門和全局快門之間的區(qū)別。運(yùn)動(dòng)模糊可以稍微扭曲快速移動(dòng)的對象，但不會(huì)提供錯(cuò)誤信息，而運(yùn)動(dòng)偽影可以徹底改變對象的外觀并提供錯(cuò)誤的測量，這在某些應(yīng)用程序中可能產(chǎn)生重大后果。

圖6：運(yùn)動(dòng)模糊與運(yùn)動(dòng)偽影

Hydra3D傳感器的其他優(yōu)點(diǎn)包括配置的靈活性和其他片上特性。例如，一個(gè)強(qiáng)大的片上HDR功能結(jié)合了高幀率和靈活配置，可以在距離范圍、物體反射率、幀率等之間進(jìn)行平衡，同時(shí)具有抗環(huán)境光干擾的穩(wěn)健性。在單一觸發(fā)序列中，Hydra3D啟動(dòng)了一系列采集和讀出，易于編程，從而成為一個(gè)非常強(qiáng)大的工具，能夠適應(yīng)各個(gè)應(yīng)用的條件。多個(gè)測量序列允許在不同的距離范圍或以不同的精度測量，或執(zhí)行2D捕獲，全部都在一個(gè)單觸發(fā)序列中。最重要的是，序列可以在幀與幀之間實(shí)時(shí)變化，無需停止傳感器。

獨(dú)特的片上特性，穩(wěn)健的抗多飛行時(shí)間系統(tǒng)干擾功能，使非同步系統(tǒng)可以同時(shí)工作而不互相影響。由于飛行時(shí)間需要主動(dòng)照明，一個(gè)系統(tǒng)可能會(huì)受到在同一區(qū)域同時(shí)運(yùn)行的另一個(gè)系統(tǒng)發(fā)出的光的干擾，這可能導(dǎo)致不正確的距離測量。

Hydra3D傳感器的主要特點(diǎn)：

CCD時(shí)代的飛行時(shí)間：

飛行時(shí)間圖像處理比傳統(tǒng)的2D視覺系統(tǒng)復(fù)雜得多。它涉及光學(xué)和取決于幾個(gè)參數(shù)的光系統(tǒng)

(如傳感器或視場、工廠內(nèi)校準(zhǔn)、特定傳感器配置)，以完美地滿足應(yīng)用需求。

我們經(jīng)常將飛行時(shí)間傳感器與CCD傳感器進(jìn)行比較，因?yàn)樵O(shè)置的復(fù)雜性要求在系統(tǒng)級別上投入大量精力來集成傳感器，因此掌握應(yīng)用設(shè)置的需求變得至關(guān)重要。

Teledyne e2v 公司基于自己在飛行時(shí)間CMOS傳感器方面的專長，并與客戶密切合作，在評估飛行時(shí)間系統(tǒng)固有挑戰(zhàn)方面獲得了扎實(shí)的經(jīng)驗(yàn)。為了幫助客戶縮短上市時(shí)間，并獲得最佳的飛行時(shí)間系統(tǒng)，滿足他們的應(yīng)用需求，我們提供從CMOS圖像傳感器、定制相機(jī)模塊到完整系統(tǒng)集成支持的技術(shù)解決方案。這包括評估平臺的參考設(shè)計(jì)、光和光學(xué)評估、人眼安全考慮、建模和仿真、算法和校準(zhǔn)等。

圖7：Teledyne-e2v公司的飛行時(shí)間技術(shù)支持涵蓋范圍

總結(jié)

隨著工廠和配送倉庫的日益自動(dòng)化，對有效和自主工業(yè)系統(tǒng)的需求日益增加，尤其是針對引導(dǎo)機(jī)器人和機(jī)器的3D視覺(實(shí)現(xiàn)物體識別、導(dǎo)航、高速度和高精度)。目前存在多種3D技術(shù)，每種技術(shù)都有其利弊，首選的技術(shù)在很大程度上取決于應(yīng)用要求。所有這些技術(shù)都需要具有復(fù)雜功能的高性能傳感器。

Teledyne e2v公司得到市場領(lǐng)導(dǎo)者的認(rèn)可，提供廣泛的獨(dú)特解決方案，包括3D視覺，服務(wù)于工廠自動(dòng)化、物流和計(jì)量應(yīng)用等工業(yè)市場。我們在高性能CMOS圖像傳感器(結(jié)合尖端像素和特殊功能)方面的獨(dú)特專長，加上超過10年的飛行時(shí)間系統(tǒng)經(jīng)驗(yàn)，使我們能夠幫助客戶克服當(dāng)前的3D視覺挑戰(zhàn)。