高性能標(biāo)準(zhǔn)CMOS傳感器在3D視覺、檢測和測量中的使用

概述

3D成像技術(shù)在幾十年前就出現(xiàn)了，但第一個產(chǎn)品直到2000年代才商業(yè)化，當(dāng)時許多大型電影公司使用最新的高清視頻攝像機，以3D形式發(fā)行電影。此后，該領(lǐng)域在速度、精度和3D成像分辨率方面都有了飛躍式的發(fā)展，不僅是在消費市場，在機器視覺行業(yè)也得到了廣泛的應(yīng)用。

隨著工業(yè)4.0革命的到來，由于2D視覺在復(fù)雜物體識別、尺寸標(biāo)注的精度和距離測量方面的局限性，以及人類/ 機器人交互等復(fù)雜情況下的局限性，3D視覺的需求正在增加。

3D視覺增強了工廠自動化市場中機器人/機器系統(tǒng)的自主性和有效性，因為這對于更高精度的質(zhì)量檢測、逆向工程等2D視覺受限的應(yīng)用至關(guān)重要。此外，視覺系統(tǒng)引導(dǎo)機器人的使用正在增長，需要3D視覺來實現(xiàn)更好的遠程引導(dǎo)、障礙識別和精確移動。

3D視覺還使用了能預(yù)防和解決危險情況的系統(tǒng)，以及能夠計數(shù)和區(qū)分人與機器人或物體的監(jiān)視系統(tǒng)，實現(xiàn)在密集的人機交互中保護工廠工人的安全。

3D視覺正在影響社會，因為它能夠為最終用戶提供更安全、性能更好和更有效的輔助系統(tǒng)。例如，3D視覺是自動駕駛汽車、協(xié)作機器人等高級汽車輔助驅(qū)動系統(tǒng)的推動因素。

在條形碼掃描和OCR等領(lǐng)域，2D成像仍然存在。它在工廠和倉庫中發(fā)揮著不可或缺的作用，在這些地方，得益于區(qū)塊鏈的采用以及推動著物流中心和運輸實現(xiàn)驚人增長的電子商務(wù)繁榮，其使用正在上升。Teledyne e2v公司擁有專門用于代碼掃描的獨特2D成像產(chǎn)品，如Topaz傳感器系列，具有實現(xiàn)高掃描速率和可靠性的性能與特點。

為了獲得3D圖像，存在多種技術(shù)和方法。主要有：

? 立體視覺 - 使用兩個安裝在物體不同視角的攝像頭，采用校準(zhǔn)技術(shù)對齊攝像頭之間的像素信息并提取深度信息。這類似于我們的大腦進行視覺距離測量的工作方式

? 結(jié)構(gòu)光 - 一個已知的光圖案被投射到一個物體上，深度信息通過該圖案在物體上的形變方式來計算

? 激光三角測量 -

激光三角測量系統(tǒng)通過將相機與激光源配對來實現(xiàn)三維測量。由于已知激光和相機之間 的角偏移， 該系統(tǒng)使用三角函數(shù)測量激光線的幾何偏移(其值與物體的高度有關(guān))。該技術(shù)基于對物體的掃描。

? 飛行時間 - 光源與圖像傳感器同步，根據(jù)光脈沖與反射回傳感器的光之間的時間計算距離。

每種技術(shù)都有其優(yōu)缺點，因此，取決于目標(biāo)應(yīng)用(特別是距離范圍和深度精度要求)，有些技術(shù)比其他技術(shù)更適合。表1中進行了相對比較。

表1：3D成像技術(shù)的頂層比較

雖然它仍然代表著工廠自動化和倉庫視覺系統(tǒng)的一小部分，但目前越來越多的3D系統(tǒng)使用都是基于3D立體視覺、結(jié)構(gòu)光相機或激光位移的基礎(chǔ)。這些系統(tǒng)在固定的工作距離下工作，需要對特定的檢測區(qū)域進行大量校準(zhǔn)工作。飛行時間系統(tǒng)克服了這些挑戰(zhàn)，從應(yīng)用的角度提供更多靈活性，但其中大部分仍然受到圖像分辨率的限制。

Teledyne e2v在機器視覺方面底蘊深厚，包括在線掃描相機和區(qū)域掃描傳感器，現(xiàn)在已經(jīng)建立了一個專門用于3D成像的獨特平臺。這將支持最新的工業(yè)應(yīng)用，如視覺引導(dǎo)機器人、物流自動化引導(dǎo)車輛 (AGV)、工廠監(jiān)控和安全、手持掃描儀和戶外應(yīng)用。Teledyne e2v旨在基于多種3D技術(shù)提供始終如一的產(chǎn)品，滿足客戶的應(yīng)用需求。

超越2D，3D視覺帶來快速而準(zhǔn)確的檢測，提高生產(chǎn)率

工廠的自動化提高了生產(chǎn)率，從產(chǎn)品檢測和庫存的所有周期中節(jié)省時間和成本。為了優(yōu)化這些因素，擁有視覺系統(tǒng)的機器需要以更高的速度和更佳的性能運行。

隨后，由于2D視覺受到限制，3D視覺被廣泛應(yīng)用于更高精度的質(zhì)量檢測、逆向工程或物體尺寸檢測。激光三角測量技術(shù)通常用于這些類型的應(yīng)用，因為三軸上要求高分辨率，因此需要非常高速的傳感器。

3D Inspection 

Measuring Shapes

 Volume Inspection (Logistics)

圖1：激光三角測量應(yīng)用示例

10多年來，Teledyne e2v一直與3D激光三角測量市場領(lǐng)導(dǎo)者合作，開發(fā)定制傳感器。2019年，Teledyne e2v推出現(xiàn)成傳感器系列 Flash，以滿足高速生產(chǎn)線對高速體積測量和檢測的挑戰(zhàn)性要求。

Flash CMOS傳感器出色地將4096 x 1024像素和2048 x 1024像素的分辨率結(jié)合，分別具有1800 fps和1500 fps

(8位) 的幀速率以及61.4 Gbps和25.6 Gbps的標(biāo)準(zhǔn)光學(xué)格式讀出速度 (分別對應(yīng) APS似光學(xué)和C-Mount)。

新傳感器的設(shè)計旨在為相機制造商提供低成本的便捷集成，包括廣泛的基于應(yīng)用的功能，使其在使用中具有很高的靈活性，例如：

? 高達100 dB的高動態(tài)范圍模式，能夠通過高達100 dB的HDR模式測量和檢測同一圖像中的高反射表面和暗區(qū)

? 多個感興趣區(qū)域模式，允許在剖面速率和高度測量的范圍/分辨率之間進行完美的平衡

? 一些參數(shù)的幀到幀“熱”變化模式，實現(xiàn)靈活性和對環(huán)境條件的實時適應(yīng)

? 不同的觸發(fā)模式，完美適應(yīng)生產(chǎn)線的速度

對工業(yè)市場的主要好處：

? 更高的生產(chǎn)速率 - 得益于非常高的幀率與2k或4k水平分辨率結(jié)合

? 具有成本效益的系統(tǒng) - Flash系列提供水平高分辨率和所需的垂直分辨率(相對于標(biāo)準(zhǔn)形狀因數(shù))， 以減少硅尺寸，從而降低傳感器和系統(tǒng)成本

? 使用上的高度靈活性 - 例如，由于其單一捕獲HDR等功能，可以實時適應(yīng)環(huán)境條件和生產(chǎn)線速度。

超越2D，3D視覺簡化工廠的自主性和有效性

為了提高工廠自動化的自主和有效運作，自主引導(dǎo)機器人的使用越來越多。隨著工廠和倉庫變得越來越自動化，工作站中人類與機器之間的合作越來越緊密，使預(yù)防和安全變得更加重要。

在這種不可預(yù)測的工作環(huán)境中，飛行時間系統(tǒng) (ToF) 是理想之選，因為它們具有實時3D信息獲取和決策能力，在快速場景中檢測物體或人物的能力。飛行時間技術(shù)具有兩種方法：直接飛行時間和間接飛行時間：

? 直接飛行時間 -該系統(tǒng)通過直接計算光線從物體上反射回來的時間來測量距離

? 間接飛行時間 -該系統(tǒng)通過計算光信號發(fā)射到物體和反射回來時的相位差來測量距離。這使得系統(tǒng)能夠構(gòu)建3D圖。

圖2：直接飛行時間與間接飛行時間的利弊

Teledyne e2v公司通過定制傳感器為直接飛行時間系統(tǒng)提供解決方案，通過完整的標(biāo)準(zhǔn)產(chǎn)品組合為間接飛行時間系統(tǒng)提供解決方案。

Teledyne e2v擁有超過10年的飛行時間技術(shù)和解決方案經(jīng)驗，具有創(chuàng)新飛行時間像素的強大能力，這是基于自動化機器人汽車和監(jiān)控領(lǐng)域領(lǐng)先研發(fā)的定制傳感器經(jīng)驗。

我們設(shè)計的標(biāo)準(zhǔn)飛行時間傳感器具有客戶正在尋求的以下關(guān)鍵特性：

? 高空間分辨率傳感器，實現(xiàn)大視場覆蓋和高角度分辨率

? 快速和實時的3D檢測，沒有任何運動偽影，全分辨率下超過30 fps的深度圖

? 兼有中短距離、長距離檢測和管理

? 任何條件下的超可靠距離測量：卓越的精度以及對環(huán)境光條件和多系統(tǒng)操作的穩(wěn)健性

處理復(fù)雜環(huán)境操作的飛行時間

與其他3D技術(shù)相比，飛行時間系統(tǒng)具有速度快、操作簡單、價格低廉、具有良好的中長距離3D性能等優(yōu)點。

如前所述，飛行時間系統(tǒng)高度靈活，因此系統(tǒng)可以安裝在移動機器人中，因為它不需要根據(jù)設(shè)置進行校準(zhǔn)(如工廠校準(zhǔn))。該系統(tǒng)還可以適應(yīng)各種操作設(shè)置，使飛行時間系統(tǒng)能夠很好地適應(yīng)復(fù)雜環(huán)境和條件下的操作。

下面是工廠和倉庫應(yīng)用的一些示例，飛行時間是其中的最佳選擇。

圖3：飛行時間應(yīng)用示例

? 測量箱子或包裝的大小和體積 - 飛行時間成像系統(tǒng)可以測量箱子/包裹的大小和體積， 獲得最有效的托盤化或調(diào)整(包裝和卡車裝載優(yōu)化)或高效的產(chǎn)品線

? 用于智能和高效倉庫管理的貨物識別 - 飛行時間成像系統(tǒng)在比常規(guī)2D圖像處理更短的時間內(nèi)檢測貨物或包裹的尺寸

? 拾取和放置 - 飛行時間成像系統(tǒng)進行檢測和識別，使正確的對象在正確的位置被拾取和放置，具有非常高的精度水平，比傳統(tǒng)2D圖像的處理時間更短。

與其他3D技術(shù)相比，飛行時間系統(tǒng)更有利于機器人在工廠環(huán)境中自主安全導(dǎo)航。

圖4：機器人導(dǎo)航應(yīng)用示例

如今，大多數(shù)導(dǎo)航系統(tǒng)使用傳統(tǒng)的激光雷達掃描儀來檢測目標(biāo)，但有一些缺點，越來越多的解決方案正在出 現(xiàn)，如間接飛行時間等替代技術(shù)。與傳統(tǒng)的激光雷達掃描儀相比，間接飛行時間系統(tǒng)提供實時圖像信息，響應(yīng)速度快，無運動偽影。它們也更堅固、更緊湊，因為不涉及機械部件，而且更便宜，因為它是一種使用更少功率和更少計算的固態(tài)設(shè)計。

表2：傳統(tǒng)激光雷達與間接飛行時間的“頂層”比較

在上述應(yīng)用程序中，飛行時間系統(tǒng)處理了許多挑戰(zhàn)。該系統(tǒng)需要處理從10米開始的短距離和中距離，需要在沒有任何運動偽影的情況下實現(xiàn)快速度(今天，市場上的大多數(shù)飛行時間解決方案都專注于5-6米的短距離)。此外，當(dāng)機器人在工廠/倉庫中移動且需要在同一區(qū)域內(nèi)不受其他機器人干擾的情況下操作時，該系統(tǒng)可以適應(yīng)多種不斷變化的光照條件。

為了應(yīng)對所有這些具有挑戰(zhàn)性的條件，Teledyne e2v公司于2020年7月推出Hydra3D傳感器。這類領(lǐng)先的飛行時間傳感器具有創(chuàng)新的像素和高度靈活的配置，提供非常高的動態(tài)范圍，這是飛行時間應(yīng)用中非常深層次的東西( 大范圍物體反射和距離的結(jié)合)。Hydra3D的分辨率為832 x 600像素，具有10微米三內(nèi)存節(jié)點尖端像素，可實現(xiàn)最高水平的3D性能，包括高深度分辨率、高速度和靈活的操作條件。

Hydra3D還具有創(chuàng)新的多抽頭像素，能夠同時獲取構(gòu)建3D圖像所需的三個相位，從而能夠在沒有任何運動偽影的情況下，從快速移動的場景中獲取準(zhǔn)確的3D信息。

三內(nèi)存節(jié)點像素能夠在一幀中捕獲和存儲重建3D圖所需的不同相位的信息，而不是其他間接飛行時間技術(shù)所需的多幀。這可以在快速移動場景中有力地避免任何運動偽影。這類似于在2D視覺中對比全局快門模式和卷簾快門模式。

三內(nèi)存節(jié)點像素可以用一串光脈沖捕獲所有相位，從而優(yōu)化光照功率利用。

在上述例子中，需要三個圖像(兩個相位+背景)。如果使用單內(nèi)存節(jié)點像素傳感器(目前最常見)，則需要循序地曝光和讀出多個相位。拍攝一次光得到相位0，另一次得到相位1，然后運行第三次沒有光的采集并讀出以獲得背景信號。然后計算3D圖像。因此，如果有一個移動的物體，運動偽影將出現(xiàn)，因為每個相位物體將位于不同的位置。此外，光脈沖序列需要發(fā)送并拍攝兩次，即每個相位一次。

使用多內(nèi)存節(jié)點像素傳感器，例如上述三內(nèi)存結(jié)點像素，所有曝光和讀出都以交錯的方式進行，因此所有相位幾乎都是并行獲得的，可以最大程度地減少運動偽影。此外，由于相位可以用單個光脈沖序列捕獲，因而降低了平均光照功率，這從眼睛安全和功耗的角度來看都很重要。

圖5：單內(nèi)存結(jié)點像素與三內(nèi)存結(jié)點像素對比圖

注意，運動偽影和運動模糊之間的區(qū)別類似于2D視覺中滾動快門和全局快門之間的區(qū)別。運動模糊可以稍微扭曲快速移動的對象，但不會提供錯誤信息，而運動偽影可以徹底改變對象的外觀并提供錯誤的測量，這在某些應(yīng)用程序中可能產(chǎn)生重大后果。

圖6：運動模糊與運動偽影

Hydra3D傳感器的其他優(yōu)點包括配置的靈活性和其他片上特性。例如，一個強大的片上HDR功能結(jié)合了高幀率和靈活配置，可以在距離范圍、物體反射率、幀率等之間進行平衡，同時具有抗環(huán)境光干擾的穩(wěn)健性。在單一觸發(fā)序列中，Hydra3D啟動了一系列采集和讀出，易于編程，從而成為一個非常強大的工具，能夠適應(yīng)各個應(yīng)用的條件。多個測量序列允許在不同的距離范圍或以不同的精度測量，或執(zhí)行2D捕獲，全部都在一個單觸發(fā)序列中。最重要的是，序列可以在幀與幀之間實時變化，無需停止傳感器。

獨特的片上特性，穩(wěn)健的抗多飛行時間系統(tǒng)干擾功能，使非同步系統(tǒng)可以同時工作而不互相影響。由于飛行時間需要主動照明，一個系統(tǒng)可能會受到在同一區(qū)域同時運行的另一個系統(tǒng)發(fā)出的光的干擾，這可能導(dǎo)致不正確的距離測量。

Hydra3D傳感器的主要特點：

CCD時代的飛行時間：

飛行時間圖像處理比傳統(tǒng)的2D視覺系統(tǒng)復(fù)雜得多。它涉及光學(xué)和取決于幾個參數(shù)的光系統(tǒng)

(如傳感器或視場、工廠內(nèi)校準(zhǔn)、特定傳感器配置)，以完美地滿足應(yīng)用需求。

我們經(jīng)常將飛行時間傳感器與CCD傳感器進行比較，因為設(shè)置的復(fù)雜性要求在系統(tǒng)級別上投入大量精力來集成傳感器，因此掌握應(yīng)用設(shè)置的需求變得至關(guān)重要。

Teledyne e2v 公司基于自己在飛行時間CMOS傳感器方面的專長，并與客戶密切合作，在評估飛行時間系統(tǒng)固有挑戰(zhàn)方面獲得了扎實的經(jīng)驗。為了幫助客戶縮短上市時間，并獲得最佳的飛行時間系統(tǒng)，滿足他們的應(yīng)用需求，我們提供從CMOS圖像傳感器、定制相機模塊到完整系統(tǒng)集成支持的技術(shù)解決方案。這包括評估平臺的參考設(shè)計、光和光學(xué)評估、人眼安全考慮、建模和仿真、算法和校準(zhǔn)等。

圖7：Teledyne-e2v公司的飛行時間技術(shù)支持涵蓋范圍

總結(jié)

隨著工廠和配送倉庫的日益自動化，對有效和自主工業(yè)系統(tǒng)的需求日益增加，尤其是針對引導(dǎo)機器人和機器的3D視覺(實現(xiàn)物體識別、導(dǎo)航、高速度和高精度)。目前存在多種3D技術(shù)，每種技術(shù)都有其利弊，首選的技術(shù)在很大程度上取決于應(yīng)用要求。所有這些技術(shù)都需要具有復(fù)雜功能的高性能傳感器。

Teledyne e2v公司得到市場領(lǐng)導(dǎo)者的認(rèn)可，提供廣泛的獨特解決方案，包括3D視覺，服務(wù)于工廠自動化、物流和計量應(yīng)用等工業(yè)市場。我們在高性能CMOS圖像傳感器(結(jié)合尖端像素和特殊功能)方面的獨特專長，加上超過10年的飛行時間系統(tǒng)經(jīng)驗，使我們能夠幫助客戶克服當(dāng)前的3D視覺挑戰(zhàn)。