圖3:27個光電探測器的光響應值,其中訓練數據σ = 0.3。(a,b):其中(a)為初始時期(epoch)的響應度值,(b)時期為30時的響應度值,訓練數據σ = 0.2和σ= 0.4的權重相似。c:在特定的投影字母和三種噪聲水平下,所有時期測得的電流。d:三種不同噪聲水平的初始和最終響應度值的直方圖。
第二個功能是自動編碼:即使在存在信號噪聲的情況下,傳感器計算陣列也可以通過學習圖像的關鍵特征來生成處理后圖像的簡化表示。編碼版本僅包含最基本的信息,但可以解碼以重建與原始圖像最相似的圖像。
這項有前途的技術在投入實際應用之前,還有許多工作要做。用于自動駕駛車輛和機器人技術的神經形態視覺系統需要捕獲視場角較大的3D動態圖像和視頻。當前使用的圖像捕獲技術通常將3D真實世界轉換為2D信息,這樣就丟失了運動信息和深度信息。現有的平面圖像傳感器陣列也限制了廣角相機的發展。
作者描述的器件很難在昏暗的光線下成像。需要重新設計以改善薄半導體的光吸收并增加探測光強范圍。此外,論文中提到的這種設計需要高電壓并消耗大量功耗。相比之下,生物神經網絡中每項操作的能量消耗處于亞飛焦耳級(10?1?至10?13焦耳)。這有利于擴展到紫外線和紅外光應用,以捕獲可見光譜無法提供的信息。
所使用的薄半導體很難實現大面積地均勻生產,加工難度高,因此它們可以與硅電子器件集成在一起,例如用于讀出外部電路或反饋控制。使用這些傳感器的設備的速度和能效將不取決于圖像捕獲過程,而是取決于傳感器和外部電路之間的數據移動。盡管傳感器計算單元在模擬域中收集和計算數據,減少了模數轉換,但外圍電路仍然遭受其它固有延遲的困擾。傳感器和外部電路需要共同開發,以減少整個系統的等待時間。
Mennel及其同事的“在傳感器中實現計算”系統會激發對人工智能(AI)硬件的進一步研究。一些企業已經開發了基于硅電子的AI視覺芯片,但是這些芯片的固有數字架構無法解決延遲和功率效率問題。
更廣泛地講,作者的策略不僅限于視覺系統。它可以擴展到用于聽覺、觸覺、熱感或嗅覺的其它物理參數輸入。此類智能系統的開發以及5G無線網絡的到來,會在將來允許進行實時邊緣(低延遲)計算。
論文鏈接:
https://www.nature.com/articles/s41586-020-2038-x