OpenAI今天發(fā)布了Microscope，這是一個神經(jīng)元可視化庫，從九個流行的或大量的神經(jīng)網(wǎng)絡開始?？偠灾摷习瑪?shù)百萬張圖像。Microscope可以像實驗室中的顯微鏡一樣工作，可以幫助AI研究人員更好地理解具有成千上萬個神經(jīng)元的神經(jīng)網(wǎng)絡的結(jié)構(gòu)和行為。

Microscope的初始模型包括歷史上重要且普遍研究的計算機視覺模型，如2012年ImageNet挑戰(zhàn)賽冠軍AlexNet，AlexNet在研究中被引用超過50000次，還有2014年的ImageNet冠軍GoogleNet（又名Inception V1）和ResNet v2。每個模型可視化都有一些場景，圖像可以在OpenAI Lucid庫中使用，以便在Creative Commons許可下重用。

OpenAI在今早介紹Microscope的博客中說，它希望Microscope將有助于通過理解神經(jīng)元之間的連接來反向工程神經(jīng)網(wǎng)絡的電路協(xié)作工作。

除了Microscope下的神經(jīng)元可視化之外，近年來的一些工作還試圖可視化機器學習模型的活動。Facebook的Captum于去年秋天推出，它使用可視化技術(shù)來解釋機器學習模型做出的決策；在2019年3月，OpenAI和谷歌發(fā)布了用于可視化機器學習算法做出的決策的激活地圖技術(shù)；還有一個流行的TensorBoard工具，用于訓練機器學習模型時的可視化。

對于此次發(fā)布的Microscope，主要價值在于提供持久的共享工件以促進對這些模型的長期比較研究，可以讓具有相鄰專業(yè)知識的研究人員（例如神經(jīng)學）能夠更輕松地處理這些視覺模型，這將對很多科技領(lǐng)域帶來一個提升。