最近,，芬蘭赫爾辛基市和荷蘭阿姆斯特丹市推出了在線人工智能登記系統(tǒng)，讓人們可以一窺市政管理所用算法和機器學習系統(tǒng)的工作原理,。

這一聯合聲明是在與下一代互聯網峰會(Next Generation Internet Summit)一起發(fā)布的，代表了促進算法透明度的努力,，這是計算機科學家和倡導組織近年來優(yōu)先考慮的問題,，以確保人們能夠理解計算機代碼是如何做出影響他們生活的決定的。

赫爾辛基人工智能注冊中心和阿姆斯特丹算法注冊中心是由芬蘭人工智能透明事業(yè)部（AI transparency biz Saidot）開發(fā)的網站,，提供有關這兩個城市的具體技術系統(tǒng)工作方式的細節(jié),。

例如，阿姆斯特丹算法寄存器有一節(jié)是關于停車控制的,，它解釋了城市是如何使用配備了車牌掃描儀的巡邏車,，這些車依靠圖像識別算法來讀取車牌。

算法登記處解釋說：“車牌號被發(fā)送到國家停車登記處,，檢查汽車是否有權停車,。如果發(fā)現有人沒有支付停車費,，檢查員將根據環(huán)境照片評估是否有特殊情況如裝卸貨，或是汽車正在等待紅綠燈,?！?/p>

而當系統(tǒng)無法自動確定時，停車檢查員將在現場做出決定,，如果沒有意外的情況，則將發(fā)出罰單,。

該站點概述了所涉及的數據,，如何處理數據，算法如何避免歧視,，人工監(jiān)督如何發(fā)揮作用以及風險和保障措施,。

這些摘要有時包含對特定技術資源的引用，例如國家Parkeer登記簿（國家停車登記簿）的接口說明文件,。該特定文件涉及車牌掃描系統(tǒng)體系結構,，用于在系統(tǒng)用戶和后端數據庫之間傳遞的消息的XML代碼以及應用程序邏輯的摘要。它本質上是一個設計文件,。它不包括源代碼,，但是應該允許人們花點功夫就可以了解系統(tǒng)的工作方式。

阿姆斯特丹副市長Touria Meliani在一份聲明中說：“算法在我們的生活中扮演著越來越重要的角色,。我們與赫爾辛基市一起,，致力于盡可能多地了解算法，并對我們（作為城市）使用算法的方式保持透明,?！?/p>

隨著人工智能在城市服務中的應用越來越普遍，赫爾辛基城市的數據,，人工智能和機器人化項目實體的項目經理Pasi Rautio認為,，像這些AI注冊之類的舉措對于建立對政府系統(tǒng)的信任是必要的。

無黨派皮尤互聯網研究中心（Pew Internet Research Center）2017年發(fā)布的一份報告《代碼依賴：算法時代的利弊》（Code Dependent:Prosand Constructions of the Algorithm Age）認為,，不僅算法透明性很重要,，而且還應伴隨著算法素養(yǎng)和監(jiān)督。

麻省理工學院教學系統(tǒng)實驗室執(zhí)行總監(jiān)賈斯汀·賴希（Justin Reich）在為皮尤（Pew）報告提交的評論中說：“算法在我們社會中不斷發(fā)展的影響將需要新的監(jiān)督形式和模式,。其中一些項目需要在計算機科學培訓項目中增加倫理培訓,，以幫助新程序員更好地理解他們在一個多元化的社會中所做決定的后果。我們還需要新的形式的代碼審查和監(jiān)督,，以尊重公司的商業(yè)機密,，但不允許公司以保密為借口來逃避各種形式的公眾監(jiān)督?！?/p>

正如計算機科學家蒂芬·沃爾夫拉姆（Stephen Wolfram）去年寫道：如果無法確保AI透明性,，那么監(jiān)督元素就變得更加重要,。