新西蘭政府宣稱,已為公營部門該如何使用演算法 (algorithm)制訂政策立下一套準則,是全球第一國。有法學教授認為美中不足是欠缺強制執行的監察機制,但期望這套準則會成為其他政府的藍圖。
促向公眾解說原理
越來越多國家使用演算法來協助移民、福利和衞生醫療等政策制訂,由看似無關痛癢的交通燈訊號幾時改變,到影響嚴重如警方如何安排前線警員等等,批評者認為倚賴演算法並不準確,甚至造成歧視情況;而且公眾往往被蒙在鼓裏。荷蘭法院今年初就裁定當局以自動監察系統偵測詐騙社福金是不合法之舉。
統計部長詹姆斯肖指這次制訂使用準則是建立公眾信任「非常重要」的一環。準則內容包括以「簡明英文」公開解說演算法是如何驅動決策;公開數據儲存的方式如使用過程等資訊。
暫時已有19個政府單位表示會簽署約章遵守準則,包括曾因使用演算法檢測欺詐行為而被批的意外事故賠償計劃,以及借助演算法估算囚犯重犯風險的懲教部。但曾涉較大爭議的部門,包括用演算法評估申請人的移民部、被揭發偷偷使用面容識別技術的警隊,以及情報機關,都未表明加入約章。
英國《衞報》