演算法設計師需要行為準則

作者:孫語辰  國立臺灣大學  政治系 學士

編輯:歐陽巽  跨閱誌編輯

  photo via Lord James@Flickr, cc License


photo via Lord James@Flickr, cc License

 

◎ 本文編譯自 the Guardian: Algorithm writers need a code of conduct,作者為 John Naughton(英國開放大學名譽教授)

 

現代組織的世界裡,最需要的部門就是一組 IT 工程師或技術人員,因為他們在組織裡處理的是那些徘徊在自殺邊緣、被搞瘋或是大動肝火喋喋不休的人。電腦壞了,怪事發生,一些遇到這種事的人們就會鬱鬱寡歡,甚至想自殺,尤其是那些遇到花了好些年好不容易寫出來的小說或論文就此付之一炬、消失在乙太裡這種狀況的人。有人開始構思兇殘的想法,好對付或報復這些磨人設備的製造商,比爾蓋茲這顆 IT 巨星至今仍然在很多人的夢魘裡閃爍;也有一些人傳播關於 IT 人員的陰謀論,懷疑 IT 人員們正是電腦故障的始作俑者,用這種方法來取笑不懂電腦的人。因此,聰明細心的 IT 技術人員們總是小心翼翼對待自己的工作。

 

IT 造成這麼多苦難,背後的原因就是對一般人而言,電腦是一種令人難以理解的儀器,或是用術語來解釋的話,電腦就是所謂的「黑盒子」,那種我們透過「輸入」或「輸出」(或其他傳輸特性)來理解的東西,但是對於內部的作用一點也不知情。事實上,電腦產業的核心目標就是把每個製造出來的東西變成黑盒子,這就是為什麼拿螺絲起子肢解 iPhone 後,原廠保固會失效,或是為什麼有些設備「沒有使用者可以自行維修的部分」。不過,這正是消費者想要的,消費者並不重視技客們敬佩至極的「修補的自由」,他們只要東西可以用就好。

 

到目前為止都還能理解,但是這裡有另一條可以思考的路,會帶我們接近美國法律學者 Frank Pasquale 稱作「黑盒子社會」的概念。你可能會覺得 Pasquale《黑盒子社會》這本書的副標「宰制金錢與資訊的秘密演算法」已經道盡被演算法統治的一切事物,但是事實上,除了錢和資訊,演算法控制幾乎所有現代生活的每個部分,至少在經過工業化的國家是這個樣子。舉例來說,我們知道臉書的演算法會影響用戶的心情或投票行為,我們也知道Google搜尋引擎的演算法可以有效影響一個人的能見度。在美國的某些城市裡,演算法還決定了一家銀行要不要貸款給你。有時候,評比網路或智慧型手機使用者是否需要接受進一步審查的不是真人,而是機器學習或網路分析演算法。優步(Uber)的司機可能會覺得他們是在替自己而不是幫別人工作,但是實情是演算法管理著這些司機,如此等等。

 

所以演算法這種沒有被我們注意到的新興權力進入到社會裡,對大部分公民來說,這些演算法就是黑盒子,演算法的內部邏輯是不透明的。但是這些演算法內建了自己的價值和優先考量,而且這些東西對我們來說也一樣是不透明的,我們沒有能力質問演算法裡所蘊含的價值邏輯是否適當。

這就產生了兩個問題。一是,誰要替演算法做的決定負法律上的責任?是那些利用演算法提供服務或產品的公司嗎?或許吧,答案得看這些公司的律師有多聰明而定。

但是,那些寫程式的工程師又如何?他們不該也付一些責任嗎?Pasquale 在他的書裡寫到,一些微目標定位的演算法(micro-targeting algorthm,那種決定你的螢幕要顯示些什麼廣告給你看的程式)可以把網路使用者分成包括「躁鬱症患者」、「女兒死於車禍」、「強暴受害者」、「囉唆老人」等的類別。這種程式也是程式設計師寫出來的,他(不用「她」是因為我們幾乎可以肯定會是名男性)難道不需要對自己的作品感到一絲絲道德上的疑慮嗎?

 

我是讀了加州大學 Davis 分校電腦科學系 Philip Rogaway 教授所寫的精彩論文〈密碼學工作的道德性質〉才想到這些問題的。Rogaway 寫到:「大部分學院裡的密碼學工作者們好像認為密碼學這個領域是場有趣、深刻而且政治中立的遊戲,一個包含許多通信方、充滿與和虛擬對手交手機會的謎團。這種對於我們這些密碼學工作者是誰的想法,啟發了一個令人驚艷且多產的領域,但是也同時是一個近親交配狀況嚴重且和真實世界的考量脫鉤的領域。這真的是密碼學該有的樣子嗎?」

 

Rogaway 的答案跟我的一樣,都是「不」。不只是密碼學該如此,總地來說,軟體界也都應該要是這樣。

You may also like...

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *