（2018-04-03）1949年，一本著名小說《1984》，描寫以倫敦為中心的「大洋國」，全體人民受到高壓極權的統治，自由遭到剝奪，思想受到箝制。人工智慧已成為科技主流，會一步步帶領大家走向「1984」年嗎？
（2018-04-03）英國文學家喬治 ‧ 奧威爾（George Orwell）在1949年寫了一本著名的警世小說《Nineteen Eighty Four》（1984），說1984年以倫敦為中心的「大洋國」，全體人民受到高壓極權的統治，處於一個無所不在的「大兄弟」（Big Brother）監控之下，自由遭到剝奪，思想受到箝制，人性遭到扼殺，生活極度貧乏、極度單調。
已經成為科技主流的人工智慧（AI），會一步步帶領大家走向喬治˙奧威爾的「1984」年嗎？
喬治 ‧ 奧威爾與他的小說《1984》。
AI不但成為流行的名詞，已經是我們生活的一部份，上網搜尋、跟機器人對話、語言翻譯、臉孔辨認，甚至賣房子。有一家房地產仲介，用AI從大數據很快的找到的買主，不用銷售人員，把仲介費降低到2-3%，不再是一般的5-6%。
除了生活，AI更快速的進入到職場，人力雇用、工作管理、市場預估、客戶服務，甚至員工可能離職的徵兆都會發出警訊。跨國顧問公司麥肯錫預估在未來的20年，AI單用在市場、銷售、供應鍊上，就有2.7兆美元的產值。職場用AI自然是為了減少人力，對不能減少的人力，就要增進工作效率。
亞馬遜就有一個專利手環，戴在員工的手腕，看管員工用手從架子上取貨的動作，如果發現錯誤或浪費，手環就會告訴員工矯正，如果拿錯了貨，手環就會響起來。專利是拿到了，什麼時候戴在員工手腕還不知道，如眾所周知，亞馬遜已然對員工有較嚴的管理，如果手環能提升出貨的速度，不知是否可以讓緊繃精神的員工放鬆一點。
不同的職場用AI在不同的地方，像從MIT媒體試驗室脫離出來的新公司Humanyze，用行為科學分析工作場地與人互動的關係，用AI協助企業做最好的安排，每一員工配戴智慧型職員證，收集在辦公室的走動路線，以及與同事接觸的情況，同時結合員工的行事曆、郵件資料，判斷辦公室的格局與員工是否適合團隊工作。
另外有軟體透過員工的職場簡訊App，經理可以知道員工多快完成交代工作。用AI過濾報銷的金額是否浮濫，加班的時數是否合理。用軟體紀錄員工在電腦打的每一個鍵，來檢測員工花在工作上的時間。用AI過濾員工在職業團體的活動，甚至員工的社群網路舉止。AI可以監聽客服對話，對員工回應的速度與親和態度打分數。類似的職場AI不一而足。
AI的發展剛起步，用在職場提升工作效率，增加作業能量，但對工作人員細微的管理、或說是深入監視，是不是傾向奧威爾的「1984」年？
在職場工作受到監視由來已久，但AI的監視可以快速容易收集大量的資料，不無涉及隱私之嫌，尤其是臉書洩漏個資引發的後座力越演越盛，原來從簡單的登記資料可以連接到幾乎所有的網上活動，更教人心存恐懼。
職場AI另一個負面效應是偏袒。AI是我們人設計的，也就是考慮許多因素的結合，錯綜複雜難的結構，即使不是故意，也難以考慮周全，致AI在運作上偏袒無法避免。個人資料中的郵遞區號常被AI使用，因為這個號碼暗示了貧富、教育、治安、族群等多種因子，運用其一就波及其二，住在偏遠地區就可能暗示貧窮。
職場的主力是人，用AI的數據管理人的舉止，對整體的效率與產能自然有很大的助益，但對工作人員的人性面考量、甚至壓抑，有越來越多的人呼籲正視。微軟執行長Satya Nadella就直言，從事技術發展的人，有責任要避免「1984」的反烏托邦（Dystopian）未來。
AI更進一步發展，是不是會讓職場更接近「1984」，迫使更多的人被進入工作？恐怕沒有人確切答案，僅能寄望於讓大家都能遵守的AI倫理規則，早日完成實施。不盡想起了Stephen Hawking（史蒂芬 ‧ 霍金）的一句話：
全面的AI發展可能促成人類的末日。它們會自己動手，以前所未有的速度重新設計自己，人類緩慢的生物演進無法與之競爭，終會被取代。
*本文取材自2018年4月2日「那福忠西海岸數位隨筆（45）」：職場AI的「1984」
對本文有任何看法，歡迎 E-Mail：frank.na@gmail.com 給作者，分享您對本文的看法。
