了解人工智能：CUPE成員指南
了解人工智能：CUPE成員指南
技術創新正在改變加拿大和世界各地的工作場所。 數位系統、新技術和人工智能 （AI） 正在我們的社會中迅速傳播，包括在公共服務和公共部門工作場所。 預計這些系統和工具的使用將迅速增加。
人工智能系統和其他數位技術的影響取決於它們的使用方式。 這些技術有可能改善工人的生活。 當由人控制時，人工智能系統可以幫助工人提供高品質的公共服務。
如果不加以控制，人工智能和其他數位創新可能會對工作品質和工人權利產生有害後果。 這些技術可以實現監控，使容易做成不公正的招聘和解雇決定，加快工作節奏，並使工人面臨新的職業風險。 一些人工智能系統還被發現歧視應享有公平的群體，使婦女、原住民、黑人、種族化、不穩定和移民工人處於危險之中。
工人有權控制和塑造人工智能的使用方式。 我們需要確保我們的集體協議和管理這些技術的法律保護工人和公共服務。 我們的工作、我們的權利和我們提供的服務都處於危險之中。 本指南將幫助加拿大公共雇員工會（CUPE）成員理解和駕馭這一波技術變革。
技術變革是工會的問題
人工智能系統已經出現在許多CUPE工作場所，並將影響我們工會的每個部門。 這就是為什麼我們必須確保員工在我們的工作場所如何引入和使用這些數位系統方面有發言權。 CUPE正在像處理任何新技術一樣處理人工智能，重點關注它如何影響我們成員的工作和權利，以及他們提供的公共服務。
我們的工會正在開發工具來幫助會員：
-了解人工智慧，
-注意我們工作場所中新技術的使用，
-防範人工智能驅動的人力資源系統的風險，以及
-加強我們的集體協議，以保護我們的權利和捍衛公共服務。
政府在監管這些新技術方面進展緩慢，很明顯，工人們必須利用我們的集體力量來建設我們想要的未來。
AI 的工作原理
人工智能是一個術語，描述基於機器的系統，它使用數據和計算機程式設計代碼來完成任務或解決問題。 人工智能系統多種多樣，人類參與的程度也各不相同。 有些系統有人工監督，而另一些系統（如機器學習系統）可以高度自主地運行。 與早期形式的自動化不同，在這種自動化形式中，機器人和機器被程式設計來執行特定任務，一些人工智能系統可以隨著時間的推移自行學習和適應。 這意味著它們可以在預設指令之外進行操作，並且可以在沒有人為干預的情況下產生進化。
人工智能系統依賴於一個重要的資源：數據。 這些系統使用複雜的計算機程式設計規則和命令集（稱為演算法）來執行許多操作，包括對數據進行分類、識別數據中的模式和關係以及生成預測。 演算法用於識別物件、閱讀和總結文本、回答問題、提出建議或生成新內容（例如文本、圖像、音樂或視頻）。
員工數據為數位系統提供動力
我們的世界越來越數位化，我們日常生活中收集的數據量呈爆炸式增長。 我們不斷生成可以提供給人工智能和演算法系統的數據。 這數據可以是我們邁出的腳步，我們在手機上花費的時間，或者我們在工作中刷電子門卡的頻率和位置。
作為工人，我們的數據為 AI 提供動力。 數據可以是文字、數位、圖像、視頻或音訊。 這些數據可以在許多日常工作活動中找到，包括：
-我們的時間日誌;
-我們在一個班次中完成了多少任務;
-我們電子郵件的內容;
-我們的車輛位置;
-我們在客戶服務電話中的對話; 以及
– 我們在工作場所的身體動作。
有關我們的數據也是通過對我們私人生活的持續監控來提取的，例如我們的購買歷史、流覽歷史和社交媒體帖子。 當我們的數據被輸入到人工智能系統中時，雇主和開發和使用這些系統的私營公司就控制了這一寶貴的資源，包括數據的存儲和使用方式。
工人們還在教人工智能系統我們如何完成工作。 在一個案例中，一名從事隱藏式字幕工作的CUPE成員在不知不覺中通過糾正 AI 的錯誤來訓練AI系統。 聊天機器人正在接受員工通話錄音和電子郵件的培訓，以模仿客戶服務支援。 這可能導致未來的裁減工作崗位和裁員。
在我們工作場所中引入人工智能系統和其他數位創新，政府監管沒有跟上。 我們必須利用我們工人的力量，現在就使用我們最熟悉的工具，即我們的集體協議來監管人工智能系統。
我們工作場所的人工智能系統
越來越多的雇主從科技公司購買人工智能驅動的聊天機器人系統，以完成客戶服務代表的工作。 人工智能正被用於自動化職責，如處理查詢、幫助居民獲得公共服務或社會支援，以及安排與護理提供者的約會。 社會服務提供者正在使用人工智能技術來確定案件的優先順序，並就收入支援和其他資源做出決策。
雇主正在將人工智能作為重中之重，創建專注於該技術的新部門和執行管理職位。 各級政府正在鼓勵人工智能的快速傳播，為公司或市政當局使用這些系統提供補貼。
這項新技術既有機遇也有風險。 人工智能有著誘人的前景。 它可以執行對人類來說危險或困難的任務。 它還可以自動執行基本工作功能，使員工能夠專注於更有意義的任務。 人工智能系統還可以擴大獲得公共服務的機會，例如通過為殘疾人提供文本轉語音功能。
與此同時，人工智能也帶來了許多危險。 它的風險包括降低工作技能和降低工作滿意度。. 人工智能不能替代人類與依賴公共服務的人們的接觸。 聊天機器人等人工智能技術剝奪了人與人之間的互動、人類監督和自由裁量權，而這些都是回應式公共服務的核心。 它可能通過減少問責制和責任感來損害公共服務，並侵蝕人的自主性和聯繫。 最終，人工智能系統的設計和使用方式將決定這些技術是有益於社會還是有害社會。
人工智能系統的好壞取決於它們的程式設計和向它們所提供的數據。 不準確或不完整的數據，或程式設計代碼中的錯誤，都可能導致錯誤的預測、不可靠的建議和低質量的輸出。 人類的偏見和歧視可以反映在人工智能系統中使用的數據中。 例如，如果用於訓練人工智能系統的數據包含對具有相似特徵（如語言、方言、性別或殘疾狀況）的工人和服務使用者的偏見，則生成的決策和內容可能具有歧視性。 這很可能會對應享有公平權利的社區的人產生負面影響。 這就是為什麼CUPE呼籲人工智能系統需要受到強而有力的公眾監督，這需要透明度和嚴格的問責措施。
使用人工智能的結果取決於它的使用方式和原因，以及它的設計目的。 例如，如果雇主使用人工智能來降低勞動力成本，而不是提高公共服務的品質或獲得服務機會，人工智能可能會影響我們成員的生活水準或工作保障。 當人工智能的使用消除了工作職責，降低了教育要求，或自動化了決策過程時，它可能導致工資下降、失業和更不穩定的工作——所有這些都對應得公平權利的工人產生巨大的影響。
最後，少數幾家大型營利性公司主導著人工智能的設計和開發。 這將使公共部門越來越依賴私營部門。 它還會引發公共控制和私營部門存取重要個人數據的嚴重問題。
由演演演算法管理
人工智能正被用於自動化人力資源職能和遠端管理工人。 雇主正在從第三方開發商那裡購買演算法管理系統，以：
篩選工作申請
進行面試
對候選人進行排名和推薦
分配任務和分配工作
設置時間表和人員配備水準
評估績效或生產力
評估培訓需求
啓動紀律
演算法管理系統是使用通過監控和監視收集的工人數據進行訓練的。 通過演算法處理數據，然後為僱主提供建議。 這些建議可以包括應該雇用哪些候選人，應該對哪些工人給予紀律警告，以及工作時間或工作流程應該如何改變。
市政當局正在使用人工智能技術來制定固體廢物收集和鏟雪的時間表和路線。 過去的車輛移動、路線完成時間、油耗、制動和加速習慣、速度、居民投訴，以及即時交通和天氣數據，都被輸入到一個演算法中，為駕駛員設置最佳路線。
演算法管理系統可以推薦一些績效目標，這些目標可能會增加工作負載，使安全面臨風險，或者完全不合理。 這些系統無法考慮周圍環境，包括人類的限制，這可能導致對生產力的不公平結論。
集體談判要求披露關鍵資訊，有助於確保雇主對員工公開何時以及如何使用人工智慧來做出有關我們的重要決策。 雇主必須確保員工了解演算法管理系統。 很多時候，僱主不了解驅動計算機程序的演算法「黑盒子」或公式。 雇主也可能試圖逃避對演算法管理系統中的錯誤或故障的責任。
人工智能驅動的人力資源系統是根據歷史數據進行訓練的，這些數據可能會強化和放大現有的工作場所不平等現象。 例如，用於僱用工人的招聘演算法可能會使用語音辨識軟體。 當這些系統使用具有特定口音的說話者生成的數據進行訓練時，它們可能會因處理不使用母語的說話者的數據不準確而導致招聘中的不公平。
雇主還可以使用工作場所數據來干擾工會活動。 例如，嵌入在演算法管理系統中的持續數據收集和監控可以幫助雇主識別或干預工會活動，如會員活動或動員罷工投票。
保護工作和服務
只有當工人及其工會擁有強有力的法律和合同保護，包括在工作中如何使用該技術方面擁有有意義的發言權時，勞動者才能從人工智能中受益。
工會應該就可能受到使用人工智慧影響的就業條款、條件和就業保障的所有事情進行談判。 CUPE正在制定集體協議條款，以保護我們成員的權利和工作保障。 沒有單一的「AI 條款」。 各地方分會必須採用整體合同方法，以應對人工智能給工人和公共服務帶來的機遇和挑戰。
我們的工會還宣導在各級政府中提供更好的立法保護，包括對 C-27 法案的重要修正案，頒布聯邦人工智能和數據法案。
管理人工智慧的聯邦立法必須適用於所有政府機構和國有機構。 任何法律都必須考慮人工智能系統可能造成的集體和社會危害。 執法者應該是一個公平的專員，而不是政府內部人士。 最後，立法應保障工人的權利，要求在將人工智能引入工作場所之前，必須提供資訊並與工會進行談判。
