職場で使用されるアルゴリズムがわれわれの生活に影響を与える重要な意思決定を下すようになってきている。それにもかかわらず、現行法ではこうしたアルゴリズムに起因する不当な扱いや差別から労働者を守ることができていない。
英国の労働組合会議（Trades Union Congress：TUC）は現地時間3月25日、英国の法律には職場での人工知能（AI）配備に関して「大きな不備」があると警告し、アルゴリズムによるさまざまな被害が従業員に及ばないようにするための、早急な法改正が必要だと主張した。
TUCによるこういった勧告には、労働者に影響を与える可能性のあるテクノロジーとしてどのようなものがあるのかを労働者自身が確実に把握できるようにする仕組みや、AIシステムによって下された不公平な、あるいは差別的な意思決定に異議を申し立てる権利の確立といったことが含まれている。
TUCのマニフェストは、雇用関係の権利問題に詳しい弁護士らとともに作成され、職場におけるAI利用の急速な拡大に雇用法が追いついていないという結論のレポートとともに公開された。
AIは利用の仕方によっては無害であり、生産性の向上ももたらす。例えば、配送トラックを運転するドライバー向けに、2点間を最短時間で結ぶルートを提示するアプリに異議を唱えるのは難しいだろう。しかしアルゴリズムが従業員に関する重要な、そして人生を左右する場合もある意思決定を下している事例も数多くある。そしてTUCによると、こうしたシナリオであっても規制や監視がなされていないという。
TUCで雇用関係の権利問題に関するリードを務めるTim Sharp氏は米ZDNetに対して、「不当な扱いにつながりかねないさまざまな状況がある」と述べ、「テクノロジーの普及に追随して一連の適切な規則を設け、労働に対するメリットを保証するとともに、不当な扱いが生み出されるリスクを最小限に抑える必要がある」と続けた。
アルゴリズムは現在、TUCが「高リスク」とみなす意思の決定や通知という作業を任されている。例を挙げると、AIモデルの中にはどの従業員を解雇すべきかを決定するために用いられているものもある。また、自動化された欠勤管理システムにも問題があるとされた。というのも、従業員が欠勤していたという誤った判断をテクノロジーが下した結果、仕事の実績が不当に評価された事例があったためだ。
最も説得力ある事例の1つでは、AIツールが新たな業務における雇用プロセスの最初の段階で用いられており、アルゴリズムによって履歴書の鍵となる情報を収集し、場合によってはバックグラウンドチェックまで実行し、応募者のデータを分析していた。いかに物事が悪い方向へと進み得るのかを分かりやすく示す事例として、Amazonがこの種のテクノロジーを導入した際に、女性の履歴書が不当に低く評価されていたことが判明し、急きょ取りやめたというケースを挙げることができる。
