〔アングル〕白人男性多数のテック業界、ＡＩに「無意識の偏見」浸透も

Natasha Ghoneim

［シカゴ　１０日　トムソン・ロイター財団］ - コンピューター工学と電気工学の学位を持つアフロ・ラティーナの女性、マヤ・デロスサントスさんは、白人男性が多数を占める人工知能（ＡＩ）分野でキャリアを積みたいと考えている。

専門家や関係者は彼女のような人材がＡＩに必要だと話す。

専門家や関係者は、開発者が無意識に組み込んだ視点や偏見のために、急成長中のＡＩがリスクをもたらす可能性があると警告する。ＡＩが雇用プロセスや医療、金融、法執行のような重要な意思決定をする際に利用されているからだ。

移民二世であるデロスサントスさんは、「社会に存在する不平等や不正義が、重要な場面や環境で利用されるＡＩの中にも再現されている。そして批判的な見地から検証されることもなく信頼されつつある」と分析。「私は、社会的に疎外された集団がＡＩの危険性やリスクについて情報を得て、保護されるようにしたい。また、ＡＩからどのように利益を得られるかどうかも理解できるようにしたい」と語った。

国連教育科学文化機関（ユネスコ）の報告書によると、ＡＩ業界の従業員は女性の割合が２６％で、世界の大学のＡＩ関連学部では身分保障付きの教授職の８０％を男性が占めている。

ジョージタウン大が分析した２０２２年の国勢調査分析データからは、黒人やヒスパニック系もまたＡＩ業界の従業員として過小評価されていることが分かった。

ヒスパニック系は米国内の雇用全体に占める比率が１８％以上となっているのに対して、ＡＩ技術職の中だと約９％にとどまる。黒人労働者は雇用全体に占める比率がほぼ１２％となっているのに対して、技術系ＡＩ職の約８％に過ぎない。

＜ＡＩの偏見＞

デロスサントスさんはブラウン大の人間とコンピューターの相互作用に関する博士課程に進学する予定だ。社会的に疎外された集団に対するＡＩ技術の教育方法だけでなく、プライバシー問題や、アルゴリズムバイアスまたは機械学習バイアスと称されるＡＩの偏見についても研究したいと考えている。ＡＩの偏見は、社会的な偏見を反映して再生産する結果をもたらす。

偏見は意図せずにある種のＡＩシステム内に浸透している。たとえば、問題解決技術を開発するソフトウエアエンジニアが、自身の視点や限定的なデータセットを組み込んでしまうからだ。

米アマゾン・ドット・コムは、導入したＡＩ採用ツールが男性を女性よりも優遇して履歴書を選んでいることに気付いて同ツールを廃止した。このシステムは過去１０年間にアマゾンに提出された履歴書のパターンを観察して応募者を評価するように訓練されていた。

履歴書の大半が男性から提出されており、業界全体で男性が多数を占めている状況を反映していた。システムは事実上、男性の採用候補者が好ましいと自己学習したのだ。

ＡＩ分野職種の包括的な情報網の展開を目指す非営利団体ＡＩ４ＡＬＬの創設者で最高経営責任者（ＣＥＯ）のテス・ポズナー氏は「より幅広い人生経験やアイデンティティ、生い立ちのある人たちがＡＩ作成で貢献すれば、異なったニーズを認識し、異なった問いを投げかけ、新しい方法でＡＩを活用する可能性がより高まるだろう」と語った。

＜多様性の推進＞

ＡＩ４ＡＬＬは１５年以降、ＡＩ分野で就職する際の障壁を乗り越えるために７５００人以上の学生を支援しており、デロスサントスさんもその一人だ。

ＡＩ４ＡＬＬは歴史的に過小評価されてきた集団を対象にし、ＡＩ業界の労働人口の多様化を目指している。

リンクトインによると、ＡＩエンジニア職は世界的に最も急成長している職種の一つであり、米国と英国では全職種で最も伸び方が大きい。

ポズナー氏は、多様性の推進とは、教育の早い段階から子どもたちにコンピューターサイエンスの授業を受ける機会を増やすことから始まると述べた。

米国の公立高校の約６０％がこのような授業をしているが、黒人やヒスパニック系、ネイティブアメリカンの生徒は授業を受ける機会は比較的少ないとみられている。

ポズナー氏は、過小評価されてきた集団の生徒がＡＩを一つの職業選択肢として認識し、インターンシップを設けて助言者と結びつけられるようにすることが重要だと語った。

ＡＩにより米社会の多様性を反映させようとする取り組みは、トランプ米大統領による、連邦政府や高等教育機関、企業レベルの多様性・公平性・包括性（ＤＥＩ）推進活動を制限する動きと逆行している。

米政府のＤＥＩ事務局や政策は廃止され、連邦政府の契約職員は採用時にアファーマティブ・アクションの行使が禁止された。企業はゴールドマン・サックスからペプシコに至るまで多様性の推進活動を停止したか縮小した。

レジリエンス＆デジタル・ジャスティス・センター創設者でもあるカリフォルニア大学ロサンゼルス校のサフィヤ・ノーブル教授は、政府のＤＥＩ攻撃が社会的に疎外された集団でＡＩ分野の機会を生み出す取り組みを損なうのではないかと懸念する。

ノーブル氏は「どのような形の公民権の進展であれ、抑制する方法の一つは、ＩＴ企業やソーシャルメディア企業が公民権や人権にかかわるメッセージにあまりに応じすぎていると主張することだ」と指摘。

「ブラック・ライブズ・マター（黒人の命も大事だ）のような運動に対する反発や、『反保守的な偏見』を訴える主張にそうした証拠が見て取れる」と付け加えた。

ユネスコによると、ＡＩ分野で働く女性は２１年から２４年の間にたった４％しか増えていない。

進展はゆっくりかもしれないが、ポズナー氏は楽観的だと話した。

同氏は、「包括性という価値に対して、これまで多くのコミットメントがあった」と述べた上で、「社会として包括性とは何か、包括性を全体的にどのように広めるのかについて足掻いている最中とはいえ、そうした姿勢そのものは変わっていないと思う」