米大手会計ソフトIntuitのデザイナー ジョナサン・シャリアート氏と、Shopifyのデザインディレクター シンシア・サヴァール・ソシエ氏は、共著『悲劇的なデザイン — あなたのデザインが誰かを傷つけたかもしれないと考えたことはありますか？（BNN）』のなかで「大いなる力には大いなる責任がともなう」と呼びかけた。

同書は、デザインがよりよい社会を実現する力をもつ一方、ときに人の命を奪ったり、怒らせ悲しませたり、疎外感を与える力も備えていることを伝えている。例えば、医療ミスを誘発する複雑なインターフェースや、辛い思い出を知らせる「今年を振り返ろう」機能、特定の顔の形にだけ合う酸素マスクなど多様な“悲劇的なデザイン”が挙げられている。

これらの例と同じように、Airbnbというプラットフォームも“悲劇なデザイン”を生み出してしまっていた。

“悲劇的なデザイン”と向き合うAirbnbの取り組み

「#Airbnbwhileblack（黒人がAirbnbを使った場合）」

そんなハッシュタグとともに、Airbnbのプラットフォームにおける人種差別が話題となったのは2016年のことだった。

きっかけは、ハーバードビジネススクールによる研究だった。その研究では、Airbnbにおいて、ゲスト側のユーザーが『黒人に多いとされている名前』のとき、ホスト側のユーザーが予約を承認する可能性が下がるという傾向が明らかになった。

「#Airbnbwhileblack」とともに研究結果がSNSで拡散されると、近しい経験をした黒人ユーザーたちが、次々と自身の経験をシェアしていった。

「どこでも居場所がある（Belong Anywhere）」を掲げるAirbnbは、自社のプラットフォームで起きた差別に明確に反対する姿勢を示した。CEOのブライアン・チェスキーは、次のような声明を発表している。

力強い言葉を、彼らは具体的なアクションに落とし込んでいった。その一つが、プロダクトにおける差別やバイアスに対処する「Anti-Discrimination Team」の立ち上げだ。同チームには、社内のエンジニアやリサーチャー、デザイナーに加え、オバマ政権下で司法長官を務めたEric Holder氏など外部のアドバイザーも参加している。

彼らの役割とは、「プロダクトにおける差別やバイアスに対処する」こと。その一例として、インクルーシヴ・デザイン・リードのBenjamin Evans氏は「プロフィール写真」をめぐる施策を共有していたので、紹介したい。

ユーザーの抱える“無意識”のバイアスに立ち向かう

前述の通り、Airbnbではプロフィール写真や名前から人種を判断し、予約を承認しないユーザーがいた。ちなみに、Benjamin氏自身も「一度断られたホストに、白人の友人が予約リクエストをしたら、すぐに承認された」経験があるという。この問題に対処するためにプロダクトをどう改善すべきか、チームは案を練っていった。

Benjamin「差別が起きないよう『プロフィール写真を非表示にする』という意見もありました。ただ、Airbnbにおいて、プロフィール写真はゲストとホストが信頼を築くために必要な要素でもあります。単に非表示にするのは、どこか違うのではないかという気持ちがありました」

チームは思いつく限りの施策を片っ端から試していった。例えば、名前によるバイアスを排除するためにラストネームを非表示にする。ユーザーとホストの共通の友人や趣味などを表示する。過去のレビューをハイライトして表示するなどだ。

しかし、どの施策においても非白人ユーザーの許可率において、狙った効果が上がらなかった。

また、チーム内で「差別を引き起こす情報を削除すべき」という意見と「差別を相殺する情報を追加すべき」という意見も衝突した。「前例のない取り組みでしたから、コンセンサスにたどり着くのは容易ではありませんでした」と振り返る。

インスピレーションを与えたのは、Instagramで学生時代の知り合いから受け取ったDMだった。彼は自身の人種差別的な発言について「I don’t know why（なぜあんなバカなことをしたのかわからない）」と書いていたという。

Benjamin「当初はまったく理解できませんでした。『わからない』まま、誰かを排除していたなんて信じられなかった。けれども、時間が経つにつれ、ふと思ったんです。『差別をする人』のなかには、自らのバイアスが『わからない』まま、差別をしている人もいるのではないかと」

「Airbnbを利用する人の大半は善良な人たちと信じている」とBenjamin氏は前置きしたうえで、その善良な人たちも無意識のうちにバイアスを抱えており、差別をしてしまう。それらに対処することがAnti-Discrimination Teamの役割だと思い至ったと語る。

Benjamin「とりわけAirbnbでは、家というプライベートな空間に誰かを招き入れます。想像してもらえばわかる通り、より“恐れ”が喚起されやすいのだと思います。

だから、メディアなどを通して『自分たちと違う人たち』あるいは『危険な人たち』として表象されてきた人たちが、無意識なバイアスや差別の対象になってしまう。それらが起きないように何をすべきかを考えていったんです」

そこで、チームは「差別を引き起こす情報を削除する」と「差別を相殺する情報を追加する」の両方を組み合わせた施策を試してみることにした。

予約の段階では、無意識の差別によってゲストが排除されないようプロフィール写真を非表示にし、予約が許可された後は、互いに親しみを感じられるようプロフィール写真を表示するというものだ。「正しい情報を正しいタイミングに表示することで、無意識のバイアスを是正しようとしたんです」とBenjamin氏は振り返る。

この施策の結果は目覚ましかった。非白人ゲストが受け取る予約拒否の数は減少し、承認の数が向上した。また、施策を実施したグループとそれ以外で、満足度にも差はなかった。と同時に、Benjamin氏は「この施策は始まりに過ぎないですし、バイアスや差別を解消するまでは程遠いです」とも念を押した。

デザイナーが自らのバイアスに自覚的であるべき理由

こうした施策を行うなかで、Benjamin氏は「自らのバイアスに自覚的であること」を常に意識しているという。InVisionのポッドキャストに出演した際には、その重要性を次のように語っている。

Benjamin「どんなデザイナーも必ずバイアスを持っています。それ自体は問題ではありません。バイアスが自分たちの仕事にどう影響しているかについて無知なことが問題なのです。

（中略）何気ない意思決定や、それがどのようなバイアスに作用してしまうかを自覚していなければ、私たちはバイアスのあるプロダクトを世に届け、インターネットを通してそれらを増幅し、誰かが阻害される体験を創り出してしまいます。

だから、私は『誰を置いてきぼりにしているだろう？』を問い続けています。デザインの早い段階から、『この意思決定において』あるいは『このヒアリングにおいて』、私は誰かを排除していないだろうかと考え続けるのです」

こうした内省を絶えず行うため、チームは「Another Lens」というツールを制作した。これはプロダクトをデザインする際に、デザイナーやエンジニアが自身のバイアスや差別を自覚するための質問と解説をまとめたものだ。

例えば、以下のようなものが挙げられている。なかには『誰を置いてきぼりにしているだろう？』も含まれている。

こうした実践からは、Airbnbが2017年に発した「差別を決して許しません」という言葉が空虚なお詫びではなく、明確な指針になっていることが伺える。同年に彼らが展開したテレビCMでは、最後にこんな一文が読み上げられる。

「バイアスや差別の問題は、一つのチームや、一つのプラットフォームが引き受けられるものでは決してない」ともBenjamin氏は述べている。もし、彼らのメッセージに共感したのなら「誰を置いてきぼりにしているだろう？」と問うてみることから、私たちは何かを変えていけるかもしれない。

img: Interaction Design Association