企業はいかに「ダークパターン」を排除すべきか。「倫理」がデザインにとって重要な理由——KDDI・花井陽子 × インフォバーン・井登友一

デザインと倫理、その交差点のひとつとして「ダークパターン」が昨今注目を集めている。

ダークパターンとは、事業者が製品やサービスを通じて、ユーザーが意図せず不利な意思決定をするよう誘導する手法のことを指す。人の認知バイアスを利用し、ユーザーに多くの時間やお金を使わせたり、注意を払うように設計されている。

そして、特定非営利活動法人 人間中心設計推進機構(以下、HCD-Net)は、2024年11月に開催した「HCD-Netフォーラム2024」のテーマを「デザインと倫理」に設定。基調セッションでは、国内のダークパターン規制のあり方について議論が交わされた。

登壇したのは、長谷川敦士(コンセント代表取締役社長/HCD-Net副理事長)、水野祐(法律家)、花井陽子(KDDI デザインセンターマネージャー)。三者に加えて、パネルディスカッションでは井登友一(インフォバーン取締役/HCD-Net副理事長)がモデレーターを務めた。

今回は同セッションの内容を再構成してお届けする。後編となる本記事では、花井がKDDI社内で取り組まれているダークパターン対策の事例を紹介。その内容を踏まえて実施されたパネルディスカッションでは、企業が対策に取り組む必要性や、その際に考えるべき論点が洗い出された。

これからの時代に、なぜ企業にとって「倫理」がイシューになるのか?──ダークパターンを軸に語られた、「デザインと倫理」のあるべき関係性とは。

企業はいかにダークパターン対策に取り組むべきか?

近年、ダークパターン対策への要請が通信業界においても強まりつつある。そう語りながら実際の対策事例を紹介したのが、KDDIデザインセンター マネージャーの花井陽子だ。

KDDIデザインセンター マネージャー 花井陽子

花井が所属するKDDIデザインセンターは2024年4月に新設。to C事業を横断するデザイン組織として、「サービスグロース」「リサーチ/評価」「プロダクトデザイン」「アクセシビリティ」「アクセス解析」の5チームに分かれて活動している。

このうちダークパターンの研究と対策を担うのは「リサーチ/評価」のチーム。ヒューリスティック評価やエキスパートレビュー、ユーザビリティテストといった手法を通じて、「自分たちのサービスがダークパターンに陥っていないか?」という評価と改善を実施しているという。これはある意味「監視機能」が社内に存在しているようなもの。このチームを立ち上げ運営させるという意志決定自体がそもそもユニークとも言える。なぜ同社はわざわざ自社内にそのような機能を設置するのか。

背景には同社を取り巻く環境もある。通信業界に最近起こった大きな変化として、電気事業者法の消費者保護ルールに関するガイドラインの改正(2024年10月)を花井は挙げる。この中では新たにダークパターンに関する事項が追加されたが、こうした対策強化が今後の企業には求められていくのではないかと予想する。

花井

昨今、通信サービスの複雑化や、店頭販売からオンライン販売への移行など、顧客との接点が大きく変化しています。それを受けてKDDIでは、ユーザー体験から法律まで含めて、さまざまな視点から消費者保護のあり方を検討できる体制の整備を進めてきました。ダークパターン対策もその一環です。

デザインセンターの業務では、たとえばユーザビリティ評価における課題レポートで、電気通信事業者法の消費者保護ルールに関するガイドラインが守られているかを確認します。また、ダークパターンに関する懸念事項が見つかった際は、レポートに「ダークパターンの懸念あり」といった評価をつけて企画開発部門に戻すことで、他組織との連携を図っています。

だが、「ダークパターンは排除していくべきだが、その判断軸となる境界線を一律に設けるのは難しい」と花井は見解を述べる。顧客がより良い選択をするために“よかれと思って”つくったデザイン(すなわちナッジ)は、ダークパターンと紙一重の側面があるからだ。

花井

たとえば、携帯電話は昔まで店頭販売が主流でしたが、今ではオンライン上での手続きも増加しています。たしかにオンラインはお客様にとって利便性の向上や時間短縮を実現する側面もあるのですが、一方で「どの端末やプランを選択するか」を自分で判断して選択するだけの知識が必要になる。

そこで店頭販売員がいない分、なるべくお客さまが選びやすいように、オンラインではナッジを活用してお客様の最適なプランへと誘導します。しかし、それがダークパターンに陥るリスクには慎重にならなければいけません。

たとえば、ダークパターンを減らすためには利用規約がただ書いてあるだけでは不十分で、お客様がしっかり理解をして次のステップに進む設計が必要。ですが、これは法律も絡むので、デザイナーだけでは着手できる範囲に限界がある。だからこそ、組織横断で連携しながら取り組んでいく必要があるんです。

現在、KDDIでは電気通信事業法に関連したオンライン契約の領域で、ダークパターン対策が始まったばかりだという。登録、規約同意、予約・購入というフローのなかで、まずはどのフェーズに課題があるのかを検証し、さらなる品質向上の手法を模索している。

KDDIが今後ダークパターン対策に取り組んでいく計画について、花井は以下のように総括する。

花井

KDDIでは、全社的な取り組みとしてデザインセンターがハブになりながら、組織横断の対応を今後も進めていきます。

具体的には、法務・渉外・デザインセンター・カスタマーサポート・企画開発が部門横断で連携。事例の収集を通じたガイドラインの整備や社員向け研修による教育・啓蒙活動、そしてダークパターンのチェック体制の整備などを通して、全社的な業務フローへの落とし込みをしていく予定です。

ダークパターン対策は「長期的な企業ブランド」を守る

長谷川、水野、花井の三者のプレゼンが終了後、インフォバーン取締役・HCD-Net副理事長を務める井登友一がモデレーターとなり、ディスカッションが行われた。

インフォバーン取締役/HCD-Net副理事長 井登友一

はじめに井登が投げかけた問いは、「ダークパターンから人々を守るために企業は何ができるか」だ。

それに対して水野は、まず企業がダークパターンを用いることで短期的にはメリットを享受できる可能性があるという前提を提示する。

水野

ダークパターンには人間の特性に起因する側面があり、そもそも意図的ではないものも含まれてしまう。だとすれば、今後もなくならないことを前提に抑止する方法を考えるべきだと思います。

特に企業の立場からすれば、ダークパターンを採用することで、短期的には売上を数倍に伸ばせる可能性もある。しかし、ユーザーフレンドリーではない企業という認定が広がれば、長期的には選ばれない企業になっていく可能性があるわけです。

ダークパターンは、短期的な利益と長期的な企業の持続可能性をトレードオフにする側面がある。それに留意しつつ対策を検討していくべきなのだと思います。

続く長谷川は、自らのプレゼンテーションでも課題提起した「限定合理性」を議論の俎上に戻す。情報処理が不完全な人間像を前提に、限定合理性に従って動く人たちをいかに守るかが重要になるのではないかと。

そして「そもそも日本はダークパターン先進国だったのではないか」と指摘しながら、デザインと倫理の関係性について、20年前の「iモード」の事例を引き合いに出す。

長谷川

いわゆる“ガラケー”時代に主流だった「iモード」のビジネス的な成功要因として実は大きかったことに、「幽霊会員」の存在があると聞いています。当時はクラウドではなく物理的なサーバー資源を増強する必要があったため、ユーザー数が増えるとコストも上がる構造になっていました。しかし、幽霊会員であれば実際に利用するわけではないので、収益が増えるのにコストは上がらない。

そういうわけで、iモードコンテンツを提供する事業者の間で、まことしやかに「幽霊会員をいかに増やすかが必勝法である」と語られていました。実際、あえて退会手続きを面倒にする仕様など、ダークパターン的なデザインが施されていたのを覚えています。

ある意味、現在のサブスクリプションモデルの問題を先取りしていたわけで、倫理観としては低いと言わざるを得ません。しかし、当時は営業努力として「ビジネスはそういうものである」と考えられていたわけで、常にせめぎ合いがあるわけです。現代社会においてこうした問題に注目が集まりはじめたことは、大きな潮目の変化を感じます。

こうした議論について、「通信業界に携わる者として胸が痛くなる」と花井は言葉を返す。その上で、「企業の倫理観として守るべきこと、お客様に伝えていくべきことはきっちり議論をしないといけないと思っている」と語る。

当時は「ダークパターン」という言葉が存在せず、こうした状況は現在ほど問題視はされなかった。しかし、この20年間で利用者のデジタルリテラシーが向上し、「そうした企業態度や施策はフェアではない」という共通認識が形成されてきたのではないかと。

花井

たしかに、過去には非アクティブ会員に支えられるビジネスモデルが存在し、「寝た子は起こすな」という考え方が広く受け入れられていた時代もありました。

しかし、現代ではそのアプローチは見直されていると感じます。なぜなら、非アクティブ会員は企業とのエンゲージメントが低く、容易に他社へと移行する可能性があるからです。多くの企業がそれに気づき、会員の方々に積極的にアプローチし、エンゲージメントを高める努力をする流れに向かっていると思います。

こうした働きかけは、長期的には企業のブランド価値を向上させることにもつながる可能性がある。現代では、企業がどのように自らを位置付けるかが問われているように感じます。

「法律」と「デザイン」の適切なバランスという論点

そうした議論を受け、企業が講じるダークパターン対策の手段として、法律とデザインがあるのではないかと水野は提示する。

一例として挙げるのは、「ダークパターンに関するラベル表記する」方法だ。たとえば、現在でも製造物責任法(PL)に関する表記にはガイドラインが設けられており、さまざまな製品に注意書きが貼られている。

ダークパターンも同様に、法的な表記を義務付けることで抑止できる可能性があるが、「それは果たしてユーザーのためになるのか?」という疑問を水野は投げかける。

水野

PL法に則って貼られる注意書きラベルは、「一応書いていますよ」というものが少なくありません。こうした責任回避のためだけのデザインが世の中に増えてしまうことは、むしろユーザーにとって不幸であるとすら言えるでしょう。だからこそ、法律とデザインのバランスを考えながら議論していく必要性を感じます。

このバランスの難しさについて、花井もデザインセンターでの業務経験をもとに同意する。担当省庁の管轄にあわせて、消費者保護法、景表法、電気通信法など、すでに守るべきガイドラインや法律がたくさん存在するが、それを適切に読み解いてサービスに反映する難しさに頭を悩ませているという。

花井

デザインセンターは横断機能なので、新しく増えた法律を読み解いて各部門に情報を渡していく役割を担うのですが、そうすると「ガイドラインだけ出してくる人々」のように見られて嫌がられてしまうこともあるんですね。

情報を渡されたウェブ制作の担当者からすると、もうどれをどうやって読み解いたらいいかわからず、それこそダークパターンになってしまう。サービスの作り手側から見ても複雑な世の中になっているなと思ってます。

さらに、井登が投げかけるのは「現行の法律や制度は、かなり過去の社会の常識や倫理感を参照しているのではないか」という問いだ。

もともと法律や制度は人間のために生まれてきたが、そもそも前提とする社会や文化のあり方は変化する。特に近年、社会がデジタル化により急速に変化していく中で、いかにその変化に適応した法律を作っていくかは重要なテーマだと水野は答える。

水野

法律は人々の生活や社会を良くする道具として生まれたはずなのに、現代においてはダークパターンだらけになっている。それをいかに解放するかが大事だと思うんです。

特に現代社会は環境がとても早く変化するため、ルールと現状の間のギャップがどんどん広がってしまう。こうした事態は「法の遅れ(Law Lag)」と呼ばれて、問題として認識されています。

このギャップを埋めるためにはさまざまなアプローチがあるのですが、たとえば「​ELSI(Ethical, Legal and Social Issues:倫理的・法的・社会的課題)」と呼ばれる概念は重要です。要するに、新技術に対応してその可能性や人間に対する危険性を素早く多角的に議論していくための考え方ですが、法律家の立場からも今後ますます重要になるだろうと着目しています。

創造性を阻害しないダークパターン対策のあり方とは?

ダークパターンの議論はWebサイトやアプリをはじめ、デジタル世界のインターフェースなどに関して行われることが多い。しかし、ダークパターンが提起する問題は物理的なモノにも適用できるのではないかと井登は提起する。

井登

例えば古くから、商業施設のフロアでは人が長い時間滞在し、回遊するように設計されてきました。あるいはスーパーの棚割りでは、日々POSデータが分析され、同時に購入されやすいように並びが最適化されている。

他にもファストフードや安価なカフェではあえて温度調節を加えたり、長時間滞在に適さない椅子を置くことで、客の回転を早くしようとしたりする。デジタルの領域から言説化されたダークパターンですが、物理的な環境にも当てはめて考えることができるのではないかと思うのです。

ダークパターンはデジタルの領域に限らないという論点に関して、「むしろダークパターンは古くから存在した」と水野も同意する。今後はデジタルだけでなく物理世界にも規制の網が及んでいく可能性があるが、過剰な規制については「我々の自由をむしろ狭めてしまう可能性があるので、最小限に留めるべきだ」と注意を促す。

井登はそのことを、「規制が入りすぎることで、デジタル空間にしろ、物理的なインターフェースにしろ、そのものが均質でつまらなくなる可能性がある」と表現する。良かれと思って施したナッジが、ダークパターンに転換してしまうリスクがある。だが、それを過剰に恐れると、今度は人間の進歩を停滞させてしまうことにも繋がりかねない。

井登

意図せずダークパターンに陥ってしまう事例があるように、ナッジとダークパターンを区別するのは容易ではありません。さらに、クリエイティブなものは既存の常識や倫理観から逸脱することで生まれる側面もあるので、一層線引きは難しくなります。

水野さんがおっしゃるように、法規制が進みすぎると、デザイナーや企画者の間で過度な自粛が行われてしまう可能性があります。大企業であればなおさら、厳しい社内ガイドラインをクリアしたものしか出せなくなってしまう。行き過ぎた規制によって、我々の活動が停滞するかもしれない点には注意が必要です。

ここまでの議論を踏まえて、最後に「デザインと倫理」というテーマの総括を水野は次のように述べた。

水野

ダークパターンは「欺瞞的(deceptive)」や「操作的(manipulative)」とも表現されます。ダークという曖昧なイメージで捉えるのではなく、より具体的な問題として焦点を当てていくことが、今後は重要になるのだと思います。

そして、そもそもナッジは人の限定合理性を前提にした上で、意思決定を補助するための手法だったはずです。だから、まず重要なのはナッジの原理に透明性を与えること。そして、やや精神論っぽい話にはなりますが、ナッジがダークパターンに陥りやすいことを設計者が自覚し、倫理観を持って設計に携わることが重要になってくるのだと思います。

一方で、いま求められるのは「余白」なのではないかと長谷川は総括する。

長谷川

ナッジという考え方が発明されてから20年、マーケティングを中心にこの概念を最適化してきた結果、想像していた以上に人間をコントロールできるようになった。その結果「支援」という名目で、パターナリズムがはびこる状況が生まれているのではないかと思うんです。

法律からUXデザインまで、さまざまな形でダークパターンが強まっていますが、これに対抗して「規制」をガチガチに加えてしまうと、先ほどの議論のように人間の世界をつまらなくしてしまう。だとすれば、どのように“抜け道”をつくるかという「余白」の設計も同時に重要になってくると思います。

だが、「余白をデザインすることはできるのか?」という問い自体が、設計主義的なデザインの限界にも通じる話だと水野は返す。

デザイナーにとって、どこまでユーザーの「わかりやすさ」に寄り添うべきか。デザイナーが判断した「ここまでわかっていればいい」という考え方は、ともすれば上から目線の決めつけにもなりかねないなかで、「全てを設計はできない」という限界に自覚的であることがますます重要になっていくのだろうと長谷川は述べる。

最後に会場内のある参加者が示したのが、今後のデザイナーのダークパターンへの向き合い方だ。これまでのデザイナーは正しさを優先し、人間として理解できるか、わかりやすいかを後回しにしてきたのではないか。目の前にわかりづらい利用規約があるにもかかわらず、その改善にコミットしてこなかったのではないだろうか、と。

「わかりにくいもの」は、すべからくダークパターンになり得る。そのことに自覚的になり、ユーザーを取り巻く全てをわかりやすく変えていく。そんな意識こそが、今後のデザイナーには求められていくのかもしれない。

Credit
執筆
長谷川リョー

文章構成/言語化のお手伝いをしています。テクノロジー・経営・ビジネス関連のテキストコンテンツを軸に、個人や企業・メディアの発信支援。主な編集協力:『10年後の仕事図鑑』(堀江貴文、落合陽一)『日本進化論』(落合陽一)『THE TEAM』(麻野耕司)『転職と副業のかけ算』(moto)等。東大情報学環→リクルートHD→独立→アフリカで3年間ポーカー生活を経て現在。

編集
石田哲大

編集者。国際基督教大学(ICU)卒、政治思想専攻。ITコンサルタント、農業用ロボットのPdM、建設DXのPjMを経て独立。関心領域は人文思想全般と、農業・建築・出版など。

Tags
Share